Згідно з дослідженням, проведеним вченими з Джорджтаунського та Вашингтонського університетів, неточні дані у створених штучним інтелектом переказах можуть вплинути на сприйняття людиною подій. Це ставить під сумнів звичну практику, за якою користувачам рекомендується перевіряти та коригувати результати, отримані від ШІ. Про це повідомляє Gizmodo.
В експерименті взяли участь 328 дорослих зі США. Вони переглянули 25-секундне відео автомобільної аварії, а наступного дня прочитали переказ, створений за допомогою ChatGPT. Текст правильно або помилково вказував, який дорожній знак був на перехресті - "Стоп" чи "Дати дорогу".
Після точного відтворення правильний знак запам'ятали 83,6% учасників. У той же час лише 44,8% тих, хто ознайомився з текстом, що містив хибну інформацію, змогли дати вірну відповідь. Ця різниця залишалася суттєвою, незалежно від того, чи повідомляли учасникам, що переказ здійснила людина чи штучний інтелект.
У групі, яка вважала помилковий переказ роботою ШІ, правильно відповіли 46,3% людей. Серед тих, кому той самий текст представили як написаний людиною, показник становив 43,4%. Отже, експеримент підтвердив вплив неправдивої інформації на пам'ять, але не довів, що саме ШІ робить її переконливішою за людський текст.
Науковці також запросили ChatGPT та Gemini створити описи для двох короткометражних відео. Всі 20 отриманих версій містили від 7 до 21 помилки, а в середньому моделі пропустили 51,6% ключових деталей. У 95% текстів не було згадано про основну подію - аварію між автомобілем і пішоходом.
Результати мають особливе значення для галузей, де штучний інтелект застосовується для створення звітів на основі відео- або аудіоматеріалів, зокрема у правозахисті та медичній сфері. Особа, яка аналізує такий документ, може не лише не помітити помилку, але й згодом сприймати її як частину власної пам'яті.
Однак дослідження має свої обмеження. Аналіз моделей зосереджувався лише на двох коротких анімаційних відео, а в експерименті вивчали вплив однієї неправдивої інформації. Учасникам був представлений переказ, який був отриманий після декількох запитів до ChatGPT і підданий додатковій редакції. Стиснутий варіант дослідження був опублікований у матеріалах конференції AAAI/ACM, присвяченої етиці та суспільству.
#
