Згідно з інформацією, наданою Sumymsek, колектив науковців з Університету Нового Південного Уельсу (UNSW Sydney) розробив унікальну симуляцію виборів, де управління інформаційними кампаніями здійснював штучний інтелект. Проект, що отримав назву Capture the Narrative, продемонстрував можливості бот-мереж у маніпуляції громадською думкою, здатними навіть впливати на результати голосування, повідомляє Kreschatic.
У дослідженні взяли участь 108 студентських команд з 18 університетів Австралії. Вони застосовували генеративний штучний інтелект для розробки ботів, які брали участь у віртуальних президентських виборах. Результати експерименту показали, що фальшиві акаунти можуть мати значний вплив на виборчий процес, навіть у контрольованих умовах.
Науковці встановили, що більше ніж 60% матеріалів, представлених під час симуляції, були створені ботами. Ці програми згенерували понад сім мільйонів постів, використовуючи фальшиві новини, емоційно заряджені повідомлення та маніпулятивні відеоролики.
Один із учасників експерименту поділився своїми враженнями:
Сформувати дезінформацію неймовірно легко – це значно простіше, ніж підтвердити факти.
У результаті змагання переміг кандидат "Віктор" -- лише через активність ботів, тоді як у повторній симуляції без штучного втручання виграла "Марина". Це свідчить, що інформаційні маніпуляції здатні повністю змінювати результат виборів.
Експеримент виявив явище, відоме як "дивіденд брехуна", яке полягає у зниженні довіри до інформації загалом. Коли люди стикаються з численними фальшивими повідомленнями, їхня впевненість у правдивості навіть перевірених фактів починає похитуватися.
Автори проєкту підкреслюють, що це є найсерйознішим наслідком активності ботів.
"Навіть справжні голоси, що висловлюють критичну думку, інколи можуть бути сприйняті як підробки або пропагандистські матеріали."
Цей феномен підриває суспільні обговорення і надає можливість маніпуляторам формувати уявну "реальність", де важко визначити, що є правдою, а що вигадкою.
Вчені акцентують увагу на тому, що ефективна протидія маніпуляціям можлива лише за умови підвищення цифрової грамотності. Навички виявлення фальшивих інформаційних матеріалів, усвідомлення механізмів розповсюдження контенту та розвиток критичного мислення стають основними інструментами захисту для користувачів.
У процесі гри учасники здобували навички виявлення емоційних патернів у повідомленнях, які викликали найбільшу реакцію, особливо через використання агресивної лексики або негативних висловлювань. Цей вид аналізу сприяє розвитку здатності протистояти дезінформації у сучасному онлайн-просторі.
Нагадуємо, що раніше ми обговорювали, як співробітники присвячують багато часу на виправлення помилок, які виникають у результаті роботи штучного інтелекту.
#Університет #Студент #Реальність #Інформація #Штучний інтелект #Експеримент #Алгоритм #Дезінформація #Лексикон #Критичне мислення #Австралія #Університет Нового Південного Уельсу #Сідней #Громадська думка #Робот (програма) #Емоція #Пропаганда
