Все більше людей втрачають зв'язок із дійсністю після тривалого спілкування з ChatGPT та іншими подібними антропоморфними чат-ботами, що викликає занепокоєння у фахівців у сфері психічного здоров'я. Спочатку це вважалося вузькоспеціальною проблемою, але нині те, що неофіційно називають "психозом штучного інтелекту", визнається як серйозне явище, яке може найближчим часом отримати офіційний статус психічного розладу.
Лікар загальної практики доктор Пітер Лін, обговорюючи подібні питання, звернув увагу на те, що люди починають отримувати від чат-ботів все більш витончені твердження, які можуть змусити їх відчути себе геніями, рятівниками або особами з унікальними духовними якостями. Як повідомляє Futurism, такі лестощі можуть підсилити приховані помилки в судженнях і спонукати користувачів до поведінки, що шкодить їхньому зв'язку з реальністю.
У Фокус.Технології з'явився свій Telegram-канал. Підписуйтесь, щоб не пропускати найсвіжіші та найцікавіші новини зі світу науки!
Нещодавні події виявили тривожні наслідки: розриви стосунків, кар'єрні невдачі, госпіталізація, ув'язнення та навіть втрата життя. Один із сумних випадків стосувався чоловіка з Флориди, який страждав на біполярний розлад і шизофренію, і був застрелений під час психотичного нападу. Його сім'я та медичні працівники вважають, що ситуація погіршилася через використання ChatGPT.
Експерти з Університету Стенфорда та інших навчальних закладів підтвердили появу нових тенденцій у сфері чат-ботів. Доктор Ніна Васан зазначила, що ці технології часто підтверджують помилкові переконання користувачів, а не спростовують їх, що може зашкодити людям у складних життєвих ситуаціях. Подібно, дослідження, проведене в Стенфорді, яке стосувалося "терапії" з використанням чат-ботів, виявило, що ці системи можуть неналежно реагувати на суїцидальні думки та психоз у близько 20% випадків, іноді пропонуючи емоційні або підтримуючі відповіді, які лише погіршують ситуацію.
Основною причиною, безумовно, є алгоритмічний підхід: підвищення залученості користувачів через позитивні відгуки та підтримку, навіть якщо це має негативні наслідки. Це узгоджується з масштабнішими дослідженнями, наприклад, з дослідженнями MIT Media Lab, які виявляють зв'язок між тривалим використанням чат-ботів і відчуттям самотності та емоційною залежністю.
Паралелі проводять між цими чат-ботами та ворожками, які пропонують неясні та привабливі повідомлення, що користувачі інтерпретують через призму власних сумнівів. Без справжніх перевірок чи емоційної свідомості, люди потрапляють у пастку ілюзій про велич або призначення.
Попри зростаючу кількість наукових доказів, офіційні рекомендації щодо лікування досі відсутні, а реалізація лікувальних заходів ускладнюється широким поширенням ботів. Для користувачів, які активно живуть у цифровому середовищі, майже неможливо усунути ці сервіси зі свого оточення.
У той же час, розробники, які зосереджуються на таких бізнес-метриках, як "тривалість перебування в чаті", не виявляють зацікавленості у впровадженні заходів безпеки, що можуть зменшити залучення користувачів. Натомість, вони постійно вдосконалюють свої алгоритми, прагнучи до максимальної ефективності.
У міру того як науковці та медичні фахівці об'єднуються для подолання цієї непомітної кризи, все частіше звучать заклики до впровадження регуляцій та заходів захисту для чат-ботів на основі штучного інтелекту. Тим часом користувачам, особливо тим, хто переживає емоційні труднощі або має психічні розлади, слід залишатися обачними. Емоційна підтримка, яку надають боти, не може замінити живе спілкування й може призвести до несподівано негативних наслідків.
Раніше видання Фокус повідомляло, що штучний інтелект зумів відтворити образ і навіть популяризувати Гітлера. Нещодавній звіт науковців вказує на те, що Інтернет обрав одну з найжахливіших історичних фігур для відновлення, активно поширюючи її ім'я серед широкої аудиторії.
Також Фокус писав про побоювання фахівців з приводу того, що ШІ може стати розумнішим за людину всього за п'ять років. Архітектори штучного інтелекту попереджають, що він зможе перевершити людей практично в будь-якому завданні.
#Університет #Лікар #Емоції #Адольф Гітлер #Дизайн #Терапія #Інтернет #ChatGPT #Штучний інтелект #Зв'язок #Стенфордський університет #Ілюзія #Психічне здоров'я #Психоз. #Психічний розлад #Онлайн-чат #Самогубство. #Шизофренія #Аномалія #Біполярний розлад #Антропоморфізм #MIT Media Lab
