Уявляючи Армагеддон, спричинений штучним інтелектом, люди зазвичай уявляють собі ядерні вибухи, смертоносні штучно створені віруси та армії роботів- смертоносців у стилі Термінатора, що марширують Однак дослідники дедалі більше звертають увагу на інший сценарій -- так зване "ослаблення людства" (human enfeeblement).
Цю інформацію повідомляє Daily Mail.
Дослідники застерігають, що реальний спосіб, яким штучний інтелект може загрожувати людству, ймовірно, виявиться набагато більш витонченим.
Відомі експерти в галузі штучного інтелекту висловлюють тривогу з приводу зростаючої небезпеки "ослаблення людства". Це явище полягає в поступовому зниженні нашої здатності до критичного мислення, планування та емоційного сприйняття, оскільки ми дедалі більше делегуємо свої обов'язки технологіям.
Йдеться про ситуацію, за якої люди поступово передаватимуть штучному інтелекту дедалі більше інтелектуальної та практичної роботи, через що самі можуть втрачати навички, автономність і здатність ухвалювати складні рішення.
Доктор Самуель Вінанзі, який є старшим викладачем з робототехніки та штучного інтелекту в Університеті Шеффілд Халлам у Великій Британії, вважає, що це є справжньою загрозою, яку штучний інтелект може представляти для глобального суспільства.
"З плином часу ці, на перший погляд, дрібні рішення можуть призвести до того, що люди не зможуть мислити без підтримки штучного інтелекту, а також стануть менш здатними усвідомлювати, перевіряти та оскаржувати системи, на яких вони покладаються," -- зазначає Вінанзі.
І, згідно з дедалі більшою кількістю досліджень, цей тривожний процес уже розпочався.
Упродовж останніх кількох місяців галузь штучного інтелекту була охоплена значними занепокоєннями, пов'язаними з тим, що стрімкий прогрес у цій сфері може становити небезпеку для людства.
Раніше цього місяця 27-річний Джейкоб Коксон, який допомагав навчати найновіші версії штучного інтелекту в Anthropic з Сан-Франциско, закликав людей "не недооцінювати" його можливості, особливо якщо він стане "надрозумним".
У своєму пості на платформі X Коксон зазначив: "Ті, хто займається розробкою штучного інтелекту, глибоко переконані, що він здатен знищити людство ще до завершення цього десятиліття".
У відповідь на це, Еван Хабінгер, керівник наукового відділу компанії Anthropic, зазначив: "Джейкоб правий — ми дійсно віримо, що штучний інтелект може загрожувати людству! Я особисто вважаю, що ймовірність цього перевищує 10% протягом наступних десяти років".
Проте думки фахівців розходяться стосовно того, якою саме буде природа цієї загрози, пов'язаної зі штучним інтелектом.
На думку ряду експертів у сфері штучного інтелекту, основна загроза полягає в можливості, що шахрайський або "неконтрольований" ШІ зможе захопити управління над критично важливими системами, такими як електричні мережі або ядерні станції.
Інші стурбовані тим, що штучний інтелект може ненавмисно спровокувати ядерну війну або створити вдосконалені патогени, що використовуються як зброя.
Але доктор Вінанзі вважає, що жоден із цих драматичних, апокаліптичних сценаріїв не є реалістичним.
Він висловлює думку: "На мою думку, вони часто не усвідомлюють, що всі дії в реальному світі залишаються під впливом людей, ресурсів і інфраструктури".
Розробка небезпечного вірусу все ще потребує проведення фізичних експериментів у лабораторії, оскільки жодна сучасна програма не може повноцінно замінити цю працю. Кваліфіковані спеціалісти досі повинні безпосередньо взаємодіяти з апаратурою.
Проте це не вказує на те, що людство застраховане від загрозливого впливу сучасних технологій штучного інтелекту.
На думку ряду експертів, існує серйозний ризик, пов'язаний із тим, що штучний інтелект виявляється надзвичайно корисним.
Доктор Вінанзі характеризує ослаблення як "поступове знищення людських можливостей, яке викликане перекладанням дедалі більшої кількості обов'язків на машини".
"Це не відбувається за одну ніч; радше, це накопичується через багато дрібних завдань -- психологи називають звичку покладатися на зовнішні інструменти для економії розумових зусиль "когнітивним розвантаженням. Простіше кажучи, чим більше ми дозволяємо комп'ютеру займатися написанням, кодуванням, дослідженнями та прийняттям рішень, тим природнішим здається цей скорочений шлях, і тим важче його зупинити. Ми вже починаємо бачити, що люди надзвичайно охоче довіряють штучному інтелекту важливі завдання", -- попередив експерт.
Штучний інтелект застосовується для виявлення фінансових шахрайств, оптимізації управління медичними даними, визначення місць зосередження поліцейських ресурсів, а також для автоматизації керування транспортними засобами.
У більш драматичному прикладі нещодавно повідомлялося, що американські військові ледь не піддалися спробі сісти на борт судна під китайським прапором, оскільки...Чат-бот зі штучним інтелектом неправдиво згенерував звіт, в якому стверджувалося, що він перевозить деталі для програми ядерної зброї.
"Уникнути катастрофи вдалося лише завдяки тому, що хтось призупинився, щоб задати питання: це саме той вид критичного мислення, який ми можемо втратити," - зазначає доктор Вінанці.
Фахівці висловлюють серйозне занепокоєння щодо потенційного впливу цього на майбутні покоління, які отримуватимуть освіту в умовах доступу до все більш потужних чат-ботів.
Навчальні заклади, включаючи школи та університети, активно шукають способи запобігти використанню учнями таких інструментів, як ChatGPT, для виконання домашніх завдань.
Кваліфіковані спеціалісти, такі як хірурги, інженери, юристи та педагоги, можуть зіткнутися з ризиком "втрати своїх навичок", оскільки можливості для практики зменшуються, а основні вміння критичного мислення втрачають свою актуальність.
Кінцевим наслідком є покоління, яке є "вільним, але крихким"; здатним генерувати відповіді, але нездатним самостійно їх оцінювати.
Проте деякі фахівці висловлюють думку, що наслідки можуть бути значно серйознішими, і зрештою це може призвести до ситуації, коли некерований штучний інтелект візьме під контроль критично важливі для людства послуги.
Якщо ми передамо управління нашими лікарнями, автомобільними шляхами, електричними мережами, збройними силами та економічними системами штучному інтелекту, то можемо зіткнутися з ризиком втрати контролю над всією важливою інфраструктурою нашої країни.
Андреа Міотті, засновник та генеральний директор ControlAI, розповів: "Завдяки глибокій інтеграції штучного інтелекту в економіку, надрозумний штучний інтелект, якщо його розробити, зможе накопичувати безпрецедентну потужність у нашій інфраструктурі, економіці та армії без участі людини".
"Надрозумний ШІ не буде інструментом під контролем людини, а радше силою-ізгоєм, розміщеною в центрах обробки даних країни, без людського командування, здатною автономно атакувати критичну інфраструктуру", -- додав він.
Викликає занепокоєння те, що як каже Міотті, цей процес "може не відбуватися поступово".
"Суперінтелектуальний ШІ не обов'язково повинен бути ворожим, щоб створювати ризики. Люди можуть стати випадковими жертвами, оскільки потужні системи штучного інтелекту прагнутимуть до отримання більше ресурсів, подібно до того, як мурахи стають жертвами, коли ми зводимо автомагістралі", — зауважує він.
#Університет #Інженер #Людство #Юрист #Сценарій #Робототехніка #Зброя #Економіка #Штучний інтелект #Китай (регіон) #Вірус #Атомна електростанція #Збудник #Ядерна війна #Сан-Франциско #Шеффілд #Голокост #Вчитель #Емоція #Америка #Daily Mail #Велика Британія #Психолог #Робот #Автономія
