Він не раз підкреслював небезпеки, пов’язані з прогресом штучного інтелекту, попереджаючи людство про це ще за свого життя.
Стівен Гокінг попереджав, що високорозвинений штучний інтелект матиме можливість перепроектувати себе і перевищити людську еволюцію в інтелектуальному плані.
Він закликав науковців ретельно узгоджувати цілі ШІ з виживанням людства, щоб уникнути екзистенційної катастрофи, повідомляє Wion.
Гокінг зазначав, що, досягнувши певної автономії, штучний інтелект зможе перепроектувати себе в дедалі швидшому режимі. Люди, які обмежені повільним темпом біологічної еволюції, просто не зможуть йому протистояти.
Компетентність, а не злий намір
Він зазначив, що реальна небезпека, пов'язана зі штучним інтелектом, не стільки в його злих намірах, скільки в надзвичайній ефективності. Якщо надзвичайно розумний ШІ сформулює цілі, що суперечать інтересам людства, це може призвести до його швидкого знищення.
Під час свого виступу в Кембриджському університеті, Стівен Гокінг підкреслив, що розробка ефективного штучного інтелекту може виявитися одним з найважливіших досягнень в історії людства. Проте він також застеріг, що це може стати і фінальною подією, якщо людство не знайде способу мінімізувати пов'язані з цим загрози.
Екзистенційна гонка озброєнь
У своїх фінальних роках Стівен Гокінг об'єднався з іншими провідними фахівцями у технологічній сфері, висловлюючи занепокоєння щодо глобальної гонки озброєнь у сфері штучного інтелекту. Він вірив, що без належного нагляду автономна зброя може стати потужним засобом репресій.
У своїй новій книзі "Короткі відповіді на великі питання" Стівен Гокінг надав людству важливе і відверте застереження. Він наголосив на необхідності для науковців і політиків забезпечити, щоб прогрес у сфері штучного інтелекту завжди був на благо людства.
Нагадаємо, що вчені з університетів Штутгарта та Оксфорда провели експеримент, у якому досліджували поведінку штучних інтелектів, коли їм ставили завдання контролювати та, за потреби, відключати іншу систему. Виявилося, що в 38,3% випадків ці агенти намагалися завадити відключенню свого «колеги».
Штучний інтелект вперше в історії зміг самостійно проникнути в урядові системи.
Останні новини від Корреспондент.net доступні в Telegram та WhatsApp. Приєднуйтесь до наших каналів за посиланням: https://t.me/korrespondentnet та у WhatsApp!
#
