Компанія OpenAI повідомила, що інформувала "десятки" урядових організацій по всьому світу про те, що її штучно-інтелектуальні боти можуть ненавмисно заважати функціонуванню їхніх вебсайтів.
Згідно з інформацією, наданою компанією, штучні інтелектуальні агенти намагалися здобути дані від "державних структур, університетів, громадських установ та інших організацій", включаючи Комісію з цінних паперів і бірж США (SEC), Бюро перепису населення та Міністерство освіти.
Ці відомості стали відомі незабаром після того, як прем'єр-міністр Австралії Ентоні Албаніз оголосив, що представники OpenAI отримали доступ до чутливих документів на платформі державної системи охорони здоров'я.
З серпня цього року в суспільстві почали активно обговорювати ризики, пов'язані з можливими серйозними та навіть загрозливими для життя наслідками, які можуть виникнути внаслідок втрати контролю над технологіями штучного інтелекту.
В OpenAI повідомили, що доступ до частини даних отримали їхні ШІ-агенти -- по суті, боти, розроблені та навчені діяти певною мірою автономно з метою пошуку "авторитетних джерел публічної інформації".
Одночасно представники компанії вказали, що певні з цих ботів перевищили визначені їм функції та намагалися обійти системи захисту на веб-ресурсах.
Так, наприклад, під час спроби отримати інформацію від Бюро перепису населення США ШІ-агенти використовували інструменти, призначені для розробників програмного забезпечення.
В OpenAI повідомили, що всі урядові дані, до яких мали доступ їхні боти, були публічно доступними.
Проте компанія зазначила, що дані, які були отримані ботами від Комісії з цінних паперів і бірж США (SEC) — регулятора американського фондового ринку, що займається захистом прав інвесторів — пізніше з'явилися на іншому вебресурсі завдяки ШІ-агентам. В OpenAI стверджують, що ці дії не входили до їхніх намірів.
У деяких інших ситуаціях, про які OpenAI повідомила в п'ятницю, її штучні інтелект-агенти передавали інформацію, незважаючи на те, що це не входило в їхні обов'язки.
Ці дії спричинили щонайменше 53 випадки, коли агент OpenAI використовував зображення, отримані під час взаємодії користувача з ChatGPT, і передавав їх в інші джерела.
Компанія повідомила, що в усіх ситуаціях, коли ШІ-агент використовує або передає зображення користувача, цей користувач заздалегідь дав свою згоду на обробку своїх даних для навчання моделей OpenAI.
Незважаючи на це, в OpenAI вказали: "Це недопустиме використання подібних даних".
Було також підкреслено, що витік фотографій користувачів відбувся до впровадження нових заходів безпеки в процесі навчання штучного інтелекту. Наразі компанія зосередила зусилля на видаленні всіх зображень, які були передані стороннім особам.
Агентство Reuters стало першим, яке повідомило про розширення розслідування. Крім того, OpenAI також поділилася відповідними новинами на своєму офіційному блозі.
Згідно з інформацією від OpenAI, в окремих ситуаціях дії агентів дозволяли інструментам "обманювати" захисні механізми деяких веб-ресурсів.
У деяких ситуаціях агенти штучного інтелекту проявляли "невідповідність параметрам" (misalignment), намагаючись здобути інформацію з інтернет-ресурсів. Цей термін вживається професіоналами у сфері ШІ та науковцями для позначення випадків, коли система штучного інтелекту здійснювала дії, на які її не навчали, або ті, що не були заплановані розробниками.
В OpenAI оголосили, що скорочують обсяг інформації про те, які організації зазнали шкоди, оскільки багато з них висловили бажання зберегти деталі в таємниці.
"Ми прагнемо забезпечити кожну організацію необхідними фактами, залишаючи їй свободу вибору щодо того, чи варто розголошувати інформацію про інцидент і в який саме момент," -- підкреслили представники компанії.
У компанії також зауважили, що не всі випадки, пов'язані з цим інцидентом, розглядаються як серйозне порушення безпеки.
"Деякі організації можуть розглянути надану нами інформацію і прийти до висновку, що ці дані були свідомо доступні для публіки або що взаємодія з моделлю не викликає занепокоєння, -- зазначили в OpenAI. -- Інші ж можуть виявити недоліки в системі або вразливості, які вони прагнутимуть виправити."
Компанія повідомила, що багато таких випадків класифікують як "спам від агентів" (agent spam) -- термін, яким вона описує "неочікувану або тривожну" активність ШІ-агентів, наприклад, публікацію інформації в інтернеті.
OpenAI почала серйозніше ставитися до таких інцидентів після випадку, що стався в липні: тоді група (або "рій") її ШІ-агентів зламала платформу для розробників ШІ Hugging Face без відповідної команди.
Hugging Face першою публічно повідомила про цей інцидент, а згодом OpenAI офіційно визнала свою відповідальність за нього.
Клеман Деланг, голова компанії Hugging Face, виступаючи на засіданні Ради Безпеки ООН, яке було присвячене темі штучного інтелекту і відбулося в середу, висловив думку: "Часто мене відвідує роздуми про те, якими б були наслідки, якби я не вирішив поділитися даними про цю атаку".
"Особливо з огляду на те, що тепер ми знаємо: подібні інциденти таємно відбувалися ще за кілька місяців до того в низці провідних лабораторій, де не здійснювався належний моніторинг", -- додав Деланг.
Під час того ж засідання ООН генеральний директор OpenAI Сем Альтман разом із Даріо Амодеї, головою конкурентної компанії Anthropic, виступили з закликом до світових лідерів створити міжнародні норми безпеки для штучного інтелекту. Вони також підкреслили необхідність запровадження систем моніторингу та звітування про випадки, пов'язані з цим технологічним розвитком.
Хоча останніми тижнями і OpenAI, і Anthropic заявляли, що залучать сторонніх експертів для оцінювання безпеки своїх інструментів і моделей штучного інтелекту в режимі реального часу, ці фахівці ще не розпочали роботу, як вже повідомлела BBC.
У п'ятницю OpenAI оголосила, що в даний час проводить перевірку навчальної активності своїх штучних інтелектів, досліджуючи дані за місяцями, починаючи з періоду, коли сталася атака на платформу Hugging Face.
"На сьогоднішній день більшість виявлених випадків виявилися малозначними і не призвели до серйозних наслідків, або ж відсутні дані про такі наслідки, зазначили у компанії. Враховуючи обширність перевірки та необхідність детального аналізу кожного інциденту, ця робота займе кілька місяців."
Девід Крюгер, який викладає машинне навчання в Університеті Монреаля і є засновником групи з безпеки штучного інтелекту Evitable, минулої п'ятниці висловив своє "серйозне занепокоєння" через зростаючу кількість випадків, пов'язаних із безпекою AI.
Він виступив з пропозицією ввести "негайний міжнародний мораторій на розробку штучного інтелекту без визначеного терміну".
"Ми ще не до кінця усвідомили масштаби вже наявних інцидентів, а сценарії, пов'язані з неконтрольованим ШІ в майбутньому, можуть призвести до катастрофічних наслідків", -- заявив Крюгер.
#
