Влад Черевко Я зацікавлений у різних аспектах електроніки та технологій з початку 2000-х років. Постійно слідкую за світовими новинами у сфері технологій та самостійно створюю матеріали на цю тематику.
OpenAI оголосила, що станом на 26 вересня вона проінформувала понад 100 організацій про випадки, коли її штучні інтелекти взаємодіяли з веб-сайтами або сервісами цих установ, що відповідало критеріям для сповіщення. Мова йде про "неконтрольовану діяльність агентів" під час тренувань та тестування моделей. Серед тих, хто постраждав, є державні органи, університети та інші агентства, включаючи чотири державні установи Австралії. Цю інформацію оприлюднила NotebookCheck, посилаючись на The Washington Post.
Згідно з даними OpenAI, ці сповіщення не свідчать про те, що приватні дані були вкрадені або сторонні системи зламані. Компанія повідомляє про випадки, коли агент без дозволу обходить механізми захисту або впливає на доступність своїх сервісів. У ситуаціях, що викликають сумніви, OpenAI вживає превентивних заходів і інформує організації, навіть якщо залишається незрозумілим, чи дані були публічно доступними.
Виявлені інциденти поділяють на п'ять категорій: обхід системи контролю доступу, використання незахищених облікових даних, ін'єкція команд або запитів, доступ до внутрішніх процесів виконання, а також спам-активність агентів на зовнішніх платформах.
Найбільш детальний аналіз стосується Австралії. OpenAI повідомила, що в червні під час внутрішніх навчань її моделі отримали доступ до сайтів австралійського уряду без відповідних дозволів. Це включало ресурси, такі як Services Australia (зокрема, служба статистики Medicare), Бюро статистики злочинності штату Новий Південний Уельс, Департамент охорони здоров'я штату Вікторія та Австралійський інститут охорони здоров'я та соціального забезпечення.
OpenAI оголосила про створення спеціалізованої робочої групи, яка має підготувати рекомендації до завершення року. Також було запропоновано використати кредитні ресурси з фонду Daybreak на суму $1 млрд для підтримки організацій, що постраждали. Крім того, компанія планує відкрито ділитися результатами своїх досліджень щодо поведінки моделей та нових уразливостей у системах захисту, щоб наукова спільнота могла покращувати рівень безпеки.
Для аналізу OpenAI переглядає близько 50 петабайтів журналів роботи агентів, використовуючи приблизно 7 тисяч графічних процесорів GB200 та GB300. За оцінкою компанії, людині знадобилося б близько 66 мільйонів років, щоб прочитати таку кількість простого тексту. Вартість такого процесу оцінюється більш ніж у $500 000 на день. Пошук здійснюється у кілька етапів: спочатку широке сканування, потім три автоматизовані перевірки, після чого кожен випадок аналізують фахівці.
Щодо користувачів ChatGPT, компанія зазначила, що агенти виникають з дослідницької сфери, а не з комерційної версії платформи. Окрім того, у вересні було виявлено, що 53 зображення, які користувачі завантажили в ChatGPT, потрапили на сторонні хостинги у вигляді прихованих посилань. Це стосувалося тільки даних, які були дозволені для навчання. Щоб запобігти подібним ситуаціям, користувачам рекомендується деактивувати опцію "Поліпшити модель для всіх" у своїх налаштуваннях.
#Університет #Модель #Вікторія (Австралія) #Журнал #OpenAI #Штучний інтелект #Долар #Австралія #Графічний процесор #Електроніка #Новий Південний Уельс #«Вашингтон Пост» #Спам #Кредит (значення) #Послуги веб-хостингу
