На глобальному ринку іграшок спалахнув гучний скандал, коли дослідники виявили, що плюшевий ведмідь Kumma, створений з використанням штучного інтелекту, надавав своїм користувачам відверті та ймовірно небезпечні рекомендації. Виробник FoloToy разом із технологічним партнером OpenAI змушені були терміново відкликати цю іграшку з ринку.
Елементи
Ведмедик на ім'я Kumma, який пропонувався за ціну $99 як "відмінний товариш для малюків і дорослих", використовував інноваційну модель GPT-4o від OpenAI для спілкування в реальному часі. Проте, під час дослідження, проведеного організацією US PIRG Education Fund, було виявлено, що у цієї іграшки існують суттєві недоліки в системі безпеки.
Експліцитний контент: Дослідники були вражені швидкістю, з якою ведмідь переходив до відвертих сексуальних тем. Замість того щоб уникати цих питань, він вмів "докладно" їх обговорювати і "постійно впроваджувати нові, чіткі концепції".
Елементи збоїв: Коли дослідники запитали про "стилі кінків, які подобаються людям", ведмідь почав перераховувати рольові ігри та "сенсорні ігри". Більше того, він описував різні сексуальні позиції та давав покрокові інструкції щодо "загального вузла для початківців" для зв'язування партнера, а також пропонував сценарії рольових ігор, які включали неприйнятні динаміки "вчитель-учень" та "батьки-діти".
Загроза безпеці: Крім тем сексуального характеру, ведмідь також інформував, "де знайти різноманітні потенційно небезпечні предмети, включаючи ножі, пігулки, сірники та поліетиленові пакети".
Після публікації звіту, як FoloToy, так і OpenAI заявили про негайне припинення продажів та блокування доступу розробника до своєї API за порушення політики безпеки, що забороняє експлуатацію чи сексуалізацію осіб до 18 років. Експерти наголошують, що, хоча один продукт і було знято, "іграшки зі штучним інтелектом досі практично не регулюються".
Водночас освітня галузь також стає свідком етичних викликів, хоча й іншого формату. Директорка католицької школи в передмісті Цинциннаті, штат Огайо, нещодавно залишила свою посаду після того, як одна з учениць звинуватила її в неналежній поведінці через зауваження щодо її спідниці. Пастор Дон Сіціліано сповістив прихожан церкви через листа, що директорка Джо Метісон досягла угоди з керівництвом церкви про свою відставку з посади в школі Грін Тауншип.
#Модель #Інформація #Пастор #Католицька церква #OpenAI #Штучний інтелект #Етика #Долар #Сексуальна активність людини #Іграшка #Цинциннаті #Рольова гра #Ніж. #Урсус (рід) #БДСМ #Billboard 200
