Що насправді приховує під собою деколонізація штучного інтелекту? Розмова з художницею Амірою Каваш.

Ілюстрація Джафара Сафатлі для UntoldMag. Використано з дозволу

Ця публікація Донателли Делла Ратта була вперше опублікована UntoldMag 14 серпня 2024 року. Ця відредагована версія перевидана на Global Voices в рамках угоди про обмін контентом.

"Деколонізація ШІ" перетворилася на фразу, що звучить з уст багатьох інституцій – від наукових установ до культурних платформ у різних куточках світу. У міру того, як штучний інтелект стає центром глобальних публічних обговорень, супроводжуючи його як захоплення, так і страх, з'явилися побоювання, що технології можуть відтворювати колоніальні механізми експлуатації та ресурсного виїмання.

Проте, незважаючи на те, що внутрішні механізми, які дозволяють новій формі цифрового колоніалізму відроджуватися завдяки технологіям, орієнтованим на дані, були в значній мірі виявлені та критиковані, стратегії для боротьби з цим явищем залишаються недостатньо зрозумілими.

Аміра Каваш, палестинсько-іраксько-американська художниця та дослідниця, чиї міждисциплінарні проєкти потужно позиціонують її мистецьку практику в критичних дослідженнях штучного інтелекту, кидає виклик дискримінаційному та репресивному технологічному сектору.

Untold Mag (UM): Яке справжнє значення деколонізації штучного інтелекту та які кроки ми можемо зробити для її реального впровадження?

Аміра Каваш (АК): Деколонізація штучного інтелекту є складним завданням, яке вимагає протидії філософії "універсальних обчислень". Цей підхід, що має загальний, універсалістський характер, часто домінує над локальними контекстами. Нашим завданням є впровадження різноманітних і адаптованих стратегій, які акцентують увагу на праці, екологічному впливі, фізичних аспектах, втіленні, феміністичних принципах згоди та насильстві, пов'язаному з цифровими нерівностями.

Системне мислення повинно поєднувати військові аспекти використання штучного інтелекту з його, на перший погляд, безпечними і звичайними функціями в різних додатках і платформах. Аналізуючи та виявляючи зв'язки між цими формами використання, ми можемо усвідомити, як звикання до повсякденного застосування ШІ іноді виправдовує більш радикальні та військові сценарії використання цих технологій.

У самій інфраструктурі ШІ закладені нормалізовані шляхи та рутинні способи насильства, наприклад, спосіб, у який підказки (письмові інструкції або запити, які ми даємо штучному інтелекту) перетворюються на реальні образи. Цей процес може сприяти дегуманізації людей, перетворюючи їх на легітимні мішені, роблячи їх невидимими.

Розглянемо, наприклад, ситуацію в Палестині: під час експериментування з простими запитами, такими як "палестинська дитина в місті" чи "палестинська жінка на вулиці", я помітила, що зображення, створені штучним інтелектом, часто відображають ситуації, які легітимізують насильство щодо палестинців. На одному з таких зображень дитина втікає від руїн будівлі, фон якої заповнений спустошеними міськими пейзажами. Хоча руйнування є omnipresent, винуватець цього насильства, Ізраїль, ніколи не отримує візуальної відповідальності за свої дії.

Ці AI-генеровані зображення сприяють формуванню стандартного наративу, де палестинці представлені без контексту як ті, що постійно перебувають у стані руйнування. Такі візуальні матеріали закріплюють упереджене і шкідливе сприйняття, посилюючи нормалізацію насильства щодо них і сприяючи подальшій дегуманізації.

Те, що я називаю "футуроцидом" для палестинського народу, виникає внаслідок складної взаємодії між процесами збору даних — які відбуваються через масштабне вишкрібання інформації з інтернету та вбирання всіх існуючих стереотипів, що існують в мережі — і тим, як ці дані узагальнюються, надаючи їм ілюзію "універсальності". Створюючи шаблони та моделі, штучний інтелект формує категорії.

Місто в Палестині, створене за моїми ідеями, ризикує стати "тим самим" палестинським містом — втіленням, в якому страждання перетворюється на виключно візуальний артефакт, що безперервно комерціалізується через різні форми генеративного штучного інтелекту. Ці травматичні наслідки виникають без чітко окресленого винуватця, що веде до стану окупації без явного окупанта. Це нагадує кіно жахів: абсолютне спустошення без причини чи змісту, лише безглузде насильство і глибока травма.

Якщо ми прагнемо знищити колоніальні засади, що лежать в основі створення та організації сучасного штучного інтелекту, з чого варто розпочати?

АК: Я вважаю, що варто почати з невеликих, локальних прикладів. Наприклад, я займаюся залученням реальних культурних інституцій для створення наборів даних, що дозволяє розробляти висококваліфіковані та адаптовані моделі для навчання штучного інтелекту, без потреби в пошуку даних в Інтернеті. Такий підхід сприяє запобіганню експлуатації, яка часто є основою створення та навчання цих технологій, а також є причиною багатьох упереджень.

Деколонізація штучного інтелекту передбачає ліквідацію експлуататорських елементів і перехід до більш уважного, ремісничого підходу та практик догляду.

Звичайно, такий підхід не має можливості для масштабування, і, ймовірно, це є однією з причин наявних проблем. Розгляд цифрових технологій як основи потенційного масштабування автоматично робить їх колоніальними, комерційними та комерціалізованими. Можливо, що деколонізація штучного інтелекту, як ініціатива, в принципі є нездійсненною — адже машинне навчання, у своїй теперішній формі та концепції, пропонує обмежені можливості для впровадження деколоніальних практик.

Проте, співпрацюючи з реальними організаціями, такими як університети та культурні центри, для розробки навчальних наборів даних, ми можемо вирішити принаймні один з аспектів проблеми: збір інформації. Штучний інтелект функціонує на багатьох рівнях, і всі вони повинні бути враховані під час спроби його "деколонізації".

Розпочати з накопичення даних — це ключовий перший етап, але важливо усвідомити, що комплексний підхід вимагатиме уваги до всіх аспектів процесу. Наприклад, навіть якщо дані зібрані етично, ретельно оброблені та отримано згоду, сама навчальна модель може виявитися експлуататорською. Класифікація даних у вигляді ярликів та їх універсалізація є проблематичними і в значній мірі походять з колоніальної спадщини. Це може призвести до увічнення упереджень і зміцнення шкідливих структур, незважаючи на добросовісність початкового збору інформації.

Для мене важливо розглянути штучний інтелект у контексті критичних підходів до архівування. Дані слугують цінним ресурсом нашого минулого, на якому формується нове знання. Сприйняття ШІ як продовження архівних практик дає можливість критично осмислити, як ми збираємо, систематизуємо та використовуємо інформацію. Це забезпечує необхідність підходити до даних з такою ж обережністю, згодою та розумінням контексту, як ми б робили з будь-якими іншими архівними матеріалами. Завжди існують критерії відбору та організаційні принципи, що визначають наші вибори.

Для створення деколоніального або антиколоніального архіву необхідно врахувати феміністичні підходи та інтегрувати різноманітні способи отримання знань, що виходять за межі традиційних мовних форм. Як художниця, я досліджую альтернативні методи пізнання та навчання, які є нематеріальними і ефемерними, що робить їх менш підданими формалізації та комерціалізації. Але якщо ми дійсно прагнемо деколонізувати штучний інтелект, чи збереглося б його первісне визначення, чи він перетворився б у щось абсолютно відмінне?

UM: Як ви оцінюєте роль генеративного ШІ в поширенні інформації про геноцид у Газі? Чому штучна картинка "Всі погляди на Рафаха" стала вірусною, тоді як так багато доказових зображень, що свідчать про масове вбивство, залишилися поза увагою громадськості?

АК: Вірусність цього зображення, створеного за допомогою штучного інтелекту, була зумовлена кількома факторами. По-перше, присутність читабельного тексту в самій картині дозволила їй уникнути цензури з боку сучасних платформ, що сприяло її швидкому розповсюдженню. По-друге, люди, ймовірно, сприймали його як "неспекотне" зображення – воно виглядає чистим і не містить відвертих сцен насильства, що робить його більш прийнятним для широкої аудиторії.

Візуальні образи існують у захищеному середовищі, яке належить до сфери штучного інтелекту, а не до Палестини. Вилучення певного контексту створює зручну відстань для спостерігачів. З точки зору палестинців це є серйозною проблемою, оскільки це підживлює колоніальний процес дегуманізації та стирання ідентичності місцевого населення. Палестинців виключають з образів, ніби їхній життєвий досвід не має значення або повністю ігнорується.

Заклик до дії, що звучить як "Всі очі на Рафаха", викликає певні питання: що ж він насправді означає? Цей заклик не спонукає до активних дій і не ставить під сумнів індивідуальну автономію. Він не закликає вас влаштовувати протести, писати своїм обранцям або вимагати санкцій проти Ізраїлю. Натомість він залишається на рівні спостереження, демонструючи свою пасивність. У той час, коли весь світ стає свідком геноциду в реальному часі, це може бути більш тонкою формою кліктивізму. Виконати абсолютний мінімум, наприклад, просто поділитися фото, створює хибне відчуття, що ви дійсно зробили щось важливе, що ви "внесли свій внесок".

Безумовно, важливим аспектом є те, що 50 мільйонів людей поширили цю інформацію на різних платформах. Проте палестинці прагнуть не просто стати вірусними, але й забезпечити свою видимість. Нам необхідно, щоб ця вірусність слугувала нашим інтересам, щоб покласти край насильству.

Яка б була ситуація, якби інновації на базі штучного інтелекту використовувалися для підтримки і розвитку майбутнього палестинців, замість їхнього знищення? Це питання пронизує мою роботу. Технології відіграють ключову роль у обговоренні майбутнього, і ми, палестинці, повинні активно брати участь у його створенні, а не залишатися поза його межами.