Троє підлітків із Теннессі подали колективний позов проти компанії xAI Ілона Маска, звинувативши її чат-бот Grok у створенні матеріалів сексуального насильства над дітьми (Child Sexual Abuse Material, CSAM). Ці матеріали згодом поширювалися в інтернет-спільнотах і месенджерах. Позов подано 16 березня, і він стосується функцій штучного інтелекту, які, за твердженням заявників, були небезпечними ще на етапі запуску, передає The Verge.
Позивачами є двоє неповнолітніх і один дорослий, який був неповнолітнім на момент описаних подій. Одна з жертв, позначена як “Джейн Доу 1”, заявила, що у грудні виявила на платформі Discord відверті зображення себе та щонайменше 18 інших неповнолітніх, створені за допомогою штучного інтелекту.
“Принаймні п’ять із цих файлів — одне відео та чотири зображення — показували її справжнє обличчя та тіло в звичних для неї обставинах, але в сексуально відвертих позах”, — йдеться в заяві.
ВАС ЗАЦІКАВИТЬ
Мати сина Ілона Маска подала позов проти xAI через сексуалізовані діпфейки Grok
За даними позову, підозрюваний, якого вже заарештували, використовував ці матеріали для обміну в чатах Telegram із сотнями користувачів. Стверджується, що він створював відверті зображення за допомогою Grok і обмінював їх на інший незаконний контент за участю неповнолітніх.
Позивачі вказують, що xAI не забезпечила належної перевірки безпеки функцій штучного інтелекту. У документі також зазначено, що Grok має “недоліки в дизайні” і дозволяє створювати заборонений контент.
“Це діти, чиї шкільні фотографії та сімейні знімки були перетворені на матеріали, що містять зображення сексуального насильства над дітьми, за допомогою інструменту штучного інтелекту, розробленого компанією з мільярдним оборотом, а потім стали предметом торгівлі серед педофілів”, — заявила адвокатка постраждалих Анніка К. Мартін, — “ми маємо намір притягнути xAI до відповідальності за кожну дитину, якій вони заподіяли шкоду таким чином”.
ВАС ЗАЦІКАВИТЬ
Пентагон відкриває секретні мережі для Grok, поки інші країни його блокують
Позов передбачає компенсацію для постраждалих і вимагає заборонити xAI створювати та поширювати подібні матеріали. Суд також має розглянути питання відповідальності компанії за використання її технологій у незаконних цілях.
Інцидент спричинив глобальну реакцію з боку регуляторів і політиків. У США пролунали заклики до Федеральної торгової комісії розслідувати діяльність Grok, Європейський Союз розпочав власне вивчення, а прем’єр-міністр Великої Британії Кір Стармер виступив із попередженням щодо ризиків.
У січні Сенат США схвалив законопроєкт, який дозволяє жертвам діпфейків подавати до суду на їхніх творців. Закон Take It Down, підписаний президентом Дональдом Трампом у 2025 році, криміналізує поширення діпфейків без згоди і має набути чинності в травні.
Попри заяви компанії X про обмеження можливостей редагування зображень через Grok, журналісти виявили, що систему все ще можна використовувати для маніпуляцій із контентом. У компанії також зазначали, що користувачі, які створюють незаконні матеріали, нестимуть відповідальність на рівні з тими, хто їх публікує.
