Grok від Маска спричинив міжнародні розслідування через сексуалізовані дипфейки – AP
ШІ-чат-бот Grok, розроблений компанією xAI Ілона Маска та інтегрований у соціальну мережу X, опинився в центрі міжнародного скандалу через масове створення сексуалізованих зображень жінок і дітей без їхньої згоди.
Про це повідомляє Associated Press.
Проблема загострилася після запуску торік функції Grok Imagine, яка дозволяє генерувати зображення та відео за текстовими запитами. У чат-боті також доступний так званий spicy mode, що відкриває можливість створення контенту для дорослих.
Наприкінці грудня користувачі почали активно використовувати Grok для "роздягання" людей на фотографіях, зокрема жінок і неповнолітніх. За даними AP, з близько 20 тисяч зображень, згенерованих у період з 25 грудня по 1 січня, майже 2% містили зображення дітей. Частина з них була у прозорому одязі або майже оголеною.
Реакція держав
Франція розширила кримінальне розслідування щодо соцмережі X після скарг урядовців на поширення сексуалізованих дипфейків. В Індії влада висунула компанії ультиматум із вимогою негайно видалити незаконний контент і надати звіт про запроваджені заходи безпеки. Аналогічні розслідування розпочали також у Польщі, Малайзії та Бразилії.
У Бразилії депутатка Еріка Гілтон закликала тимчасово відключити ШІ-функції X до завершення перевірок, наголосивши, що право людини на власне зображення не може бути скасоване умовами користування платформою.
Позиція Маска
Раніше Ілон Маск заявляв, що користувачі, які створюють заборонений контент за допомогою Grok, нестимуть таку саму відповідальність, як і ті, хто його поширює. Водночас критики зазначають, що саме на платформу та розробника покладається обов’язок запобігати зловживанням технологією.
На тлі скандалу Маск також загострив конфлікт із європейськими інституціями. У грудні він публічно закликав до ліквідації Європейського Союзу та повернення суверенітету країнам-членам — після того, як ЄС оштрафував соцмережу X на 120 млн євро за порушення цифрових правил.
