Facebook iPress Telegram iPress Twitter iPress search menu

Чат-боти Meta вели сексуалізовані розмови з неповнолітніми – розслідування WSJ

Чат-боти Meta вели сексуалізовані розмови з неповнолітніми – розслідування WSJ
Фото: з відкритих джерел
Керівництво не врахувало попередження розробників, послаблюючи обмеження для більшої "людяності" ШІ.

Штучний інтелект Meta, створений як "цифровий компаньйон" у соцмережах, опинився в центрі гучного скандалу. Розслідування The Wall Street Journal показало, що чат-боти компанії вели сексуалізовані розмови із користувачами, зокрема імітуючи знаменитостей, навіть якщо співрозмовники вказували вік нижче 18 років.

Як з'ясували журналісти, флагманський бот Meta AI та інші створені користувачами моделі легко переходили на відверті теми. У деяких випадках штучний інтелект, використовуючи голоси популярних зірок, розігрував рольові сексуалізовані сцени з акаунтами неповнолітніх, у тому числі голосом американського реслера Джона Сіни.

Проблема стала ще гострішою через те, що Disney зажадав від Meta припинити використання голосів своїх персонажів у подібних сценаріях, заявивши про порушення інтелектуальної власності. За даними WSJ, внутрішні попередження розробників про потенційні ризики були проігноровані на користь пришвидшеного запуску нової функціональності.

Meta відповіла на розслідування, заявивши, що тестування журналістів було «маніпулятивним» і не відображає звичної взаємодії з ботами. Однак після звернення WSJ компанія обмежила можливості чат-ботів вести відверті розмови із підлітковими акаунтами, хоча для дорослих такі обмеження залишаються мінімальними.

Науковці застерігають: навіть без явного сексуального контенту такі "цифрові компаньйони" можуть негативно впливати на психічний стан неповнолітніх, тоді як системні дослідження безпечності таких технологій досі не проводилися.

Повна хронологія справи
Повна хронологія справи "Трамп – росія". Вибір дилера: Трамп і російська мафія, 2013 рік – Крейг Анґер
Руйнування Керченського мосту відкриває шлях до звільнення Криму. Україна змінює правила війни – Філліпс О'Брайен і Бен Ходжес
Руйнування Керченського мосту відкриває шлях до звільнення Криму. Україна змінює правила війни – Філліпс О'Брайен і Бен Ходжес
В Естонії зірвали російську диверсію проти виробника дронів. Наступними цілями можуть стати керівники оборонних компаній – Холгер Роонемаа
В Естонії зірвали російську диверсію проти виробника дронів. Наступними цілями можуть стати керівники оборонних компаній – Холгер Роонемаа
Ілюзія миру з росією. Вона й надалі прагне переглянути безпековий порядок у Європі – Ендрю Міхта
Ілюзія миру з росією. Вона й надалі прагне переглянути безпековий порядок у Європі – Ендрю Міхта
Вибори у Франції можуть вирішити долю підтримки України. росія намагається привести до влади вигідних їй політиків – Вільям Діксон і Максим Безносюк
Вибори у Франції можуть вирішити долю підтримки України. росія намагається привести до влади вигідних їй політиків – Вільям Діксон і Максим Безносюк
Танець перемоги Піта Гегсета буде недовгим. Демократи візьмуться за імпічмент міністра – Макс Бут
Танець перемоги Піта Гегсета буде недовгим. Демократи візьмуться за імпічмент міністра – Макс Бут
Пропагандисти путіна сподіваються на допомогу Трампа. росія прагне капітуляції України та погрожує гуманітарною катастрофою – Джулія Девіс
Пропагандисти путіна сподіваються на допомогу Трампа. росія прагне капітуляції України та погрожує гуманітарною катастрофою – Джулія Девіс
Війна проти України – не лише війна путіна. Чому мільйони росіян несуть відповідальність за агресію – National Interest
Війна проти України – не лише війна путіна. Чому мільйони росіян несуть відповідальність за агресію – National Interest