Сенатори США звернулися до Apple та Google через масове створення порнографічного контенту ШІ
Сенатори США звернулися до Apple та Google з вимогою видалити додатки X і Grok. Причиною стали випадки масового створення сексуалізованих зображень жінок і дітей, які вже призвели до блокування функції генерації зображень. Політики вважають, що сервіси порушують правила магазинів додатків обох компаній, передає MacRumors.
Сенатори Рон Вайден, Бен Рей Лухан та Едвард Маркі направили листи генеральному директору Apple Тіму Куку та очільнику Google Сундару Пічаї. У зверненні вони просять видалити додатки X та Grok через “масове створення недобросовісних сексуалізованих зображень жінок та дітей”.
Протягом цього тижня компанія Ілона Маска xAI зазнавала критики через повідомлення про використання її ШІ Grok для генерації порнографічного контенту, який масово з’являвся на платформі X. Йшлося про фото та відео, на яких жінок і дітей зображували в бікіні, спідній білизні або в насильницьки сценах.
У відповідь компанія X обмежила можливості Grok генерувати зображення для користувачів без платної підписки. Водночас, як зазначає The Verge, ці інструменти залишилися доступними для передплатників, а також через окрему вкладку Grok у X та самостійний застосунок Grok.
Сенатори заявили, що “шкідливі та ймовірно незаконні зображення” порушують правила магазинів додатків Apple і Google. На їхню думку, обидві компанії мають видалити ці додатки доти, доки порушення не буде усунено.
У листі також наголошується, що правила Apple забороняють “образливий” або “просто моторошний” контент. Окремо вказано, що умови компанії не дозволяють розміщення “відверто сексуального або порнографічного матеріалу”, зокрема, контенту, створеного без згоди.
"Заплющування очей на кричущу поведінку X означало б глузування з вашої практики модерації. Дійсно, бездіяльність підірвала б ваші публічні та судові заяви про те, що ваші магазини додатків пропонують безпечніший користувацький досвід", — додали конгресмени.
Сенатори попросили Apple та Google надати письмову відповідь на їхнє звернення. Кінцевий термін для відповіді визначили 23 січня.
