Facebook iPress Telegram iPress Twitter iPress search menu

У китайських соцмережах поширювали дипфейки з українською дівчиною про дружбу з росією

У китайських соцмережах поширювали дипфейки з українською дівчиною про дружбу з росією
Фото: з вільного доступу
Один із акаунтів мав понад 300 000 підписників.

Невідомі створили тисячі оброблених штучним інтелектом відео з використанням обличчя і голосу справжньої людини, українки Ольги Лоїк. Фейкова дівчина розповідала про дружбу з росією та рекламувала їжу.

Про це пише BBC.

Сама Ольга дізналася про промоцію росії від свого імені випадково – хтось із знайомих побачив її обличчя на відео і надіслав їй. Дівчина вирішила з'ясувати, що відбувається, і знайшла десятки акаунтів під різними іменами, які використовували її обличчя та поширювали контент, який вона ніколи не створювала.

Софія, Наташа, Ейпріл, Стейсі – всі ці "дівчата" говорили діалектом китайської мови мандарин, який справжня Ольга не знає і ніколи не вивчала. 

"Я бачила, що 90% відео були про Китай і росію, дружбу між Китаєм і росією, про те, що вони повинні бути сильними союзниками, а також про рекламу їжі", – розповіла Ольга журналістам. 

Одним із найбільших акаунтів був "Наташа імпортувала їжу" з понад 300 000 підписників. Ця "Наташа" прославляла росію і рекламувала продукти. 

Це особисто розлютило Ольгу, родина якої досі перебуває в Україні. Сама дівчина навчається в Університеті Пенсильванії. 

Мандариномовні ШІ-двійники Ольги почали з’являтися у 2023 – незабаром після того, як справжня дівчина запустила канал YouTube, який не дуже регулярно оновлюється.

Приблизно через місяць вона почала отримувати повідомлення від людей, які стверджували, що бачили, як вона говорить мандаринською мовою в китайських соціальних мережах Xiaohongshu – платформі, схожій на Instagram, та Bilibili – відеосайті, схожому на YouTube. 

Хлопець Ольги написав про це в твіттері, на що відповіла компанія HeyGen, яка, як вона стверджує, розробила інструмент, що використовується для створення подібностей ШІ.

Компанія сказала, що з обличчям Ольги були створені понад 4900 відео. Зображення Ольги заблокували для подальшого використання. 

Представник компанії сказав журналістам, що їхню систему зламали, і що вони оновили протоколи безпеки для запобігання зловживань. 

Але Анджела Чжан з Університету Гонконгу каже, що те, що сталося з Ольгою, "дуже поширене явище в Китаї".

Підозрілим є й наративів, який просували акаунти – дружба росії та Китаю.

"Незрозуміло, чи ці облікові записи координувалися з колективною метою, але просування повідомлення, яке відповідає урядовій пропаганді, безумовно, приносить їм користь", – висловлює свою точку зору дослідниця права та технологій з Болонського університету та KU Leuven Еммі Хайн.

Вона додала, що "навіть якщо ці облікові записи явно не пов’язані з Комуністичною партією Китаю, просування узгодженого повідомлення може знизити ймовірність того, що їхні публікації будуть видалені".

Приклад із Ольгою демонструє загальну складність регулювання сфери штучного інтелекту в світі. 

Грозові хмари стають темнішими над Тайванською протокою і Південно-Китайським морем. Китай готовий до війни – огляд західних ЗМІ
Грозові хмари стають темнішими над Тайванською протокою і Південно-Китайським морем. Китай готовий до війни – огляд західних ЗМІ
Червоні лінії – вигадані та справжні. Чому росія скоріше застосує ядерну зброю в Україні, якщо перемагатиме, аніж у разі програшу – Мар'яна Буджерин
Червоні лінії – вигадані та справжні. Чому росія скоріше застосує ядерну зброю в Україні, якщо перемагатиме, аніж у разі програшу – Мар'яна Буджерин
Стратегічний огляд. Слід очікувати на нові потрясіння в майбутньому – Ендрю Таннер
Стратегічний огляд. Слід очікувати на нові потрясіння в майбутньому – Ендрю Таннер
Дні російської воєнної економіки злічені. Фінансові, технологічні та демографічні проблеми гірші, аніж здаються –  Андерс Ослунд
Дні російської воєнної економіки злічені. Фінансові, технологічні та демографічні проблеми гірші, аніж здаються – Андерс Ослунд
Ірано-ізраїльське протистояння. Чим завдавали ударів, що було вражено та як відбивався Ізраїль – Том Купер
Ірано-ізраїльське протистояння. Чим завдавали ударів, що було вражено та як відбивався Ізраїль – Том Купер
Єдиний спосіб закінчити війну в Україні. росія повинна припинити воювати – Енн Епплбом
Єдиний спосіб закінчити війну в Україні. росія повинна припинити воювати – Енн Епплбом
Ні Києву, ні Європі не варто спішити
Ні Києву, ні Європі не варто спішити "миритися" з росією. У випадку перемоги Гарріс Америка може віднайти свої "яйця" – Едвард Хантер Крісті
Осіння кампанія путіна зіпсувала настрій оркам. Надання Україні ракет Meteor та AIM-120D швидко вирішить проблему планерних бомб – Ендрю Таннер
Осіння кампанія путіна зіпсувала настрій оркам. Надання Україні ракет Meteor та AIM-120D швидко вирішить проблему планерних бомб – Ендрю Таннер