У китайських соцмережах поширювали дипфейки з українською дівчиною про дружбу з росією

Невідомі створили тисячі оброблених штучним інтелектом відео з використанням обличчя і голосу справжньої людини, українки Ольги Лоїк. Фейкова дівчина розповідала про дружбу з росією та рекламувала їжу.

Про це пише BBC.

Сама Ольга дізналася про промоцію росії від свого імені випадково – хтось із знайомих побачив її обличчя на відео і надіслав їй. Дівчина вирішила з'ясувати, що відбувається, і знайшла десятки акаунтів під різними іменами, які використовували її обличчя та поширювали контент, який вона ніколи не створювала.

Софія, Наташа, Ейпріл, Стейсі – всі ці "дівчата" говорили діалектом китайської мови мандарин, який справжня Ольга не знає і ніколи не вивчала. 

"Я бачила, що 90% відео були про Китай і росію, дружбу між Китаєм і росією, про те, що вони повинні бути сильними союзниками, а також про рекламу їжі", – розповіла Ольга журналістам. 

Одним із найбільших акаунтів був "Наташа імпортувала їжу" з понад 300 000 підписників. Ця "Наташа" прославляла росію і рекламувала продукти. 

Це особисто розлютило Ольгу, родина якої досі перебуває в Україні. Сама дівчина навчається в Університеті Пенсильванії. 

Мандариномовні ШІ-двійники Ольги почали з’являтися у 2023 – незабаром після того, як справжня дівчина запустила канал YouTube, який не дуже регулярно оновлюється.

Приблизно через місяць вона почала отримувати повідомлення від людей, які стверджували, що бачили, як вона говорить мандаринською мовою в китайських соціальних мережах Xiaohongshu – платформі, схожій на Instagram, та Bilibili – відеосайті, схожому на YouTube. 

Хлопець Ольги написав про це в твіттері, на що відповіла компанія HeyGen, яка, як вона стверджує, розробила інструмент, що використовується для створення подібностей ШІ.

Компанія сказала, що з обличчям Ольги були створені понад 4900 відео. Зображення Ольги заблокували для подальшого використання. 

Представник компанії сказав журналістам, що їхню систему зламали, і що вони оновили протоколи безпеки для запобігання зловживань. 

Але Анджела Чжан з Університету Гонконгу каже, що те, що сталося з Ольгою, "дуже поширене явище в Китаї".

Підозрілим є й наративів, який просували акаунти – дружба росії та Китаю.

"Незрозуміло, чи ці облікові записи координувалися з колективною метою, але просування повідомлення, яке відповідає урядовій пропаганді, безумовно, приносить їм користь", – висловлює свою точку зору дослідниця права та технологій з Болонського університету та KU Leuven Еммі Хайн.

Вона додала, що "навіть якщо ці облікові записи явно не пов’язані з Комуністичною партією Китаю, просування узгодженого повідомлення може знизити ймовірність того, що їхні публікації будуть видалені".

Приклад із Ольгою демонструє загальну складність регулювання сфери штучного інтелекту в світі.