Європол розказав, як шахраї використовують ChatGPT

Головна установа правопорядку Європейського Союзу зробила звіт про вплив великих мовних моделей на злочинний світ та правоохоронні органи. 

Про це йдеться на сайті Європол.

Там кажуть, що європейські шахраї почали застосовувати ChatGPT вже за кілька тижнів після відкриття загального доступу до нього.

Злочинці легко обходять вбудований розробниками OpenAI захист – наприклад, заборону на створення шкідливого коду. Вони просто розбивають завдання на кілька частин, щоб запити виглядали нейтральними. А потім за інструкціями від самого ж ШІ збирають їх в одну програму. Навіть ті, хто нічого не тямлять у програмуванні, створюють віруси під свої потреби, використовуючи ChatGPT як інструктора.

Друга популярна ніша незаконного використання нейромережі – соціальна інженерія. ChatGPT здатний без зусиль написати переконливий текст для фішингового сайту або листування, без помилок і з такими деталями, які введуть в оману користувача. Він може вести діалоги та переконувати людей у своїй правоті, створювати привабливі пропозиції для розсилок і наслідувати конкретну манеру спілкування, щоб видати себе за реально існуючу людину. 

І третій шахрайський метод застосування ChatGPT – можливість безпосередньо запитати його, як скоїти злочин з найбільшою вигодою. Дізнатися про нові афери, схеми обману, отримати статистику щодо скоєних злочинів, щоб не конкурувати з іншими злочинцями. А також отримати розуміння, які помилки роблять інші шахраї, на чому їх ловить поліція і як цього уникнути.

Нейромережа перетворилася на інструмент, який приносить як користь, так і шкоду, кажуть в Європолі.