Facebook iPress Telegram iPress Twitter iPress search menu

Вчені розповіли про нову небезпеку штучного інтелекту

Вчені розповіли про нову небезпеку штучного інтелекту
Фото: з вільних джерел
Вона пов'язана з тим, що ШІ навчається на даних, згенерованих нейромережами.

Вчені з Великої Британії та Канади вирішили дослідити, що буде, якщо контент, згенерований штучним інтелектом, почне розповсюджуватись по інтернету, а інші моделі ШІ навчатимуться на ньому, а не на створеному людиною. За словами дослідників, це призведе до появи "незворотних дефектів" у моделях, що отримуються.

Про це повідомляє Venture beat.

У ході дослідження вчені розглядали генеративні моделі штучного інтелекту, які можуть створювати тексти на підставі введених слів та зображення на підставі наведених картинок. Вони дійшли висновку, що "навчання з урахуванням даних, створених іншими моделями, призводить до колапсу моделі — дегенеративного процесу, у якому згодом моделі забувають справжній базовий розподіл даних". Вони додають, що це неминуче навіть у випадках із "майже ідеальними умовами для довгострокового навчання".

Вчені відзначають, що згодом помилки накопичуються, через що моделі ШІ, які навчаються на отриманих даних, ще більш неправильно сприймають навколишній світ.

"Ми були здивовані, побачивши, як швидко відбувається колапс моделі: вони можуть швидко забути більшу частину вихідних даних, на основі яких вони спочатку навчалися", - заявив один із авторів нового дослідження Ілля Шумайлов.

Простими словами, що більше модель ШІ навчається на даних, згенерованих іншими нейромережами, то більше помилок вона допускає у виробленому контенті, та її відповіді стають менш різноманітними.

"Так само, як ми закидали океани пластиковим сміттям і наповнили атмосферу вуглекислим газом, ми збираємося заповнити інтернет будь-якою нісенітницею. Це ускладнить навчання нових моделей шляхом парсингу веб-сторінок, що дасть перевагу фірмам, які вже зробили це або контролюють доступ до людських інтерфейсів у масштабі. Справді, ми вже бачимо, як стартапи в області ШІ забивають інтернет-архів для отримання навчальних даних", - заявив інший автор дослідження Росс Андерсон, професор техніки безпеки у Кембриджському та Единбурзькому університетах.

Раніше повідомлялось, що штучний інтелект відбере робочі місця переважно у жінок.

Вибір Європи: Ялта чи Гельсінкі. Поділ світу між великими державами залишає менші країни осторонь – Едвард Лукас
Вибір Європи: Ялта чи Гельсінкі. Поділ світу між великими державами залишає менші країни осторонь – Едвард Лукас
Північні країни створюють нову модель оборони Арктики. НАТО отримує потужний щит проти росії – Мінна Аландер
Північні країни створюють нову модель оборони Арктики. НАТО отримує потужний щит проти росії – Мінна Аландер
Україна знищує російські сили швидше, ніж росія встигає їх поповнювати. Натомість Трамп пропонує росії поступки – Том Купер і Дональд Гілл
Україна знищує російські сили швидше, ніж росія встигає їх поповнювати. Натомість Трамп пропонує росії поступки – Том Купер і Дональд Гілл
Як працює лазерна епіляція та що відбувається з волоссям під час процедури?
Як працює лазерна епіляція та що відбувається з волоссям під час процедури?
Тімоті Ґартон Еш: Європа ризикує втратити своє місце у світовій політиці. Україна – частина боротьби за її майбутнє – The New Yorker
Тімоті Ґартон Еш: Європа ризикує втратити своє місце у світовій політиці. Україна – частина боротьби за її майбутнє – The New Yorker
Ялта стала синонімом зради. Чи влаштують Трамп, Сі та путін новий переділ світу? – The Guardian
Ялта стала синонімом зради. Чи влаштують Трамп, Сі та путін новий переділ світу? – The Guardian
Трамп допомагає путіну уникнути поразки. Дурість американської адміністрації змагається з її злом – Філліпс О’Брайен
Трамп допомагає путіну уникнути поразки. Дурість американської адміністрації змагається з її злом – Філліпс О’Брайен
Повна хронологія справи
Повна хронологія справи "Трамп – росія". Хибні кроки в степах Центральної Азії – Крейг Анґер