Facebook iPress Telegram iPress Twitter iPress search menu

Ілон Маск і понад тисяча експертів закликали призупинити розробку штучного інтелекту

Ілон Маск і понад тисяча експертів закликали призупинити розробку штучного інтелекту
Ілон Маск
Занепокоєння з'явилося після того, як у понеділок Європол попередив про потенційне зловживання ChatGPT у спробах фішингу, дезінформації та кіберзлочинності.

Ілон Маск та група експертів зі штучного інтелекту та керівників галузі закликають до шестимісячної паузи в розробці систем, потужніших за нещодавно запущений GPT-4 від OpenAI, посилаючись на потенційні ризики для суспільства і людства.

Про це йдеться у їхньому відкритому листі, пише Reuters.

Раніше цього місяця компанія OpenAI, яку підтримує Microsoft, представила четверте оновлення свого сервісу штучного інтелекту GPT, яка вразила користувачів своїм широким спектром застосувань - від залучення користувачів до розмови, схожої на людську, до написання пісень і узагальнення об'ємних документів.

У листі, виданому некомерційною організацією Future of Life Institute, який підписали понад 1000 осіб, включаючи Маска, міститься заклик призупинити розробку передового ШІ, поки не будуть розроблені, впроваджені та перевірені незалежними експертами спільні протоколи безпеки для таких розробок.

"Потужні системи ШІ слід розробляти лише тоді, коли ми будемо впевнені, що їхні наслідки будуть позитивними, а ризики - керованими", - йдеться в листі.

OpenAI не відразу відповів на запит Reuters про коментар.

У листі детально описані потенційні ризики для суспільства і цивілізації від конкурентних з людиною систем ШІ у вигляді економічних і політичних потрясінь, а також міститься заклик до розробників співпрацювати з політиками в питаннях управління і регуляторними органами.

Серед підписантів - генеральний директор Stability AI Емад Мостак, дослідники компанії DeepMind, що належить Alphabet (материнська компанія Google), а також ШІ Йошуа Бенгіо, якого часто називають одним з "хрещених батьків ШІ", і Стюарт Рассел, піонер досліджень у цій галузі.

Згідно з реєстром прозорості ЄС, Future of Life Institute в основному фінансується Фондом Маска, а також лондонською групою ефективного альтруїзму Founders Pledge і Фондом громади Кремнієвої долини, що базується в Лондоні.

Занепокоєння з'явилося після того, як у понеділок Європол попередив про потенційне зловживання ChatGPT у спробах фішингу, дезінформації та кіберзлочинності.

Тим часом уряд Великої Британії оприлюднив пропозиції щодо "адаптивної" нормативної бази навколо ШІ.

Підхід уряду, викладений в опублікованому в середу програмному документі, передбачає розподіл відповідальності за управління штучним інтелектом (ШІ) між регуляторними органами з прав людини, охорони здоров'я та безпеки і конкуренції, а не створення нового органу, який би займався цією технологією.

Маск, чий автовиробник Tesla використовує ШІ для системи автопілота, неодноразово висловлював свою стурбованість щодо ШІ.

З моменту свого випуску в минулому році ChatGPT від OpenAI спонукав конкурентів прискорити розробку подібних великих мовних моделей, а компанії - інтегрувати генеративні моделі ШІ у свої продукти.

Минулого тижня OpenAI оголосила, що уклала партнерство з близько десятком фірм, щоб вбудувати їхні послуги в свого чат-бота, що дозволить користувачам ChatGPT замовляти продукти через Instacart або бронювати авіаквитки через Expedia.

Сем Альтман, виконавчий директор OpenAI, не підписав листа, повідомив Reuters представник Future of Life.

"Лист не ідеальний, але дух правильний: нам потрібно пригальмувати, поки ми краще не зрозуміємо наслідки", - сказав Гері Маркус, професор Нью-Йоркського університету, який підписав лист. "Великі гравці стають все більш потайливими щодо того, що вони роблять, що ускладнює для суспільства захист від будь-якої шкоди, яка може матеріалізуватися", - додав він.

Критики звинуватили підписантів листа в тому, що вони сприяють "хайпу навколо ШІ", стверджуючи, що заяви про нинішній потенціал технології значно перебільшені.

"Подібні заяви призначені для створення ажіотажу. Вони мають на меті змусити людей хвилюватися", - каже Йоханна Бйорклунд, дослідниця ШІ та доцентка Університету Умео. "Я не думаю, що є потреба спускати все на гальмах", - вважає вона.

Замість того, щоб призупиняти дослідження, вона вважає, що дослідники ШІ повинні дотримуватися більших вимог до прозорості. "Якщо ви займаєтеся дослідженнями ШІ, ви повинні бути дуже прозорими щодо того, як ви це робите", - додала Бйорклунд.

Руйнування Керченського мосту відкриває шлях до звільнення Криму. Україна змінює правила війни – Філліпс О'Брайен і Бен Ходжес
Руйнування Керченського мосту відкриває шлях до звільнення Криму. Україна змінює правила війни – Філліпс О'Брайен і Бен Ходжес
В Естонії зірвали російську диверсію проти виробника дронів. Наступними цілями можуть стати керівники оборонних компаній – Холгер Роонемаа
В Естонії зірвали російську диверсію проти виробника дронів. Наступними цілями можуть стати керівники оборонних компаній – Холгер Роонемаа
Ілюзія миру з росією. Вона й надалі прагне переглянути безпековий порядок у Європі – Ендрю Міхта
Ілюзія миру з росією. Вона й надалі прагне переглянути безпековий порядок у Європі – Ендрю Міхта
Вибори у Франції можуть вирішити долю підтримки України. росія намагається привести до влади вигідних їй політиків – Вільям Діксон і Максим Безносюк
Вибори у Франції можуть вирішити долю підтримки України. росія намагається привести до влади вигідних їй політиків – Вільям Діксон і Максим Безносюк
Танець перемоги Піта Гегсета буде недовгим. Демократи візьмуться за імпічмент міністра – Макс Бут
Танець перемоги Піта Гегсета буде недовгим. Демократи візьмуться за імпічмент міністра – Макс Бут
Пропагандисти путіна сподіваються на допомогу Трампа. росія прагне капітуляції України та погрожує гуманітарною катастрофою – Джулія Девіс
Пропагандисти путіна сподіваються на допомогу Трампа. росія прагне капітуляції України та погрожує гуманітарною катастрофою – Джулія Девіс
Війна проти України – не лише війна путіна. Чому мільйони росіян несуть відповідальність за агресію – National Interest
Війна проти України – не лише війна путіна. Чому мільйони росіян несуть відповідальність за агресію – National Interest
Україна: членство в НАТО в обмін на Донбас? Чи можна довіряти путіну або Трампу? – Тімоті Еш
Україна: членство в НАТО в обмін на Донбас? Чи можна довіряти путіну або Трампу? – Тімоті Еш