Дослідник Anthropic звільнився через побоювання, що ШІ може вийти з-під контролю – WSJ
Дослідник компанії Anthropic Джейкоб Коксон звільнився та вирішив залишити індустрію штучного інтелекту через побоювання, що технологічні компанії надто швидко рухаються до створення систем, які люди не зможуть контролювати.
Про це пише The Wall Street Journal.
27-річний Коксон спеціалізувався на попередньому навчанні моделей ШІ. Протягом останніх трьох років він працював над такими системами спочатку в OpenAI, а згодом в Anthropic.
За словами дослідника, компанії фактично змагаються у створенні ШІ, здатного самостійно вдосконалюватися. Він вважає, що конкуренція змушує розробників поступатися питаннями безпеки, навіть якщо вони усвідомлюють потенційні ризики.
"Жодна з компаній не діє відповідально. Вони мчать прямо до самовдосконалюваного суперінтелекту і грають нашими життями", - написав Коксон після звільнення.
Дослідник стверджує, що занепокоєння всередині провідних ШІ-компаній значно серйозніше, ніж це може здаватися з їхніх публічних заяв.
"Люди, які створюють ШІ, щиро вважають, що він може вбити нас усіх до кінця десятиліття. Це не маркетинговий трюк", - заявив він.
Коксон також зазначив, що майбутні системи можуть перевершити людину у багатьох сферах, отримати здатність самостійно здійснювати кібератаки, прискорювати наукові розробки та здобувати реальні ресурси і вплив.
Водночас він проводить різницю між своїми колишніми роботодавцями. За його словами, в OpenAI багато співробітників недостатньо усвідомлюють масштаб потенційних наслідків, тоді як в Anthropic ризики розуміють краще, але компанія продовжує перегони, оскільки побоюється, що конкурент створить потужний ШІ першим.
Побоювання Коксона публічно підтримав співробітник Anthropic Еван Губінгер, який займається питаннями узгодження поведінки ШІ з людськими цілями. Він заявив, що особисто оцінює ймовірність того, що штучний інтелект може призвести до загибелі людства протягом наступного десятиліття, у понад 10%.
Сам Коксон вважає, що запобігти небезпечним перегонам між розробниками можуть лише координація між провідними лабораторіями, державне регулювання або тимчасове обмеження подальшого нарощування можливостей найпотужніших моделей.
