Facebook iPress Telegram iPress Twitter iPress search menu

Як штучний інтелект може впливати на піднесення та занепад країн або на знищення людства. Та що з цим робити – RAND Corporation

Переклад iPress
Як штучний інтелект може впливати на піднесення та занепад країн або на знищення людства. Та що з цим робити – RAND Corporation
Команда безпекових та оборонних досліджень з RAND Corporation оприлюднила результати дослідження можливих сценаріїв розвитку технологій штучного інтелекту. Які загрози він може нести людській цивілізації та що повинні робити уряди, приватні компанії і громадські організації для мінімізації можливого негативного впливу ШІ на людство? Чого чекати людям: появи Skynet (з Термінатора), сайлонів (з Крейсера "Галактика") чи досконалого вірусу, в порівнянні з яким COVID здаватиметься легкою простудою? На ці питання відповідають експерти RAND Corporation.

Країни в усьому світі можуть побачити, як їхня могутність зростатиме або падатиме залежно від того, як вони використовують та керують розвитком штучного інтелекту. Незалежно від того, чи становить ШІ екзистенційний ризик для людства, урядам необхідно розробити нову нормативно-правову базу для виявлення, оцінки та реагування на різноманітні виклики, пов'язані зі штучним інтелектом, які можуть виникнути в майбутньому.

З появою передових форм штучного інтелекту на початку 2023 року публічні дебати про державну політику справедливо зосередилися на таких явищах, як загострення нерівності, втрата робочих місць і потенційна загроза вимирання людства, якщо штучний інтелект продовжить розвиватися без ефективних запобіжників. Менше обговорюється питання про те, як ШІ може вплинути на геополітику і які актори можуть взяти на себе ініціативу в майбутньому розвитку ШІ або його передових алгоритмів.

З розвитком штучного інтелекту геополітика, можливо, вже ніколи не буде такою, як раніше. Людям, організованим у національні держави, доведеться працювати з іншим набором акторів – машинами зі штучним інтелектом, що мають еквівалентний або навіть більший інтелект і, можливо, дуже руйнівний потенціал. В епоху геотехнополітики людська ідентичність і людське сприйняття нашої ролі у світі будуть суттєво відрізнятися; монументальні наукові відкриття відбуватимуться так, що люди, можливо, будуть не в змозі їх осягнути. Отже, шлях розвитку штучного інтелекту, який врешті-решт розгорнеться, матиме величезне значення для форми і контурів майбутнього світу.

У своєму дослідженні команда Rand Corporation окреслила кілька сценаріїв, які ілюструють, як розвиток штучного інтелекту може розвиватися в найближчій перспективі залежно від того, хто його контролюватиме. Для того, щоб сформулювати висновки та рекомендації, були проведені дискусії з провідними технологами, політиками та науковцями з різних галузей. Цим експертам було представлено сценарії як базову лінію для дослідження, роздумів і критики. У дослідженні команда намагалася охарактеризувати поточну траєкторію розвитку ШІ та визначити найважливіші фактори, що визначають еволюцію цієї безпрецедентної технології.

Хто може контролювати розвиток ШІ? Сценарії розвитку технології

Американські компанії лідирують. Уряд США продовжує дозволяти приватним корпораціям розробляти штучний інтелект, не регулюючи технологію і не втручаючись у поведінку цих корпорацій, щоб змінити її. Такий підхід відповідає давньому переконанню у Сполучених Штатах, що вільний ринок (і його стимули, орієнтовані на прибуток) є найефективнішим механізмом для швидкого розвитку таких технологій, як ШІ. Американські урядовці продовжують відставати від інженерів технологічного сектору країни як у своєму розумінні ШІ, так і в здатності використовувати його можливості. Приватні корпорації спрямовують майже всі кошти на дослідження і розробки на вдосконалення ШІ. Уряд США прагне досягти своїх політичних цілей, поклавшись на інноваторів країни в розробці нових винаходів, які він може зрештою придбати. Майбутні відносини між американським урядом та технологічним сектором виглядають дуже схожими на теперішні: компанії займаються агресивним збором даних про споживачів, а соціальні мережі продовжують залишатися розсадником дезінформації та розбрату.

Державне поглинання США. Розвиток штучного інтелекту відбувається швидкими темпами, і побоювання щодо катастрофічних наслідків спонукає уряд США – можливо, в координації з союзниками-однодумцями – взяти під контроль розробку штучного інтелекту. Сполучені Штати вирішили відмовитися від свого традиційного легковажного підходу до регулювання інформаційних технологій та розробки програмного забезпечення і натомість розпочали масштабне регулювання та нагляд. Це призводить до монополії уряду США та окремих партнерів (наприклад, Великої Британії) на обчислювальні ресурси ШІ, центри обробки даних, передові алгоритми та талановиті кадри через націоналізацію та всебічне регулювання. Подібно до минулих ініціатив американського уряду, таких як програма "Аполлон" і Мангеттенський проєкт, ШІ розробляється під керівництвом уряду, а не під егідою приватних компаній. В оборонному секторі це може призвести до динаміки гонки озброєнь, оскільки інші уряди ініціюють власні програми розвитку ШІ, побоюючись, що вони залишаться позаду в епоху ШІ. Що стосується інструментів влади, то така націоналізація може також змінити баланс між тими, хто володіє, і тими, хто не володіє, оскільки інші країни, які не встигають за перехідним процесом, бачать, що їхня економіка страждає через відсутність можливості розвивати ШІ та впроваджувати його.

Китайський сюрприз. Подібно до запуску супутника, три китайські організації – Huawei, Baidu і Пекінська академія штучного інтелекту (BAAI) – оголосили про великий прорив у галузі ШІ, заставши світ зненацька. Прогрес ШІ в Китаї спочатку не помічають і постійно применшують політики з розвинених демократичних країн. Китайські компанії, науково-дослідні інститути та ключові державні лабораторії випереджають іноземних конкурентів, частково завдяки своїй здатності освоювати величезні обсяги державного фінансування. Найсучасніші моделі штучного інтелекту також постійно розвиваються, використовуючи конкурентну перевагу даних від величезної кількості населення країни. Нарешті, військово-цивільне злиття Китаю дозволяє основним гравцям у промисловості, науці та уряді ділитися ресурсами через спільну інфраструктуру ШІ. BAAI виграє від стратегічного партнерства з лідерами галузі та доступу до значних обчислювальних ресурсів, таких як Pengcheng Cloudbrain-II лабораторії Pengcheng Laboratory. Поєднання провідного світового досвіду та величезних обчислювальних потужностей дозволяє Китаю масштабувати дослідження ШІ з безпрецедентною швидкістю, що призводить до проривів у трансформаційних дослідженнях ШІ, які застають світ зненацька. Це викликає сильне занепокоєння з боку американських політичних і військових лідерів, що нові можливості Китаю в галузі ШІ забезпечать йому асиметричну військову перевагу над Сполученими Штатами.

Державно-приватний консорціум великих держав. В усьому світі міцні партнерства між урядами, світовою промисловістю, організаціями громадянського суспільства, академічними колами та науково-дослідними установами підтримують швидку розробку та впровадження ШІ. Ці партнерства формують консорціуми, які здійснюють багатосторонню співпрацю в рамках проєктів, що забезпечують доступ до великомасштабних обчислювальних даних і навчальних, обчислювальних і хмарних ресурсів. Завдяки фінансуванню з боку урядів багатьох країн консорціум розробляє спільні рішення і проводить бенчмаркінг для оцінки, верифікації та підтвердження достовірності, надійності і стійкості систем ШІ. Нові та існуючі міжнародні урядові органи, в тому числі Рада зі штучного інтелекту в Абу-Дабі, покладаються на різноманітну участь і внесок у встановлення стандартів відповідального використання ШІ. Результатом є здоровий сектор ШІ, який підтримує економічне зростання, що відбувається паралельно з розробкою та оцінкою справедливих, надійних і безпечних систем ШІ.

Що стало відомо? ШІ може стати актором, а не просто чинником

Країни та корпорації вже давно змагаються за владу. Великі технологічні компанії кидають виклик урядам багатьма старими способами, додаючи до них нові підходи. Подібно до традиційних транснаціональних корпорацій, такі компанії виходять за межі національних кордонів, однак великі технологічні компанії також впливають на місцеві громади у набагато більш комплексний та інвазивний спосіб, оскільки вони торкаються життя споживачів і збирають дані про їхнє місцезнаходження, діяльність та звички. Великі технологічні компанії також по-новому впливають на національну економіку, внутрішню та місцеву політику, оскільки вони впливають на поширення інформації (і дезінформації) та створюють нові спільноти і субкультури. Це призвело до поляризації населення в деяких країнах і зміни режимів в інших. Зокрема, компанії, що займаються розробкою штучного інтелекту, мають доступ до величезних інвестиційних фондів і великих обчислювальних потужностей, що дає їм додаткові переваги.

Ми вступаємо в еру як просвітлення, так і хаосу. Безмежна природа ШІ ускладнює його контроль і регулювання. З ростом обчислювальних потужностей, оптимізацією моделей і розвитком фреймворків з відкритим вихідним кодом можливість створювати надзвичайно ефективні програми ШІ буде ставати все більш дифузною. У такому світі дослідники та інженери з добрими намірами використовуватимуть цю потужність для створення чудових речей, люди з поганими намірами – для створення жахливих речей, а штучний інтелект може робити як чудові, так і жахливі речі. Кінцевий результат – це не бездоганна епоха просвітництва і не неминуча катастрофа, а суміш обох цих явищ. Людству доведеться навчитися справлятися з цією технологією, що змінює правила гри, так само, як ми це робили з багатьма іншими трансформаційними технологіями в минулому.

США і Китай лідируватимуть по-різному. Хоча американські політики часто побоюються, що Китай вийде вперед у гонці розвитку ШІ, експерти сходяться на думці, що Китай навряд чи зможе досягти значних успіхів у галузі ШІ через перевагу США в розширенні можливостей для інновацій у приватному секторі. Китай навряд чи наздожене або перевершить Сполучені Штати у створенні проривів у галузі ШІ, але він може стати лідером у різних сферах. Продемонстрований досвід КНР в удосконаленні технологічних можливостей, вироблених в інших країнах, і переважний підхід Комуністичної партії Китаю до суспільного використання означає, що Китай може досягти більшого успіху в інтеграції сучасних технологій у свої робочі процеси, озброєння і системи, тоді як Сполучені Штати можуть відставати в наскрізній інтеграції систем.

Технологічні інновації й надалі випереджатимуть традиційне регулювання. Американський уряд вже зараз відстає у розумінні ШІ порівняно з провідними приватними розробниками. Це пов'язано з кількома факторами: відносною повільністю формування державної політики порівняно зі швидкими темпами розвитку технологій, нездатністю держави платити конкурентоспроможні зарплати дефіцитним талантам, а також відсутністю ясності щодо того, чи слід взагалі регулювати ШІ і як саме. Забігаючи наперед, можна сказати, що ця динаміка навряд чи зміниться. Уряди продовжуватимуть наздоганяти приватний сектор, щоб зрозуміти та реагувати на найновіші та найпотужніші розробки в галузі ШІ.

Швидкі темпи і поширення передових технологій ШІ ускладнять багатостороннє регулювання. Штучний інтелект не має перешкод традиційних моделей нерозповсюдження, як-от глобальний режим нерозповсюдження ядерної зброї, а це означає, що урядам буде порівняно складно контролювати ШІ за допомогою традиційних методів регулювання.

Вимирання людства, повалення демократій, дезінформація та маніпулювання. Що повинні робити урядовці, щоб захистити людство?

Потенційні небезпеки, які несе в собі ШІ, численні. У крайньому випадку, вони включають загрозу вимирання людства, що може статися через катастрофу, спричинену ШІ, наприклад, через добре продуманий вірус, який легко поширюється, уникає виявлення і знищує нашу цивілізацію. Менш страшною, але значно тривожнішою є загроза демократичному врядуванню, якщо ШІ отримає владу над людьми. Навіть якщо ШІ не вбиватиме людей і не повалить демократію, авторитарні режими, терористичні угруповання та організовані злочинні групи можуть використовувати його для завдання великої шкоди, поширюючи дезінформацію та маніпулюючи громадською думкою. Уряди повинні розглядати сферу ШІ як полігон для підготовки до загроз, пов'язаних із ще більш досконалими можливостями ШІ, в тому числі з потенційною появою штучного загального інтелекту.

Уряди повинні зосередитися на посиленні стійкості до загроз ШІ. Окрім більш традиційних регуляторних практик, державна політика щодо ШІ повинна зосередитися на стратегіях стійкості для пом'якшення потенційних загроз, оскільки стратегії, спрямовані виключно на заперечення, не спрацюють. ШІ неможливо стримати за допомогою регулювання, тому найкраща політика буде спрямована на мінімізацію шкоди, яку ШІ може завдати. Це, ймовірно, буде найбільш важливим у сфері біозахисту, але зменшення шкоди також включає протидію загрозам кібербезпеки, зміцнення демократичної стійкості та розробку варіантів реагування на широкий спектр загроз з боку державних і недержавних суб'єктів. Урядам потрібно буде або створити абсолютно нові можливості для втілення цієї політики в життя, або розширити існуючі агентства, такі як Агентство з кібербезпеки та безпеки інфраструктури. Уряди повинні застосовувати більш комплексний підхід до регулювання, що виходить за рамки апаратного контролю, якого буде недостатньо для зменшення шкоди в довгостроковій перспективі.

Уряди повинні вийти за рамки традиційних методів регулювання, щоб впливати на розвиток ШІ. На відміну від інших потенційно небезпечних технологій, ШІ не має очевидних вхідних даних, які можна було б регулювати і контролювати. Дані та обчислювальні потужності широко доступні як великим, так і малим компаніям, і жодна організація не може достовірно передбачити, звідки може з'явитися наступний революційний прорив у галузі штучного інтелекту. Отже, уряди повинні розглянути можливість розширення свого інструментарію за межі традиційних методів регулювання. Двома креативними механізмами для урядів можуть стати інвестиції у створення надійних наборів даних, що перебувають у державній власності, для досліджень у галузі ШІ, або видача грантів, що заохочують суспільно корисне використання ШІ. Нові методи також можуть включати в себе створення єдиних правил відповідальності, щоб пояснити, коли розробники нестимуть відповідальність за шкоду, спричинену ШІ, вимоги до оцінки ШІ та контроль за тим, чи можна поширювати певні високопродуктивні моделі. Зрештою, уряди можуть купити місце за столом переговорів, надаючи компаніям економічні стимули в обмін на більший вплив у забезпеченні використання ШІ на благо всіх.

Уряди повинні продовжувати підтримувати інновації. Перевага США в галузі штучного інтелекту значною мірою є результатом їхньої переваги в інноваціях. Щоб зберегти цю перевагу, американський уряд повинен продовжувати підтримувати інновації, фінансуючи національні ресурси ШІ. Хоча розробку ШІ на передовій ведуть приватні компанії з величезними обчислювальними ресурсами, серед експертів існує думка, що наступний прорив у галузі ШІ може відбутися завдяки меншим моделям з новою архітектурою. Академічні установи очолили багато теоретичних розробок, які уможливили створення нинішнього покоління ШІ. Стимулювання академічної спільноти за допомогою скромних ресурсів може розвинути цю спадщину і призвести до значного вдосконалення ШІ.

Уряди повинні співпрацювати з приватним сектором для поліпшення оцінки ризиків. У світлі ймовірного дуже широкого розповсюдження передових можливостей ШІ серед суб'єктів приватного і державного секторів, а також забезпечених людей, уряди повинні тісно співпрацювати з провідними організаціями приватного сектору для розробки передових інструментів прогнозування, військових ігор і стратегічних планів для боротьби з тим, що, на думку експертів, буде являти собою широкий спектр несподіваних катастрофічних подій, спричинених ШІ.

Джерело: RAND Corporation

США могли б надіслати Україні допомогу вже завтра. Треба тиснути на Адміністрацію Байдена – Стівен Бланк
США могли б надіслати Україні допомогу вже завтра. Треба тиснути на Адміністрацію Байдена – Стівен Бланк
Ситуація на фронтах. росіяни атакують і втрачають багато техніки та живої сили – Том Купер
Ситуація на фронтах. росіяни атакують і втрачають багато техніки та живої сили – Том Купер
Авдіївка: як росіянам вдалося витіснити українців з міста. Якби союзники України вчасно надавали потрібні боєприпаси, цього б не сталося – Дональд Гілл
Авдіївка: як росіянам вдалося витіснити українців з міста. Якби союзники України вчасно надавали потрібні боєприпаси, цього б не сталося – Дональд Гілл
ЄС має 5 способів, щоб допомогти закінчити війну в Україні. Але на заваді стоять чи то втома від України, чи то втома від Орбана – Politico
ЄС має 5 способів, щоб допомогти закінчити війну в Україні. Але на заваді стоять чи то втома від України, чи то втома від Орбана – Politico
російські шпигуни повернулися, і вони небезпечніші, ніж будь-коли. кремлівські спецслужби зробили висновки зі своїх помилок – The Economist
російські шпигуни повернулися, і вони небезпечніші, ніж будь-коли. кремлівські спецслужби зробили висновки зі своїх помилок – The Economist
Розповідь чеського волонтера з Мар'їнки. Та як непальці воюють за росію – Дональд Гілл
Розповідь чеського волонтера з Мар'їнки. Та як непальці воюють за росію – Дональд Гілл
Світ знову зазнав поразки. Захід може не хотіти війни, але війна стоїть на його порозі – Девід Патрікаракос
Світ знову зазнав поразки. Захід може не хотіти війни, але війна стоїть на його порозі – Девід Патрікаракос
Капітуляція США у підтримці України призведе до нової війни. А Європа розділиться – Сем Грін та Едвард Лукас
Капітуляція США у підтримці України призведе до нової війни. А Європа розділиться – Сем Грін та Едвард Лукас