16 липня 1945 року, невдовзі після світанку, група науковців та урядовців зібралася на безлюдній ділянці піску в пустелі Нью-Мехіко, щоб стати свідками першого в історії людства випробування ядерної зброї, нагадують автори Washington Post. Вони розповідають, що вибух був описаний спостерігачем як "яскраво-фіолетовий". Грім від детонації бомби, здавалося, зрикошетив і затримався в пустелі.
Роберт Оппенгеймер, який очолював проєкт, що завершився випробуванням, того ранку розмірковував про те, що ця руйнівна сила може якимось чином сприяти встановленню тривалого миру. Він згадав надію шведського промисловця і філантропа Альфреда Нобеля на те, що винайдений ним динаміт покладе край війнам.
Побачивши, як динаміт використовується для виготовлення бомб, Нобель зізнався другові, що найкращим гарантом миру буде не менша, а більша зброя. Він писав: "Єдине, що коли-небудь завадить народам розпочати війну – це страх".
Як зауважують автори, може виникнути спокуса відступити від такого похмурого передбачення, сподіваючись, що миролюбний інстинкт нашого виду візьме гору, якщо тільки ті, хто має зброю, складуть її. Проте минуло майже 80 років з часу першого атомного випробування в Нью-Мехіко, а ядерна зброя застосовувалася у війні лише двічі – в Хіросімі та Нагасакі. Для багатьох сила і жах бомби стали далекими і слабкими, майже абстрактними.
Історія поводження людства зі зброєю – недосконала і, дійсно, десятки разів майже катастрофічна – була вражаючою. Майже століття у світі панує певна версія миру без великодержавних військових конфліктів. Щонайменше три покоління – мільярди людей, їхні діти та онуки – ніколи не знали світової війни. Професор військової та військово-морської історії Єльського університету Джон Льюїс Гаддіс назвав відсутність великих конфліктів у післявоєнну епоху "довгим миром".
Атомна ера і Холодна війна, по суті, закріпили на десятиліття розрахунок великих держав, який зробив правдиву ескалацію (а не сутички і випробування сили в регіональних конфліктах) вкрай непривабливою і потенційно дорогою. Стівен Пінкер стверджує, що значне "зниження рівня насильства може бути найбільш значущою і найменш оціненою подією в історії нашого виду".
Втім, автори наголошують, що було б нерозумно покладати всю або навіть більшу частину відповідальності за це на якусь одну зброю. Це також пов'язано з цілою низкою інших подій після закінчення Другої світової війни, включно з поширенням демократичних форм правління по всій планеті і рівнем взаємопов'язаної економічної діяльності, який раніше був немислимим.
Однак експерти вважають, що розрахунок великих держав, який допоміг запобігти ще одній світовій війні, також може швидко змінитися. На їхню думку, перевага американської військової сили, безсумнівно, допомогла зберегти мир, яким би крихким він не був. Втім прагнення зберегти таку перевагу стає дедалі більш немодним на Заході. А стримування як доктрина ризикує втратити свою моральну привабливість.
Як зауважують автори WP, атомна епоха може незабаром добігти кінця. Це століття програмного забезпечення. Війнами майбутнього керуватиме штучний інтелект, розвиток якого відбувається набагато швидше, ніж розвиток звичайних озброєнь. Винищувач F-35 був задуманий в середині 1990-х років, і цей літак – флагманський штурмовик американських і союзних військ – повинен залишатися на озброєнні ще 64 роки. Уряд США розраховує витратити на програму понад 2 трильйони доларів. Але, як нещодавно запитав колишній голова Об'єднаного комітету начальників штабів генерал у відставці Марк А. Міллі, "чи справді ми думаємо, що пілотований літак завойовуватиме небо у 2088 році?"
У ХХ столітті програмне забезпечення створювалося для задоволення потреб апаратного забезпечення, від систем управління польотом до ракетної авіоніки. Але з розвитком штучного інтелекту і використанням великих мовних моделей для надання рекомендацій щодо націлювання на полі бою співвідношення змінюється. Тепер кермує програмне забезпечення, а апаратне забезпечення – безпілотники в Україні і в інших країнах – все частіше слугує засобом, за допомогою якого виконуються рекомендації штучного інтелекту.
Українські солдати спостерігають за кадрами з розвідувального безпілотника 23 лютого. (Аліса Мартінс для The Washington Post)
Карп і Заміска вважають, що для нації, яка дотримується вищих моральних стандартів, ніж її супротивники, коли йдеться про застосування сили, технічного паритету з ворогом недостатньо. Система зброї в руках етичного суспільства, яке справедливо остерігається її застосування, діятиме як ефективний засіб стримування лише тоді, коли вона набагато потужніша за можливості супротивника, який без вагань вбиватиме невинних.
На думку авторів WP, проблема полягає в тому, що молоді американці, які найбільш здатні створювати системи штучного інтелекту, часто також неоднозначно ставляться до роботи в армії. У Кремнієвій долині інженери відвернулися, не бажаючи мати справу з безладом і моральною складністю геополітики. Хоча з'явилися осередки підтримки оборонної роботи, більшість фінансування і талантів продовжують перетікати до споживача.
Експерти переконані, що інженерна еліта США поспішає залучити капітал для додатків для обміну відео та соціальних мереж, рекламних алгоритмів та інтернет-магазинів. Вони без вагань відстежують і монетизують кожен рух людей в інтернеті, прокладаючи собі шлях у наше життя. Але багато хто зупиняється, коли справа доходить до роботи з військовими. Поспішають просто створювати. Мало хто задається питанням, що саме треба будувати і чому.
У 2018 році близько 4000 співробітників Google написали листа генеральному директору компанії Сундару Пічаї з проханням відмовитися від розробки програмного забезпечення для американського спецназу, відомого як Project Maven, яке використовувалося для спостереження і планування місій в Афганістані та інших країнах. Співробітники вимагали, щоб Google ніколи не "створював військові технології", стверджуючи, що допомога солдатам у плануванні операцій і "потенційно смертельних наслідків" є "неприйнятною" (як це схоже на методи роботи кремля – iPress).
Google намагався захистити свою участь у проєкті Maven, стверджуючи, що робота компанії була лише "в ненаступальних цілях". Це було тонке і юридично грамотне розмежування, особливо з точки зору солдатів і аналітиків розвідки на передовій, які потребували кращих програмних систем, щоб залишитися в живих. Діана Грін, яка була на той час головою Google Cloud, провела зустріч зі співробітниками, на якій оголосила, що компанія вирішила припинити роботу над оборонним проєктом. Стаття у Jacobin оголосила це "вражаючою перемогою над мілітаризмом США", зазначивши, що співробітники Google успішно повстали проти того, що вони вважали неправильним спрямуванням своїх талантів.
Проте спокій, яким користуються ті, хто в Кремнієвій долині виступає проти співпраці з військовими, став можливим завдяки реальній загрозі застосування сили з боку тих самих військових. У Palantir, зазначають автори, вони створюють програмну архітектуру для оборонних і розвідувальних відомств США та їхніх союзників, яка дозволить розгортати зброю зі штучним інтелектом цього століття. Експерти стверджують, що суспільство повинне бути здатним вести дебати про переваги використання військової сили за кордоном та не вагаючись надавати тим, кого посилають на небезпечну ділянку, програмне забезпечення, необхідне для виконання їхньої роботи.
Найбільше занепокоєння викликає те, йдеться у публікації WP, що розчарування і незацікавленість цілого покоління в колективній обороні країни призвели до масового перенаправлення ресурсів – інтелектуальних і фінансових – на задоволення потреб споживацької культури. Зменшення вимог, які ставляться до технологічного сектору щодо виробництва продуктів довготривалої та колективної цінності, призводить до того, що надто багато влади віддається на відкуп примхам ринку. Як зауважив Девід Ґребер, який викладав антропологію в Єльському університеті та Лондонській школі економіки, у 2012 році в опублікованому в журналі Baffler есеї: "інтернет – чудова інновація, але все, про що ми говоримо, – це надшвидке і глобально доступне поєднання бібліотеки, пошти та каталогу для замовлення поштою".
Переорієнтація технологічного світу на інтереси споживача сприяла посиленню певної втечі – інстинкту Кремнієвої долини ігнорувати важливі проблеми, з якими стикається суспільство, на користь тривіальних та ефемерних речей. Виклики, від національної оборони та насильницької злочинності до реформи освіти та медичних досліджень, здаються багатьом представникам технологічної індустрії надто нерозв'язними, болючими та політично небезпечними, щоб ними варто було займатися.
Через рік після бунту в Google, повстання працівників Microsoft загрожувало зупинити роботу над проєктом зі створення платформи доповненої реальності для солдатів американської армії вартістю 480 мільйонів доларів. Працівники написали листа виконавчому директору Сатьї Наделлі та президенту Бреду Сміту, стверджуючи, що вони "не підписувалися на розробку зброї", і вимагали від компанії розірвати контракт.
У листопаді 2022 року, коли OpenAI випустила свій ШІ-інтерфейс ChatGPT для громадськості, вона заборонила його використання у "військових і воєнних" цілях. Після того, як цьогоріч компанія зняла повну заборону на військове застосування, протестувальники зібралися біля офісу генерального директора OpenAI Сема Альтмана у Сан-Франциско, щоб вимагати аби компанія "припинила свої відносини з Пентагоном і не брала жодних військових клієнтів".
Автори підкреслюють, що таке обурення натовпу навчило лідерів та інвесторів технологічної галузі уникати будь-якого натяку на суперечки чи несхвалення. Але їхня стриманість дорого коштує. Багато інвесторів у Кремнієвій долині та легіони надзвичайно талановитих інженерів просто відкладають складні проблеми вбік. Покоління висхідних засновників стверджує, що вони активно шукають ризик, але коли справа доходить до більш глибоких інвестицій у суспільні проблеми, обережність часто переважає. Навіщо лізти в геополітику, якщо можна створити інший додаток?
Поширення імперій соціальних мереж систематично монетизує і спрямовує людське прагнення до статусу і визнання.
Зі свого боку, як йдеться у публікації, зовнішньополітичний істеблішмент неодноразово прораховувався у відносинах з Китаєм, росією та іншими країнами, вважаючи, що економічної інтеграції може бути достатньо, щоб підірвати внутрішню підтримку їхніх лідерів і зменшити їхню зацікавленість у військовій ескалації за кордоном. Невдача Давоського консенсусу полягала у відмові від батога на користь лише пряника. Тим часом Сі Цзіньпін з Китаю та інші авторитарні лідери використовують владу так, що політичні лідери на Заході, можливо, ніколи не зрозуміють.
Під час візиту до Сполучених Штатів у 2015 році, виступаючи перед групою ділових і політичних лідерів у торговельній палаті, Сі згадував, як він з любов'ю читав "Старий і море". Він розповів, що коли відвідував Кубу, то їздив на північне узбережжя до Кохімара, яке надихнуло Ернеста Гемінгуея на розповідь про рибалку і його 18-футового марліна. Сі сказав, що "замовив улюблений напій письменника мохіто з листям м'яти і льодом", пояснивши, що він "просто хотів відчути на собі", про що думав Гемінгуей, коли писав свою історію. Лідер нації, яка становить майже п'яту частину населення світу, додав, що "важливо докласти зусиль, щоб отримати глибоке розуміння культур і цивілізацій, які відрізняються від нашої". Автори вважають, що американцям варто було б зробити те ж саме.
Загальне небажання продовжувати розробку ефективних автономних систем озброєнь для військового використання може випливати з обґрунтованого скептицизму щодо влади як такої. Пацифізм задовольняє інстинктивне співчуття до безсилих. Він також звільняє нас, вважають Карп і Заміска, від необхідності орієнтуватися серед складних компромісів, які пропонує світ.
Французька письменниця і колишня радниця прем'єр-міністра країни Хлоя Морен в одному з недавніх інтерв'ю запропонувала протистояти легковажному бажанню "розділити світ на домінуючих і підкорених, гнобителів і пригноблених". Було б помилкою систематично ототожнювати безсилля з побожністю. І підкорені, і поневолювачі однаково здатні до тяжкого гріха.
Автори WP наголошують, що вони не виступають за тонкий і неглибокий патріотизм, який підміняє собою справжні роздуми про переваги країни, а також про її недоліки. Вони лише хочуть, щоб американська технологічна індустрія пам'ятала про важливе питання, яке полягає не в тому, чи буде створене нове покоління автономної зброї зі штучним інтелектом. Питання в тому, хто і з якою метою буде її створювати.
Джерело: Washington Post
