Як зауважує Філліпс О’Брайен у колонці для The Atlantic, Голлівуд уявляв, що комп'ютери запускатимуть ядерні ракети, але самонавідні літальні апарати – це те, що дійсно змінює природу бою.
Війна є страшним прискорювачем гонки озброєнь. До вторгнення росії в Україну два роки тому етика використання наземних мін і касетних боєприпасів була предметом запеклих дебатів, і багато держав підписали угоди про відмову від їх використання. Але коли відчайдушна потреба перемогти бере гору, уряди можуть втратити свої докори сумління і з радістю прийняти колись суперечливі технології.
З цієї ж причини війна між росією та Україною розвіяла будь-які побоювання, які могли бути у обох країн щодо використання штучного інтелекту у військових цілях. Кожна сторона розгортає мільйони безпілотних літальних апаратів (БПЛА) для ведення розвідки й атак на позиції противника та значною мірою покладається на ШІ, щоб керувати їхніми діями. Деякі з цих дронів складаються з невеликих простих комплектів, які можна придбати у цивільних виробників; інші є більш досконалим ударним озброєнням. До останньої категорії належать "Шахеди" іранського виробництва, які росіяни використовували у великій кількості під час ударів по Україні цієї зими. І чим більше безпілотників розгортає армія країни, тим більше людей-операторів намагатимуться впоратися з усіма ними.
Ідея дозволити комп'ютерним алгоритмам керувати смертоносною зброєю непокоїть багатьох людей. Програмування машин, які вирішують, коли і по яких цілях стріляти, може мати жахливі наслідки для некомбатантів. Це повинно викликати інтенсивні моральні дебати. На практиці, однак, війна закриває такі дискусії. І Україна, і росія відчайдушно хочуть використати ШІ, щоб отримати перевагу над супротивником. Інші країни, ймовірно, зроблять подібні розрахунки. Саме тому нинішній конфлікт є прообразом багатьох майбутніх воєн, включно з тими, що можуть спалахнути між США і Китаєм.
До російського вторгнення Пентагон довго підкреслював, що завжди планував залучати людей до процесу прийняття рішень перед застосуванням смертоносної зброї. Але постійно зростаюча роль дронів зі штучним інтелектом над і за лінією фронту в росії та Україні разом зі швидким підвищенням точності та ефективності цих систем озброєнь, свідчить про те, що військові планувальники в усьому світі звикають до того, що колись вважалося немислимим.
Задовго до того, як ШІ почали застосовувати на полях битв, його потенційне використання на війні стало джерелом занепокоєння. У популярному фільмі 1983 року "Військові ігри" Метью Бродерік та Еллі Шіді врятували світ від ядерного знищення, керованого штучним інтелектом. У фільмі американські військові, стурбовані тим, що люди, скомпрометовані своїми мінливими емоціями та докорами сумління, можуть не наважитися запустити ядерну зброю, якщо такий наказ коли-небудь надійде, передали контроль над стратегічним ядерним арсеналом США штучному інтелектуальному суперкомп'ютеру під назвою WOPR, скорочено від War Operation Plan Response – "План військової операції у відповідь". Герой Бродеріка, підліток-хакер, випадково підробив систему, змусивши її думати, що Сполучені Штати зазнали нападу і лише завдяки людському втручанню вдалося обійти систему, перш ніж ШІ запустив відплатну операцію, яка знищила б усе живе на планеті.
Протягом наступних чотирьох десятиліть дебати про зброю, керовану штучним інтелектом, розвивалися приблизно в тому ж напрямку. У лютому 2022 року, того ж місяця, коли росія розпочала повномасштабне вторгнення, журнал Bulletin of the Atomic Scientists опублікував статтю під назвою "Передача ШІ контролю над ядерною зброєю: що може піти не так?" Відповідь на це питання була: все. "Якби штучний інтелект контролював ядерну зброю, всі ми могли б загинути", – розпочав статтю Закарі Калленборн. Фундаментальний ризик полягає в тому, що ШІ може припуститися помилки через недоліки в його програмуванні або в даних, на які він повинен реагувати.
Проте, попри всю увагу до ядерних ракет, що запускаються однією богоподібною системою WOPR, реальний вплив ШІ, як демонструє російсько-українська війна, полягає в тому, що він уможливлює тисячі невеликих систем зі звичайним озброєнням. Кожна така система має власну програму, що дозволяє їй виконувати місії без участі людини, яка спрямовує її. Для українців одним із найнебезпечніших російських безпілотників є "камікадзе" "Ланцет-3" – невеликий, дуже маневрений, його важко виявити, а тим більше збити. "Ланцет" коштує близько 35 тисяч доларів, але може пошкодити бойові танки та інші броньовані бойові машини, які коштують багато мільйонів доларів за штуку. "Безпілотні технології часто залежать від навичок оператора", – писав The Wall Street Journal у листопаді в статті про використання росією "Ланцетів", але, як повідомляється, москва впроваджує більше технологій штучного інтелекту, щоб ці БПЛА могли діяти автономно.
ШІ, про який йдеться, став можливим лише завдяки використанню західних технологій, які росіяни отримують в обхід санкцій за допомогою третіх країн. Технологія виявлення цілей дозволяє безпілотнику розпізнавати форми транспортних засобів тощо, з якими він стикається під час польоту. Як тільки ШІ ідентифікує форму як характерну для української системи озброєнь (наприклад, німецький бойовий танк "Леопард"), комп'ютер БПЛА може фактично наказати "Ланцету" атакувати цей об'єкт, навіть, можливо, контролюючи кут атаки, щоб завдати йому якомога більшої шкоди. Інакше кажучи, кожен "Ланцет" має на борту власну програму WOPR.
У перегонах зі штучним інтелектом українці також ведуть запеклу боротьбу. Заступник міністра оборони України генерал-лейтенант Іван Гаврилюк нещодавно розповів французькій делегації про зусилля своєї країни щодо встановлення систем ШІ на самохідні артилерійські установки "Цезар" французького виробництва. Він пояснив, що штучний інтелект пришвидшить процес виявлення цілей і прийняття рішення про те, який тип боєприпасів для їх ураження найкраще використовувати. Заощаджений час може мати вирішальне значення для життя і смерті, якщо українські артилеристи виявлять російську батарею швидше, ніж росіяни зможуть її виявити. Більше того, така оптимізація за допомогою штучного інтелекту може заощадити багато вогневих засобів. За оцінками Гаврилюка, ШІ може забезпечити 30-відсоткову економію боєприпасів, що є величезною допомогою для країни, яка зараз страждає від нестачі боєприпасів через бездарний Конгрес США.
Зброя зі штучним інтелектом, яку зараз використовують Україна і росія, – це лише дещиця того, що з'явиться на полях битв по всьому світу. Дві найбільші військові потуги світу, Китай і США, безсумнівно, намагаються винести уроки з того, що відбувається в нинішній війні. Протягом останніх двох років Сполучених Штатів відкрито обговорюють одну з найамбітніших своїх ініціатив, пов'язаних зі штучним інтелектом, – проєкт Replicator. Як пояснила на пресконференції у вересні заступниця міністра оборони Кетлін Гікс, Replicator – це спроба використати самонавідне обладнання, щоб "допомогти подолати перевагу Китаю в масі". Вона змалювала картину великої кількості автономних транспортних засобів і безпілотників, які супроводжують американських солдатів в бою, перебираючи на себе багато функцій, які раніше виконували люди.
Ці сили, керовані штучним інтелектом, можливо, на сонячних батареях, щоб звільнити їх від необхідності дозаправлятися – могли б вести розвідку попереду армії, захищати американські війська та навіть доставляти припаси. І хоча Гікс не говорила про це так відкрито, ці безпілотники могли б також атакувати ворожі цілі. Часові рамки, які заступниця очільника Пентагону описала у вересні, були неймовірно амбітними: вона сказала, що сподівається, що Replicator з'явиться в тій чи іншій формі протягом двох років.
Такі програми, як Replicator, неминуче піднімуть питання про ще більш серйозне обмеження ролі людини в майбутній війні. Якщо США і Китай можуть створити тисячі, а можливо, й мільйони одиниць, керованих штучним інтелектом, здатних атакувати, оборонятися, вести розвідку та доставляти вантажі, якою має бути роль людини у прийнятті рішень у такій формі війни? Як війни, що ведуться конкуруючими роями дронів, вплинуть на кількість людських жертв? Етичних головоломок безліч, і все ж, коли починається війна, вони зазвичай розчиняються у прагненні до військової переваги.
У довгостроковій перспективі невпинний розвиток штучного інтелекту може призвести до серйозних змін у тому, як найпотужніші збройні сили оснащують себе і розгортають особовий склад. Якщо бойові дрони дистанційно керуватимуться людьми-операторами на відстані або будуть повністю автономними, яке майбутнє чекає на літаки, що пілотуються людиною? Наявність людини-оператора на борту обмежує тривалість перебування літака в повітрі, вимагає, щоб він був достатньо великим, аби перевозити принаймні одну людину, а часто і багато людей, а також складних систем для підтримки життя і функціонування цих людей. 2021 року британська компанія отримала контракт вартістю 8,7 мільйона доларів на постачання вибухових зарядів для катапультованих крісел пілотів – не самих крісел, і зауважте лише для деяких літаків. Загальна вартість розробки, встановлення та обслуговування систем сидінь, ймовірно, обчислюється дев'ятизначними цифрами. А крісла – це лише невелика частина дуже дорогого літака.
Високоефективний безпілотник зі штучним інтелектом вартістю 35 тисяч доларів порівняно з цим – вигідна угода. Вигадана WOPR ледь не розпочала ядерну війну, але реальні системи ШІ стають дедалі дешевшими й ефективнішими. Війна із використанням штучного інтелекту завітала до нас надовго.
Джерело: The Atlantic
