Стратегія стримування залежить від сприйняття супротивником як можливостей, так і намірів. Сьогодні великі мовні моделі та інші форми генеративного ШІ, що швидко розвиваються, можуть змінити ці уявлення у спосіб, який ми навряд чи можемо передбачити. Машинне навчання стає рутиною в прогнозуванні технічного обслуговування, логістиці, кадрових системах, розрахунку маршрутів і навіть наведенні зброї на ціль. Проте вплив генеративного ШІ на стратегічне мислення може позначитися на глобальній стабільності.
Розглянемо Індо-Тихоокеанський регіон. Американські посадовці в сфері оборони зациклені на збереженні стримування у цьому регіоні, намагаючись переконати ревізіоністські держави, такі як Китай і Північна Корея, що гарантії безпеки США є "залізними", і що агресія призведе до жахливих витрат. Але слова і навіть сигнальні дії можуть бути знехтувані, якщо фахівці з оборонного планування в Пекіні чи Пхеньяні вважатимуть, що вони здатні використовувати інструменти ШІ, щоб передбачити наші дії. Китайські і північнокорейські експерименти з великими мовними моделями можуть змінити їхні уявлення про те, як і коли Сполучені Штати застосують силу для захисту своїх союзників і партнерів, таких як Тайвань або Південна Корея. Стримування ґрунтується на погрозах. Блефувати може бути важко, якщо після обробки величезної кількості даних противник вважає, що він досконало розуміє ваше мислення або дії, і просто не вірить у те, що ви говорите.
Все залежатиме від наборів даних. Генеративний штучний інтелект (ШІ) може створити точне уявлення про небезпеку війни і таким чином посилити стримування. Або ж він може так само легко сфабрикувати хибні уявлення та збільшити ризик виникнення конфлікту. Ми просто не знаємо. І це потенційно дестабілізує ситуацію, іншими словами є непередбачуваним фактором, що збільшує ризик війни.
Розглянемо кілька прикладів. Китай хоче використовувати ШІ як частину політики "розумного стримування", щоб утримати Сполучені Штати від втручання в непередбачуваних ситуаціях, пов'язаних з перетином протоки. Але прикрим наслідком цього є те, що технологія і сліпа впевненість, яку вона вселяє, може стати каталізатором війни, а не стримуючим фактором. Оскільки армія КНР прагне досягти здатності запровадити потенційну блокаду або навіть вторгнутися на Тайвань, роль, яку може відіграти прогностичний ШІ у розрахунках Пекіна, є важливим новим невідомим фактором.
Інакше кажучи, те, що офіційні особи армії Китаю вважають, що ШІ знайшов "мирний" спосіб отримати більший контроль над острівною демократією, не означає, що будь-який американський лідер поводитиметься відповідно до цієї моделі. Це досить складно, коли людина знаходиться в курсі подій, але надмірне покладання на ШІ та машинне навчання у прийнятті стратегічних рішень може призвести до викривлення, сприяти хибній впевненості і навіть перехилити баланс від конфронтації до смертельного конфлікту.
Прогностичні моделі можуть бути спрямовані на те, щоб випереджати і перехитрити індивідуальну поведінку людини під час конфлікту. Ведення війн на рівні машинної швидкості й пізнання – це саме те, що планує робити китайська армія, згідно зі статтею дослідницької групи Інженерного університету Народно-визвольної армії Китаю, опублікованою в грудні 2023 року в китайському академічному журналі "Command Control & Simulation". У дослідженні показано, як Сили стратегічної підтримки армію КНР – військове командування, створене в останнє десятиліття для інтеграції нових технологій для досягнення стратегічних ефектів, експериментують з комерційними великими мовними додатками, подібними до ChatGPT, щоб перехитрити військових супротивника.
Хоча Ernie Bot від Baidu і Spark від iFlytek навряд чи обіцяють вірний шлях до військової перемоги, і незважаючи на зрозуміле бажання технологічних фірм дистанціюватися від військової діяльності армії Китаю, вони є початковим етапом більшого покладання на машинне навчання не лише в конкретних операціях, а й у стратегічному плануванні. Принаймні, китайські та американські оборонні посадовці відновили оборонні переговори на всіх рівнях і починають шукати спільні точки дотику щодо ШІ та його військових наслідків.
Але придивіться уважніше до того, що робить режим Кім Чен Ина. Науковий співробітник Центру досліджень з питань нерозповсюдження Джеймса Мартіна Інституту міжнародних досліджень Міддлбері Х'юк Кім підкреслив, що Північна Корея непомітно розвиває штучний інтелект і машинне навчання як для цивільних, так і для військових цілей. Початкові висновки з його всебічного огляду інформації з відкритих джерел свідчать про використання машинного навчання для підтримки тактичних артилерійських обстрілів у військових іграх. Він припускає, що наступним кроком Пхеньян застосує ШІ і машинне навчання для стратегічного планування.
Це є обґрунтованим припущенням з огляду на пріоритетності військової сили для режиму Кіма. Після розриву дипломатичних відносин зі Сполученими Штатами у 2019 році Північна Корея розпочала стратегічну переорієнтацію. У січні 2021-го Кім оголосив про п'ятирічний план нарощування стратегічних озброєнь. Протягом останнього року він створив міцне оборонне партнерство з росією і відмовився від мирного співжиття з Півднем. Прийняття нової ядерної доктрини, яка передбачає делегування повноважень на запуск, а також нещодавні успішні запуски військового розвідувального супутника, безпілотника, що проник у заборонену для польотів зону президентського офісу Південної Кореї, твердопаливної балістичної ракети середньої дальності з гіперзвуковою боєголовкою, твердопаливної МБР, здатної вразити всі частини Сполучених Штатів, і "підводного ядерного ударного безпілотника" – все це свідчить про те, що основна увага приділяється швидкості, автономності та безпілотності. Швидкість за допомогою штучного інтелекту може зробити стримування неактуальним – тим більше, що з Північною Кореєю не ведеться діалог між військовими.
На стратегічному рівні з'являється все більше доказів того, що наші потенційні супротивники можуть використовувати інструменти штучного інтелекту для тестування стримування, вирівнювання поля бою та отримання наступальної переваги. Ревізіоністські держави, такі як Китай і Північна Корея, можуть вважати ШІ магічним проривним рішенням для виходу з глухого кута, захоплення сусідньої території або випробування хиткого порядку, заснованого на правилах.
Щоб нівелювати цей ризик, три сфери потребують нового політичного аналізу та інвестицій.
По-перше, американські політики повинні зміцнити військові канали з Китаєм і намагатися налагодити подібні дискусії з іншими потенційними супротивниками, зокрема з Північною Кореєю, росією та Іраном. Така співпраця може бути малоймовірною в короткостроковій перспективі, але ми можемо отримати уявлення, навіть намагаючись зрозуміти, що наші потенційні супротивники думають про ці технології. Непрямий підхід може бути корисним, що є ще однією причиною, чому нам потрібно відновити якусь версію американо-китайської Угоди про науково-технічне співробітництво. Зрештою, щодо Китаю метою має бути зменшення ризиків, а не розділення. Обговорення стратегічної ролі інструментів ШІ зменшить ризик.
По-друге, Сполученим Штатам слід більше і краще брати участь у військових іграх, які перевіряють роль генеративного ШІ на рівні стратегічного планування. Низькорівневе машинне навчання та інструменти ШІ довели свою ефективність. Однак вплив прогностичних мовних моделей на людське сприйняття і прийняття стратегічних рішень ще належить проаналізувати – до того, як велика держава припуститься серйозної помилки.
По-третє, США необхідно приділяти більше уваги навчанню і підготовці наступного покоління американських фахівців, які повинні вирішувати питання безпеки й технологій. Якщо ми хочемо вижити в епоху, яку радник з питань національної безпеки Джейк Салліван назвав "епохою руйнівних змін", нам потрібно, щоб лідери і працівники державного, приватного й цивільного секторів краще розуміли складнощі, ризики та можливості нових технологій.
Оборонна дипломатія, військові ігри та освіта самі по собі не зможуть запобігти війнам завтрашнього дня. Але самовдоволений і недбалий підхід до прогнозування того, як потенційні супротивники прийматимуть стратегічні рішення, лише посилює завтрашні ризики.
Джерело: Hudson Institute
