У Женеві обговорять обмеження для автономної зброї зі штучним інтелектом
У Женеві 16 листопада розпочнеться конференція щодо можливих обмежень і заборон на летальні автономні системи озброєнь. Дискусія відбуватиметься на тлі швидкого розвитку військових технологій зі штучним інтелектом.
Про це повідомляє AFP.
Керівник напряму глобальних ризиків Женевського центру політики безпеки Жан-Марк Ріклі пояснив, що такі системи здатні ідентифікувати, обирати та вражати ціль без втручання оператора під час виконання цих завдань.
На відміну від простіших автоматизованих засобів, сучасні системи можуть реагувати на зміни середовища та обирати цілі, які не були визначені заздалегідь.
Ключовою темою переговорів стане рівень людського контролю над застосуванням сили. США наголошують на необхідності належного людського судження. Франція розмежовує повністю та частково автономні системи й наполягає на контролі військового командира, обсяг якого залежить від типу зброї та умов її використання.
Генеральний секретар ООН Антоніу Гутерріш і президентка Міжнародного комітету Червоного Хреста Мір’яна Сполярич у серпні застерегли, що світ наближається до моральної червоної лінії – автономного вибору людей як цілей машинами.
Водночас експерти вважають порядок денний женевської дискусії надто вузьким. Він не охоплює всіх ризиків військового ШІ, зокрема систем, які формують переліки цілей або рекомендують рішення операторам.
Дослідниця Французького інституту міжнародних відносин Лор де Руссі-Рошонгонд наголосила: важливо визначити, чи людина справді ухвалює самостійне рішення, чи лише формально затверджує рекомендацію алгоритму.
За даними AFP, повністю автономна зброя поки не набула масового поширення. Однак аналітики повідомляють про випадки її застосування росією проти України та США під час операцій проти Ірану.
Ріклі зазначив, що держави можуть розглядати рої автономних дронів як стратегічну перевагу. Натомість керівник Anthropic Даріо Амодеї раніше застерігав, що сучасні передові системи ШІ залишаються недостатньо надійними для керування повністю автономною зброєю.
Нагадаємо, Україна відкриває союзникам доступ до бойових даних для розробки військових систем зі ШІ. За даними NYT, перша міжнародна угода передбачає доступ для 12 британських компаній в обмін на ліцензії для української армії на створене програмне забезпечення.
