Некоммерческая организация из Нидерландов Pax в новом отчете призывает страны договориться о запрете автономных боевых систем на основе искусственного интеллекта. Прогресс здесь намного опережает здравый смысл, и вполне вероятно, что уже в следующей войне санкционировать убийства будут не только люди. А некоторые современные вооружения уже претендуют на то, чтобы называться полноценными "роботами-убийцами".

Quartz в своей публикации акцентирует внимание на двух моментах. Во-первых, в отличие от Google или Amazon, не приходится надеяться, что протесты сотрудников традиционных оборонных подрядчиков как-то ограничат руководство. Сотрудники Pax направили запросы в 50 крупных оборонных предприятий в США, России, Израиле, Китае и Турции, и лишь из восьми получили ответ о наличии ограничений в области применения ИИ для военных нужд. И даже в этих сообщениях далеко не всегда указывалось, что человек должен всегда "нажимать курок" — то есть санкционировать уничтожение цели. Минимум у трех десятков компаний подобных ограничений нет.

"Пока государства не согласуют какой-то режим регулирования или, в идеале, упреждающий запрет, вполне реален страх, что компании запрыгнут в этот поезд и будут разрабатывать, производить и в конечном итоге продавать оружие, которое человек не будет контролировать в достаточной мере", — заявил автор отчета Фрэнк Слайпер.

В оборонительных технологиях это уже вполне допустимо: автоматически открывает огонь, например, противоракетная система Aegis.

Второй важный момент: эксперты Pax уверены, что разработка летальных ИИ-систем идет прямо сейчас минимум в пяти странах мира. В России этим занимается "Ростех".

Слайпер считает наиболее вероятным появление летального ИИ на так называемых "медлительных боеприпасах" — гибриде дрона и ракеты, который может поджидать свою цель в зоне поражения.

Если считать это полноценным "роботом-убийцей", то они уже созданы. Слайпер указал на две разработки.

Первая – турецкой государственной оборонной компании STM. Это автономный атакующий дрон KARGU. Он оснащен системой распознавания лиц, и оператору достаточно выбрать цель предварительно. Quartz сообщает, что в ближайшее время дроны будут испытывать в Сирии.

Вторая разработка – Harpy, ракета-беспилотник класса "выстрелил и забыл" производства израильского государственного концерна Israel Aerospace Industries. Она поражает цели на расстоянии до 100 км, причем может находиться в воздухе до двух часов, ожидая появления цели, а затем взорвать ее в течение нескольких секунд.

В Pax уверены, что принять меры пока есть. Но первый шаг видится невероятно сложным: компаниям предлагают самостоятельно разработать и согласовать корпоративную политику в отношении использующих ИИ средств уничтожения. Это, вполне вероятно, означает, что в реальных военных действиях преимущество получит сторона, которая не отягощена подобными ограничениями.