Дроны-убийцы, управляемые искусственным интеллектом, становятся реальностью

Обеспокоенные рисками войны роботов, некоторые страны хотят новых правовых ограничений, но США и другие крупные державы сопротивляются.

Это похоже на что-то из научной фантастики: стаи роботов-убийц, которые самостоятельно выслеживают цели и способны прилететь, чтобы убить, без какого-либо вмешательства человека.

Но это приближается к реальности, поскольку Соединенные Штаты, Китай и ряд других стран добиваются быстрого прогресса в разработке и внедрении новых технологий, которые потенциально могут изменить характер войны, передав решения о жизни и смерти автономным дронам, оснащенным искусственным интеллектом. Программы.

Эта перспектива настолько беспокоит многие другие правительства, что они пытаются сосредоточить на ней внимание, предлагая ООН ввести юридически обязательные правила использования того, что военные называют смертоносным автономным оружием.

«Это действительно один из наиболее важных переломных моментов для человечества», — сказал в интервью Александр Кментт, главный переговорщик Австрии по этому вопросу. «Какова роль людей в применении силы — это абсолютно фундаментальный вопрос безопасности, юридический вопрос и этический вопрос».

Но хотя ООН предоставляет правительствам платформу для выражения своей озабоченности, маловероятно, что этот процесс приведет к появлению новых существенных юридически обязательных ограничений.

Соединенные Штаты, Россия, Австралия, Израиль и другие утверждают, что на данный момент нет необходимости в новом международном праве, в то время как Китай хочет определить любые юридические ограничения настолько узко, что это не будет иметь большого практического эффекта, говорят сторонники контроля над вооружениями.

В результате дебаты завязались в процедурный узел с небольшими шансами на прогресс в отношении юридически обязательного мандата в ближайшее время.

«Мы не видим, что сейчас действительно подходящее время», — сказал Константин Воронцов, заместитель главы российской делегации в ООН, дипломатам, которые недавно собрались в подвальном конференц-зале штаб-квартиры ООН в Нью-Йорке.

Дебаты о рисках искусственного интеллекта в последние дни привлекли новое внимание в связи с борьбой за контроль над OpenAI , возможно, ведущей в мире компанией в области искусственного интеллекта, лидеры которой, похоже, разделились во мнениях по поводу того, принимает ли фирма в достаточной степени во внимание опасности этой технологии. А на прошлой неделе официальные лица из Китая и США обсудили связанный с этим вопрос: потенциальные ограничения на использование ИИ при принятии решений о размещении ядерного оружия.

На этом фоне вопрос о том, какие ограничения следует наложить на применение смертоносного автономного оружия, приобрел новую актуальность и на данный момент сводится к тому, достаточно ли для ООН простого принятия необязательных руководящих принципов.

Г-н Доросин и члены американской делегации, в которую входит представитель Пентагона, утверждают, что вместо нового международного закона ООН должна разъяснить, что существующие международные законы о правах человека уже запрещают странам использовать оружие, направленное против гражданского населения или вызывающее им причинен непропорциональный вред.

Но позиция, занятая крупными державами, только усилила беспокойство среди небольших стран, которые говорят, что они обеспокоены тем, что смертоносное автономное оружие может стать обычным явлением на поле боя до того, как будет достигнуто какое-либо соглашение о правилах его использования.

«Похоже, что самоуспокоенность больше не является вариантом», — заявил посол Пакистана Халил Хашми во время встречи в штаб-квартире ООН. «Окно возможностей для действий быстро сокращается, поскольку мы готовимся к технологическому прорыву».

Быстрый прогресс в области искусственного интеллекта и интенсивное использование дронов в конфликтах на Украине и на Ближнем Востоке сделали эту проблему еще более актуальной.

Пока что дроны обычно полагаются на людей-операторов для выполнения смертоносных миссий, но разрабатывается программное обеспечение, которое вскоре позволит им самостоятельно находить и выбирать цели.