🔠Роботы-убийцы Пентагона готовы к бою: как мир отреагирует на новую гонку вооружений?

***
В свете активных действий Департамента обороны США по модернизации вооруженных сил с помощью полностью автономных дронов и систем вооружения, критики выражают опасения относительно возможного начала новой гонки вооружений, что может существенно увеличить риск массового уничтожения, ядерной войны и гражданских жертв.
Инициатива, получившая название "Репликатор", представляет собой масштабное усилие по масштабированию существующих технологий с целью создания будущего вооруженного контингента, в котором полностью автономные системы будут внедрены в летающие дроны, воздушные суда, водные суда и системы обороны, объединенные через компьютерный центр для синхронизации и управления подразделениями.
Критики называют автономное вооружение "убийственными роботами" или "роботами-убийцами", поскольку они управляются искусственным интеллектом и технически могут самостоятельно уничтожать цели без человеческой помощи. Однако международные договоры, регулирующие использование такого вооружения, отсутствуют, что вызывает тревогу у правозащитных групп.
Анна Хейр, руководитель исследований автономных систем вооружения в организации Future of Life Institute, заявила: "Это действительно ящик Пандоры, который мы начинаем открывать, и будет очень трудно вернуться назад".
Заместитель министра обороны Кэтлин Хикс впервые объявила о "Репликаторе" в конце августа на оборонной конференции в Вашингтоне, назвав его "игровой сменой" инициативой, которая противостоит растущим амбициям Китая. Она также заявила, что инициатива будет соответствовать этическим рекомендациям по полностью автономным системам.
Основные опасения связаны с тем, что решение о начале войны может быть принято легче, если мир будет сильно зависеть от AI-вооружения, алгоритмы не должны принимать человеческие жизни, поскольку они не могут понять их ценность и могут быть предвзятыми.
Эти руководящие принципы основаны на директивах Пентагона по применению ИИ в военных действиях, обновленных в январе 2023 года. Они призваны гарантировать, что старшие командующие и ответственные лица тщательно рассматривают и одобряют новые виды вооружения. Согласно этой политике, прежде чем система вооружения на базе ИИ сможет применить силу, необходимо участие человека для принятия решения.
В отчете Исследовательской службы Конгресса подчеркивается, что выражение "гибкий термин" не всегда применимо в различных контекстах. Также указывается, что фраза "человеческое суждение о применении силы" не подразумевает непосредственное участие человека, а касается общих решений о развертывании сил.

Источник