🔴Совет Европы одобрил конвенцию об искусственном интеллекте

📄В «Рамочной конвенции Совета Европы об искусственном интеллекте, правах человека, демократии и верховенстве закона», как заявляется, заложена правовая основа для регулирования систем ИИ, позволяющая устранить риски их использования и определяющая подход к разработке с учетом негативных последствий.

🤖Документ охватывает использование ИИ в государственном и частном секторе. Для регулирования частного сектора изложены два способа по соблюдению принципов документа:
1️⃣принять на себя обязательства конвенции;
2️⃣придерживаться национальных и международных обязательств по правам человека, демократии и верховенства закона и принять другие меры для соблюдения договора.

▶️В договоре устанавливаются требования надзора, меры по выявлению, смягчению и предотвращению возможных рисков за использованием систем ИИ, а также запрет на использование тех систем, которые могут быть несовместимы со стандартами прав человека.

💬В конвенции прописана ответственность за нарушение прав неприкосновенности частной жизни. В случае такого нарушения участники договора обязаны обеспечить правовую защиту для тех, чьи права человека были нарушены в связи с использованием систем ИИ.

❕Однако участники договора освобождаются от его обязательств при осуществлении деятельности, связанной с защитой национальных интересов безопасности, если такая деятельность не нарушает международное право и не подрывает демократические институты. Также конвенция не ограничивает проведения научно-исследовательских работ, связанных с тестированием ИИ, если они не нарушают права человека и демократии.

Конвенция выступает первым международным юридически обязательным договором, «целью которого выступает обеспечение соблюдения прав человека, верховенства закона и правовых стандартов демократии при использовании систем ИИ».

#Школа_МИБ #Информационная_безопасность #Искусственный_интеллект #AI #Новости_МИБ

🇺🇸 Обновленная Стратегия НАТО по искусственному интеллекту

📄10 июля 2024 г. на официальном ресурсе НАТО было опубликовано резюме обновленной Стратегии по искусственному интеллекту (полная версия документа традиционно не опубликована). Стратегия отражает ряд изменений, внесенных в предыдущую версию документа от октября 2021 г., с учетом технологических прорывов последних лет в области ИИ.

🗣НАТО обеспокоено возможностями применения ИИ, но стремится им обладать.
В обновленном документе указано, что сгенерированный контент может использоваться с целью посеять разногласия и смятение в Альянсе, демобилизовать и деморализовать общества и военные силы во время конфликтов, провести информационные операции с использованием ИИ для оказания влияния на результаты выборов, распространения дезинформации, а также снижения доверия к институтам и властям, имеющим важное значение для Альянса. Однако в то же время Стратегия подчеркивает, что для НАТО жизненно важно как можно скорее использовать ИИ-технологии там, где это возможно.

🗣НАТО будет стремиться влиять на разработку международных норм по ИИ. В версии 2021 г. были представлены «Принципы ответственного использования ИИ в обороне», а именно «законность, ответственность и подотчетность, объяснимость и прослеживаемость, надежность, управляемость и смягчение предвзятости». Новая версия гласит, что НАТО должно оставаться сторонником ответственного применения ИИ путем применения своих ресурсов с целью оказания влияния на международные нормы и стандарты.

🗣Альянс будет способствовать совместимости систем ИИ стран-членов. Отмечается, что ИИ-технологии будут интегрированы в процесс планирования обороны НАТО. В рамках достижения данной цели Альянс будет предпринимать меры, направленные на оперативную совместимость систем ИИ всех стран-членов. Также будут приняты меры по решению проблемы конвергенции ИИ и других новых прорывных технологий.

🗣Важным приоритетом для НАТО станет обеспечение безопасности систем ИИ. Профильные структуры НАТО планируют привлекать квалифицированных тестировщиков из частного сектора, госорганов и научных учреждений для аккредитации и сертификации систем ИИ. НАТО также намерено принять общие для Альянса методы тестирования, оценки, верификации и валидации ИИ (TEV&V), применяемые в Катализаторе оборонных инноваций для Северной Атлантики (Defence Innovation Accelerator for the North Atlantic (DIANA).

👀 Обращает на себя внимание, что обновленная стратегия стремится не только учесть технологические прорывы в области ИИ, но также навязать странам НАТО англо-американский подход к проблеме регулирования и стандартизации ИИ. Данный нарратив, в частности, коррелирует с подходом, предложенным главным научным советником НАТО Б. Уэлшем по созданию сборника передовых практик использования цифровых технологий, основанного на опыте США и Великобритании. Помимо этого, Стратегия во многом соотносится с намерениями США по дальнейшему изучению применения автономных и управляемых ИИ кибервозможностей, что было заявлено в Киберстратегии министерства обороны США в 2023 г.

🖋Школа МИБ представляет авторский перевод резюме Стратегии НАТО по ИИ на русский язык.

#Школа_МИБ #Новости_МИБ #НАТО #ИИ #Искусственный_интеллект