🇺🇳Понимание рисков и выстраивание путей к принятию мер по укреплению доверия

Данный исследовательский отчет предлагает таксономию рисков искусственного интеллекта (ИИ) в контексте международного мира и безопасности. Он является частью проекта ЮНИДИР по мерам укрепления доверия в области ИИ и направлен на составление карты рисков, связанных с технологией, которая может послужить основой для будущих обсуждений и выработки мер укрепления доверия. Таксономия классифицирует риски на две большие группы:

1️⃣Риски технологии ИИ, которые включают риски безопасности (возможности и ограничения систем ИИ), риски безопасности (преднамеренные атаки, направленные на то, чтобы скомпрометировать способ обучения или действия систем ИИ) и риски взаимодействия между человеком и машиной (неправильное использование систем ИИ из-за сложных динамик, возникающих при работе с ними).

2️⃣Риски ИИ для глобальной безопасности, которые включают три широкие категории рисков: ошибки расчета (использование ИИ, которое может привести к принятию решений о применении силы или открывать путь к ухудшению международных отношений), эскалация (потенциал ИИ привести к преднамеренному или непреднамеренному эскалированию конфликта) и распространение (риски неправильного использования ИИ для распространения нового оружия, включая оружие массового поражения).

Отчет предоставляет технические разъяснения о различных категориях рисков и контекстуальный анализ их потенциального влияния на глобальную безопасность. В настоящее время он не предоставляет варианты для дискуссий о будущих мерах доверия и не ставит целью определение приоритетных областей в отношении конкретных рисков. Отчет предоставляет руководство для понимания рисков, которое может стать основой для будущих дискуссий.

#Школа_МИБ #ЮНИДИР #Информационная_безопасность #AI #ИИ #ЧтоПочитать_МИБ

🇪🇺EC на пути принятия первого закона о регулировании ИИ

Страны - члены Евросоюза и Европарламент достигли соглашения по закону о регулировании ИИ. Данный закон является одной из самых первых попыток юридически регламентировать использование ИИ.

Как заявляется, важность данного документа заключается в том, что он имеет потенциал установить новые ориентиры для стран, которые стремятся оградить себя от возможных рисков его использования: автоматизации рабочих мест, распространения дезинформации в Интернете и угрозы национальной безопасности. Стоит отметить, что он является широко критикуется. Помимо этого, закону необходимо пройти ещё несколько заключительных стадий утверждения. Как ожидается, это может произойти в 2026 году, хотя некоторые положения начнут действовать раньше.

Закон распределяет приложения ИИ по трем категориям риска:

1️⃣Приложения и системы, которые создают прямой риск, такие как управляемый правительством социальный скоринг, используемый в Китае, данные системы запрещаются;

2️⃣Приложения с высоким уровнем риска, такие как инструмент сканирования резюме, который ранжирует соискателей на работу, они подпадают под особые требования законодательства;

3️⃣Приложения, которые явно не запрещены или не включены в список приложений с высоким уровнем риска, такие в значительной степени остаются нерегулируемыми.

Отмечается, что европейские законодатели сосредоточили свое внимание на наиболее уязвимых сферах применения ИИ. Создатели крупнейших систем ИИ (например, чат-бот ChatGPT) столкнутся с новыми требованиями к прозрачности. Чат-боты и ПО, создающее “deep-fakes”, должны будут четко указывать, что изображение было сгенерировано ИИ, согласно проекту закона. Также будут введены ограничения на использование ИИ правоохранительными органами для распознавания лиц. В случае злоупотребления, компаниям грозят штрафы.

С краткой презентацией закона, подготовленной Европейской комиссией, можно ознакомиться здесь.

#ШколаМИБ #НовостиМИБ #ИИ #ЕС

🧠II Глобальный форум по этике ИИ

🌎5 и 6 февраля 2024 г. в Словении состоялся 2-й Глобальный форум по этике искусственного интеллекта, проводимый под эгидой ЮНЕСКО.

💬Дискуссии были сосредоточены вокруг проблематики международного сотрудничества и создания этических принципов и стандартов. Эти меры, как заявляется, призваны направлять разработку и применение ИИ, обеспечивая его соответствие глобальному благосостоянию и человеческим ценностям.

📌В ходе форума ЮНЕСКО запустила ряд новых инициатив, включая сеть Экспертов по этике искусственного интеллекта без границ и Глобальную обсерваторию по этике ИИ.

📌Помимо этого, в ходе форума 8 технологических компаний в своем совместном заявлении «Приверженность компаний частного сектора сотрудничеству с ЮНЕСКО в создании этичного и ответственного ИИ» обязались создавать «более этичный» ИИ. Обязательство также включает усилия фирм по укреплению своих технических возможностей в области этики и искусственного интеллекта, такие как разработка и внедрение рекомендованного ЮНЕСКО «Инструмента оценки этического воздействия». Сотрудничество между государственным и частным секторами позиционируется как ключ к использованию ИИ на общее благо.

Расскажем подробнее об упомянутых инициативах в наших дальнейших постах.

#ШколаМИБ #Новости_МИБ #Новости_ИИ #ИИ

🇺🇳Большие языковые модели и международная безопасность

📆 16 апреля 2024 г. Институт Организации Объединенных Наций по исследованию проблем разоружения (ЮНИДИР) проведет свое первое мероприятие, посвященное большим языковым моделям и международной безопасности.

⚙️ Большие языковые модели (LLM) - это системы искусственного интеллекта, которые работают с языком. С 2022 года популярность LLM значительно возросла благодаря быстрому повышению производительности и простоте использования в различных областях. LLM работают как базовые модели, что означает, что они обладают широкими возможностями, масштабируемы и могут быть адаптированы к моделям, специфичным для конкретных задач.

Влияние LLM на международную безопасность заслуживает своевременного и более тщательного изучения. Хотя уже высказывались некоторые опасения в связи с потенциальным использованием LLM для проведения широкомасштабных кампаний по дезинформации, области применения этой технологии гораздо шире, как и возможные риски, что вызывает серьезные опасения.

На мероприятии будет представлен обзор значения LLM для международной безопасности, а также рассмотрены возникающие области рисков.

📎 Более подробная информация по ссылке.

🌐 Формат: онлайн.

🕐 Время: 17:30 -18:45 по московскому времени.

ℹ️ Для участия в конференции необходимо зарегистрироваться по ссылке до 15 апреля.

#Школа_МИБ #Мероприятия_ИИ #ИИ #Языковыемодели #ЮНИДИР

🌐 Доклад ОЭСР по ИИ, управлению данными и конфиденциальности

🧠 26 июня 2024 года ОЭСР в рамках серии «OECD Artificial Intelligence Papers» выпустила доклад «ИИ, управление данными и конфиденциальность: взаимодействие и области международного сотрудничества».

❗️Недавние достижения в области ИИ, такие как появление генеративного ИИ, подняли важные вопросы об использовании входных и выходных данных, качестве данных и доступности обучающих данных для моделей ИИ. Эти проблемы подчеркивают необходимость защиты прав и интересов всех вовлеченных сторон, особенно отдельных лиц, чьи данные собираются, используются и генерируются ИИ-системами.

💬В докладе исследуется взаимосвязь ИИ и конфиденциальности, а также способы, с помощью которых соответствующие политические сообщества могут работать для устранения рисков в данной сфере, особенно в связи с появлением генеративного ИИ. Также представлены ключевые выводы и рекомендации по укреплению взаимодействия международного сотрудничества в области ИИ, управления данными и конфиденциальности.

🔃Авторы доклада сопоставляют принципы, изложенные в Руководстве ОЭСР по обеспечению конфиденциальности, с Руководящими принципами ОЭСР по ИИ, и анализируют национальные и региональные инициативы, и предлагают потенциальные области для сотрудничества.

🛡В заключении подчеркивается важность интеграции достижений в области ИИ с надежными мерами по управлению данными и защите конфиденциальности. Согласно докладу, такой целостный подход имеет решающее значение для обеспечения того, чтобы ИИ-технологии можно было использовать для инноваций, одновременно защищая права личности и укрепляя доверие общественности к приложениям искусственного интеллекта.

#ШколаМИБ #ОЭСР #искусственныйинтеллект #ИИ #конфиденциальность #защитаданных

🇺🇳Технологический завтрак: исследование технологического ландшафта микрочипов

📆 9 июля 2024 г. Институт Организации Объединенных Наций по исследованию проблем разоружения (ЮНИДИР) проведет сайд-ивент РГОС ООН - технологический завтрак по проблематике "Исследование технологического ландшафта микрочипов".

⚙️Достижения в различных областях технологий, таких как нанотехнологии, микрочипы, облачные вычисления и 5G, меняют цифровой ландшафт и стимулируют инновации в области информационно-коммуникационных технологий (ИКТ), искусственного интеллекта (ИИ) и автономных систем. Несмотря на достигнутый прогресс в решении проблем, связанных с последствиями ИКТ и ИИ для безопасности, в рамках различных многосторонних процессов, относительно меньшее внимание уделяется базовым технологиям, лежащим в основе их развития.

Чтобы восполнить этот пробел, ЮНИДИР организует серию технологических завтраков для изучения последствий применения конкретных технологий для международной безопасности, опираясь на результаты исследований, опубликованных в сборнике "Передовые технологии и международная безопасность: сборник" (издание 2023 года). В рамках технологических завтраков состоится вторая сессия этой серии. Она будет посвящена последним достижениям в области технологии микрочипов. Микрочипы являются основой современной электроники и вычислительных систем, выполняя такие важные функции, как обработка информации, хранение данных и выполнение инструкций. Эти достижения обладают значительным потенциалом для будущих приложений ИИ, но в равной степени представляют угрозу для международной безопасности, особенно в том, что касается уязвимостей цепочки поставок, двойного назначения технологии и угроз кибербезопасности.

📎Более подробная информация о мероприятии по ссылке.

🌐Онлайн формат: ссылка для подключения будет предоставлена зарегистрированным участникам по электронной почте за день до начала мероприятия.

ℹ️Для участия в мероприятии необходимо зарегистрироваться до 8 июля 2024 г.

#Школа_МИБ #Мероприятия_МИБ #ИКТ #ИИ #микрочипы #ЮНИДИР