⚡️Дорогие друзья!

Мы рады представить Вам наш обновленный логотип. Он был создан при помощи искусственного интеллекта и мы не можем скрыть своего восторга от результата.

🎨В этой заметке Департамент СМИ рассказывает о процессе создания.

#ChatGPT #Midjourney #AI #ИИ

🇺🇳Понимание рисков и выстраивание путей к принятию мер по укреплению доверия

Данный исследовательский отчет предлагает таксономию рисков искусственного интеллекта (ИИ) в контексте международного мира и безопасности. Он является частью проекта ЮНИДИР по мерам укрепления доверия в области ИИ и направлен на составление карты рисков, связанных с технологией, которая может послужить основой для будущих обсуждений и выработки мер укрепления доверия. Таксономия классифицирует риски на две большие группы:

1️⃣Риски технологии ИИ, которые включают риски безопасности (возможности и ограничения систем ИИ), риски безопасности (преднамеренные атаки, направленные на то, чтобы скомпрометировать способ обучения или действия систем ИИ) и риски взаимодействия между человеком и машиной (неправильное использование систем ИИ из-за сложных динамик, возникающих при работе с ними).

2️⃣Риски ИИ для глобальной безопасности, которые включают три широкие категории рисков: ошибки расчета (использование ИИ, которое может привести к принятию решений о применении силы или открывать путь к ухудшению международных отношений), эскалация (потенциал ИИ привести к преднамеренному или непреднамеренному эскалированию конфликта) и распространение (риски неправильного использования ИИ для распространения нового оружия, включая оружие массового поражения).

Отчет предоставляет технические разъяснения о различных категориях рисков и контекстуальный анализ их потенциального влияния на глобальную безопасность. В настоящее время он не предоставляет варианты для дискуссий о будущих мерах доверия и не ставит целью определение приоритетных областей в отношении конкретных рисков. Отчет предоставляет руководство для понимания рисков, которое может стать основой для будущих дискуссий.

#Школа_МИБ #ЮНИДИР #Информационная_безопасность #AI #ИИ #ЧтоПочитать_МИБ

🔴Совет Европы одобрил конвенцию об искусственном интеллекте

📄В «Рамочной конвенции Совета Европы об искусственном интеллекте, правах человека, демократии и верховенстве закона», как заявляется, заложена правовая основа для регулирования систем ИИ, позволяющая устранить риски их использования и определяющая подход к разработке с учетом негативных последствий.

🤖Документ охватывает использование ИИ в государственном и частном секторе. Для регулирования частного сектора изложены два способа по соблюдению принципов документа:
1️⃣принять на себя обязательства конвенции;
2️⃣придерживаться национальных и международных обязательств по правам человека, демократии и верховенства закона и принять другие меры для соблюдения договора.

▶️В договоре устанавливаются требования надзора, меры по выявлению, смягчению и предотвращению возможных рисков за использованием систем ИИ, а также запрет на использование тех систем, которые могут быть несовместимы со стандартами прав человека.

💬В конвенции прописана ответственность за нарушение прав неприкосновенности частной жизни. В случае такого нарушения участники договора обязаны обеспечить правовую защиту для тех, чьи права человека были нарушены в связи с использованием систем ИИ.

❕Однако участники договора освобождаются от его обязательств при осуществлении деятельности, связанной с защитой национальных интересов безопасности, если такая деятельность не нарушает международное право и не подрывает демократические институты. Также конвенция не ограничивает проведения научно-исследовательских работ, связанных с тестированием ИИ, если они не нарушают права человека и демократии.

Конвенция выступает первым международным юридически обязательным договором, «целью которого выступает обеспечение соблюдения прав человека, верховенства закона и правовых стандартов демократии при использовании систем ИИ».

#Школа_МИБ #Информационная_безопасность #Искусственный_интеллект #AI #Новости_МИБ