📄23 июля 2024 года Управление по коммуникациям Великобритании (Ofcom) опубликовало дискуссионный документ под названием «Red Teaming for GenAI Harms», в котором обсуждается применение подхода «red teaming» в качестве метода оценки в рамках поиска уязвимостей в моделях генеративного искусственного интеллекта с целью защиты пользователей от вредоносного контента.

🛡Данный подход представляет собой проведение «атаки» на модель с помощью ряда промптов с целью получения информации о возможной генерации запрещенного контента. В документе подчеркивается, что red teaming представляет собой оценочный процесс, структурированный в четыре основных этапа:
1️⃣ создание команды и постановка четких задач;
2️⃣ подача в тестируемую модель ИИ ряда промптов для проведения атаки;
3️⃣ анализ выходных данных с целью определить, какие атаки приводят к генерации вредоносного контента;
4️⃣ принятие определенных мер по результатам исследования.

🗣Однако в документе отмечается, что у red teaming есть несколько недостатков, в частности:
🔴red teaming затруднительно применить в отношении видео-, аудио- и мультимодальных моделей, которые создают сложный для анализа разнообразный контент;
🔴неопытные операторы могут пропустить вредоносный контент, а автоматические классификаторы могут допускать неточности;
🔴red teaming не полностью воспроизводит реальные условия использования ИИ, поскольку проводится в контролируемых условиях;
🔴полученные в результате использования разных моделей итоги тестирования различных команд сложны для проведения сравнительного анализа.

«Однако, несмотря на широкий интерес к red teaming, на данный момент отсутствует четкий консенсус относительно его сильных и слабых сторон, порядка проведения, необходимых навыков и ресурсов, а также конкретных конечных результатов исследования. Без ответов на эти вопросы тем, кто использует GenAI, сложно понять, как именно и следует ли вообще проводить свою собственную red teaming», − подчеркивают авторы документа.


#Школа_МИБ #Новости_МИБ #ИИ #информационная_безопасность

🔓Совместная инициатива ВТО по электронной коммерции близка к завершению переговоров

📄Сопредставители Совместной инициативы по электронной коммерции - Австралия, Япония и Сингапур - опубликовали Соглашение об электронной торговле.

✏️В публикации предлагаются правила открытости электронной торговли, которая включает в себя обязательства по таможенным пошлинам на электронные передачи, открытые правительственные данные, доступ к Интернету и его использование для электронной торговли. В документе также обозначается доверие коммерции, которая охватывает защиту потребителей в Интернете, нежелательные коммерческие электронные сообщения (спам), защиту персональных данных и кибербезопасность. Также освещаются вопросы телекоммуникации, темы прозрачности, сотрудничества и развития.

❕ Как заявляется, соглашение об электронной коммерции станет важным шагом на пути к содействию глобальной гармонизации норм. В документе закреплено обязательство не налагать таможенные пошлины на электронные передачи. Это означает их неприменение даже после истечения срока более широкого моратория.

💬В Соглашении также представлены положения, направленные на удовлетворение потребностей развивающихся стран. Тем не менее, есть сомнения в отношении того, подходят ли эти положения для этой цели, поскольку большинство из них не соответствуют модели Соглашения о содействии торговле (TFA), которая связывает реализацию с существующим потенциалом и «обязательной» технической помощью.

#Новости_МИБ #Школа_МИБ #ВТО #электронная_торговля

🇫🇷 Кибератаки на Францию во время Олимпийских игр в Париже

🔐 Во время повышенной технологической уязвимости французское правительство вместе с агентствами по кибербезопасности активизировало усилия по защите целостности и бесперебойного проведения Олимпийских игр в Париже от потенциальных киберугроз.

🔔Серьезность технологических рисков, с которыми столкнулись Олимпийские игры в Париже, была подчеркнута в июле. Правительственное агентство по кибербезопасности ANSSI предупреждало о том, что не стоит надеяться на предотвращение всех атак, но выразило уверенность в том, что группы безопасности смогут справиться с их угрозой. Так, технологический сбой с участием фирмы по кибербезопасности CrowdStrike нарушил работу вещательных компаний, здравоохранения, банковских услуг и затронул некоторые операции организаторов Парижских игр.

🎯Более того, эксперты по кибербезопасности были обеспокоены способностью так называемых “мягких целей”, таких как отели, рестораны и другие объекты, обеспечивающие летние Игры, противостоять кибератакам.

💬По последней информации, в период с 26 июля по 11 августа ANSSI зарегистрировало 119 сообщений об инцидентах с незначительным воздействием и 22 случая, в ходе которых "злоумышленник" успешно атаковал информационную систему жертвы. По данным агентства, атаки в основном были нацелены на правительственные учреждения, а также спортивную, транспортную и телекоммуникационную инфраструктуру.

📊По данным парижской прокуратуры, место проведения Олимпийских игр Grand Palais и 40 других музеев, входящих в сеть Réunion des Musées Nationaux подверглись атакам посредством программ-вымогателей в начале августа. Тем не менее, как заявляется, это не повлияло ни на одну из информационных систем, задействованных в проведении игр. Власти Парижа и сеть Grand Palais-RMN заявили, что никаких значительных сбоев в ходе проведения олимпийских мероприятий не произошло.

#Школа_МИБ #Новости_МИБ

🇭🇰 Гонконг: рамочная программа конфиденциальности персональных данных для внедрения ИИ

📁 Управление Уполномоченного по конфиденциальности персональных данных опубликовало рамочную программу «Искусственный интеллект: модель системы защиты персональных данных». Рамочная программа ИИ направлена на предоставление практических рекомендаций организациям при внедрении сторонних систем ИИ в соответствии с Постановлением о персональных данных. Новая Рамочная программа ИИ опирается на Руководство 2021 г. по этическому развитию и использованию искусственного интеллекта, смещая внимание с организаций, разрабатывающих собственные модели искусственного интеллекта, на организации, закупающие и внедряющие такие решения.

📌 Рамочная программа ИИ позиционируется как первая всеобъемлющая основа в Азиатско-Тихоокеанском регионе по внедрению ИИ с точки зрения конфиденциальности персональных данных. В то же время Рамочная программа ИИ будет способствовать превращению Гонконга в инновационно-технологический центр и будет способствовать развитию цифровой экономики в районе Большого залива.

📝Согласно Рамочной программе организациям следует рассмотреть возможность принятия следующих мер:
⏺️провести аудит ИИ;
⏺️улучшить управление данными;
⏺️разработать комплексную политику для ИИ;
⏺️подготовиться к настройке системы ИИ;
⏺️инвестировать в обучение сотрудников в области ИИ;
⏺️улучшить взаимодействие с заинтересованными сторонами;
⏺️внедрить надежный мониторинг;
⏺️подготовиться к инцидентам.

#Школа_МИБ #Новости_МИБ #ИИ #Искусственный_интеллект

🇪🇺 Реализация GDPR

⚡️Европейская комиссия опубликовала Второй отчет о применении Общего регламента по защите данных (GDPR).

▶️В отчете в частности говорится о значительном росте правоприменительной деятельности органов по защите данных, включая штрафы за нарушение законности и безопасности обработки, нарушение обработки специальных категорий персональных данных и несоблюдение прав частных лиц.

▶️Отмечается, что органы по защите данных с трудом справляются с большим количеством жалоб пользователей и принимают различные интерпретации GDPR. В документе подробно рассмотрено фрагментарное применение GDPR, включая минимальный возраст для получения согласия ребенка и дополнительные условия для обработки генетических, биометрических и медицинских данных, а также обработки персональных данных, связанных с уголовными приговорами и правонарушениями.

▶️В отчете отмечается, что права субъектов данных часто используются в отношении права доступа и права на перенос данных. Однако остаются проблемы с определением необоснованных или чрезмерных запросов. Документ также указывает, что дети не полностью осознают свои права по GDPR. Также затронуты проблемы защиты данных, с которыми сталкиваются малые и средние предприятия, включая назначение сотрудника по защите данных с необходимым опытом и отсутствие общеевропейских стандартов обучения. Он также рассматривает ситуацию с передачей данных и отмечает, что решения об адекватности становятся все более актуальными, а типичные положения ЕС и корпоративные правила широко применяются.

▶️В заключении отчета предложен ряд рекомендаций, включая поддержка органов по защите данных в обеспечении соответствия, последовательное применение GDPR на всей территории ЕС, сотрудничество между органами по защите данных и отраслевыми регуляторами, а также внедрение эффективных рабочих механизмов для руководящих принципов и мнений.

#Школа_МИБ #EU #GDPR #защита_данных

⚡️ Дайджест по защите персональных данных в АТР

За последний месяц три страны АТР обновили свою политику в области персональных данных.

🇯🇵Япония. В июне Комиссия по защите личной информации, японский орган по защите данных, опубликовала «Промежуточный отчет трехгодичного обзора Закона о защите персональных данных». Промежуточный отчет обобщает обсуждения по вопросам, связанным с Законом о защите персональных данных с ноября 2023 г. по июнь 2024 г.

Промежуточный отчет предлагает ослабить обязательства организаций по отчетности об инцидентах с утечками при условии, что бизнес получит подтверждение третьей стороны о соответствующих гарантиях персональных данных.

Документ предлагает новые правила по работе с биометрическими данными. Авторы относятся к «биометрическим данным» как коду, в котором любые определенные физические характеристики преобразуются для использования в компьютере, чтобы человек мог быть аутентифицирован. Предлагается укрепить существующие обязательства по указанию цели использования личной информации.

Также промежуточный отчет предлагает новые правила для личной информации детей и поднимает вопрос о введении системы административных штрафов. В отличие от других юрисдикций, в которых есть законы о защите данных и соответствующие административные штрафы за нарушения этих законов, в настоящее время в Японии нет такой системы.

🇻🇳 Вьетнам. Власти Вьетнама недавно опубликовали два законопроекта, включая законопроект о защите персональных данных и законопроект об индустрии цифровых технологий. Проект Закона о защите персональных данных закладывает основу для:

- создания, эксплуатации и использования Национальной сводной базы данных в Национальном центре данных;
- требования к конкретным подходам к обработке данных, применимых как к государственным органам, так и к частным предприятиям;
- условий для участия в недавно признанных услугах, связанных с данными.

🇲🇾 Малайзия. Долгожданный законопроект о защите персональных данных (поправка) 2024 г. теперь стал общедоступным. Среди ключевых изменений, которые он вносит, числятся:

- прямые обязательства для обработчиков данных;
- обязательства по уведомлениям об утечке данных;
- требования назначать отдельных сотрудников по защите данных;
- новые права субъектов данных на перенос данных;
- расширенное определение конфиденциальных персональных данных;
- общая правовая основа для трансграничной передачи данных.

#Школа_МИБ #Новости_МИБ #АТР #персональные_данные

TREND MICRO 2024 Midyear Cybersecurity Threat Report: Основные Выводы

Компания Trend Micro опубликовала свой отчёт по киберугрозам за первое полугодие 2024 года.

▶️В отчёте говорится о значительном росте числа атак с использованием ИИ, расширении арсенала киберпреступников и усилении угроз для облачных сервисов и инфраструктуры.
▶️Особое внимание уделяется новым методам социальной инженерии и необходимости более глубокого понимания цифровых рисков.
Отчет от Trend Micro подчеркивает эволюцию киберугроз в 2024 году.
▶️Злоумышленники расширяют свои методы атак, акцентируясь на более сложные способы проникновения, включая использование искусственного интеллекта и облачных технологий. Основные угрозы включают:
 
-  Рост атак на облачные сервисы и IoT: увеличение числа инцидентов безопасности, связанных с облачными и IoT-устройствами.
-  Усложнение методов атак: атаки становятся более изощренными, включая использование ИИ для создания целевых фишинговых атак.
- Угрозы вымогательского ПО: значительное увеличение количества атак с использованием программ-вымогателей.
-  Уязвимости и инциденты нулевого дня: расширение числа уязвимостей и их активное использование злоумышленниками.
 
Подробнее читайте здесь.

#Школа_МИБ #Новости_МИБ #TrendMicro

👥НАБОР ВОЛОНТЕРОВ

16-18 сентября 2024 г. в стенах Дипломатической академии МИД России состоится XVIII Международной форум «Партнерство государства, бизнеса и гражданского общества при обеспечении международной информационной безопасности», организуемый Национальной ассоциацией международной информационной безопасности.

👤Школа МИБ традиционно выступает в качестве соорганизатора, и мы объявляем открытой возможность принять участие в Форуме в качестве волонтеров.

Что требуется?
✅опыт участия в международных мероприятиях и/или их организации;
✅знание английского и/или французского языков для сопровождения иностранных делегаций;
✅пунктуальность и ответственность;
✅заполнение анкеты по ссылке.

#Школа_МИБ #НАМИБ #Возможностидлямолодежи

📢 II Международная молодежная конференция по информационной безопасности

🎓 Школа МИБ совместно с Кафедрой международного права и Клубом международного права Дипломатической академии МИД России приглашают Вас принять участие в научно-практической конференции «II Международная молодежная конференция по информационной безопасности».

🗓 Конференция состоится 24 октября 2024 г. в Дипломатической академии МИД России в гибридном формате.

📌 В рамках мероприятия планируется проведение следующих секций:
1. Тенденции и перспективы ИКТ-повестки.
2. Обеспечение информационной безопасности: международное измерение.
3. Актуальные проблемы информационной безопасности в контексте международного права.
4. Фактор искусственного интеллекта в международных отношениях и мировой экономике: между мифом и реальностью.
5. Средства массовой информации в цифровую эпоху.
6. Цифровая дипломатия: от истории к практике.

Окончательный перечень секций будет сформирован по итогам поданных заявок.

🌐 В программе также запланирован круглый стол Молодежного совета Координационного центра доменов .RU/.РФ по тематике управления интернетом.

❗️ Для участия в конференции с докладом необходимо зарегистрироваться и направить тезисы выступления до 17 октября 2024 г., заполнив форму по ссылке.

📜 По результатам работы на секциях и круглом столе будет сформирован сборник тезисов в электронном формате под грифом Дипломатической академии МИД России. Тезисы для публикации в сборнике по итогам круглых столов принимаются в случае их соответствия Правилам предоставления тезисов для публикации в электронном сборнике тезисов по итогам «II Международной молодежной конференции по информационной безопасности» до 22 ноября 2024 г. включительно.

🎉 5 лучших работ будут опубликованы в научном периодическом электронном журнале «Вестник учёных-международников».

🏆 Авторы лучших работ по проблематике угроз в области международной информационной безопасности станут лауреатами премии Национальной ассоциации международной информационной безопасности.

Если Вы хотите стать партнёром конференции, просим обращаться к Исполнительной дирекции Школы МИБ по электронной почте: [email protected]

#Школа_МИБ #МИБ_анонс #Конференция #МероприятияМИБ

🇺🇳Консультативный орган по ИИ представил доклад «Управление ИИ в интересах человечества»

📄В своем докладе Консультативный орган высокого уровня по ИИ опубликовала семь рекомендаций по рассмотрению и управлению рисками, связанными с искусственным интеллектом.

🌎В документе содержится призыв к ООН заложить основы для первой «глобально инклюзивной и распределенной архитектуры управления ИИ на основе международного сотрудничества», а также предложение к правительствам и заинтересованным сторонам работать вместе в управлении ИИ для содействия развитию и защите прав человека.

🔔Консультативный орган также отметил отсутствие глобальной структуры для управления ИИ и наличие пробелов между странами в регулировании новых технологий и в связи с этим выдвинул семь рекомендаций по глобальному управлению ИИ.

1️⃣Создание международной научной группы по ИИ: данная группа, как заявляется, будет стремиться предоставлять беспристрастные, надежные научные знания об ИИ, а также устранять пробелы в знаниях и выпускать ежегодные отчеты о тенденциях, возможностях и рисках ИИ.
2️⃣Новый политический диалог по управлению ИИ: новый диалог под эгидой ООН будет включать межправительственные и многосторонние встречи для содействия достижению общей позиции и нормативной совместимости, основанной на правах человека. Проводить его рекомендуется два раза в год.
3️⃣Обмен стандартами ИИ: рекомендуется создать центр обмена стандартами ИИ, который объединял бы представителей национальных и международных организаций, занимающихся разработкой стандартов, технологических компаний, гражданского общества и представителей международной научной группы.
4️⃣Глобальная сеть по наращиванию потенциала: предлагается создать сеть для наращивания потенциала в области ИИ, которая объединила бы ряд сотрудничающих центров наращивания потенциала, связанных с ООН, и предоставила бы ключевым участникам экспертные знания, вычислительную технику и данные для обучения ИИ.
5️⃣Глобальный фонд для ИИ: усилия данного фонда предполагается направить на устранение пробелов в потенциале и сотрудничестве, расширяя возможности местных усилий для достижения целей устойчивого развития.
6️⃣Глобальная система данных ИИ: предлагается проведение стандартизации определений, принципов и управления, связанных с данными, обеспечивая прозрачность и подотчетность в системах ИИ.
7️⃣ Офис ИИ: предлагается учредить подразделение по вопросам ИИ в Секретариате ООН для поддержки и координации реализации вышеуказанных предложений.

❔Доклад Консультативного органа позиционируется как дорожная карта для управлению ИИ на благо всего человечества. Тем не менее, документ имеет как однозначно позитивные пункты, направленные на развитие международного сотрудничества в области ИИ, так и пункты вызывающие сомнения.

#Школа_МИБ #ООН #ИИ

💡Делимся с вами комментариями и предложениями Школы МИБ по докладу Консультативного органа по ИИ «Управление ИИ в интересах человечества». Материалы были направлены в Канцелярию посланника Генерального секретаря ООН по вопросам технологий в ходе сбора мнений.

#Школа_МИБ #ООН #ИИ

⬇️⬇️⬇️

🇺🇳ЮНИДИР: семинар по технологиям и безопасности облачных вычислений

📌 30 сентября 2024 г. Институт Организаций Объединенных Наций по исследованию проблем разоружения (ЮНИДИР) проведет cеминар по технологиям и безопасности, посвященный облачным вычислениям в контексте изучения последствий для международной безопасности и государственного управления.

В рамках семинара планируется проведение следующих сессий:
⏺11:10 – 12:10 - технологический завтрак по облачным вычислениям;
⏺12:30 – 15:30 - диалог с участием заинтересованных сторон по облачным вычислениям, международной безопасности и управлению.

🔗 Более подробная информация о мероприятии по ссылке.

📍 Гибридный формат: очно (в штаб-квартире ООН в Нью-Йорке) и онлайн (ссылка для доступа к мероприятию будет отправлена по электронной почте зарегистрированным участникам ближе к мероприятию).

ℹ️ Для участия в мероприятии необходимо зарегистрироваться до 28 сентября 2024 г.

#Школа_МИБ #Мероприятия_МИБ #МИБ_анонс #ЮНИДИР