🧠II Глобальный форум по этике ИИ

🌎5 и 6 февраля 2024 г. в Словении состоялся 2-й Глобальный форум по этике искусственного интеллекта, проводимый под эгидой ЮНЕСКО.

💬Дискуссии были сосредоточены вокруг проблематики международного сотрудничества и создания этических принципов и стандартов. Эти меры, как заявляется, призваны направлять разработку и применение ИИ, обеспечивая его соответствие глобальному благосостоянию и человеческим ценностям.

📌В ходе форума ЮНЕСКО запустила ряд новых инициатив, включая сеть Экспертов по этике искусственного интеллекта без границ и Глобальную обсерваторию по этике ИИ.

📌Помимо этого, в ходе форума 8 технологических компаний в своем совместном заявлении «Приверженность компаний частного сектора сотрудничеству с ЮНЕСКО в создании этичного и ответственного ИИ» обязались создавать «более этичный» ИИ. Обязательство также включает усилия фирм по укреплению своих технических возможностей в области этики и искусственного интеллекта, такие как разработка и внедрение рекомендованного ЮНЕСКО «Инструмента оценки этического воздействия». Сотрудничество между государственным и частным секторами позиционируется как ключ к использованию ИИ на общее благо.

Расскажем подробнее об упомянутых инициативах в наших дальнейших постах.

#ШколаМИБ #Новости_МИБ #Новости_ИИ #ИИ

👥Дорогие слушатели и коллеги!

Все долго ждали этого, и наконец мы объявляем о наборе в Исполнительную дирекцию Школы международной информационной безопасности ИАМП ДА МИД России.

Открыты волонтерские позиции в:
🔹Департамент СМИ;
🔹Департамент грантов;
🔹Департамент научной деятельности;
🔹Департамент внешних и внутренних связей.

Что требуется?

✅наличие знаний по информационной проблематике или желание изучать ее;
✅опыт участия в международных мероприятиях и/или их организации;
✅знание английского и/или иных иностранных языков;
✅пунктуальность и ответственность;
✅заполнение анкеты по ссылке до 17 апреля 2024 г.

Прием в Исполнительную дирекцию Школы МИБ состоится по итогам онлайн собеседований с кандидатами.

#ШколаМИБ #Возможностидлямолодежи

🌐 Доклад ОЭСР по ИИ, управлению данными и конфиденциальности

🧠 26 июня 2024 года ОЭСР в рамках серии «OECD Artificial Intelligence Papers» выпустила доклад «ИИ, управление данными и конфиденциальность: взаимодействие и области международного сотрудничества».

❗️Недавние достижения в области ИИ, такие как появление генеративного ИИ, подняли важные вопросы об использовании входных и выходных данных, качестве данных и доступности обучающих данных для моделей ИИ. Эти проблемы подчеркивают необходимость защиты прав и интересов всех вовлеченных сторон, особенно отдельных лиц, чьи данные собираются, используются и генерируются ИИ-системами.

💬В докладе исследуется взаимосвязь ИИ и конфиденциальности, а также способы, с помощью которых соответствующие политические сообщества могут работать для устранения рисков в данной сфере, особенно в связи с появлением генеративного ИИ. Также представлены ключевые выводы и рекомендации по укреплению взаимодействия международного сотрудничества в области ИИ, управления данными и конфиденциальности.

🔃Авторы доклада сопоставляют принципы, изложенные в Руководстве ОЭСР по обеспечению конфиденциальности, с Руководящими принципами ОЭСР по ИИ, и анализируют национальные и региональные инициативы, и предлагают потенциальные области для сотрудничества.

🛡В заключении подчеркивается важность интеграции достижений в области ИИ с надежными мерами по управлению данными и защите конфиденциальности. Согласно докладу, такой целостный подход имеет решающее значение для обеспечения того, чтобы ИИ-технологии можно было использовать для инноваций, одновременно защищая права личности и укрепляя доверие общественности к приложениям искусственного интеллекта.

#ШколаМИБ #ОЭСР #искусственныйинтеллект #ИИ #конфиденциальность #защитаданных

🛡 Тезисы отчёта Kaspersky "Ландшафт киберугроз для России и СНГ". Часть 1.

📄 В конце мая Лаборатория Kaspersky представила «Ландшафт киберугроз для России и СНГ» за первый квартал 2024 года и 2023 год, где глубоко осветила актуальные векторы исходящей опасности, использующиеся злоумышленниками инструменты, а также стратегии борьбы с атаками.

Школа МИБ представляет первую часть основных тезисов, которые могут быть интересны международникам:

➡️ К концу года активность киберпреступников возрастает в большинстве стран, а затем резко снижается.

➡️В первом квартале 2024 г. страной, наиболее подверженной атакам в целом, оказался Таджикистан (при подсчёте использовался подход деления количества пользователей, столкнувшихся с угрозами, на общее количество пользователей решений Kaspersky в микрорегионе). При этом он также является главной целью атак шифровальщиков, а главной страной-жертвой фишинга стала Белоруссия (стоит также отметить, что в 2022 г. и 2023 г. лидировала Россия).

➡️ Целью киберпреступников чаще всего становятся такие сферы, как финансы, строительство и производство.

➡️ Преступники преследуют цели двух категорий: финансовые и политические. В первые входит использование вымогателей для саботажа данных/систем, получения выкупа, перепродажи, использования в других фрод-схемах. Ко вторым относятся шпионаж и влияние на политические процессы (изменение политической повестки, манипулирование общественным мнением с помощью взлома соц. сетей).

➡️ В первом квартале 2024 г. количество утечек пользовательских данных, публикующееся в свободном доступе всего в течение месяца после выгрузки из базы атакованной компании, увеличилось на 12% по сравнению с 2023 г. Такие изменения имеют под собой следующую основу: всё в бо́льших объёмах публикуются базы именно мелких и средних предприятий, которые представляют меньший интерес для продажи (по сравнению с крупным бизнесом) и используются преимущественно для поднятия репутации (как демонстрация достижения).

🔔Продолжение следует!

#ШколаМИБ #Kaspersky #ИКТ #киберугрозы

🛡 Тезисы отчёта Kaspersky «Ландшафт киберугроз для России и СНГ». Часть 2.

➡️ Больше всего от утечек данных страдают ритейл, финансовая отрасль и сфера здоровья.

➡️Фишинговые сайты в большинстве своём маскируют под финансовые организации (банки, микрозайм), популярные соц. сети и мессенджеры (Telegram всегда в центре особого внимания), магазины и сервисы. Широко используется в первую очередь создание поддельных форм аутентификации.

➡️Большинство скомпрометированных машин находится в России (76%).

➡️Повысилась активность хактивистских группировок. Атаки в публичном поле на основе Open-source Intelligence совершают, в основном, на различные компании из России и Беларуси, преимущественно из государственного сектора. Целью этих атак обычно является кража и/или уничтожение данных.

➡️Командой Kaspersky Cyber Threat Intelligence рекомендуется для профилактики и отражения атак использовать тактики и инструменты по:
🔴детонации вложений в электронной почте;
🔴повышению компетенции персонала и пользователей в сфере ИБ;
🔴оценке зрелости внутреннего Security Operations Center;
🔴отключение скриптовых сред и макросов (для ограничения возможностей вредоносного кода);
🔴защите привилегированных учётных записей;
🔴использованию защитных решений;
🔴многофакторной и надёжной аутентификации;
🔴сегментации сети.

#ШколаМИБ #Kaspersky #ИКТ #киберугрозы

🇺🇸 В США назвали наиболее серьезные угрозы для грядущих президентских выборов. Часть 2

4️⃣ Использование генеративного ИИ. Особое внимание в отчете посвящено злонамеренному применению ИИ − данная технология активно применяется злоумышленниками для генерации поддельного, но правдоподобного контента, который служит для манипуляции общественным мнением. С помощью таких платформ, как ChatGPT, создаются фишинговые письма и даже программное обеспечение для взлома, что облегчает задачу для менее опытных злоумышленников и увеличивает общий объем киберугроз. Также аналитики отметили случаи использования голосового клонирования в рамках проведения телефонного мошенничества, направленного на подрыв доверия к официальной информации о выборах.

5️⃣ Физические угрозы и насилие в отношении работников. Согласно отчету, около 38% сотрудников избирательных комиссий подвергались угрозам или непосредственному физическому воздействию, включая т.н. «сваттинг» (намеренный ложный вызов «специальных подразделений полиции» в адрес жертвы) и отправку подозрительных писем с порошками. Кроме того, ложные нарративы о «недостоверности» выборов направлены на психологическое запугивание и дестабилизацию работы избирательных служб.

6️⃣ DVEs и кибератаки. В отдельную категорию угроз аналитики отнесли внутренних радикальных экстремистов (DVEs), а также направленные на критическую инфраструктуру кибератаки. Угрозы насилия и саботажа инфраструктуры со стороны экстремистов могут быть направлены на подрыв работы правительственных объектов, мест для голосования, штабов политических партий и иных объектов, связанных с подсчетом голосов. Кроме того, критическая инфраструктура, включая такие каналы связи, как оптоволоконные кабели, а также объекты электроснабжения, может стать целью для атак, направленных на создание паники и дестабилизацию избирательного процесса.

❔В заключении документа отмечается, что по итогу выборов аналитики ожидают дальнейшего усиления политической поляризации и обострения напряженности, что может привести к демонстрациям и вспышкам насилия. Согласно отчету, кибератаки и операции по дезинформации будут продолжаться с «целью усиления общественного недовольства и подрыва доверия к демократическим процессам», что потребует от правительственных и частных организаций готовности к управлению рисками, связанными с сочетанием информационного и физического воздействия.

#ШколаМИБ #CIS #США #кибербезопасность #ИИ

🇺🇸 В США представили прогноз об угрозах в киберсфере на 2025 год

🌐 Эксперты Google и Mandiant представили документ Cybersecurity Forecast 2025, посвященный анализу и прогнозированию ключевых тенденций и угроз в сфере кибербезопасности на ближайший год. Как отмечают авторы, в 2025 году правительство США продолжит оставаться объектом интереса со стороны "кибершпионажа, спонсируемого государствами" , которые, вероятно, намерены воспользоваться сменой администрации для получения стратегического преимущества.

👺 В частности, документ особо акцентирует внимание на роли геополитических факторов как катализаторов киберактивности. Так, американские исследователи традиционно называют «большую четверку» − Россию, Китай, Иран и Северную Корею − основными источниками киберугроз в рамках достижения своих геостратегических целей. По мнению Google и Mandiant, российские кибератаки направлены против Украины и стран НАТО, в то время как Китай демонстрирует высокую активность в использовании нулевых уязвимостей, скрытых сетей и информационных операций, направленных на дискредитацию целей. В свою очередь, Северная Корея сосредоточена на кражах криптовалют и социальной инженерии, а Иран продолжает поддерживать региональную напряженность с помощью атак на государственные и телекоммуникационные системы.

🤖 В то же время одной из центральных тем исследования является влияние искусственного интеллекта на формирование киберугроз и возможностей защиты. Согласно прогнозам авторов доклада, кибербезопасность в 2025 году претерпит значительные изменения, вызванные как технологическим прогрессом, особенно в области искусственного интеллекта, так и постоянной активностью злонамеренных акторов, которые активно осваивают потенциал больших языковых моделей для масштабирования атак, включая фишинг, создание deepfake-контента и эксплойты для обхода защитных систем. Отдельно отмечается, что генеративный искусственный интеллект все чаще используется в информационных операциях для создания дезинформации и ложных идентичностей, что существенно увеличивает масштабы атак.

🦠 Важным аспектом отчета является анализ глобальных угроз, в котором особое внимание уделяется использованию вредоносного ПО для кражи данных и программ-вымогателей, которые становятся все более опасными благодаря их способности обходить современные средства обнаружения и защиты. Кроме того, отчет указывает на рост активности менее квалифицированных злоумышленников, получающих доступ к профессиональным инструментам через сервисы «как услуга» − такая демократизация кибервозможностей значительно усложняет задачи обеспечения безопасности для организаций.

🛡 Наконец, с развитием квантовых технологий появляется риск взлома традиционных шифров, поэтому эксперты считают, что организациям необходимо переходить к квантово-устойчивым стандартам шифрования, разработанным Национальным институтом стандартов и технологий (NIST). Кроме того, организациям предстоит адаптироваться к новым вызовам через внедрение облачных и автоматизированных решений, усиление контроля за идентификацией пользователей и подготовку к долгосрочным изменениям в криптографии.

#ШколаМИБ #Google #Mandiant #США #кибербезопасность #ИИ

🤖 Опасные возможности ИИ: как уязвимости генеративных моделей становятся инструментом угроз

📄Школа международной информационной безопасности ДА МИД России рада представить своим читателям опубликованный на портале по информационной безопасности SecurityLab краткий вариант проведенного совместно с Координационным центром доменов .RU / .РФ исследования на тему анализа методов генерации деструктивного контента современными моделями искусственного интеллекта общего назначения.

👩‍💻 Данный материал посвящен изучению обнаруженных экспертами уязвимостей в виде промпт-инъекций с использованием HTML-тегов в ИИ-продуктах таких отечественных и зарубежных IT-компаний, как SberAI, Yandex и OpenAI. В результате применения данного метода авторам удалось сгенерировать не только текстовую, но и графическую информацию вредоносного содержания, а также обнаружить факт предвзятости в отношении влиятельных политических фигур.

🛡 Таким образом, стоит отметить, что современные генеративные модели по-прежнему остаются уязвимыми для изощренных промпт-атак, что представляет потенциальную опасность в контексте генерации вредоносного контента и его дальнейшего использования в злонамеренных целях. Охватывая классическую триаду угроз международной информационной безопасности, результаты генерации свидетельствуют о существующей тенденции к значительному возрастанию функциональности и, как следствие, негативного потенциала ИИ с течением времени, отражая двойственную природу данной технологии.

⚠️ Авторы призывают к ответственному использованию ИИ и выражают благодарность компаниям-разработчикам за своевременную обратную связь.

#ШколаМИБ #SberAI #Yandex #OpenAI #информационная_безопасность #ИИ