Школа МИБ
1.05K subscribers
497 photos
8 videos
55 files
339 links
Школа международной информационной безопасности Института актуальных международных проблем Дипломатической академии МИД России (Школа МИБ).

Наша страница ВКонтакте https://vk.com/iis_school

По вопросам сотрудничества: [email protected]
加入频道
Персональные данные и искусственный интеллект

«В России одну из лидирующих позиций по развитию и внедрению ИИ занимают крупные банковские организации. В частности, правительство России подписало договор о развитии ИИ с одним из крупнейших банков страны ПАО Сбербанк. Одновременно цифровой банкинг в стране признан одним из наиболее динамично развивающихся в мире.

С учетом этих обстоятельств довольно опасным способом ЗИИИ в России, нацеленным на получение персональных данных пользователей, может стать злонамеренное использование банковских чат-ботов. Проблема применения злоумышленниками и даже террористами ботов, не созданных непосредственно для общения, достаточно давно обсуждается в экспертных и профессиональных кругах. Так, было замечено, что они используются для манипуляции общественным мнением и нанесения репутационного ущерба, например, в ходе избирательной кампании, координации деятельности преступных организаций и привлечения в них новых членов.

Между тем популярные сейчас в России чат-боты могут применяться злоумышленниками несколько иначе: логические уязвимости позволяют использовать их для кражи некоторых данных клиентов банка. Очевидной представляется также возможность простого взлома чат-бота с целью получения информации непосредственно от пользователей».

С полным текстом статьи профессоров Дипломатической академии МИД России Е.Пашенцева и СПБГУ И.Блеканова, а также руководителя Департамента грантовой деятельности Школы МИБ А.Чернобривченко можно ознакомиться на английском и сербском языках в сербском научном журнале «Социолошки преглед» (vol. LVII (2023), no. 2).

#ШколаМИБ #ИАМП #научнаяколонка #ЧтоПочитать_МИБ

⤵️⤵️⤵️⤵️⤵️
Please open Telegram to view this post
VIEW IN TELEGRAM
G7 HIROSHIMA PROCESS.pdf
2.2 MB
📃Отчет о результатах опроса по теме искусственного интеллекта в рамках саммита G7 в Хиросиме

В рамках саммита G7 в Хиросиме представители стран Большой семерки определили темы для обсуждения и призвали провести раннюю оценку возможностей и вызовов, связанных с генеративным искусственным интеллектом.

Данный отчет представляет результаты опроса, разработанного с целью создания общих приоритетов стратегий и политики государств-членов G7 в отношении генеративного ИИ. Также в отчете представлен краткий обзор развития генеративного ИИ по странам.

Участники G7 отметили возможность генеративного ИИ усугубить проблему распространения дезинформации и манипуляций общественным мнением, что рассматривается государствами-членами G7 в качестве одних из исходящих от генеративного ИИ основных угроз наряду с рисками нарушения интеллектуальной собственности и утечками конфиденциальной информации.

Отчет и результаты опроса следует понимать как текущую ситуацию на момент исследования, которые отражают тенденции, выявленные летом 2023 года, в быстро меняющейся области технологий.

Данный документ был подготовлен Организацией экономического сотрудничества и развития (ОЭСР), Дирекцией науки, технологий и инноваций и Рабочей группой G7 по цифровым и технологическим вопросам.

#Школа_МИБ #Информационная_безопасность #Отчет_ИИ #G7 #ЧтоПочитать_МИБ
Обратный отсчет: книга о Stuxnet 📚

Ранее мы писали об одной из 1-х международных атак на критическую инфраструктуру. В книге “Countdown to Zero Day: Stuxnet and the Launch of the World’s First Digital Weapon” известный журналист в области кибербезопасности Ким Зеттер рассказывает историю вируса, саботировавшего ядерные усилия Ирана, и показывает, как его существование открыло новую эру войны, в которой цифровая атака может иметь такую же разрушительную силу, как и мегатонная бомба.

⚛️ В январе 2010 г. инспекторы МАГАТЭ заметили, что центрифуги на иранском заводе по обогащению урана выходят из строя с беспрецедентной скоростью. Причина была совершенно загадочной как для техников, заменяющих центрифуги, так и для инспекторов, наблюдавших за ними.

Приглашенные белорусские программисты полагали, что вредоносный код на компьютерах - это простая, обычная вредоносная программа. Но по мере изучения ситуации они и другие специалисты по всему миру обнаружили загадочный вирус, не имеющий аналогов по сложности.

Вскоре они узнали, что наткнулись на первое в мире цифровое оружие. Stuxnet, как его стали называть, не был похож ни на один из ранее созданных вирусов или червей: вместо того чтобы просто захватить компьютеры или украсть с них информацию, он вырвался из цифровой сферы, чтобы нанести реальные, физические разрушения ядерному объекту.

Автор выходит далеко за рамки самого Stuxnet. Зеттер показывает, как развивалась цифровая война в США. Она рассказывает о процветающем сегодня черном рынке уязвимостей "нулевого дня", на котором спецслужбы и военные платят огромные суммы за вредоносный код, необходимый им для осуществления проникновений и атак. Она показывает, насколько уязвимы многие критически важные системы для ударов, подобных Stuxnet, как со стороны национальных государств, так и со стороны анонимных хакеров, и рассказывает о том, что может произойти, если американская инфраструктура станет объектом такой атаки.

С книгой можно ознакомиться по ссылке.

#Библиотека_МИБ #ЧтоПочитать_МИБ #ШколаМИБ #ИАМП
ENISA Threat Landscape 2023.pdf
7.9 MB
🇪🇺ENISA Threat Landscape 2023

Одиннадцатое издание отчета ENISA Threat Landscape (ETL) – ежегодного отчета о состоянии ландшафта угроз кибербезопасности. В нем определяются основные угрозы, ключевые тенденции, субъекты угроз и методы атак. Также описаны соответствующие меры по смягчению последствий.

Традиционно в антироссийской риторике отдельное внимание в документе уделено угрозам, исходящим от России.

Агентство Европейского Союза по кибербезопасности (European Union Agency for Cybersecurity (ENISA)) – это агентство ЕС, целью которого заявлено достижение общего высокого уровня кибербезопасности по всей Европе. Агентство Европейского Союза по кибербезопасности, созданное в 2004 году, вносит вклад в киберполитику ЕС, повышает надежность продуктов, услуг и процессов ИКТ с помощью схем сертификации кибербезопасности, сотрудничает с государствами-членами и органами ЕС.

#ШколаМИБ #ИАМП #ЧтоПочитать_МИБ
Please open Telegram to view this post
VIEW IN TELEGRAM
🇬🇧Великобритания опубликовала негативные сценарии развития ИИ

📄В преддверии Cаммита по вопросам безопасности ИИ, который состоится с 1 по 2 ноября 2023 г., правительство Великобритании впервые опубликовало официальный отчет о возможностях и рисках, связанных с использованием передовых моделей искусственного интеллекта. Настоящий документ, как заявляется, основан на данных из различных источников, включая информацию разведывательного сообщества, и является частью действий британского правительства по принятию долгосрочных решений в интересах страны с целью определения и контроля связанных с ИИ рисков для достижения экономического роста Великобритании и всеобщего процветания.

Доклад состоит из трех частей:
1️⃣Возможности и риски передовых моделей ИИ. В документе рассказывается о текущих возможностях наиболее совершенных моделей ИИ, а также перспективах и потенциальных угрозах их применения.
2️⃣Риски для безопасности со стороны генеративного ИИ до 2025 года. В данной части приводятся оценки различных источников, включая разведывательные, и содержится вывод о том, что, несмотря на потенциальную выгоду для всего мирового сообщества, разработка генеративного ИИ может усилить риски для глобальной безопасности за счет расширения возможностей злонамеренных акторов.
3️⃣Потенциальные риски передового ИИ. В данном отчете рассматриваются ключевые риски и неопределенности в развитии наиболее совершенных моделей искусственного интеллекта, а также ряд потенциальных сценариев развития ИИ до 2030 года.

#Школа_МИБ #отчет_ИИ #AI #Искусственный_интеллект #ЧтоПочитать_МИБ
⤵️⤵️⤵️⤵️⤵️
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🇺🇳Понимание рисков и выстраивание путей к принятию мер по укреплению доверия

Данный исследовательский отчет предлагает таксономию рисков искусственного интеллекта (ИИ) в контексте международного мира и безопасности. Он является частью проекта ЮНИДИР по мерам укрепления доверия в области ИИ и направлен на составление карты рисков, связанных с технологией, которая может послужить основой для будущих обсуждений и выработки мер укрепления доверия. Таксономия классифицирует риски на две большие группы:

1️⃣Риски технологии ИИ, которые включают риски безопасности (возможности и ограничения систем ИИ), риски безопасности (преднамеренные атаки, направленные на то, чтобы скомпрометировать способ обучения или действия систем ИИ) и риски взаимодействия между человеком и машиной (неправильное использование систем ИИ из-за сложных динамик, возникающих при работе с ними).

2️⃣Риски ИИ для глобальной безопасности, которые включают три широкие категории рисков: ошибки расчета (использование ИИ, которое может привести к принятию решений о применении силы или открывать путь к ухудшению международных отношений), эскалация (потенциал ИИ привести к преднамеренному или непреднамеренному эскалированию конфликта) и распространение (риски неправильного использования ИИ для распространения нового оружия, включая оружие массового поражения).

Отчет предоставляет технические разъяснения о различных категориях рисков и контекстуальный анализ их потенциального влияния на глобальную безопасность. В настоящее время он не предоставляет варианты для дискуссий о будущих мерах доверия и не ставит целью определение приоритетных областей в отношении конкретных рисков. Отчет предоставляет руководство для понимания рисков, которое может стать основой для будущих дискуссий.

#Школа_МИБ #ЮНИДИР #Информационная_безопасность #AI #ИИ #ЧтоПочитать_МИБ
Please open Telegram to view this post
VIEW IN TELEGRAM
🇺🇸🇬🇧В сеть просочились документы об инициативе военных подрядчиков США и Великобритании по созданию глобальной системы цензуры

✏️ Американский журналист М. Таиби и его коллектив, ранее проводивший расследование по цензуре в Twitter, опубликовали новые секретные файлы, которые, по их словам, были предоставлены анонимным осведомителем. В них содержится описание созданного в 2018 г. проекта "Лига разведки киберугроз" (Cyber Threat Intelligence League), включавшего в себя 100 правительственных учреждений и НПО США и Великобритании.

🔍 Лига, возглавляемая британским военным специалистом Сарой-Джейн Терп, предположительно разработала комплексную систему цензуры. Документы раскрывают механизмы сотрудничества Лиги с платформами социальных сетей, методах продвижения своего контента и усилия по удалению онлайн-публикаций, якобы содержащих дезинформацию. Теоретической основой проекта, согласно материалам расследования, стала концепция «когнитивной безопасности» (cognitive security), находящаяся на стыке кибербезопасности и информационно-психологической безопасности.

Авторы расследования считают, что участники Лиги не действовали на волонтерских началах, как это ранее утверждалось в американских СМИ. В материалах подчеркивается, что многие сотрудники проекта имели опыт службы в военных и разведывательных структурах. Отмечается, что они получали прямую поддержку от профильных ведомств США и Великобритании, в частности от Агентства по кибербезопасности и безопасности инфраструктуры (CISA).

🤔 На данный момент официального опровержения публикации со стороны указанных структур не поступило. Предлагаем данный материал для вашего прочтения.

#ШколаМИБ #Новости_МИБ #ЧтоПочитать_МИБ
Please open Telegram to view this post
VIEW IN TELEGRAM
🇬🇧Заложница фортуны: Великобритания опубликовала отчет об угрозах со стороны программ-вымогателей

⚡️Согласно новому отчету парламентского комитета Великобритании, правительство находится под угрозой «катастрофической атаки программ-вымогателей», которая потенциально может привести страну к стагнации.

🔓«Крупная атака программ-вымогателей может оказать разрушительное воздействие на граждан Великобритании и экономику страны, что, несомненно, представляет серьезную угрозу для национальной безопасности государства».

🔔По мнению Объединенного комитета по стратегии национальной безопасности Великобритании, ключевой причиной уязвимости является тот факт, что правительственная инфраструктура функционирует на устаревших системах. Хотя в отчете и признаются усилия Национального центра кибербезопасности по повышению киберустойчивости страны, цифровая инфраструктура правительства Великобритании продолжает оставаться уязвимой.

«Поскольку разные операторы критической инфраструктуры пользуются услугами одного и того же поставщика, то одна атака может затронуть сразу несколько секторов, что приведет к масштабным и разрушительным последствиям», – говорится в отчете.

💡В докладе также подвергается критике позиция правительства Великобритании, которое игнорирует все риски, что впоследствии может привести к «катастрофическим издержкам». «Если в будущем Великобритания хочет не стать заложницей фортуны и не допустить вмешательства в выборы, то крайне необходимо, чтобы на борьбу с этой серьезной угрозой для национальной безопасности страны были направлены дополнительные значительные ресурсы», – заявляет комитет.

⚡️Опасения парламентского комитета небезосновательны, поскольку в стране наблюдается заметный рост числа кибератак. Так, Великобритания занимает третье место в списке стран, наиболее подверженных кибератакам, уступив лидерство США и Украине.

#ШколаМИБ #ЧтоПочитать_МИБ #Новости_МИБ #информационная_безопасность #Великобритания
Please open Telegram to view this post
VIEW IN TELEGRAM
WEF_Global_Cybersecurity_Outlook_2024.pdf
5.8 MB
🌎11 января Всемирный экономический форум в сотрудничестве с Accenture опубликовали доклад «Глобальный прогноз кибербезопасности на 2024 год».

💻Доклад состоит из 5 частей, каждая из которых рассматривает конкретные проблемы информационной безопасности. Так, в 1 части уделено внимание информационному неравенству, во 2 - геополитической напряженности и новым технологиям. В 3 части рассматривается проблема нехватки квалифицированных кадров, в 4 и 5 главах анализируются «киберустойчивость» правительств, бизнеса и экосистем в новую эру, а также эффективные методы построения лучшей киберэкосистемы.

🔐В заключение ВЭФ рекомендует усилить действия по внедрению лучших практик и приобретению необходимых инструментов и услуг для развития системной устойчивости.

#Школа_МИБ #ЧтоПочитать_МИБ #GlobalCybersecurityOutlook2024 #Глобальныйпрогнозкибербезопасности
Please open Telegram to view this post
VIEW IN TELEGRAM
📚Выпуск журнала Международная жизнь «Крым 10 лет процветания в единстве» за март 2024.

Приглашаем к прочтению экспертных статей по ИБ:

Бойко С.М. Международная информационная безопасность: Россия в ООН. Два формата диалога (2018-2021 гг.). После неудачно завершившейся в 2017 г. работы пятой ГПЭ ООН по достижениям в сфере информатизации и телекоммуникаций в контексте международной безопасности вновь встал вопрос, как организовать профильный диалог на площадке ООН. Сохранение такого диалога и придание ему по-настоящему глобального характера становилось все более актуальным в условиях стремительного развития ИКТ и расширения возможностей их применения в противоправных целях.
 
Мельникова О.А. Глобальный цифровой договор: на грани фола. Три чтения «нулевого» проекта Глобального цифрового договора (ГЦД) запланированы на апрель и май этого года. ГЦД должен стать приложением к Пакту во имя будущего, который планируется принять на Саммите будущего 22-23 сентября 2024 года. На сегодняшний день наиболее внятно судить о содержательной стороне будущего ГЦД можно по представленной Генсеком А.Гутерришем и размещенной на сайте ООН концептуальной записке. Однако обращает на себя внимание ее аморфность, наличие в тексте множества противоречий.
 
Ильницкий А.М. Цивилизационная война - воля к победе. Процессы глобализации вскрывают не только политический, но и технологический суверенитет, привнося как новые возможности развития, так и немалые риски регресса и деградации. Использованные во зло или по некомпетентности/недоумию - «цифра», ИИ и когнитивные технологии могут привести к деградации социально-культурной среды, распаду общественной ткани, расколу общества на инфобункеры. Стандартизируемые под западные лекала и технологии цифровая среда и «культура» потребления меняют не только инфополе и способы получения информации, но культурные коды социума.

#Школа_МИБ
#Информационная_безопасность
#ЧтоПочитать_МИБ #Международнаяжизнь
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM