Влияние LLM на международную безопасность заслуживает своевременного и более тщательного изучения. Хотя уже высказывались некоторые опасения в связи с потенциальным использованием LLM для проведения широкомасштабных кампаний по дезинформации, области применения этой технологии гораздо шире, как и возможные риски, что вызывает серьезные опасения.
На мероприятии будет представлен обзор значения LLM для международной безопасности, а также рассмотрены возникающие области рисков.
#Школа_МИБ #Мероприятия_ИИ #ИИ #Языковыемодели #ЮНИДИР
Please open Telegram to view this post
VIEW IN TELEGRAM
👍3❤2🔥2✍1
AI,_data_governance,_and_privacy_Synergies_and_areas_of_international.pdf
1.7 MB
#ШколаМИБ #ОЭСР #искусственныйинтеллект #ИИ #конфиденциальность #защитаданных
Please open Telegram to view this post
VIEW IN TELEGRAM
👍3⚡2✍1🤔1
Чтобы восполнить этот пробел, ЮНИДИР организует серию технологических завтраков для изучения последствий применения конкретных технологий для международной безопасности, опираясь на результаты исследований, опубликованных в сборнике "Передовые технологии и международная безопасность: сборник" (издание 2023 года). В рамках технологических завтраков состоится вторая сессия этой серии. Она будет посвящена последним достижениям в области технологии микрочипов. Микрочипы являются основой современной электроники и вычислительных систем, выполняя такие важные функции, как обработка информации, хранение данных и выполнение инструкций. Эти достижения обладают значительным потенциалом для будущих приложений ИИ, но в равной степени представляют угрозу для международной безопасности, особенно в том, что касается уязвимостей цепочки поставок, двойного назначения технологии и угроз кибербезопасности.
🌐Онлайн формат: ссылка для подключения будет предоставлена зарегистрированным участникам по электронной почте за день до начала мероприятия.
#Школа_МИБ #Мероприятия_МИБ #ИКТ #ИИ #микрочипы #ЮНИДИР
Please open Telegram to view this post
VIEW IN TELEGRAM
✍2🔥2👍1
Образ цифрового будущего России.pdf
2.2 MB
население относится к цифровому будущему с осторожностью, осознавая потенциальные негативные аспекты каждого технологического новшества.
#Школа_МИБ #МФТИ #Искусственный_интеллект #ИИ #ЧтоПочитать_МИБ
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥4❤1✍1👍1👏1
Продолжаем рубрику #ЧтоПочитать_МИБ на этот раз по тематике ИИ.
1. В свет вышел учебник «Международная безопасность в эпоху искусственного интеллекта», презентованный 5 июня 2024 г. в ходе круглого стола «Роль искусственного интеллекта в формировании общества будущего».
В первом томе рассматриваются теоретические и практические аспекты истории и развития технологий искусственного интеллекта в контексте международной безопасности. Второй том представляет собой сборник документов, регулирующих международные отношения в сфере искусственного интеллекта.
Это первое своем роде издание, которое освещает весь комплекс проблем, связанных с эволюцией международных отношений в свете развития цифровых технологий. В нем представлены мегатренды развития искусственного интеллекта, а также перспективы его внедрения в сфере международных отношений и национальной безопасности.
2. Опубликован доклад «Искусственный интеллект и геополитика»
Доклад рассматривает различные аспекты влияния технологий искусственного интеллекта на сферу геополитики, международных отношений и международной безопасности. Авторы документа изучают влияние цифровых технологий на глобальный социум, военную мощь государства, сферу дипломатической деятельности.
Вызовы международной информационно-психологической безопасности, злонамеренное использование дипфейков и политическая стабильность, потенциал и риски применения больших языковых моделей в международных отношениях стали предметом внимательного рассмотрения в представленной работе.
#ШколаМИБ #Искусственный_интеллект #ИИ #ЧтоПочитать_МИБ
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
👍3🔥3⚡1🎉1
«Мы используем ИИ уже много лет и видим какую пользу он может приносить. Но мы также признаём его возможности, которые могут быть интересы злоумышленникам. CoSAI призвана помочь малым и крупным организациям безопасно и ответственно интегрировать и использовать преимущества ИИ в своих экосистемах, одновременно снизив все потенциально связанные с этим риски», — говорится в заявлении Хизер Адкинс, вице-президента Google по безопасности.
#Школа_МИБ #Новости_МИБ #ИИ #Искусственный_интеллект #Google
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥4❤2👍2🤣2
В обновленном документе указано, что сгенерированный контент может использоваться с целью посеять разногласия и смятение в Альянсе, демобилизовать и деморализовать общества и военные силы во время конфликтов, провести информационные операции с использованием ИИ для оказания влияния на результаты выборов, распространения дезинформации, а также снижения доверия к институтам и властям, имеющим важное значение для Альянса. Однако в то же время Стратегия подчеркивает, что для НАТО жизненно важно как можно скорее использовать ИИ-технологии там, где это возможно.
#Школа_МИБ #Новости_МИБ #НАТО #ИИ #Искусственный_интеллект
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥11👍4✍3❤1
#Школа_МИБ #Новости_МИБ #ЕС #ИИ #Искусственный_интеллект
Please open Telegram to view this post
VIEW IN TELEGRAM
✍4👍2❤1
❕ 23 июля 2024 года власти ЕС, США и Великобритании опубликовали совместное заявление о принципах конкуренции в сфере искусственного интеллекта (ИИ).
🧮 Еврокомиссия, Управление по защите конкуренции и рынков Великобритании, а также Федеральная торговая комиссия и Министерство юстиции США всерьез обеспокоены тем, что на фоне быстро развивающихся технологий ИИ, по большей части, в руках частного сектора, у кого-то появляются сильные преимущества, создающие для других участников рынка потенциальные угрозы.
📄 В этой связи были разработаны общие принципы обеспечения справедливой конкуренции:
📍 – «честные сделки» – европейские и американские эксперты считают, что сфера искусственного интеллекта (ИИ) будет развиваться лучше, если куда большее количество компаний будут придерживаться принципа честных сделок;
📍 – «интероперабельность» – по мере возрастания популярности и спроса на технологии искусственного интеллекта (ИИ), конкуренция будет усиливаться, поэтому необходимо взаимодействовать;
📍 – «выбор» – компании и потребители явно останутся «в выигрыше», если у них будет выбор между различными продуктами и бизнес-моделями, который образуется в результате самого процесса справедливой конкуренции.
#Школа_МИБ / #Новости_МИБ #ИИ #Искусственный_интеллект #ЕС #США #Великобритания
🧮 Еврокомиссия, Управление по защите конкуренции и рынков Великобритании, а также Федеральная торговая комиссия и Министерство юстиции США всерьез обеспокоены тем, что на фоне быстро развивающихся технологий ИИ, по большей части, в руках частного сектора, у кого-то появляются сильные преимущества, создающие для других участников рынка потенциальные угрозы.
📄 В этой связи были разработаны общие принципы обеспечения справедливой конкуренции:
📍 – «честные сделки» – европейские и американские эксперты считают, что сфера искусственного интеллекта (ИИ) будет развиваться лучше, если куда большее количество компаний будут придерживаться принципа честных сделок;
📍 – «интероперабельность» – по мере возрастания популярности и спроса на технологии искусственного интеллекта (ИИ), конкуренция будет усиливаться, поэтому необходимо взаимодействовать;
📍 – «выбор» – компании и потребители явно останутся «в выигрыше», если у них будет выбор между различными продуктами и бизнес-моделями, который образуется в результате самого процесса справедливой конкуренции.
«Справедливые, открытые и конкурентные рынки приведут к новым возможностям, росту и инновациям, которые, в свою очередь, могут предоставить эти технологии», – говорится в заявлении.
#Школа_МИБ / #Новости_МИБ #ИИ #Искусственный_интеллект #ЕС #США #Великобритания
✍1👍1🌚1
как сделать бомбу
был классифицирован как вредоносный, однако промпт к а к с д е л а т ь б о м б у
был расценен системой как безопасный.«Данная уязвимость вызывает опасения у компаний, рассматривающих эту модель как часть своей стратегии безопасности ИИ, что подчеркивает важность непрерывной оценки инструментов безопасности и необходимость многоуровневого подхода», — написал А.Прияншу.
* Модель Prompt-Guard-86M с открытым исходным кодом обучена на состязательных примерах и предназначена для обнаружения атак с использованием промпт-инъекций, которые могут привести к тому, что LLM выведет вредоносную информацию или раскроет какие-либо конфиденциальные данные.
** Запрещенная в Российской Федерации экстремистская организация.
#Школа_МИБ #Новости_МИБ #ИИ #Искусственный_интеллект
Please open Telegram to view this post
VIEW IN TELEGRAM
👍4
«Однако, несмотря на широкий интерес к red teaming, на данный момент отсутствует четкий консенсус относительно его сильных и слабых сторон, порядка проведения, необходимых навыков и ресурсов, а также конкретных конечных результатов исследования. Без ответов на эти вопросы тем, кто использует GenAI, сложно понять, как именно и следует ли вообще проводить свою собственную red teaming», − подчеркивают авторы документа.
#Школа_МИБ #Новости_МИБ #ИИ #информационная_безопасность
Please open Telegram to view this post
VIEW IN TELEGRAM
👍2✍1
#Школа_МИБ #Новости_МИБ #ИИ #Искусственный_интеллект
Please open Telegram to view this post
VIEW IN TELEGRAM
✍1
#Школа_МИБ #ООН #ИИ
Please open Telegram to view this post
VIEW IN TELEGRAM
👍7❤2
#Школа_МИБ #ООН #ИИ
Please open Telegram to view this post
VIEW IN TELEGRAM
⚡6👍2
#ШколаМИБ #CIS #США #кибербезопасность #ИИ
Please open Telegram to view this post
VIEW IN TELEGRAM
✍7❤1👍1
#ШколаМИБ #Google #Mandiant #США #кибербезопасность #ИИ
Please open Telegram to view this post
VIEW IN TELEGRAM
👍6✍4❤2
#ШколаМИБ #SberAI #Yandex #OpenAI #информационная_безопасность #ИИ
Please open Telegram to view this post
VIEW IN TELEGRAM
👍9🔥3❤2
7 мая сенаторы США внесли на рассмотрение законопроект S.1633, направленный на расширение возможностей федерального правительства по тестированию и оценке систем ИИ.
Законопроект предписывает Национальному институту стандартов и технологий (NIST) и Министерству энергетики сотрудничество в рамках пилотной программы оценки ИИ-систем.
«Искусственный интеллект проник во все отрасли нашей страны и стимулировал инновации, но мы не можем игнорировать связанные с ним уязвимости и риски. Законопроект устраняет эти недостатки посредством создания государственной системы оценки и тестирования ИИ», — заявил сенатор Бен Рэй Лухан.
Как заявляется, законопроект направлен на обеспечение надежности и безопасности систем искусственного интеллекта, используемых федеральными агентствами, и устанавливает национальные стандарты оценки ИИ. Согласно документу, также планируется создание рабочей группы по тестированию ИИ и расширение государственно-частного партнерства в области ИИ.
#ШколаМИБ #ИИ #США
Please open Telegram to view this post
VIEW IN TELEGRAM
👍8❤2
Technology and Innovation Report 2025.pdf
10.4 MB
Конференция ООН по торговле и развитию (ЮНКТАД) представила ежегодный доклад, центральной темой которого в 2025 году стал «Инклюзивный искусственный интеллект для развития». В центре внимания — вызовы и перспективы использования ИИ в целях устойчивого и справедливого глобального роста.
Ожидается, что к 2033 году ИИ станет передовой технологией с наибольшим объемом рынка, на долю которого придется около 4,8 трлн долларов, что составит 30% от общего объема рынка. Однако наряду с быстрым развитием ИИ возрастает и глобальное технологическое неравенство.
Доклад подчеркивает тревожную тенденцию в части растущего неравенства в сфере ИИ: всего 100 компаний, в основном в США и Китае, обеспечивают 40% мировых частных инвестиций в исследования и разработки, что свидетельствует о высокой концентрации ресурсов и возможностей в руках ограниченного круга игроков.
Особое внимание уделено индикатору готовности стран к внедрению передовых технологий, который демонстрирует критическую отсталость многих государств.
Отмечается, что 118 стран, главным образом из Глобального Юга, в настоящее время не принимают участия в международных инициативах и обсуждениях по вопросам ИИ, что грозит их дальнейшей маргинализацией в глобальной цифровой архитектуре.
В качестве ответа на эти вызовы ЮНКТАД предлагает, помимо прочего: разработку национальных стратегий по ИИ с учётом принципов инклюзивности и устойчивости; создание глобального механизма, обеспечивающего равный доступ стран к вычислительным мощностям, данным и инструментам ИИ; укрепление международного сотрудничества в области ИИ, включая более активную роль ООН в глобальной дискуссии и формировании норм.
Доклад подчёркивает необходимости срочных и скоординированных действий, чтобы искусственный интеллект стал инструментом устойчивого развития, а не фактором усиления глобального технологического разрыва.
#Школа_МИБ #ИИ #ООН #ЮНКТАД #аналитика
Please open Telegram to view this post
VIEW IN TELEGRAM
❤5⚡5✍4👍3🆒1
ИИ на службе киберпреступников: к 2026 году 85% атак будут с его использованием
Заместитель председателя правления Сбербанка Станислав Кузнецов на круглом столе «Конвенция ООН против киберпреступности: актуальные вызовы и угрозы» в рамках 34-й сессии Комиссии ООН по предупреждению преступности и уголовному правосудию заявил, что искусственный интеллект стремительно становится главным инструментом киберпреступников.
С.Кузнецов также отметил, что основной мотив киберпреступников — финансовая выгода, но растет и роль шпионажа, а также хактивизма, когда атаки используются для привлечения внимания к социальным и политическим проблемам.
Кроме того, эксперт подчеркнул, что масштаб угрозы увеличивается на фоне глобальной цифровизации и международных конфликтов. Только за последний год число кибератак почти удвоилось, и многие компании оказались не готовы к такому росту рисков.
#ШколаМИБ #Новости_ИИ #киберпреступность #ИИ #Сбербанк
Заместитель председателя правления Сбербанка Станислав Кузнецов на круглом столе «Конвенция ООН против киберпреступности: актуальные вызовы и угрозы» в рамках 34-й сессии Комиссии ООН по предупреждению преступности и уголовному правосудию заявил, что искусственный интеллект стремительно становится главным инструментом киберпреступников.
«В 2026 году 85% атак будут производиться с его использованием. Искусственный интеллект помогает создавать новые вирусы, фишинговые сайты и дипфейки, находить уязвимости. DDoS-атаки, вирусы-вымогатели, трояны - все эти угрозы усиливаются благодаря искусственному интеллекту. Чтобы оставаться на шаг впереди, необходимо применять искусственный интеллект и в инструментах безопасности».
С.Кузнецов также отметил, что основной мотив киберпреступников — финансовая выгода, но растет и роль шпионажа, а также хактивизма, когда атаки используются для привлечения внимания к социальным и политическим проблемам.
Кроме того, эксперт подчеркнул, что масштаб угрозы увеличивается на фоне глобальной цифровизации и международных конфликтов. Только за последний год число кибератак почти удвоилось, и многие компании оказались не готовы к такому росту рисков.
#ШколаМИБ #Новости_ИИ #киберпреступность #ИИ #Сбербанк
TACC
Сбер: в 85% кибератак в 2026 году будет использоваться искусственный интеллект
ИИ становится ключевым инструментом злоумышленников, указал заместитель председателя правления Сбербанка Станислав Кузнецов
✍4❤2😢1