Второй Большой Семинар AIRI пройдет 5 ноября в 16:00, рассказываем подробнее ⤵️

Докладчиком выступит доктор юридических наук, профессор, российский дипломат Александр Владимирович Яковенко. Тема выступления: «Тенденции мирового развития».

Модератор Большого Семинара AIRI — доктор физико-математических наук, профессор РАН, генеральный директор AIRI, профессор Сколтеха Иван Оселедец.

📌Регистрация на офлайн-формат по ссылке, трансляция пройдет в VK Видео.

До встречи!

🇺🇸 В США назвали наиболее серьезные угрозы для грядущих президентских выборов. Часть 1

📄В преддверии американских президентских выборов, которые состоятся в т.н. «супервторник», 5 ноября, исследователи нескольких аналитических центров США на сайте Центра интернет-безопасности США (Center for Internet Security) представили совместный доклад «Ландшафт угроз для выборов 2024 года», который охватывает как информационные, так и физические риски, «направленные на подрыв демократического процесса и доверия избирателей». В частности, выделено шесть основных категорий ключевых угроз, способных в наибольшей степени оказать негативное влияние на исход президентских выборов.

1️⃣ Киберугрозы. Киберпреступники и аффилированные с государством группировки усиливают атаки на избирательные офисы, используя методы фишинга, программ-вымогателей и кражу данных, что может повлиять на инфраструктуру даже при косвенном воздействии. Особое внимание аналитики уделили таким новым методам, как фишинг с использованием генеративного ИИ, а также атакам типа «quishing» (фишинг с QR-кодами) и целевым атакам на учетные записи пользователей для кражи данных.

2️⃣ Хактивизм и «фейктивизм». Как отмечают американские аналитики, современные международные конфликты привели к значительному всплеску политически мотивированного хактивизма, по традиции обвинив хакерские группировки из Российской Федерации и Ирана. При этом исследователи заявили об особой опасности т.н. «фейктивизма» − методе, при котором государственные акторы маскируются под хактивистские группы, что усложняет идентификацию истинного источника угроз.

3️⃣Информационные операции и дезинформация. В продолжение обвинительной риторики аналитики возложили вину за проведение информационных атак против США на такие государства, как Россию, Китай и Иран, которые якобы с помощью ИИ-генеративных технологий создают фальшивые медийные кампании и персонализированные сообщения с целью создания иллюзии ненадежности выборов и усиление политической поляризации в обществе. Кроме того, как сообщается в документе, государства используют площадки социальных сетей и поддельные новостные сайты для усиления пропаганды и дезинформации.

🔽 Продолжение ниже 🔽

🇺🇸 В США назвали наиболее серьезные угрозы для грядущих президентских выборов. Часть 2

4️⃣ Использование генеративного ИИ. Особое внимание в отчете посвящено злонамеренному применению ИИ − данная технология активно применяется злоумышленниками для генерации поддельного, но правдоподобного контента, который служит для манипуляции общественным мнением. С помощью таких платформ, как ChatGPT, создаются фишинговые письма и даже программное обеспечение для взлома, что облегчает задачу для менее опытных злоумышленников и увеличивает общий объем киберугроз. Также аналитики отметили случаи использования голосового клонирования в рамках проведения телефонного мошенничества, направленного на подрыв доверия к официальной информации о выборах.

5️⃣ Физические угрозы и насилие в отношении работников. Согласно отчету, около 38% сотрудников избирательных комиссий подвергались угрозам или непосредственному физическому воздействию, включая т.н. «сваттинг» (намеренный ложный вызов «специальных подразделений полиции» в адрес жертвы) и отправку подозрительных писем с порошками. Кроме того, ложные нарративы о «недостоверности» выборов направлены на психологическое запугивание и дестабилизацию работы избирательных служб.

6️⃣ DVEs и кибератаки. В отдельную категорию угроз аналитики отнесли внутренних радикальных экстремистов (DVEs), а также направленные на критическую инфраструктуру кибератаки. Угрозы насилия и саботажа инфраструктуры со стороны экстремистов могут быть направлены на подрыв работы правительственных объектов, мест для голосования, штабов политических партий и иных объектов, связанных с подсчетом голосов. Кроме того, критическая инфраструктура, включая такие каналы связи, как оптоволоконные кабели, а также объекты электроснабжения, может стать целью для атак, направленных на создание паники и дестабилизацию избирательного процесса.

❔В заключении документа отмечается, что по итогу выборов аналитики ожидают дальнейшего усиления политической поляризации и обострения напряженности, что может привести к демонстрациям и вспышкам насилия. Согласно отчету, кибератаки и операции по дезинформации будут продолжаться с «целью усиления общественного недовольства и подрыва доверия к демократическим процессам», что потребует от правительственных и частных организаций готовности к управлению рисками, связанными с сочетанием информационного и физического воздействия.

#ШколаМИБ #CIS #США #кибербезопасность #ИИ

1 ноября в рамках III МЕЖДУНАРОДНОЙ НАУЧНО-ПРАКТИЧЕСКОЙ КОНФЕРЕНЦИИ «ЦИФРОВЫЕ МЕЖДУНАРОДНЫЕ ОТНОШЕНИЯ 2024» МГИМО МИД России прошла секция: «Искусственный интеллект в международном образовательном и научном пространстве»

Модератор: Виноградова Екатерина Алексеевна, кандидат политических наук, член Российского общества «Знание», член РОО «АИИМ» ИЛА РАН, директор НИЦТИИМО

Прозвучали доклады:

🔹 Гурова Олега Николаевича, кандидата философских наук, МБА, научного сотрудника центра искусственного интеллекта МГИМО МИД России, доцента философского и экономического факультета МГУ им. М.В. Ломоносова
(Тема: «Этические аспекты применения киборг-технологий в образовании»)

🔹 Полуниной Ольги Сергеевны, кандидата исторических наук, доцента кафедры коммуникационного менеджмента и управления отношениями РГСУ (Тема: «AIEd: перспективы и проблемы преподавания и обучения»)

🔹 Андриановой Розы Ахбановны, кандидата педагогических наук, ведущего научного сотрудника ФГБУН Центра исследований безопасности Российской академии наук (Тема: «Ресурс ChatGPT-4o для анализа результатов социально-педагогического исследования проблемы буллинга»)

🔹 Елисеева Алексея Викторовича, заместителя директора Учебно-научного центра гуманитарных и социальных наук Московского физико-технического института (Тема: «Цифровизация образования: предотвратить нельзя возглавить? Поставим запятую»)

🔹 Виноградовой Екатерины Алексеевны, кандидата политических наук, члена Российского общества «Знание», члена РОО «АИИМ» ИЛА РАН, директора НИЦТИИМО (Тема: «Преподавание искусственного интеллекта Высшей школе: проблемы, перспективы и актуальные задачи для гуманитарного образования»)

🔹 Вольнова Ильи Николаевича, кандата технических наук, директора Центра технологической поддержки образования Московского политехнического университета (Тема: «Искусственный интеллект - границы применимости»)

🔹 Барышевой Анастасии Викторовны, заместителя директора НИЦТИИМО (Тема: «Проблема авторства в использовании технологий ИИ: на примере США и Китая»)

🔹 Филатовой Александры Александровны, старшего преподавателя ГАОУ ВО МГУСиТ, ведущего аналитика НИЦТИИМО (Тема: «Формирование негативного образа Мексики США с помощью технологий искусственного интеллекта»)

🔹 Мартиросян Аревик Жораевны, научного сотрудника Института актуальных международных проблем Дипломатической академии МИД России, руководитель школы международной информационной безопасности (Тема: «Международные контуры регулирования ИИ»)

🔹 Темновой-Зиминой Людмилы Анатольевны, магистранта кинодраматургии, соискателя Всероссийского государственного института кинематографии им. С. А. Герасимова (ВГИК) (Тема: «Технологии искусственного интеллекта в игровом кино: образовательный дискурс нового вида цифрового искусства»)

В рамках секции состоялась презентация коллективной монографии «Образ цифрового будущего России: формирование и репрезентации». Под общей редакцией В.В. Зотова, Г.Р. Консона, С.В. Володенкова. Москва, МФТИ, физтех 2024.

Спикеры:
🔹 Консон Григорий Рафаэльевич, Доктор культурологии, доктор искусствоведения, профессор, директор Учебно-научного центра гуманитарных и социальных наук - председатель Экспертного совета МФТИ по гуманитарным и социальным наукам, образованию и культуре, главный научный сотрудник отдела научно-технической информации Института кино и телевидения (ГИТР), главный редактор журнала «Наука телевидения»

🔹 Володенков Сергей Владимирович, Доктор политический наук, профессор кафедры государственной политики факультета политологии МГУ им. М.В. Ломоносова, научный руководитель магистерской программы «Искусственный интеллект и цифровые технологии в современной политике», член экспертно-методического совета комиссии Государственного совета России по направлению «Наука», член научно-консультативного совета при Антитеррористическом центре государств-участников СНГ

🔹 Зотов Виталий Владимирович, Доктор социологических наук, профессор Учебно- научного центра гуманитарных и социальных наук МФТИ, сопредседатель исследовательского центра «Социология цифрового будущего» Российского общества социологов⤵️Продолж.

В журнале «Международная жизнь» вышла наша с Александром Смирновым статья по итогам III Международной научно-практической конференции «Цифровые международные отношения 2024»

#МГИМО #цифровыемеждународныеотношения2024 #искусственныйинтеллект

Текст➡️https://interaffairs.ru/news/show/48670

🇺🇸 В США представили прогноз об угрозах в киберсфере на 2025 год

🌐 Эксперты Google и Mandiant представили документ Cybersecurity Forecast 2025, посвященный анализу и прогнозированию ключевых тенденций и угроз в сфере кибербезопасности на ближайший год. Как отмечают авторы, в 2025 году правительство США продолжит оставаться объектом интереса со стороны "кибершпионажа, спонсируемого государствами" , которые, вероятно, намерены воспользоваться сменой администрации для получения стратегического преимущества.

👺 В частности, документ особо акцентирует внимание на роли геополитических факторов как катализаторов киберактивности. Так, американские исследователи традиционно называют «большую четверку» − Россию, Китай, Иран и Северную Корею − основными источниками киберугроз в рамках достижения своих геостратегических целей. По мнению Google и Mandiant, российские кибератаки направлены против Украины и стран НАТО, в то время как Китай демонстрирует высокую активность в использовании нулевых уязвимостей, скрытых сетей и информационных операций, направленных на дискредитацию целей. В свою очередь, Северная Корея сосредоточена на кражах криптовалют и социальной инженерии, а Иран продолжает поддерживать региональную напряженность с помощью атак на государственные и телекоммуникационные системы.

🤖 В то же время одной из центральных тем исследования является влияние искусственного интеллекта на формирование киберугроз и возможностей защиты. Согласно прогнозам авторов доклада, кибербезопасность в 2025 году претерпит значительные изменения, вызванные как технологическим прогрессом, особенно в области искусственного интеллекта, так и постоянной активностью злонамеренных акторов, которые активно осваивают потенциал больших языковых моделей для масштабирования атак, включая фишинг, создание deepfake-контента и эксплойты для обхода защитных систем. Отдельно отмечается, что генеративный искусственный интеллект все чаще используется в информационных операциях для создания дезинформации и ложных идентичностей, что существенно увеличивает масштабы атак.

🦠 Важным аспектом отчета является анализ глобальных угроз, в котором особое внимание уделяется использованию вредоносного ПО для кражи данных и программ-вымогателей, которые становятся все более опасными благодаря их способности обходить современные средства обнаружения и защиты. Кроме того, отчет указывает на рост активности менее квалифицированных злоумышленников, получающих доступ к профессиональным инструментам через сервисы «как услуга» − такая демократизация кибервозможностей значительно усложняет задачи обеспечения безопасности для организаций.

🛡 Наконец, с развитием квантовых технологий появляется риск взлома традиционных шифров, поэтому эксперты считают, что организациям необходимо переходить к квантово-устойчивым стандартам шифрования, разработанным Национальным институтом стандартов и технологий (NIST). Кроме того, организациям предстоит адаптироваться к новым вызовам через внедрение облачных и автоматизированных решений, усиление контроля за идентификацией пользователей и подготовку к долгосрочным изменениям в криптографии.

#ШколаМИБ #Google #Mandiant #США #кибербезопасность #ИИ

🌐 IGF 2024: создание многостороннего цифрового будущего
28 ноября в 19:00 состоится эфир дискуссионного клуба «Цифровая реальность»

15-19 декабря в Эр-Рияде (Саудовская Аравия) пройдёт 19-й Глобальный форум по управлению интернетом. В этом году девизом Форума стало «Создание нашего многостороннего цифрового будущего».

IGF 2024 сосредоточится на четырех темах:

🔵 использование инноваций и балансировка рисков в цифровом пространстве;
🔵 увеличение цифрового вклада в мир и устойчивое развитие;
🔵 продвижение прав человека и инклюзивности в цифровую эпоху;
🔵 улучшение цифрового управления интернетом.

💌 28 ноября в 19:00 в онлайн-формате обсудим, чего ждать от предстоящего Форума и на что обратить внимание, в каких секциях примут участие представители российской делегации, участие ICANN в IGF 2024, а также фокусы внимания дискуссий Форума для конечных пользователей EURALO.

В качестве экспертов выступят:

🔵 Вадим Глущенко, директор Центра глобальной ИТ-кооперации;
🔵 Наталья Филина, секретарь EURALO, At-Large, ICANN;
🔵 Дарья Степовая, член исполнительной дирекции Школы международной информационной безопасности Дипломатической Академии МИД России.

Модератор: Михаил Анисимов, представитель ICANN по работе с заинтересованными сторонами в Восточной Европе и Центральной Азии.

🤖 К эфиру можно присоединиться по ссылке.

⚡️ Сегодня в 19:00 — дискуссионный клуб «Цифровая реальность»

В онлайн-формате приглашённые эксперты обсудят предстоящий IGF 2024:

🔵 чего ждать от Форума и на что обратить внимание;
🔵 в каких секциях примут участие представители российской делегации;
🔵 участие ICANN в IGF 2024;
🔵 фокусы внимания дискуссий Форума для конечных пользователей EURALO.

➡️ К эфиру можно присоединиться по ссылке.

🛡 30 ноября — Международный день информационной безопасности

Интернет стал неотъемлемой частью нашей жизни, но с его развитием растёт и количество киберугроз. Международный день информационной безопасности призван напомнить каждому пользователю об онлайн-рисках и важности защиты данных.

Согласно отчёту проекта «Нетоскоп» за третий квартал 2024 года, масштабы фишинга, вредоносного ПО и спама продолжают расти.

Основные цифры:

👉🏻 Фишинг: выявлено 97 275 доменов, использованных для кражи личных данных;
👉🏻 Вредоносное ПО: зафиксировано 286 940 доменов, распространяющих вирусы и вредоносные программы;
👉🏻 Спам: обнаружено более 1,75 млн доменов, используемых для массовых нежелательных рассылок;
👉🏻 Новые угрозы: за квартал в базу проекта добавлено 20 899 новых ресурсов с противоправным контентом, включая переквалифицированные домены.

Как защитить себя:

👉🏻 Используйте антивирусное ПО и своевременно обновляйте его;
👉🏻 Проверяйте ссылки перед переходом, особенно из незнакомых источников;
👉🏻 Используйте сложные пароли и включайте двухфакторную аутентификацию.

ℹ️ Узнать больше о кибербезопасности можно на сайтах доменныйпатруль.рф и нетоскоп.рф

🎉 Открыт сбор предложений для формирования программы RIGF. Присоединяйтесь!

⚡️ Сбор тем на RIGF 2025

15-й российский Форум по управлению интернетом пройдёт 7–8 апреля 2025 года в гибридном формате. Подготовка программы уже началась, и организаторы объявляют сбор тем для обсуждения на секциях.

Основные направления RIGF 2025:

🟢 развитие цифровой инфраструктуры;
🟢 управление ИИ и новыми технологиями;
🟢 суверенитет данных и конфиденциальность;
🟢 борьба с цифровой дезинформацией;
🟢 практики устойчивых технологий;
🟢 кибербезопасность и защита детей онлайн;
🟢 совершенствование цифрового управления интернетом, который мы хотим;
🟢 процессы GDC и WSIS 20+.

Итоговая программа будет составлена после обработки предложенных тем и с учётом тенденций, заявленных на глобальном IGF, который пройдёт в декабре. Предложения принимаются до 20 января 2025 года через форму на сайте RIGF.

🤖 Опасные возможности ИИ: как уязвимости генеративных моделей становятся инструментом угроз

📄Школа международной информационной безопасности ДА МИД России рада представить своим читателям опубликованный на портале по информационной безопасности SecurityLab краткий вариант проведенного совместно с Координационным центром доменов .RU / .РФ исследования на тему анализа методов генерации деструктивного контента современными моделями искусственного интеллекта общего назначения.

👩‍💻 Данный материал посвящен изучению обнаруженных экспертами уязвимостей в виде промпт-инъекций с использованием HTML-тегов в ИИ-продуктах таких отечественных и зарубежных IT-компаний, как SberAI, Yandex и OpenAI. В результате применения данного метода авторам удалось сгенерировать не только текстовую, но и графическую информацию вредоносного содержания, а также обнаружить факт предвзятости в отношении влиятельных политических фигур.

🛡 Таким образом, стоит отметить, что современные генеративные модели по-прежнему остаются уязвимыми для изощренных промпт-атак, что представляет потенциальную опасность в контексте генерации вредоносного контента и его дальнейшего использования в злонамеренных целях. Охватывая классическую триаду угроз международной информационной безопасности, результаты генерации свидетельствуют о существующей тенденции к значительному возрастанию функциональности и, как следствие, негативного потенциала ИИ с течением времени, отражая двойственную природу данной технологии.

⚠️ Авторы призывают к ответственному использованию ИИ и выражают благодарность компаниям-разработчикам за своевременную обратную связь.

#ШколаМИБ #SberAI #Yandex #OpenAI #информационная_безопасность #ИИ