ОПАСНО-ХРУПКИЙ ИИ
#ИИ #кибербезопасность #USA
Grok-4 был взломан всего через два дня после релиза.
Об этом недавно сообщили исследователи из компании NeuralTrust.
Искусственный интеллект Grok-4 от xAI, выпущенный 9 июля 2025 года, уже 11 июля пал жертвой комбинированной атаки типа джейлбрейк.
Исследователи NeuralTrust использовали методики Echo Chamber и Crescendo, основанные на поэтапном обходе фильтров безопасности. Первая техника — Echo Chamber — внедряет опасный контекст без явных запрещённых слов, а Crescendo усиливает эффект, ссылаясь на предыдущие ответы ИИ.
При тестировании модель выдала инструкции по изготовлению коктейля Молотова с вероятностью успеха 67%, по синтезу метамфетамина — 50%, по производству токсинов — 30%.
Эти результаты подтверждают: даже новейшие языковые модели остаются уязвимыми к сложным комбинированным атакам, особенно если они используют весь диалоговый контекст, а не только отдельные запросы.
T.ly/yyPPx
#ИИ #кибербезопасность #USA
Grok-4 был взломан всего через два дня после релиза.
Об этом недавно сообщили исследователи из компании NeuralTrust.
Искусственный интеллект Grok-4 от xAI, выпущенный 9 июля 2025 года, уже 11 июля пал жертвой комбинированной атаки типа джейлбрейк.
Исследователи NeuralTrust использовали методики Echo Chamber и Crescendo, основанные на поэтапном обходе фильтров безопасности. Первая техника — Echo Chamber — внедряет опасный контекст без явных запрещённых слов, а Crescendo усиливает эффект, ссылаясь на предыдущие ответы ИИ.
При тестировании модель выдала инструкции по изготовлению коктейля Молотова с вероятностью успеха 67%, по синтезу метамфетамина — 50%, по производству токсинов — 30%.
Эти результаты подтверждают: даже новейшие языковые модели остаются уязвимыми к сложным комбинированным атакам, особенно если они используют весь диалоговый контекст, а не только отдельные запросы.
T.ly/yyPPx
"МУДРЫЕ" ИННОВАЦИИ ВАТИКАНА
#ИИ #Vatican
Ватикан призвал к глобальному этическому контролю над искусственным интеллектом.
Об этом на днях заявил Ватикан на саммите AI for Good в Женеве от имени Папы Льва XIV.
В послании, озвученном кардиналом Пьетро Паролином, подчёркивается, что искусственный интеллект не может заменить нравственное суждение и человеческие отношения.
Ватикан призвал мировых лидеров, разработчиков и пользователей ИИ к совместному соблюдению общих этических стандартов, опираясь на достоинство личности, всеобщее благо и «спокойствие порядка» — идеал, основанный на справедливости.
Также была затронута проблема цифрового неравенства: 2,6 миллиарда человек всё ещё не имеют доступа к современным технологиям. Ватикан требует, чтобы прогресс был инклюзивным и способствовал всестороннему развитию человека, подчёркивая: инновации без мудрости ведут не к процветанию, а к несправедливости.
T.ly/kzCZC
#ИИ #Vatican
Ватикан призвал к глобальному этическому контролю над искусственным интеллектом.
Об этом на днях заявил Ватикан на саммите AI for Good в Женеве от имени Папы Льва XIV.
В послании, озвученном кардиналом Пьетро Паролином, подчёркивается, что искусственный интеллект не может заменить нравственное суждение и человеческие отношения.
Ватикан призвал мировых лидеров, разработчиков и пользователей ИИ к совместному соблюдению общих этических стандартов, опираясь на достоинство личности, всеобщее благо и «спокойствие порядка» — идеал, основанный на справедливости.
Также была затронута проблема цифрового неравенства: 2,6 миллиарда человек всё ещё не имеют доступа к современным технологиям. Ватикан требует, чтобы прогресс был инклюзивным и способствовал всестороннему развитию человека, подчёркивая: инновации без мудрости ведут не к процветанию, а к несправедливости.
T.ly/kzCZC
НОВАЯ ЭПОХА КИБЕРБЕЗОПАСНОСТИ
#кибербезопасность #ИИ
Искусственный интеллект радикально изменил сферу кибербезопасности.
Об этом на днях сообщили редакторы Solutions Review, обобщив результаты актуальных исследований и аналитики.
Влияние ИИ на кибербезопасность стало системным: автоматизация анализа снизила нагрузку на специалистов, появились новые профессии вроде AI Threat Analyst и Adversarial ML Red Teamer, а угрозы, включая рост фишинга на 1200% и 36 000 вредоносных сканирований в секунду, требуют круглосуточной защиты.
Рынок ИИ в кибербезопасности вырастет с $14,9 млрд (2021) до $133,8 млрд к 2030 году. В условиях дефицита 3,5 млн специалистов и нехватки кадров в 50% компаний, профессионалам жизненно важно осваивать навыки ИИ и развивать soft skills, такие как гибкость мышления и умение работать с неопределённостью.
Без этого многие рискуют отстать от развития профессии, которая всё больше смещается в сторону аналитики, стратегии и надзора за решениями ИИ.
T.ly/HVA7b
#кибербезопасность #ИИ
Искусственный интеллект радикально изменил сферу кибербезопасности.
Об этом на днях сообщили редакторы Solutions Review, обобщив результаты актуальных исследований и аналитики.
Влияние ИИ на кибербезопасность стало системным: автоматизация анализа снизила нагрузку на специалистов, появились новые профессии вроде AI Threat Analyst и Adversarial ML Red Teamer, а угрозы, включая рост фишинга на 1200% и 36 000 вредоносных сканирований в секунду, требуют круглосуточной защиты.
Рынок ИИ в кибербезопасности вырастет с $14,9 млрд (2021) до $133,8 млрд к 2030 году. В условиях дефицита 3,5 млн специалистов и нехватки кадров в 50% компаний, профессионалам жизненно важно осваивать навыки ИИ и развивать soft skills, такие как гибкость мышления и умение работать с неопределённостью.
Без этого многие рискуют отстать от развития профессии, которая всё больше смещается в сторону аналитики, стратегии и надзора за решениями ИИ.
T.ly/HVA7b
ИИ КОРЕЙСКОЙ ОБОРОНЫ
#ИИ #SouthKorea
Южная Корея объединяет ИИ и военную оборону в новой стратегии.
Об этом недавно сообщило южнокорейское агентство новостей Pulse.
Южная Корея объявила о масштабной стратегии по ускоренной интеграции искусственного интеллекта в оборонный сектор, включая передачу засекреченных военных данных частным компаниям и создание единой облачной платформы.
Центральную роль в этом процессе играет недавно основанный Центр оборонного ИИ, координирующий разработку автономных дронов, систем командования, ИИ-наблюдения и киберопераций.
Для ускорения прогресса создаётся государственно-частный фонд, разрабатываются стандарты безопасности, а около 30 специалистов уже работают над нормативной базой.
Модель заимствована у США, где подобные “песочницы” (sandbox) с участием компаний Google, Microsoft и других позволяют безопасно разрабатывать ИИ-решения на чувствительных данных.
T.ly/htxH4
#ИИ #SouthKorea
Южная Корея объединяет ИИ и военную оборону в новой стратегии.
Об этом недавно сообщило южнокорейское агентство новостей Pulse.
Южная Корея объявила о масштабной стратегии по ускоренной интеграции искусственного интеллекта в оборонный сектор, включая передачу засекреченных военных данных частным компаниям и создание единой облачной платформы.
Центральную роль в этом процессе играет недавно основанный Центр оборонного ИИ, координирующий разработку автономных дронов, систем командования, ИИ-наблюдения и киберопераций.
Для ускорения прогресса создаётся государственно-частный фонд, разрабатываются стандарты безопасности, а около 30 специалистов уже работают над нормативной базой.
Модель заимствована у США, где подобные “песочницы” (sandbox) с участием компаний Google, Microsoft и других позволяют безопасно разрабатывать ИИ-решения на чувствительных данных.
T.ly/htxH4
ГОРОДСКОЙ ИИ САН-ФРАНЦИСКО
#ИИ #USA
Сан-Франциско внедрил ИИ-ассистента для 30 000 сотрудников.
Об этом на днях сообщил мэр города Дэниел Лури и подтвердили городские власти.
Город Сан-Франциско запустил масштабное внедрение Microsoft 365 Copilot Chat - ИИ-помощника на базе GPT-4o - для почти 30 000 работников общественного сектора.
Ранее завершив пилот с участием 2 000 сотрудников, где ИИ экономил до 5 часов в неделю, власти расширили доступ на все службы: от здравоохранения и соцработы до администрирования и линии 311. Copilot Chat переводит тексты на 40+ языков, помогает с отчётами, анализом данных и ускоряет обслуживание жалоб.
Обязательное пятинедельное обучение с участием InnovateUS включает правила безопасного использования, проверку фактов и раскрытие происхождения ИИ-контента. Все данные обрабатываются в защищённом облаке Microsoft.
В перспективе ИИ будет использоваться в дорожной аналитике, разрешении на строительство и помощи бездомным.
T.ly/laMrD
#ИИ #USA
Сан-Франциско внедрил ИИ-ассистента для 30 000 сотрудников.
Об этом на днях сообщил мэр города Дэниел Лури и подтвердили городские власти.
Город Сан-Франциско запустил масштабное внедрение Microsoft 365 Copilot Chat - ИИ-помощника на базе GPT-4o - для почти 30 000 работников общественного сектора.
Ранее завершив пилот с участием 2 000 сотрудников, где ИИ экономил до 5 часов в неделю, власти расширили доступ на все службы: от здравоохранения и соцработы до администрирования и линии 311. Copilot Chat переводит тексты на 40+ языков, помогает с отчётами, анализом данных и ускоряет обслуживание жалоб.
Обязательное пятинедельное обучение с участием InnovateUS включает правила безопасного использования, проверку фактов и раскрытие происхождения ИИ-контента. Все данные обрабатываются в защищённом облаке Microsoft.
В перспективе ИИ будет использоваться в дорожной аналитике, разрешении на строительство и помощи бездомным.
T.ly/laMrD
ГЕНЕРАТИВНОЕ МОШЕННИЧЕСТВО
#кибербезопасность #ИИ #USA
Искусственный интеллект резко усилил угрозу цифрового мошенничества.
К такому выводу недавно пришла компания Proof в своём докладе.
Мошенничество стало синтетическим, автономным и масштабируемым благодаря двум факторам: росту объёмов персональных данных в интернете и использованию генеративного ИИ. Современные злоумышленники используют скомпрометированные данные, создают поддельные документы, deepfake-голоса и видео, а также обходят системы KYC.
Deloitte прогнозирует рост убытков от мошенничества в США с 12,3 млрд долларов в 2023 году до 40 млрд к 2027 году.
Развивается модель "мошенничество как услуга", где преступники торгуют данными, технологиями подделки и готовыми фейковыми аккаунтами.
При этом ручные методы борьбы с мошенничеством стремительно устаревают, и только ИИ может обеспечить адекватный уровень противодействия.
T.ly/zV0JZ
#кибербезопасность #ИИ #USA
Искусственный интеллект резко усилил угрозу цифрового мошенничества.
К такому выводу недавно пришла компания Proof в своём докладе.
Мошенничество стало синтетическим, автономным и масштабируемым благодаря двум факторам: росту объёмов персональных данных в интернете и использованию генеративного ИИ. Современные злоумышленники используют скомпрометированные данные, создают поддельные документы, deepfake-голоса и видео, а также обходят системы KYC.
Deloitte прогнозирует рост убытков от мошенничества в США с 12,3 млрд долларов в 2023 году до 40 млрд к 2027 году.
Развивается модель "мошенничество как услуга", где преступники торгуют данными, технологиями подделки и готовыми фейковыми аккаунтами.
При этом ручные методы борьбы с мошенничеством стремительно устаревают, и только ИИ может обеспечить адекватный уровень противодействия.
T.ly/zV0JZ
ГЛОБАЛЬНАЯ РЕГУЛЯЦИЯ ИИ
#ИИ #International
ИИ становится глобальным вызовом, требующим срочной международной регуляции.
К такому выводу пришли аналитики лихтенштейнской компании GIS Reports.
Согласно недавнему докладу, системы ИИ влияют на ключевые сферы - от геополитики до экологии - и создают риски в виде слежки, киберугроз, социальной поляризации, усиления неравенства и роста потребления ресурсов.
В 2024 году в США было создано 40 из 58 наиболее значимых универсальных моделей ИИ, что подчеркивает глобальный дисбаланс. Энергопотребление дата-центров уже достигло 460 ТВт·ч в 2022 году, и к 2030 году может вырасти более чем вдвое.
Рынок ИИ всё больше контролируется частными компаниями, зачастую опережающими государственные регуляторы, что вызывает тревогу по поводу прозрачности и демократического контроля.
Авторы призвали к созданию международных экспертных органов, а также к комплексному регулированию, охватывающему трудовые права, экологические стандарты и этику ИИ.
T.ly/oJcwg
#ИИ #International
ИИ становится глобальным вызовом, требующим срочной международной регуляции.
К такому выводу пришли аналитики лихтенштейнской компании GIS Reports.
Согласно недавнему докладу, системы ИИ влияют на ключевые сферы - от геополитики до экологии - и создают риски в виде слежки, киберугроз, социальной поляризации, усиления неравенства и роста потребления ресурсов.
В 2024 году в США было создано 40 из 58 наиболее значимых универсальных моделей ИИ, что подчеркивает глобальный дисбаланс. Энергопотребление дата-центров уже достигло 460 ТВт·ч в 2022 году, и к 2030 году может вырасти более чем вдвое.
Рынок ИИ всё больше контролируется частными компаниями, зачастую опережающими государственные регуляторы, что вызывает тревогу по поводу прозрачности и демократического контроля.
Авторы призвали к созданию международных экспертных органов, а также к комплексному регулированию, охватывающему трудовые права, экологические стандарты и этику ИИ.
T.ly/oJcwg
СЕВЕРОКОРЕЙСКИЙ ИИ
#ИИ #NorthKorea
Северная Корея начала направлять ИИ-исследователей и студентов за рубеж.
Об этом на днях сообщило независимое издание NK News, базирующееся в Южной Корее.
Глава Института искусственного интеллекта при Ким Ир Сеновском университете Ким Гван Хёк заявил, что Пхеньян отправляет стажёров и исследователей в такие страны, как Россия, чтобы развивать собственный техсектор, несмотря на жёсткие санкции Совбеза ООН. Он отметил, что IT, особенно искусственный интеллект, находится под строгими международными ограничениями, но разработки всё же продолжаются.
Среди проектов назван переводчик Ryongma, поддерживающий семь языков и доступный с 2021 года, а также ИИ-платформа для новой больницы в Пхеньяне.
Однако в стране функционируют лишь три завода по производству чипов, что серьёзно ограничивает потенциал ИИ-программ.
T.ly/xbXwl
#ИИ #NorthKorea
Северная Корея начала направлять ИИ-исследователей и студентов за рубеж.
Об этом на днях сообщило независимое издание NK News, базирующееся в Южной Корее.
Глава Института искусственного интеллекта при Ким Ир Сеновском университете Ким Гван Хёк заявил, что Пхеньян отправляет стажёров и исследователей в такие страны, как Россия, чтобы развивать собственный техсектор, несмотря на жёсткие санкции Совбеза ООН. Он отметил, что IT, особенно искусственный интеллект, находится под строгими международными ограничениями, но разработки всё же продолжаются.
Среди проектов назван переводчик Ryongma, поддерживающий семь языков и доступный с 2021 года, а также ИИ-платформа для новой больницы в Пхеньяне.
Однако в стране функционируют лишь три завода по производству чипов, что серьёзно ограничивает потенциал ИИ-программ.
T.ly/xbXwl
ИИ-СТРАТЕГИЯ ИНДОНЕЗИИ
#ИИ #Indonesia
Индонезия представит национальную стратегию по ИИ для привлечения инвестиций.
Об этом недавно сообщил заместитель министра связи и цифровизации Незар Патрия.
Уже в августе 2025 года Индонезия завершит работу над первой всеобъемлющей стратегией по искусственному интеллекту, направленной на укрепление позиций страны в глобальной ИИ- и полупроводниковой отрасли.
В рамках этой инициативы Microsoft инвестирует $1,7 млрд в развитие облачной и ИИ-инфраструктуры, а Nvidia участвует в проекте на $200 млн по созданию центра ИИ. Стратегия нацелена на развитие ИИ в здравоохранении и сельском хозяйстве, устранение дефицита квалифицированных кадров и обеспечение защиты данных.
Параллельно страна продвигает добычу критически важных минералов и предлагает партнёрство, в том числе США, чтобы усилить позиции в цепочках поставок ИИ-оборудования.
Между тем, аналитики указывают на сохраняющиеся риски, включая нехватку инфраструктуры и пробелы в регулировании.
T.ly/JyOKC
#ИИ #Indonesia
Индонезия представит национальную стратегию по ИИ для привлечения инвестиций.
Об этом недавно сообщил заместитель министра связи и цифровизации Незар Патрия.
Уже в августе 2025 года Индонезия завершит работу над первой всеобъемлющей стратегией по искусственному интеллекту, направленной на укрепление позиций страны в глобальной ИИ- и полупроводниковой отрасли.
В рамках этой инициативы Microsoft инвестирует $1,7 млрд в развитие облачной и ИИ-инфраструктуры, а Nvidia участвует в проекте на $200 млн по созданию центра ИИ. Стратегия нацелена на развитие ИИ в здравоохранении и сельском хозяйстве, устранение дефицита квалифицированных кадров и обеспечение защиты данных.
Параллельно страна продвигает добычу критически важных минералов и предлагает партнёрство, в том числе США, чтобы усилить позиции в цепочках поставок ИИ-оборудования.
Между тем, аналитики указывают на сохраняющиеся риски, включая нехватку инфраструктуры и пробелы в регулировании.
T.ly/JyOKC
ЦИФРОВОЙ ДРУГ ДЕТСТВА
#ИИ #USA
Подростки в США всё чаще используют ИИ для общения и советов.
Об этом недавно сообщила организация Common Sense Media по итогам масштабного опроса.
Согласно исследованию, более 70 % подростков уже обращались к ИИ-компаньонам, около половины делают это регулярно. Примерно треть участников признались, что обсуждали с ИИ серьёзные темы, а 31 % сочли такие беседы столь же удовлетворительными или даже более удовлетворительными, чем разговоры с друзьями.
Подростки используют ChatGPT, CharacterAI и Replika для выбора одежды, составления писем, планирования мероприятий и даже получения эмоциональной поддержки.
По мнению экспертов, подобные цифровые привязанности могут повредить развитию критического мышления, социальных навыков и эмоциональной зрелости.
T.ly/jOJwn
#ИИ #USA
Подростки в США всё чаще используют ИИ для общения и советов.
Об этом недавно сообщила организация Common Sense Media по итогам масштабного опроса.
Согласно исследованию, более 70 % подростков уже обращались к ИИ-компаньонам, около половины делают это регулярно. Примерно треть участников признались, что обсуждали с ИИ серьёзные темы, а 31 % сочли такие беседы столь же удовлетворительными или даже более удовлетворительными, чем разговоры с друзьями.
Подростки используют ChatGPT, CharacterAI и Replika для выбора одежды, составления писем, планирования мероприятий и даже получения эмоциональной поддержки.
По мнению экспертов, подобные цифровые привязанности могут повредить развитию критического мышления, социальных навыков и эмоциональной зрелости.
T.ly/jOJwn