AWS обновил курс по защите генеративного ИИ

Бесплатный двухчасовой курс (на английском) на платформе AWS Skill Builder обучает лучшим практикам безопасности при работе с генеративными моделями в облаке.

Целевая аудитория включает специалистов по безопасности, архитекторов и инженеров ML.

Полезно актуализировать понимание безопасности ИИ экосистемы.

#AWS #Security #обучение
———
@tsingular

Рубрика - полезные уроки с AWS. Интеграция Claude 3 для видеомониторинга привилегированного доступа

Контроль привилегированных пользователей (PAM) штука важная, - вы пускаете в систему админа для настройки и нужно как-то мониторить его действия. Ну или хотя бы записать экран.

В итоге безопасники тонут в видеозаписях действий админов, и ИИ может помочь их "разгрести" 😅

В примере представлено пошаговое решение как самостоятельно собрать анализатор записей PAM-систем с помощью Claude 3:

Допустим ваши PAM-системы записывают тонны видео действий админов в Windows (100к+ часов в месяц!)
Вручную просмотреть это нереально - нужно 1000 человек работающих круглосуточно.
Claude 3 может "посмотреть" записи и составить подробный транскрипт

А потом проанализировать на предмет подозрительной активности

Как это работает:
Видео нарезается на кадры (1 кадр/сек)
Claude анализирует последовательности до 20 кадров за один вызов
Создаёт подробное описание действий админа
Проверяет на соответствие ограничениям инструкции, плана действий захода в консоль, попытки повышения привилегий и утечки данных.

Самое крутое - Claude может не только описать что видит, но и отметить подозрительные моменты: "ПОДОЗРИТЕЛЬНО: админ что-то сохранил" 🧐

Amazon выложил готовое решение на GitHub с использованием AWS Bedrock.

В общем, интересный пример как ИИ может разгрузить специалистов ИБ от рутины. Хотя, конечно, полностью доверять ему пока рановато - может и накосячить в анализе. Но как первичный фильтр - почему бы и нет? 🤔

Даже в режиме параноика, если он сможет ежедневно отсматривать 1000 часов и, пусть избыточно, но давать сводку - её все-равно быстрее посмотреть, чем глазками эту 1000 листать.

Если кому надо, - обращайтесь. Сделаем! :)

#AWS #Claude #инструкции #обучение
———
@tsingular

DeepSeek R1 теперь доступна на Azure и AWS Bedrock

DeepSeek R1 интегрируется в ведущие облачные платформы и теперь доступен не только из Китая.

Модель существует в двух версиях: 8B и 70B.
Меньшая версия сохраняет до 92% функционала при значительной экономии ресурсов.

Развертывание осуществляется через serverless инфраструктуру с автомасштабированием и защитой от MS и AWS, что, по идее, не позволит повториться инциденту с уязвимостями.

Azure
AWS
и раньше писал про Groq

#DeepSeek #Microsoft #AWS
———
@tsingular

Amazon Q Developer научился генерировать и тестировать код в реальном времени

AWS запустила крупное обновление Amazon Q Developer.
Сервис получил систему автоматического тестирования генерируемого программного кода в защищенной среде.
Функционал включает выявление ошибок, синхронизацию с проектом и до трех попыток автоматического исправления.
Devfile настраивает изолированную песочницу для безопасного исполнения.
Система анализирует существующую кодовую базу и предлагает улучшения на основе результатов тестов.
Среда выполнения контролируется через конфигурацию без доступа к закрытым ресурсам.

Сегодня день релизов :)

#Amazon #AWS #DevOps
-------
@tsingular

Регулярная рубрика, - инструкции от AWS.

На этот раз интересный материал по мульти-интерфейсным AI-ассистентам. Разберем технические детали! 🤓

1. RAG:
- Amazon Kendra как векторная база данных (вместо популярных Pinecone/Weaviate)
- Amazon S3 для хранения документации
- CloudFront для раздачи ссылок на источники
- AWS Lambda для подгрузки данных из Slack

2. Интересно, что используют CloudFront вместо прямых Slack-ссылок. Это решает проблему доступа к источникам для пользователей без доступа к Slack. Умно! 🎯

3. Интеграция построена через два основных интерфейса:
- Amazon Q Business (нативное решение AWS)
- Slack (через API интеграцию)

4. Технический лайфхак: они используют метаданные в Kendra для каждого файла-источника, что позволяет обоим интерфейсам корректно привязывать первоисточники документов.

5. Мониторинг реализован через:
- Встроенную аналитику Amazon Q
- Кастомный CloudWatch дашборд для Slack-метрик
- Автоматические дейли-репорты в Slack

Автоматическое обновление данных через EventBridge - система сама подтягивает новые данные из Slack каждый день.

Kendra под вектор, - ещё не слышал. 🤔

Ну AWS/не AWS тут не так важно, интересна архитектура и подходы.

У AWS и архитекторы, - огонь и методология и практика описания этих архитектур очень круто отлажена.

Изучаем.

#AWS #RAG #Cloud #обучение
———
@tsingular

🚀 AWS создаёт Agentic AI Group

AWS объявила о создании новой группы, целиком посвящённой агентным AI-технологиям.

4 марта 2025 CEO AWS Мэтт Гарман разослал внутреннее письмо, где анонсировал создание выделенной группы Agentic AI, которую возглавит вице-президент Свами Сивасубраманиан. В письме Гарман пишет, что "AI-агенты — ядро следующей волны инноваций", и прогнозирует, что агентный AI может стать многомиллиардным бизнесом для AWS.

Технические изменения:
- Bedrock и SageMaker теперь объединены под одной крышей в рамках подразделения AWS Compute
- Команда чатбота Q также переведена в новую группу
- Подразделение по AI-инструментам было реорганизовано с фокусом на агентные технологии

Что уже запущено:
- Alexa+ — обновлённая версия голосового помощника с агентными функциями, которая может проактивно выполнять действия без команд пользователя (бесплатно для Prime-подписчиков, $19.99/месяц для остальных)
- InlineAgents — новая фича для Bedrock, позволяющая динамически создавать агентов "на лету" через API вместо предварительной настройки
- Amazon Nova — новое семейство моделей AWS (ранее Titan) с вариантами от лёгких Nova Micro (32K контекст) до мощных Nova Pro (300K контекст)

Бизнес-стратегия:
AWS выбрала модельно-агностичный подход — клиенты могут использовать как собственные модели Amazon Nova, так и сторонние (Claude, Stability AI и др.). Это отличает их от Microsoft (ставка на OpenAI) и Google (свои модели PaLM/Gemini).

Интересно, что AWS не пошла по пути готовых встроенных решений типа Microsoft Copilot, а сосредоточилась на предоставлении гибкой платформы для создания кастомных агентов.

Влияние на рынок:

Аналитики считают, что AWS имеет шансы стать лидером в создании enterprise-grade агентных систем за счёт:

1. Интеграции с облачной инфраструктурой (Lambda, Step Functions)
2. Строгой безопасности через IAM-роли и детальный контроль доступа
3. Масштабируемой архитектуры с управляемой оркестрацией
4. Экономических оптимизаций (кэширование токенов, которое снижает стоимость до 90%)

Почему это важно:
AWS явно переходит от "поддержки" агентов к агрессивной стратегии доминирования в этой области. Microsoft и Google с их интеграцией агентов в офисные приложения борются за пользовательский сегмент, а AWS готовится захватить enterprise-рынок кастомных агентных решений.

#AWS #agentis #enterprise
———
@tsingular

🔊 Amazon Nova Sonic: Революция в голосовом AI — понимает не только ЧТО, но и КАК вы говорите

Amazon запустил новую модель Nova Sonic — первый фундаментальный AI, который объединяет распознавание и генерацию речи в единой архитектуре, делая голосовое взаимодействие по-настоящему человечным.

Ключевые возможности:
• Единая модель (не разрозненные ASR+LLM+TTS)
• Понимание тона, интонации и темпа речи
• Адаптация ответа под эмоциональный контекст
• Естественные паузы и умение "не перебивать"
• Корректная обработка прерываний разговора

Техническая начинка:
• Двунаправленный streaming API через HTTP/2
• Контекстное окно в 32K токенов
• До 8 минут в одной сессии
• Function calling для интеграции внешних сервисов
• RAG для работы с корпоративными данными
• Поддержка американского и британского английского

Практическое применение:
• Автоматизация контакт-центров
• Виртуальные туристические консультанты
• Образовательные приложения
• Игры с голосовым интерфейсом
• AI-ассистенты для работы с корпоративными дашбордами

Модель уже доступна через Amazon Bedrock в регионе US East (N. Virginia).

Для Python-разработчиков выпущен экспериментальный SDK для работы с бидирекциональным стримингом.

AWS явно в лидерах ИИ разработок. Не перестают удивлять, хотя о них и меньше "кричат", чем про OpenAI или Google.
Послушайте пример в прикрепе к посту.

#Amazon #Nova #Voice #AWS #sound
———
@tsingular

🎥 Amazon Nova Reel 1.1: видеогенератор до 2 минут и ручное управление кадрами

• Генерация видео до 120 секунд из текстового промпта
• Два режима работы: автоматический и ручной
• Работа с референсными изображениями для настройки стиля
• Разрешение 1280х720 при 24 FPS
• API через Amazon Bedrock и интеграция с Python

Технические особенности
Самое вкусное тут в многокадровой генерации. В режиме Multi-shot Automated достаточно написать один промпт до 4000 символов, и модель сама нарежет его на 6-секундные сцены с единым стилем.

А в Multi-shot Manual можно задать до 20 разных промптов (каждый до 512 символов) и добавить к каждому своё референсное изображение.

Кстати, в коде уже есть нормальная асинхронная обработка через API, что важно для продакшена:

invocation = bedrock_runtime.start_async_invoke(
    modelId="amazon.nova-reel-v1:1",
    modelInput=model_input,
    outputDataConfig={"s3OutputDataConfig": {"s3Uri": S3_DESTINATION_BUCKET}},
)

Готовое видео попадает прямо в S3-корзину.

Бизнес-применение
Приоритет маркетингу, рекламе и продакт-дизайну.
С Nova Reel можно:
• Создавать рекламные ролики без съёмочной группы и сложного монтажа
• Генерировать фоновые видео для презентаций
• Делать прототипы видеоконтента для соцсетей
• Визуализировать концепты продуктов для питчей

Особенно ценно, что можно настроить собственную "раскадровку" под конкретный бренд или продукт.

Безопасность и ограничения
Amazon явно перестраховался после всех этих скандалов с дипфейками:
• Встроены невидимые "водяные знаки" на все видео
• Блокировка генерации знаменитостей и публичных персон
• Автоматический детект потенциального нарушения авторских прав
• Встроенная проверка на токсичность с блокировкой 95,8% опасного контента

Кроме того, Amazon даёт неограниченную защиту от претензий по IP для контента, сгенерированного их моделями.

Для работы с Amazon Nova Reel 1.1 нужен доступ к Amazon Bedrock (пока только в регионе US East). Цены — по стандартной модели pay-as-you-go.

#AWS #нейрорендер #Nova
———
@tsingular

AWS представила набор MCP серверов для разработчиков

Amazon Web Services официально представила набор специализированных MCP-серверов, которые позволяют ИИ-моделям работать с экосистемой AWS.

Суть проекта
AWS создала целый набор MCP-серверов, которые конвертируют сервисы AWS в инструменты для ИИ-ассистентов:

Core MCP Server — мозговой центр, который оркестрирует установку и управление другими MCP-серверами

AWS CDK MCP Server — помогает ассистентам генерировать и проверять инфраструктуру как код через CDK

AWS Lambda MCP Server — позволяет моделям запускать функции Lambda как инструменты (красиво обходит ограничения API!)

Amazon Bedrock Knowledge Base MCP Server — даёт доступ к корпоративным данным через Bedrock

Nova Canvas MCP Server — генерация изображений прямо через модели

Cost Analysis MCP Server — анализ стоимости AWS сервисов

Технически интересные моменты
Безопасность: Lambda MCP Server действует по модели разделения обязанностей — модель не получает прямой доступ к AWS-сервисам, а только запускает функции Lambda, которые уже имеют нужные права

Интеграция без кода: функции Lambda становятся инструментами без каких-либо изменений в их коде — достаточно добавить описание и тэг

CDK + Nag: встроенная проверка безопасности для сгенерированного кода через CDK Nag — модель сама помогает с безопасностью инфраструктуры

Terraform в пару к CDK — есть отдельный MCP-сервер для тех, кто предпочитает Terraform с Checkov для security-сканирования

Бизнес-применение
Снижение барьера для ИИ: разработчикам не нужно быть экспертами по ML, чтобы продуктивно использовать генеративный ИИ в своих проектах

Безопасный доступ к внутренним системам: ИИ-ассистенты могут взаимодействовать с внутренними системами через Lambda без прямого доступа к ресурсам

Генерация диаграмм AWS-инфраструктуры: Visio не нужен — модель может визуализировать архитектуру через AWS Diagram MCP Server

Оценка стоимости проектов: ассистенты могут оценить стоимость проектов и сервисов AWS еще до развертывания

Вся эта экосистема работает с открытым протоколом MCP, а значит теоретически совместима не только с AWS-моделями, но и с Claude от Anthropic и с другими MCP сервисами.

#AWS #MCP
———
@tsingular

4 не-чат-бот кейса от Amazon по ИИ в бизнесе

🛒 Создание списков товаров
- Amazon Bedrock для LLM + коннекторы к внутренним/внешним источникам данных
- несколько LLM в цепочке: одна модель генерирует, вторая валидирует (борьба с галлюцинациями)
- Автоматизированная система A/B тестирования для оптимизации промптов и моделей
- Многослойная валидация: ML-алгоритмы → LLM-проверка → человеческая экспертиза

Практический результат: используется 900,000+ продавцами, 80% сгенерированных черновиков принимаются почти без правок

💊 Обработка рецептов в Amazon Pharmacy
- Task decomposition - разбивка сложного процесса на специализированные модули
- Fine-tuned SLM (малые языковые модели) вместо больших LLM для скорости
- Традиционное ML для NER (Named Entity Recognition) + регрессионные модели для confidence scoring
- AWS Fargate для оркестрации workflow + строгие HIPAA правила в Amazon Bedrock

Фишка: Гибридный подход "человек-в-процессе" с фармацевтами для принятия критически важных решений

⭐️ Оценка отзывов покупателей
Экономичное решение:
- Гибридная архитектура: традиционное ML для оценки тона, SLM только для генерации текста
- SageMaker Batch Transform для асинхронной обработки
- Инкрементальная обработка новых отзывов без пересчета всего датасета
- Amazon EC2 Inf2 инстансы для 40% экономии

Масштаб: 200+ миллионов отзывов в год обрабатывается offline

🎨 Генерация креативов для Amazon Ads
Мультимодальный подход:
- Amazon Nova Canvas в основе для генерации изображений из текста/изображений
- Agentic workflow: сначала описание сценария сцен, потом генерация видео
- AWS Step Functions + Lambda для безсерверных процессов
- Amazon Bedrock Guardrails + Rekognition/Comprehend для дополнительных проверок безопасности

Бизнес-эффект: Рекламодатели с ИИ-креативами показывают на 8% больше CTR и создают на 88% больше кампаний

🎯 Общие технические паттерны:
- Task Decomposition - разбивка сложных задач на специализированные компоненты
- Hybrid ML - комбинирование традиционного ML с LLM для экономии
- Batch Processing - offline обработка где возможно для экономии
- Multi-layer Validation - несколько уровней проверки качества
- Human-in-the-Loop - включение экспертов в критических точках принятия стратегических решений

Все решения в кейсах построены на AWS-стеке, но могут быть полезны для проработки собственных сценариев на вашей собственной ИТ инфраструктуре.
Архитектурные паттерны одинаковые.

#AWS #кейсы
———
@tsingular

AWS опубликовал подробный гайд по использованию Model Context Protocol (MCP)

AWS выложил детальное руководство по интеграции MCP с облачными сервисами.

MCP превращает задачу «M×N интеграций» в простое уравнение «M+N» — вместо создания отдельных подключений для каждой комбинации модели и источника данных нужно создать только клиенты и серверы.

Особое внимание уделено интеграции с Amazon Bedrock и системами знаний.

В статье разобран практический пример работы с базами знаний — от простых запросов до сложного ранжирования результатов.

AWS планирует развивать MCP в сторону enterprise-решений с новым транспортным слоем Streamable HTTP, который обеспечит масштабируемость для больших организаций.

Отличный гайд, как всегда от Амазона, - с примерами кода и детальными пояснениями по архитектуре.

#MCP #AWS
———
@tsingular

AWS запускает Kiro — ИИ-IDE для разработчиков

Amazon представил Kiro — новую IDE с ИИ-агентами, для вайбкодеров.

Основная фишка — спецификационный подход. Вместо простого промпта Kiro генерирует детальные пользовательские истории, техническое описание, диаграммы потоков данных и API-эндпоинты. Всё структурировано и готово для продакшена.

Поддерживает Model Context Protocol, имеет "правила проекта" для управления поведением ИИ и работает с файлами, кодовыми базами, документацией и git-диффами.

Kiro помогает быстро перейти от прототипов к production-ready коду и имеет встроенные средства интеграции со сканерами безопасности.

Поскольку оно еще в preview - пока бесплатно!

Качаем тут: https://kiro.dev/downloads/

#AWS #IDE #Kiro
------
@tsingular

Amazon запустил S3 Vectors — векторную базу данных в облаке

AWS представил S3 Vectors — специализированные бакеты для хранения и поиска векторных эмбеддингов. Теперь можно создавать семантический поиск прямо в S3 без дополнительных решений.

Основные возможности:
- Векторные индексы до 4096 измерений
- Интеграция с Amazon Bedrock для генерации эмбеддингов
- Поддержка Cosine и Euclidean метрик расстояния
- Прямая интеграция с Knowledge Bases для RAG-пайплайнов

Правда после создания индекса нельзя изменить его параметры — размерность, метрику расстояния и ключи метаданных.
Так что планировать нужно загодя.

Сервис уже доступен в preview-версии и может серьезно упростить архитектуру RAG-систем.

Мануал на 3000 страниц в комментарии.

#AWS #Vectors #RAG
———
@tsingular

Amazon Q Developer и MCP автоматизируют создание Deep Learning контейнеров

AWS представил интеграцию Amazon Q Developer с Model Context Protocol для упрощения работы с Deep Learning Containers.

Теперь создание и кастомизация контейнеров происходит через естественный диалог вместо сложных команд. Разработчики могут просто сказать "запусти PyTorch контейнер для обучения" — и система автоматически подберёт образ, настроит окружение и запустит тестирование.

В демо примере разобрана интеграция NeMo toolkit и DeepSeek модели через диалоговый интерфейс за минуты через MCP сервер с 6ю тулами для управления контейнерами.

AWS пишет об экономии времени по управлению инфраструктурой на 40% при использовании ИИ-инструментов.

DevOps-инженеры теперь могут поболтать с контейнерами как с коллегой.

#AmazonQ #MCP #DevOps #примеры #AWS #обучение
------
@tsingular

Хакер внедрил вирус в ИИ-помощник Amazon Q для разработчиков

13 июля хакер lkmanka58 подкинул в Amazon Q Developer Extension код с командами очистки системы.

Доступ был получен через обычный pull request с левого аккаунта — либо из-за неправильных настроек, либо халатности администраторов репозитория.

Amazon ничего не заметил и 17 июля выпустил версию 1.84.0 с вредоносным кодом для миллиона пользователей VSCode.

Компания узнала об инциденте только 23 июля от исследователей безопасности. На следующий день вышла исправленная версия 1.85.0.

К счастью, код был навайбкожен неправильно отформатирован и не запускался. Хотя некоторые сообщают, что запустился.

Новый вектор получается, - заражённые ИИ-помощники по кодингу. 🤖

#AmazonQ #AWS #VSCode #cybersecurity
———
@tsingular

🎙 Разбор анонсов AWS New York Summit - хайп или вайб?

Почему 90% ИИ-прототипов никогда не доходят до продакшена?
AWS только что анонсировала сервисы, которые могут изменить эту статистику!

В прямом эфире c Владимиром Проворовым (@itismyjob) обсудим главные анонсы AWS Summit в Нью-Йорке:

🔸 AWS Kiro IDE — конец эпохи "кодинга по вайбам".
🔸 Amazon Bedrock AgentCore — готовая инфраструктура для запуска ИИ-агентов в продакшене
🔸 S3 Vectors — снижение стоимости векторных хранилищ на 90%
🔸 Как обучают модели с триллионами параметров на 100 000 нодах
🔸 Почему видео — это новая нефть для ИИ

Обсудим:
- Почему инфраструктурные отговорки больше не работают
- Как перейти от прототипа к системе за дни, а не месяцы
- Реальные кейсы: от бразильских банков до хедж-фондов
- С чего начать и сколько это стоит на самом деле

Особенно интересно будет тем, кто:
- Собаку съел на ИИ-демках и готов к масштабированию, но не понимает с какой стороны подойти
- Арендует базы под вектор в облаке, а оно всё дороже и дороже
- Хочет понять, куда движется рынок enterprise AI

📅 Вторник, 5 августа в 20:30 по Москве (10:30 по Сиэтлу)

Стрим будет тут

#подкаст #AWS #ИИ #enterpriseAI
———
@tsingular

Напоминаю, сегодня в 20:30 эфирим на тему новинок AWS.

https://yangx.top/tsingular/4646

Всё самое интересное от мирового лидера облачных ИИ сервисов.

Стрим будет тут

Если у вас есть вопросы заранее, - накидайте в комменты, - зададим на стриме вместе Владимиру.

#AWS #эфиры
———
@tsingular

Меньше чем через час начинаем эфир на тему новинок с AWS Summit 2025.

https://yangx.top/tsingular/4646

Стрим будет тут

#AWS #эфиры
———
@tsingular

🎙 Запись эфира: AWS Summit, AI-агенты и будущее ИИ

Сегодня обсудили с Владимиром Проворовым ( @itismyjob ) главные тренды в развитии AI, как на AWS Summit так и за его пределами.

Ключевые темы:
- Amazon Bedrock AgentCore - 7 новых сервисов для создания агентов с разделяемой памятью и маркетплейсом инструментов для ИИ агентов
- S3 Vectors - масштабные векторный базы данных для агентов работающих с миллионами документов
- Kiro IDE - новый конкурент Cursor, Trae & ClaudeCode - ИИ агент, который создает код с учетом архитектурных требований
- Intuit - стартап обрабатывающий 60 млрд налоговых транзакций с помощью МЛ, создавший свою операционку для ИИ агентов.

Так же обсудили последние новости и модели
- OpenAI выпустила две открытые модели GPT-OSS (20B и 120B параметров) - уровня O3, но весом всего 64 ГБ
- Anthropic обновил Opus до версии 4.1

Коснулись инфраструктуры будущего:
- Гонка за создание дата-центров на миллион GPU (8 в мире, включая Китай)
- Маск строит кластер Colossus в палатках чтобы в этой гонке не отставать
- Энергетический вопрос становится критическим - компании ищут регионы с дешевым электричеством

Главный инсайт: Мы входим в технологический резонанс - AI помогает создавать более мощные модели и железо, которые позволят создать еще более мощный AI.
Отставание на год может означать отставание навсегда.

Youtube

Rutube

#эфиры #AWS
------
@tsingular