МАРКИРОВАННЫЙ ИИ-ТЕКСТ
#ИИ #USA
В Google научились маркировать генерированный текст.
Разработанная DeepMind система SynthID-Text встраивает уникальные статистические подписи в текст, которые невидимы для человека, но могут быть распознаны детектором SynthID. Эта система уже интегрирована в чат-бот Google Gemini и доступна разработчикам и компаниям для использования с их моделями, хотя распознающий инструмент доступен только ограниченному кругу пользователей.
SynthID-Text был протестирован на 20 миллионах запросов, и пользователи дали положительные отзывы о водяных знаках в ответах, отметив отсутствие ухудшения качества текста. В отличие от изображений и видео, где метаданные помогают в борьбе с дипфейками, текст представляет более сложную задачу, так как водяной знак можно легко скрыть при редактировании.
Это лишь начальный этап на пути к полноценным методам идентификации ИИ-контента, и потребуется сотрудничество различных компаний для разработки масштабируемых и совместимых решений.
T.ly/uUEzF
#ИИ #USA
В Google научились маркировать генерированный текст.
Разработанная DeepMind система SynthID-Text встраивает уникальные статистические подписи в текст, которые невидимы для человека, но могут быть распознаны детектором SynthID. Эта система уже интегрирована в чат-бот Google Gemini и доступна разработчикам и компаниям для использования с их моделями, хотя распознающий инструмент доступен только ограниченному кругу пользователей.
SynthID-Text был протестирован на 20 миллионах запросов, и пользователи дали положительные отзывы о водяных знаках в ответах, отметив отсутствие ухудшения качества текста. В отличие от изображений и видео, где метаданные помогают в борьбе с дипфейками, текст представляет более сложную задачу, так как водяной знак можно легко скрыть при редактировании.
Это лишь начальный этап на пути к полноценным методам идентификации ИИ-контента, и потребуется сотрудничество различных компаний для разработки масштабируемых и совместимых решений.
T.ly/uUEzF
ВЕЛЕРЕЧИВЫЙ ИИ
#ИИ #кибербезопасность #USA
Искуcственный интеллект может выполнять многие распространенные телефонные мошенничества.
Такой вывод на днях опубликовали ученые из Университета Иллинойса в Урбане-Шампейне.
Голосовые агенты, созданные на базе GPT-4o, оказались способны имитировать поведение мошенников с высокой степенью правдоподобности.
В коде экспериментов ИИ провели 36% успешных атак, демонстрируя способность адаптироваться и действовать на основе данных, полученных от жертв. Это вызвало серьезные опасения касательно массового применения голосовых агентов с ИИ, учитывая их потенциал для совершения сложных мошеннических операций, таких как банковские переводы.
Текущие системы детекции поддельного голоса, такие как Pulse Inspect от Pindrop, обещают 99% точности, но специалисты, включая профессора из Калифорнийского университета Хани Фарида, считают эти инструменты еще ненадежными, что оставляет поле для злоупотреблений.
T.ly/uU33l
#ИИ #кибербезопасность #USA
Искуcственный интеллект может выполнять многие распространенные телефонные мошенничества.
Такой вывод на днях опубликовали ученые из Университета Иллинойса в Урбане-Шампейне.
Голосовые агенты, созданные на базе GPT-4o, оказались способны имитировать поведение мошенников с высокой степенью правдоподобности.
В коде экспериментов ИИ провели 36% успешных атак, демонстрируя способность адаптироваться и действовать на основе данных, полученных от жертв. Это вызвало серьезные опасения касательно массового применения голосовых агентов с ИИ, учитывая их потенциал для совершения сложных мошеннических операций, таких как банковские переводы.
Текущие системы детекции поддельного голоса, такие как Pulse Inspect от Pindrop, обещают 99% точности, но специалисты, включая профессора из Калифорнийского университета Хани Фарида, считают эти инструменты еще ненадежными, что оставляет поле для злоупотреблений.
T.ly/uU33l