🔥 Китайский ИИ DeepSeek провалил тест на безопасность, выдав закрытые данные о биооружии.

Гендиректор Anthropic Дарио Амодей в интервью для подкаста Джордана Шнайдера ChinaTalk рассказал, что во время проверки модель выдала информацию о биологическом оружии, которую практически невозможно найти в открытых источниках. По всей видимости, у системы нет встроенной защиты от генерации таких сведений. Он заявил, что у бота не было никаких встроенных механизмов защиты от генерации подобных сведений.

Амодей пояснил, что Anthropic регулярно тестирует модели ИИ, чтобы оценить, могут ли они нести угрозу для национальной безопасности. Команда анализирует, способны ли модели генерировать информацию о биологическом оружии, которая не встречается в открытых источниках, таких как Google или учебники.

По мнению Амодея, пока что DeepSeek не представляют большой угрозы, но в будущем это может измениться.

#DeepSeek #проверка #безопасность

📮Подпишись на ЛОМОВКУ