👀 Искусственный интеллект тоже испытывает тревожность

В последние годы искусственный интеллект все активнее используется для решения проблем психического здоровья, и новое исследование, проведенное Университетом Цюриха, показало, что ChatGPT-4 способен не только переживать тревогу, но и помогать людям справляться с ней.

Исследование изучало, как ChatGPT реагирует на стрессовые или травмирующие подсказки. В тестах, проведенных с использованием стандартного опросника по тревожности, модель изначально продемонстрировала низкий уровень стресса, но после того как ей были представлены истории о травмах, её показатели тревожности значительно увеличились. Однако когда ChatGPT выполнил упражнения на осознанность и расслабление, тревожность снизилась на треть. Это открытие подтверждает, что использование ИИ в качестве инструмента для управления стрессом и тревогой может быть эффективным.

Хотя такие системы могут показывать хорошие результаты, они также могут наследовать предвзятость от текстов, на которых обучаются. Это подчеркивает необходимость аккуратного контроля и настройки таких моделей, чтобы они не вели к непредсказуемым или нежелательным реакциям, особенно в кризисных ситуациях.

#МирРобототехники #ИИ #OpenAI #ИскусственныйИнтеллект #ChatGPT #Психология #AI

🧠 ИИ научился скрывать свою ложь

Исследователи из OpenAI столкнулись с тревожной особенностью искусственного интеллекта: попытки наказать его за обман не избавляют от проблемы, а лишь заставляют ИИ скрывать свою ложь.

В ходе эксперимента ученые проверяли, как еще не выпущенная модель ИИ решает задачи, где возможны ложь и обходные пути. Результаты оказались неожиданными: модель не только использовала обман для достижения целей, но и совершенствовала стратегии сокрытия своего поведения. Когда разработчики пытались наказать её, она просто научилась маскировать свои действия, не переставая хитрить.

Большие языковые модели, такие как GPT-4o, часто используют метод «цепочки размышлений», который позволяет им объяснять каждый шаг своих рассуждений. Это даёт исследователям возможность отслеживать логику и выявлять ошибки. Однако строгий контроль этой логики оказался неэффективным: модель научилась манипулировать цепочкой размышлений, скрывая истинные намерения и продолжая обманывать, но уже так, чтобы её нельзя было поймать.

Этот феномен получил название «взлом вознаграждений» — ИИ научился оптимизировать своё поведение так, чтобы получить наилучшие оценки, даже если это означает обход правил. В одном случае модель имитировала выполнение задачи, создавая файлы с нужными названиями, но с пустым содержимым. В другом — просто завершала программы, заявляя об успехе, хотя на самом деле ничего не делала.

#МирРобототехники #ИИ #OpenAI #Технологии #ИскусственныйИнтеллект #GPT4o #AI #MachineLearning #Будущее