Apple: ИИ не думает, а имитирует рассуждения

Исследование Apple показало, что ИИ-модели не способны к логическому мышлению, а лишь имитируют его, воспроизводя шаблоны из обучающих данных. Статья компании под названием «Понимание ограничений математического мышления в больших языковых моделях» продемонстрировала, что при решении задач модели могут ошибаться, если в условие добавляется несущественная информация. Например, при подсчёте киви модель может вычесть количество, основываясь на характеристике размера, что не влияет на результат.

Исследователь Мехрдад Фараджтабар из Apple объяснил, что это связано с неспособностью LLM к настоящему логическому мышлению — они лишь воспроизводят известные им шаги. Специалисты OpenAI, однако, утверждают, что правильные результаты возможны с применением техник улучшения запросов. Тем не менее, для сложных задач потребуется значительно больше контекстной информации.

Вопрос о том, могут ли LLM рассуждать, остаётся открытым. Возможно, они "мыслят" иным образом, который пока не поддаётся нашему контролю или пониманию.

🌟Подписывайтесь на Двоичный код

#apple #LLM #логическоемышление #ИИ #исследования