Исследование, проведенное командой Goodfire AI и Гарвардским университетом, рассмотрело, как reasoning-модели, такие как DeepSeek-R1 и GPT-OSS, демонстрируют «театральное рассуждение». Удивительно, что хотя модель может быть уверена в правильности ответа на 90%, она продолжает генерировать цепочки рассуждений, как будто еще сомневается. Используя три различных метода исследования, включая внимание на скрытые состояния, принудительное завершение рассуждений и внешний мониторинг, авторы отметили, что на простых вопросах MMLU, модель «знала» ответ значительно раньше, чем это становилось очевидным в текстах. В отличие от этого, на сложных вопросах GPQA-Diamond уверенность модели росла постепенно, показывая настоящее мышление. Безусловно, если зонд указывает на уверенность модели, тогда генерацию можно остановить, экономя до 80% токенов без потери точности. Это открытие подчеркивает возможности оптимизации работы нейросетей.
Posted on : 16.03.2026 By Redactor
