В последние два года ведущие компании, такие как OpenAI и Google, увеличивают вычислительные ресурсы для улучшения языковых моделей. Однако, несмотря на кажущуюся умность новых решений, уровень галлюцинаций в ответах растёт. Например, одна из моделей OpenAI показала 50% выдуманных ответов на тесте SimpleQA. Это указывает на структурные ошибки в подходах к обучению. Новые альтернативные архитектуры, основанные на байесовском ИИ и метрике Фишера, предлагают более динамичные решения, позволяя моделям адаптироваться и обучаться в процессе работы.

Компании, как VERSES AI и causalLens, разрабатывают инновационные системы, которые учитывают неопределенности и причинные связи, обеспечивая более точные результаты. В отличие от традиционных статичных моделей, новые подходы используют геометрию для построения точных вероятностных распределений. В результате, индустрия движется к созданию более адаптивных и эффективных ИИ-систем, стремящихся оставаться актуальными на фоне быстро меняющегося мира.