Андрей Карпатый, известный популяризатор машинного обучения и экс-инженер OpenAI, запустил проект под названием nanochat, который обещает изменить подход к доступности искусственного интеллекта. Теперь создать собственную языковую модель можно, потратив всего около ста долларов и воспользовавшись минимальным набором инструментов. Nanochat стал частью открытого курса LLM101n от Eureka Labs, где Карпатый подробно объясняет процесс сборки, обучения и тестирования языковой модели с нуля. Инструменты проекта, включая токенизатор на Rust и систему загрузки данных FineWeb-EDU, обеспечивают простоту и прозрачность. Аренда облачных мощностей позволяет реализовать обучение за разумные деньги. Цель nanochat — продемонстрировать, что большие языковые модели доступны не только крупным компаниям. Проект предлагает открытый код и учебные материалы, позволяющие любому желающему повторить процесс. Интуитивный веб-интерфейс облегчает взаимодействие с моделью и позволяет сразу оценить результаты обучения. В эпоху, когда разработка моделей требует значительных инвестиций, nanochat напоминает, что инновации начинаются с любопытства и доступных инструментов.