Новая гибридная архитектура активирует всего 12 миллиардов параметров на токен и держит контекст до миллиона токенов, одновременно разбирая тяжелые видео, картинки и сложный текст.

Источник фото: nvidia.com

Внутри работает связка трансформера и Mamba-2, ускоренная одновременным предсказанием нескольких токенов. Веса модели уже выложили в открытый доступ.

В тестах новинка держится на уровне закрытых флагманов:

  • на задачах по программированию в SWE-bench Verified модель набрала больше 71 балла;
  • научный экзамен GPQA-Diamond закрыла почти на 90 баллов;
  • для видеокарт RTX выпустили сжатую версию Bolt, которой хватает 24 гигабайт памяти.

Уже 23 октября линейку пополнят ультракомпактной версией на 4 гигабайта: ее получится запустить даже на обычных пользовательских устройствах.

Что это значит

Мощный ИИ-помощник теперь помещается на локальном железе: платить за чужие облачные сервисы ради сложных задач больше не обязательно.