Mistral открыла веса Large 4: триллион параметров, которые можно запустить у себя

Пока все обсуждают закрытые модели американских гигантов, французская Mistral сделала ход, который мне кажется куда интереснее: 29 октября компания открыла веса своей флагманской Mistral Large 4. Модель вышла в публичное превью ещё в начале месяца, а теперь её можно скачать с Hugging Face и развернуть на собственном железе.

Что за модель

• Около триллиона параметров, архитектура «смесь экспертов», мультимодальный вход (текст и изображения).
• Три режима рассуждений — низкий, средний и высокий, чтобы балансировать между скоростью и точностью.
• По данным самой Mistral, после дополнительного обучения с подкреплением модель стала одной из сильнейших среди открытых в программировании и задачах защитной кибербезопасности, при этом тратит заметно меньше токенов.
• Заявлена поддержка более 160 языков.

В чём подвох

Лицензия — модифицированная MIT: использовать, дообучать и встраивать в коммерческие продукты можно бесплатно. Единственное условие: если вы продаёте доступ к самой модели как сервис, нужна отдельная коммерческая лицензия.

Мой взгляд

Важно не путать «открытая» и «домашняя». Модель такого размера на игровой видеокарте не запустить, речь о серверах с несколькими топовыми ускорителями. Но для компаний, университетов и команд, которые не хотят зависеть от чужого API и отправлять данные за границу, это реальная альтернатива. Mistral сама делает ставку именно на эту «суверенность». Мне любопытно, сколько дообученных версий появится в ближайшие месяцы — в том числе тех, что лучше справляются с русским языком.

Источник: анонс Mistral.