Модели AI

https://aigpu.serverflow.ru/

DeepSeek R1

Мы используем локальные версии популярнейшей модели китайской ИИ, использование DeepSeek дает большую гибкость при развертывании благодаря гибкости в области дистилляции моделей. Благодаря чему мы можем проводить работу как с 70B версией и 671B версией.

Qwen3

Еще один китайский громкий игрок, который в большей степени известен более эффективными моделями серии coder. Предлагает конкурентное качество ответов при сниженом колличестве параметров благодаря архитектуре MoE в qwen3:235b

GPT-OSS

Новоиспеченная модель от openai, которая прославилась необычым уровнем квантизации - MXFP4. Рекомендуем ее установку только на устройствах с архитектурой не ниже Hooper.

llama4*

Уже классическая локальная модель от Meta*. Модель сочетает в себе лучшие мировые практики. Демонтсриует стабильность на системах с VRAM свыше 70GB. Бегущая строка: Мы в ней разместим много разные непопулярных ИИ моделей.