DeepSeek V2.5

DeepSeek V2.5 вышла 5 сентября 2024 года и стала ответом на необходимость держать сразу две отдельные линейки: диалоговую и кодовую. В её основе лежит объединение DeepSeek-V2-Chat (версия 0628) и DeepSeek-Coder-V2-Instruct (версия 0724) в одну модель. За счёт этого она сохраняет и разговорные навыки, и силу в программировании, а по большинству заявленных разработчиком тестов превосходит обе исходные модели. Архитектура DeepSeek-V2 — смесь экспертов (MoE) с 236 млрд параметров, из которых активны около 21 млрд; отдельные численные характеристики собственно V2.5 разработчик не приводит.

Разработчик отдельно доработал следование инструкциям, качество генерации текстов и безопасность ответов: общий балл безопасности у V2.5 выше, чем у V2-0628. В API модель обслуживалась сразу под двумя именами — deepseek-chat и deepseek-coder. Из дополнительных режимов поддерживались вызов функций, FIM-дополнение кода в середине файла и JSON-вывод, что удобно для агентов и структурированных ответов.

По данным разработчика, AlpacaEval 2.0 — 50.5, ArenaHard — 76.2, AlignBench — 8.04, MT-Bench — 9.02, HumanEval Python — 89, LiveCodeBench — 41.8, Aider — 72.2, DS-FIM-Eval — 78.3. Модель принимает и возвращает текст, то есть работает с изображениями и аудио не предполагается.

Код распространяется под лицензией MIT, веса — по Model License DeepSeek с разрешённым коммерческим использованием. Для инференса в BF16 заявлена конфигурация из 8 GPU по 80 ГБ. 10 декабря 2024 года вышло обновление DeepSeek-V2.5-1210, а 26 декабря 2024 года в API эту модель сменила DeepSeek-V3; открытые веса V2.5 при этом остаются доступными.