Как установить DeepSeek на Linux

• Что такое DeepSeek
• Какие есть модели DeepSeek
• Подготовка к установке
• Как установить DeepSeek на сервер Linux
  • Шаг 1. Установка Ollama
  • Шаг 2. Установка DeepSeek R1
  • Шаг 3. Запуск DeepSeek
• Полезные команды 

Запуск больших языковых моделей прямо на своем сервере — отличный способ протестировать возможности ИИ без зависимости от облачных сервисов. 

В этом руководстве мы покажем, как установить DeepSeek с помощью Ollama на Ubuntu 24.04. 

Что такое DeepSeek

DeepSeek — это современная нейросеть, разработанная одноименной китайской компанией. В отличие от многих других решений на рынке, DeepSeek предоставляет пользователям бесплатный доступ без существенных ограничений по количеству запросов. 

Она представлена в виде чат-бота с искусственным интеллектом, который может генерировать тексты, анализировать документы, программировать и решать множество других задач.

Какие есть модели DeepSeek

DeepSeek предлагает две основные нейросетевые модели: DeepSeek-R1 и DeepSeek-V3.

DeepSeek-V3  создана для работы с разными задачами — от программирования и математики до перевода на разные языки. 

DeepSeek-R1 ориентирована на логическое мышление, сложные вычисления и анализ данных. В отличие от V3, эта модель менее универсальна, но зато демонстрирует высокую точность в области образования, исследований и аналитики.

Подготовка к установке

Перед началом установки важно убедиться, что ваше оборудование соответствует требованиям. Полноценная модель DeepSeek-R1 (671B) требует 1,5 ТБ места на диске, а потому она не  подходит для большинства пользователей. Вместо нее доступны оптимизированные версии — DeepSeek-R1-Distill-Qwen-7B и DeepSeek-R1-Distill-LLaMA-70B.

Таким образом, вам понадобится:

• Ubuntu 22.04 или другой Linux-дистрибутив;
• не менее 16 ГБ RAM и выделенная видеокарта (лучше NVIDIA, так как ее драйверы протестированы);
• Python 3.8+, а также установленный Git;
• минимум 10 ГБ свободного места на диске (для небольших моделей).

Если у вас нет подходящего сервера для DeepSeek, закажите VPS с Linux у SpaceWeb. На всех тарифах — полный root-доступ, DDoS-защита, 3 резервные копии в месяц и скорость канала до 300 Мб/сек. 

Как установить DeepSeek на сервер Linux

Шаг 1. Установка Ollama

Ollama — это инструмент для локального запуска и управления языковыми моделями. Он позволяет скачивать, устанавливать и запускать LLM без облака и сторонних серверов. 

Далее мы расскажем, как установить Ollama:

1. Установка Ollama выполняется через командную строку, поэтому сначала откройте терминал на вашем компьютере.
2. Выполните команду для установки. Вставьте следующую команду и нажмите Enter:

curl -fsSL https://ollama.com/install.sh | sh

Эта команда скачает и запустит установочный скрипт Ollama. 

3. После завершения установки введите:

ollama --version

Если все прошло успешно, в выводе будет указана версия Ollama. Например:

ollama version is 0.5.12

4. Чтобы убедиться, что сервис работает, выполните:

systemctl is-active ollama.service

Если в ответе появится active, значит, Ollama уже запущен, и можно переходить к следующему шагу.

Дополнительно:

• Если предыдущая команда показала, что сервис не активен, включите его вручную:

sudo systemctl start ollama.service

• Чтобы не запускать сервис вручную каждый раз, включите его автозапуск:

sudo systemctl enable ollama.service

Шаг 2. Установка DeepSeek R1

1. Выберите подходящую модель. DeepSeek R1 доступен в нескольких версиях, каждая из которых требует разное количество ресурсов:

• 1.5b – минимальное потребление ресурсов, подходит для слабых систем.
• 7b – сбалансированный вариант по скорости и точности.
• 8b, 14b, 32b – промежуточные версии для более мощных машин.
• 70b, 671b – требует много ресурсов, но взамен предлагает высокую точность.

2. Запустите установку нужной модели. Например, если вам нужна DeepSeek-R1 7B, введите в терминале:

ollama run deepseek-r1:7b

Ollama автоматически скачает модель и запустит ее.

Важно! Если вам нужна другая модель, вместо «7b» пропишите соответствующую. Вот список всех моделей DeepSeek R1 на февраль 2025 года:

Нужно больше информации о доступных версиях R1? Посетите библиотеку моделей DeepSeek.

Шаг 3. Запуск DeepSeek

Сразу после установки DeepSeek-R1 запустится автоматически, так что никаких дополнительных настроек не требуется — установка завершена. 

Чтобы запустить его повторно, воспользуйтесь командой, которую прописывали ранее:

 ollama run deepseek-r1:7b

Можете прописать пробный запрос:

Полезные команды 

Чтобы посмотреть список всех загруженных моделей, используйте команду:

ollama list

Если нужно удалить установленную модель и освободить место на диске, выполните:

ollama rm deepseek-r1:7b

Замените «7b» на нужный размер модели, например «8b» или «14b». Команда удалит указанную модель с вашего сервера.

Готово! Теперь нейросеть DeepSeek установлена на вашем Linux-сервере, и вы можете приступить к работе с ней.