- Что такое DeepSeek
- Какие есть модели DeepSeek
- Подготовка к установке
- Как установить DeepSeek на сервер Linux
- Полезные команды
Запуск больших языковых моделей прямо на своем сервере — отличный способ протестировать возможности ИИ без зависимости от облачных сервисов.
В этом руководстве мы покажем, как установить DeepSeek с помощью Ollama на Ubuntu 24.04.
Что такое DeepSeek
DeepSeek — это современная нейросеть, разработанная одноименной китайской компанией. В отличие от многих других решений на рынке, DeepSeek предоставляет пользователям бесплатный доступ без существенных ограничений по количеству запросов.
Она представлена в виде чат-бота с искусственным интеллектом, который может генерировать тексты, анализировать документы, программировать и решать множество других задач.
Какие есть модели DeepSeek
DeepSeek предлагает две основные нейросетевые модели: DeepSeek-R1 и DeepSeek-V3.
DeepSeek-V3 создана для работы с разными задачами — от программирования и математики до перевода на разные языки.
DeepSeek-R1 ориентирована на логическое мышление, сложные вычисления и анализ данных. В отличие от V3, эта модель менее универсальна, но зато демонстрирует высокую точность в области образования, исследований и аналитики.
Подготовка к установке
Перед началом установки важно убедиться, что ваше оборудование соответствует требованиям. Полноценная модель DeepSeek-R1 (671B) требует 1,5 ТБ места на диске, а потому она не подходит для большинства пользователей. Вместо нее доступны оптимизированные версии — DeepSeek-R1-Distill-Qwen-7B и DeepSeek-R1-Distill-LLaMA-70B.
Таким образом, вам понадобится:
- Ubuntu 22.04 или другой Linux-дистрибутив;
- не менее 16 ГБ RAM и выделенная видеокарта (лучше NVIDIA, так как ее драйверы протестированы);
- Python 3.8+, а также установленный Git;
- минимум 10 ГБ свободного места на диске (для небольших моделей).
Если у вас нет подходящего сервера для DeepSeek, закажите VPS с Linux у SpaceWeb. На всех тарифах — полный root-доступ, DDoS-защита, 3 резервные копии в месяц и скорость канала до 300 Мб/сек.
Как установить DeepSeek на сервер Linux
Шаг 1. Установка Ollama
Ollama — это инструмент для локального запуска и управления языковыми моделями. Он позволяет скачивать, устанавливать и запускать LLM без облака и сторонних серверов.
Далее мы расскажем, как установить Ollama:
- Установка Ollama выполняется через командную строку, поэтому сначала откройте терминал на вашем компьютере.
- Выполните команду для установки. Вставьте следующую команду и нажмите Enter:
curl -fsSL https://ollama.com/install.sh | sh
Эта команда скачает и запустит установочный скрипт Ollama.
- После завершения установки введите:
ollama --version
Если все прошло успешно, в выводе будет указана версия Ollama. Например:
ollama version is 0.5.12
- Чтобы убедиться, что сервис работает, выполните:
systemctl is-active ollama.service
Если в ответе появится active, значит, Ollama уже запущен, и можно переходить к следующему шагу.
Дополнительно:
- Если предыдущая команда показала, что сервис не активен, включите его вручную:
sudo systemctl start ollama.service
- Чтобы не запускать сервис вручную каждый раз, включите его автозапуск:
sudo systemctl enable ollama.service
Шаг 2. Установка DeepSeek R1
- Выберите подходящую модель. DeepSeek R1 доступен в нескольких версиях, каждая из которых требует разное количество ресурсов:
- 1.5b – минимальное потребление ресурсов, подходит для слабых систем.
- 7b – сбалансированный вариант по скорости и точности.
- 8b, 14b, 32b – промежуточные версии для более мощных машин.
- 70b, 671b – требует много ресурсов, но взамен предлагает высокую точность.
- Запустите установку нужной модели. Например, если вам нужна DeepSeek-R1 7B, введите в терминале:
ollama run deepseek-r1:7b
Ollama автоматически скачает модель и запустит ее.
Важно! Если вам нужна другая модель, вместо «7b» пропишите соответствующую. Вот список всех моделей DeepSeek R1 на февраль 2025 года:
|
Модель |
Параметры |
Требуемое место на диске |
Минимальная RAM |
|---|---|---|---|
|
DeepSeek-R1-Distill-Qwen-1.5B |
1,5 млрд |
3 ГБ |
8 ГБ |
|
DeepSeek-R1-Distill-Qwen-7B |
7 млрд |
15 ГБ |
16 ГБ |
|
DeepSeek-R1-Distill-Llama-8B |
8 млрд |
17 ГБ |
24 ГБ |
|
DeepSeek-R1-Distill-Qwen-14B |
14 млрд |
30 ГБ |
32 ГБ |
|
DeepSeek-R1-Distill-Qwen-32B |
32 млрд |
70 ГБ |
64 ГБ |
|
DeepSeek-R1-Distill-Llama-70B |
70 млрд |
160 ГБ |
128 ГБ |
|
DeepSeek-R1 |
671 млрд |
1,5 ТБ |
512 ГБ |
Нужно больше информации о доступных версиях R1? Посетите библиотеку моделей DeepSeek.
Шаг 3. Запуск DeepSeek
Сразу после установки DeepSeek-R1 запустится автоматически, так что никаких дополнительных настроек не требуется — установка завершена.
Чтобы запустить его повторно, воспользуйтесь командой, которую прописывали ранее:
ollama run deepseek-r1:7b
Можете прописать пробный запрос:
Полезные команды
Чтобы посмотреть список всех загруженных моделей, используйте команду:
ollama list
Если нужно удалить установленную модель и освободить место на диске, выполните:
ollama rm deepseek-r1:7b
Замените «7b» на нужный размер модели, например «8b» или «14b». Команда удалит указанную модель с вашего сервера.
Готово! Теперь нейросеть DeepSeek установлена на вашем Linux-сервере, и вы можете приступить к работе с ней.