Установка DeepSeek на свой компьютер

Главная ➞ Посты ➞ Искусственный интеллект ➞

Введение

DeepSeek (ДипСик, не ДикПик) - китайская убийца ChatGpt обвалившая акции Nvidia сразу после выхода. Основной причиной этого является низкая стоимость.
DeepSeek потратили всего 6 миллионов долларов, тогда как другие тратят миллиарды. К тому же она имеет открытый исходных код, что позволяет запустить её локально и не боятся что кто-то будет читать твои вопросы.

Зачем устанавливать локально?

• Конфиденциальность: Всё что спросите на вашем компьютере.
• Оффлайн-работа: После установки можно работать без интернета.
• Независимость: Не нужно никому платить абонентскую плату.

Системные требования

DeepSeek выпускается в версиях с разным количеством параметров – от компактных 1.5b до тяжеловесных 671b. Чем больше параметров – тем лучше ответы, но и системные требования соответственно повышаются.

Минимальная версия запускается и шустро работает на ноутбуке без видеокарты, 4 ядерным процессором и 4 гигабайтами оперативной памяти. Максимальная версия требует 16 штук NVIDIA A100.

Приблизительные системные требования:

Кол-во параметров	Размер на диске	Видео память
1.5b	1.1GB	~2 GB
7b	4.7GB	~8 GB
8b	4.9GB	~9 GB
14b	9.0GB	~16 GB
32b	20GB	~37 GB
70b	43GB	~80 GB
671b	404GB	>1000 GB

Установка

Самый простой способ это использовать ollama

Переходим на официальный сайт https://ollama.com/download и скачиваем установщик для своей операционной системы. Поддерживается Windows, Linux и MacOS

Запускаем скачанный установщик и нажимаем кнопку Install

После установки открываем терминал (cmd на windows) и вводим команду:

ollama run deepseek-r1:1.5b

Дожидаемся скачивания и запуска модели DeepSeek. После чего можно писать запросы сразу в терминале:

Для выхода из чата нажимаем Ctrl+D. Но запущенная модель продолжить работать. Для остановки модели вводим команду:

ollama stop deepseek-r1:1.5b

Вместо 1.5b можно указать большее количество параметров. Можете повышать количество параметров если ресурсы компьютера позволяют.

ollama run deepseek-r1:1.5b
ollama run deepseek-r1:7b
ollama run deepseek-r1:8b
ollama run deepseek-r1:14b
ollama run deepseek-r1:32b
ollama run deepseek-r1:70b
ollama run deepseek-r1:671b

Удалить модель можно командой

ollama rm deepseek-r1:1.5b

Установка интерфейса

Для удобного общения через браузер (вместо консоли) можно установить
open-webui или ollama-gui