Требования к железу для установки DeepSeek R1

На требования к мощности оборудования влияют количество параметров модели, её размер и метод обработки данных.
В данной таблице представлены требования к VRAM и GPU компьютера:

Название моделиКоличество параметровVRAMGPU
DeepSeek-R1-Zero671 миллиард2 ГбNVIDIA A100 80GB x16
DeepSeek-R1671 миллиард2 ГбNVIDIA A100 80GB x16
DeepSeek-RI-Distill-Qwen-1.5B1,5 миллиарда1 ГбNVIDIA RTX 3060 12GB
DeepSeek-RI-Distill-Qwen-7B7 миллиардов4 ГбNVIDIA RTX 3060 12GB
DeepSeek-R1 -Distill- Uama-8B8 миллиардов4 ГбNVIDIA RTX 3060 12GB
DeepSeek-R1-Distill- Qwen-14B14 миллиардов7 ГбNVIDIA RTX 3060 12GB
DeepSeek-R1-Distill- Qwen-32B32 миллиарда16 ГбNVIDIA RTX 4090 24GB
DeepSeek-RI-Distill-Uama-70B70 миллиардов35 ГбNVIDIA RTX 4090 x2