В этом видео я покажу, как запустить модель DeepSeek-V3 на своём сервере. DeepSeek-V3 — это мощная модель с 671 миллиардом параметров, и я расскажу, как её настроить и запустить на процессоре с 48 ядрами и 512 ГБ оперативной памяти. Вы узнаете, почему я выбрал запуск на процессоре, а не на видеокартах, и какие преимущества это дает. Для запуска используется проект Ollama. Вы увидите, как загружаются веса модели, как происходит процесс инференса (вывода) и с какой скоростью модель генерирует ответы.