Перейти к содержимому
Latent Space· Latent Space·· 24 дн назадГлавноеОценка AI80

DeepSeek выпустил DeepInfer: открытый источник для высокопроизводительного вывода

[AINews] DeepSeek DeepInfer: Open Source SOTA Inference running 155T toks/day/cluster making $22m/day at ~80% margin for a 81 day payback

Кратко от AI

DeepSeek представил DeepInfer, открытый фреймворк для высокопроизводительного вывода, который поддерживает до 155 триллионов токенов в день и приносит $38 дохода за час работы на GPU.

Почему это важно

Описание условий доступа помогает оценить влияние функции на рабочие процессы.

Источник:Latent Space · latent.space