По сообщению BlockBeats, 31 января, на сайте NVIDIA (NVDA.O) была опубликована предварительная версия NIM-микросервиса DeepSeek R1 671b в качестве части предварительной версии NIM от NVIDIA на build.nvidia.com. Микросервис NIM DeepSeek R1 может обрабатывать до 3 872 токенов в секунду на одной системе NVIDIA HGX H200. Разработчики могут проводить тестирование и эксперименты с API, и ожидается, что это API в скором времени станет частью программного обеспечения NVIDIA AI Enterprise в виде загружаемого NIM-микросервиса. (Kin10)
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
NVIDIA: DeepSeek R1 официально запущен на платформе NIM от NVIDIA
По сообщению BlockBeats, 31 января, на сайте NVIDIA (NVDA.O) была опубликована предварительная версия NIM-микросервиса DeepSeek R1 671b в качестве части предварительной версии NIM от NVIDIA на build.nvidia.com. Микросервис NIM DeepSeek R1 может обрабатывать до 3 872 токенов в секунду на одной системе NVIDIA HGX H200. Разработчики могут проводить тестирование и эксперименты с API, и ожидается, что это API в скором времени станет частью программного обеспечения NVIDIA AI Enterprise в виде загружаемого NIM-микросервиса. (Kin10)