NVIDIA: DeepSeek R1 тепер офіційно запущений на платформі NIM від NVIDIA

robot
Генерація анотацій у процесі

Згідно з повідомленнями BlockBeats, 31 січня, за даними веб-сайту NVIDIA (NVDA.O), DeepSeek R1 671b вже був випущений як попередній перегляд мікрослужб NIM від NVIDIA на build.nvidia.com. Мікрослужби NIM DeepSeek R1 можуть обробляти до 3,872 токенів за секунду на одній системі NVIDIA HGX H200. Розробники можуть проводити тести та експерименти з API, і очікується, що це API незабаром буде випущено як частина програмної платформи NVIDIA AI Enterprise у вигляді доступних для завантаження мікрослужб NIM. (Jinshi)

Переглянути оригінал
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
  • Нагородити
  • Прокоментувати
  • Поділіться
Прокоментувати
0/400
Немає коментарів
  • Закріпити