聯想AI服務器首次實現本地部署DeepSeek滿血大模型低於1TB,支持100併發

金十數據3月3日訊,近日,聯想集團宣佈基於聯想問天WA7780 G3服務器,在行業內首次實現單機部署DeepSeek-R1/V3 671B大模型,以低於行業公認1TGB顯存(實際768GB)承載100併發用戶流暢體驗。據聯想實測數據顯示,在512 token標準測試環境下,該系統可支持100個併發用戶持續獲得每秒10 token的穩定輸出,首token響應時間壓縮至30秒內。

查看原文
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 讚賞
  • 1
  • 分享
留言
0/400
Andruchovip
· 03-03 05:30
作者真棒!!!
查看原文回復0
交易,隨時隨地
qrCode
掃碼下載 Gate APP
社群列表
繁體中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)