Data 10 emas, 26 Februari, dari Fourth Paradigm, Fourth Paradigm meluncurkan solusi sisi ujung inferensi model besar ModelHub AIoT, pengguna dapat dengan mudah mendeploy model distilasi berukuran kecil termasuk DeepSeek R1, Qwen 2.5, seri Llama 2/3, dan menjalankan offline. Pengguna dapat beralih dengan fleksibel di antara beberapa model, memperhatikan kompresi model, kinerja inferensi, yang mengatasi kompleksitas deployment dan optimisasi. Perusahaan menyatakan bahwa solusi ini tidak hanya dapat memenuhi kebutuhan pengguna akan privasi dan real-time, tetapi juga menurunkan secara signifikan biaya inferensi model besar AI.
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Paradigma keempat meluncurkan solusi sisi ujung besar ModelHub AIoT
Data 10 emas, 26 Februari, dari Fourth Paradigm, Fourth Paradigm meluncurkan solusi sisi ujung inferensi model besar ModelHub AIoT, pengguna dapat dengan mudah mendeploy model distilasi berukuran kecil termasuk DeepSeek R1, Qwen 2.5, seri Llama 2/3, dan menjalankan offline. Pengguna dapat beralih dengan fleksibel di antara beberapa model, memperhatikan kompresi model, kinerja inferensi, yang mengatasi kompleksitas deployment dan optimisasi. Perusahaan menyatakan bahwa solusi ini tidak hanya dapat memenuhi kebutuhan pengguna akan privasi dan real-time, tetapi juga menurunkan secara signifikan biaya inferensi model besar AI.