openPangu 2.0 Pro

समीक्षा

openPangu 2.0 Pro एक बड़ा sparse मॉडल है जिसे Huawei ने पूरी तरह अपने accelerators पर प्रशिक्षित किया और फिर प्रकाशित किया। मॉडल के रूप में यह आगे की बजाय ठोस है। इस प्रदर्शन के रूप में कि Nvidia stack के बाहर एक पूर्ण frontier-scale training run हो सकता है, यह benchmark scores से अधिक मायने रखता है, और यह बहुत लंबे context और निर्माण के लिए पर्याप्त अनुमोदक लाइसेंस के साथ आता है।

जहाँ यह श्रेष्ठ है

• Nvidia हार्डवेयर के बिना शुरू से अंत तक प्रशिक्षित
• ओपन वेट्स पर पाँच लाख टोकन का context
• उस हार्डवेयर पर अच्छे से चलाने के लिए ट्यून जिसे अधिकांश मॉडल नज़रअंदाज़ करते हैं

पहले जानने योग्य

• सबसे अच्छा प्रदर्शन Huawei के अपने accelerators से जुड़ा है
• सामान्य बेंचमार्क पर अग्रणी चीनी ओपन मॉडलों से पीछे