फ्रांसीसी कंपनी मिस्ट्रल एआई ने मिस्ट्रल 7बी की रिलीज की पहली वर्षगांठ पर अपने नवीनतम मॉडल, मिनिस्ट्रल 3बी और मिनिस्ट्रल 8बी के लॉन्च की घोषणा की है। एआई कंपनी का कहना है कि ये नए अत्याधुनिक मॉडल विशेष रूप से ऑन-डिवाइस कंप्यूटिंग और एज उपयोग के मामलों के लिए डिज़ाइन किए गए हैं, जो उप-10 बिलियन पैरामीटर श्रेणी में एक नया बेंचमार्क स्थापित करते हैं। कंपनी उन्हें “लेस मिनिस्ट्राक्स” के रूप में संदर्भित करती है।
यह भी पढ़ें: SAP ने ग्राहकों की पसंद को व्यापक बनाने के लिए मिस्ट्रल एआई के साथ अपनी साझेदारी का विस्तार किया
मिनिस्ट्रल 3बी और 8बी मॉडल
मिनिस्ट्रल 3बी और 8बी ज्ञान, सामान्य ज्ञान तर्क और फ़ंक्शन-कॉलिंग दक्षता में उन्नत क्षमताएं प्रदान करते हैं। एजेंटिक वर्कफ़्लो को ऑर्केस्ट्रेट करने से लेकर विशेषज्ञ कार्य कार्यकर्ता बनाने तक, विभिन्न प्रकार के उपयोगों के लिए उनका उपयोग किया जा सकता है या उन्हें ठीक किया जा सकता है।
दोनों मॉडल 128k (वर्तमान में vLLM पर 32k) तक की संदर्भ लंबाई का समर्थन करते हैं, जिससे वे जटिल कार्यों को आसानी से संभालने में सक्षम होते हैं। कंपनी ने बुधवार को कहा कि विशेष रूप से, मिनिस्ट्रल 8बी में तेज और अधिक मेमोरी-कुशल अनुमान के लिए एक विशेष इंटरलीव्ड स्लाइडिंग-विंडो अटेंशन पैटर्न की सुविधा है।
महत्वपूर्ण अनुप्रयोगों के लिए गोपनीयता-प्रथम अनुमान
महत्वपूर्ण अनुप्रयोगों के लिए स्थानीय, गोपनीयता-प्रथम अनुमान को लक्षित करते हुए, ये मॉडल ऑन-डिवाइस अनुवाद, ऑफ़लाइन स्मार्ट सहायक, स्थानीय विश्लेषण और स्वायत्त रोबोटिक्स जैसे उपयोग के मामलों के लिए आदर्श हैं।
कंपनी ने बताया, “लेस मिनिस्ट्राक्स को इन परिदृश्यों के लिए एक गणना-कुशल और कम-विलंबता समाधान प्रदान करने के लिए बनाया गया था। स्वतंत्र शौक़ीन लोगों से लेकर वैश्विक विनिर्माण टीमों तक, लेस मिनिस्ट्राक्स विभिन्न प्रकार के उपयोग के मामलों को प्रदान करता है।”
बड़े मॉडलों के साथ एकीकरण
इसके अलावा, जब मिस्ट्रल लार्ज जैसे बड़े मॉडलों के साथ उपयोग किया जाता है, तो लेस मिनिस्ट्राक्स मॉडल मल्टी-स्टेप वर्कफ़्लो में फ़ंक्शन-कॉलिंग के लिए कुशल मध्यस्थों के रूप में कार्य करते हैं, जो कम-विलंबता इनपुट पार्सिंग और कार्य रूटिंग को सक्षम करते हैं।
कंपनी ने कहा, “उन्हें बेहद कम विलंबता और लागत के साथ कई संदर्भों में उपयोगकर्ता के इरादे के आधार पर इनपुट पार्सिंग, टास्क रूटिंग और कॉलिंग एपीआई को संभालने के लिए ठीक किया जा सकता है।”
यह भी पढ़ें: बीएनपी पारिबा ने उत्पादन में 750 से अधिक उपयोग के मामलों के साथ बैंकिंग में एआई एकीकरण को आगे बढ़ाया
कंपनी के अनुसार, प्रदर्शन बेंचमार्क से संकेत मिलता है कि लेस मिनिस्ट्राक्स लगातार विभिन्न कार्यों में अपने साथियों से बेहतर प्रदर्शन करता है, क्योंकि मिस्ट्रल ने निष्पक्ष तुलना के लिए अपने आंतरिक ढांचे का उपयोग करके सभी मॉडलों का पुनर्मूल्यांकन किया।