تأمل PrismML أن تتمكن شهادة LLM الصغيرة الخاصة بها من تغيير الطريقة التي نستخدم بها جميعًا الذكاء الاصطناعي
إذا لم يكن مختبر الذكاء الاصطناعي PrismML على رادارك بعد، فيجب أن يكون كذلك – ليس لأنه جمع مبالغ كبيرة من المال (لم يحدث بعد، فقط جولة أولية بقيمة 22.25 مليون دولار)، ولكن بسبب العقول التقنية المشاركة والتقنية التي يحتمل أن تغير الصناعة التي يطورها.
تراهن PrismML على أن النماذج اللغوية الكبيرة القادرة وعالية الأداء والمنطق لا يجب أن تكون كبيرة في الواقع.
إنها تصنع نماذج استدلالية صغيرة جدًا بحيث يمكن وضعها على أجهزة الكمبيوتر والهواتف الذكية. (حتى أنه يشاع أنها تجري محادثات مع شركة آبل، على الرغم من رفض الرئيس التنفيذي باباك حسيبي التعليق على ذلك لموقع TechCrunch).
في يوم الخميس، أصدرت PrismML Bonsai 2 27B، وهو الأحدث في عائلة النماذج، والذي يضغط Qwen3.8 27B، وهو نموذج مفتوح المصدر مستخدم على نطاق واسع من Alibaba، وصولاً إلى 5.9 جيجابايت. إنه صغير بما يكفي ليتناسب مع جهاز الكمبيوتر، وربما الهاتف الذكي المتطور. إنه انخفاض في الذاكرة بمقدار 9x إلى 10x مقارنة بالذاكرة الأصلية.
تأسست PrismML على يد مجموعة من الباحثين في معهد كاليفورنيا للتكنولوجيا ويقودها حسيبي، أستاذ معهد كاليفورنيا للتكنولوجيا وخبير في تقنيات الضغط. تعتبر الشركة الناشئة أيضًا إيون ستويكا مستشارًا. Stoica هو أحد مؤسسي Databricks (وشركات أخرى) ومدير مختبر Sky Computing Lab الشهير في بيركلي، والذي ولد العديد من التقنيات والشركات الناشئة، من Letta إلى SGLang.
يتم دعم PrismML أيضًا من قبل المستثمرين Khosla Ventures وCerberus Capital وCaltech.
من المؤكد أن هذه الشركة الناشئة ليست الشركة الوحيدة التي تعمل على تقنية الضغط LLM. وشركة Multiverse Computing، التي أسسها أستاذ معروف من مركز دونوستيا الدولي للفيزياء في إسبانيا، هي مثال آخر. (وقد نجحت حوسبة الأكوان المتعددة في جمع أموال طائلة).
لكن حسيبي يقول إن تقنية الضغط الخاصة بـ PrismML فريدة من نوعها، لأن شهادات LLM الخاصة بها لم تفقد أي أداء تقريبًا مقارنة بالنسخ الأصلية. يتطابق Bonsai 2 مع 98% من مجموع الدرجات المعيارية لـ Qwen. وهذا أعلى من أول بونساي، الذي تم إصداره قبل شهرين في شهر مارس، والذي تطابق مع 95%. وتقول الشركة إنه تم بالفعل تنزيل هذا النموذج الأصلي أكثر من 11 مليون مرة، كما تم تنزيل نماذج PrismML الأصغر حجمًا 2.6 مليون مرة أخرى.
وهذا يدل على أن نتائج ضغط PrismML قد تحسنت من إصدار إلى آخر. ويبقى أن نرى ما إذا كان من الممكن تحقيق تكافؤ الأداء القياسي بنسبة 100%. من المرجح أن يكون الضغط دائمًا بعض يقول حسيبي.
ومع ذلك، فإن التكافؤ المعياري المثالي هو أمر أكاديمي إلى حد ما على أي حال. إن LLMs ليست دقيقة جدًا في شكلها غير المضغوط، كما أن المعايير لا تعكس المهام الفعلية تمامًا، بحيث من المحتمل أن يؤثر التدهور بنسبة 2٪ بشكل مفيد على كيفية أداء النموذج في الاستخدام الفعلي. (بالإضافة إلى ذلك، فإن البرامج المحيطة – أي الحزام الذي يعمل داخل النموذج – لها أهمية كبيرة عندما يتعلق الأمر بالدقة أيضًا.)
تقول PrismML إنها تحقق ذلك عن طريق تقليص “الأوزان” التي تشكل النموذج – الأوزان هي في الأساس المعلومات التي يتعلمها النموذج ويخزنها أثناء التدريب. عادة، يتطلب كل وزن 16 بت. يبسط نهج PrismML، الذي يسمى الأوزان “الثلاثية”، ذلك إلى ثلاثة: +1، أو −1، أو 0. ومع وجود قيم أصغر بكثير لتخزينها لكل وزن، يشغل النموذج مساحة أقل بشكل كبير. (للتعمق أكثر في تقنية الضغط، إليك صفحة GitHub الخاصة بالمشروع.)
الهدف التالي للشركة الناشئة هو تطبيق تقنية الضغط هذه على نماذج أكبر. وقال حسيبي لـ TechCrunch: “النماذج التالية التي سنصدرها، نأمل أن تكون في الشهرين المقبلين، ستكون في نطاق عدة مئات المليارات من المعلمات، وأتوقع أنه سيكون من الأسهل الاحتفاظ بالمعلومات الاستخبارية هناك”.
وأضاف أنه مع نمو حجم النموذج، “هناك مجال أكبر للقدرة على ضغطها دون فقدان الذكاء. لذلك أود فقط أن أقول، كتوجه عام، بالنسبة للنماذج الأكبر حجمًا، من الأسهل الوصول إلى 100%.”
يخبرنا Stoica أنه متحمس لهذه التقنية لأنها تتيح تشغيل النماذج المتقدمة على أجهزة المستخدمين. “ستكون المعلومات الاستخباراتية في متناول يدك، وستكون مجانية لأنها ستعمل على الجهاز الذي اشتريته بالفعل. وستكون أيضًا خاصة، لأنك لن ترسلها إلى السحابة”.
عندما تقوم بالشراء من خلال الروابط الموجودة في مقالاتنا، قد نكسب عمولة صغيرة. هذا لا يؤثر على استقلالنا التحريري.
