أطلقت Baseten معيارًا جديدًا للبنية التحتية للسلامة جنبًا إلى جنب مع ذراعها البحثية Base Labs يوم الأربعاء، بالشراكة مع Hugging Face وGoodfire AI لبناء البنية التحتية لتقييم ومراقبة السلامة للنماذج ذات الوزن المفتوح.
يأتي هذا الإعلان وسط جدل حول سلامة النماذج ذات الوزن المفتوح، والتي يمكن أن تصبح خطيرة عن طريق إزالة ضماناتها من خلال تقنية ناشئة تُعرف باسم المحو. حجم المشكلة هائل: شركة Hugging Face، التي تستضيف نماذج الذكاء الاصطناعي مفتوحة المصدر، تدرج حاليًا أكثر من 6000 نموذج تم محوها.
ستقوم Base Labs، وهي مجموعة الأبحاث Baseten التي تم إنشاؤها في وقت سابق من هذا العام، بتطوير ونشر طرق للتدريب ومراقبة النماذج المفتوحة. وتقوم الشركة بتأطير عملها المستقبلي باعتباره “معيارًا” للنماذج المفتوحة التي تتسم بالشفافية والمدمجة في كيفية تدريب النماذج ونشرها، بدلاً من تثبيتها بعد ذلك.
قالت الشركة في X: “نعتقد أن الانفتاح يمثل ميزة لسلامة الذكاء الاصطناعي. يوفر الانفتاح رؤية أكبر لسلوك النماذج، والأهم من ذلك، وسيلة أكبر لتحويل أبحاث السلامة إلى ضوابط قابلة للتنفيذ وشفافة مقارنة بالمصادر المغلقة.”
لم تكشف الشركات عن كيفية عمل الشراكة من الناحية الفنية، على الرغم من أن Goodfire حددت الهدف في ردها على مشاركة Baseten: “يجب دمج السلامة في نماذج مفتوحة وتوفيرها من قبل أولئك الذين يخدمونها”. إن شركة Goodfire، المتخصصة في فتح “الصندوق الأسود” للذكاء الاصطناعي لشرح كيفية اتخاذ النماذج للقرارات، هي المرشح الأرجح للجزء “المدمج”.
قامت شركة Baseten، وهي شركة تقدم استدلالات الذكاء الاصطناعي، بجمع 1.5 مليار دولار من السلسلة F في يونيو، مما رفع تقييمها إلى 13 مليار دولار. تتمتع شركة Partner Goodfire AI برأس مال جيد أيضًا، حيث قامت بجمع 150 مليون دولار أمريكي من السلسلة B بقيادة B Capital في وقت سابق من هذا العام لتطوير منصة تفسير النماذج الخاصة بها.
وبالنظر إلى المستقبل، تطلق Baseten دعوة مفتوحة إلى النظام البيئي الأوسع للمطورين للمساهمة في إطار العمل. وأشارت الشركة: “نعمل معًا على بناء نظام بيئي من النماذج المفتوحة الآمنة والمتاحة للجميع”.
عندما تقوم بالشراء من خلال الروابط الموجودة في مقالاتنا، قد نكسب عمولة صغيرة. هذا لا يؤثر على استقلالنا التحريري.
