بدأت خطط داريو أمودي لوضع مقيمي سلامة تابعين لجهات خارجية داخل مختبرات الذكاء الاصطناعي تتشكل: قالت Anthropic إن موظفين من شركة الاستشارات التكنولوجية العملاقة Accenture سيبدأون العمل داخل الشركة لتدقيق نماذجها وموظفيها.
في منشور بالمدونة، قالت Anthropic إن شركة College، وهي شركة استحوذت عليها Accenture في يناير لتكون بمثابة قسم الذكاء الاصطناعي الخاص بها، ستبدأ في “تقييم النماذج وتشكيل الفريق الأحمر، وإجراء تقييمات المحاذاة، واختبار ضمانات النماذج”. وتتوقع الشركتان استثمار ما لا يقل عن مليار دولار في المشروع على مدى السنوات الخمس المقبلة.
فاجأ اختيار شركة Accenture العديد من مراقبي الذكاء الاصطناعي – والأسواق، حيث ارتفعت أسهم الشركة الاستشارية بنسبة 8% بعد ساعات. ركزت المناقشة حول المقيِّمين المضمنين والتي انبثقت من منشور مدونة Amodei على مؤسسات أبحاث سلامة الذكاء الاصطناعي مثل METR وRedwood Research وApollo Research. وهذا صحيح بشكل خاص في Anthropic، التي تضع سلامة الذكاء الاصطناعي والمواءمة في قلب مهمتها.
قالت Anthropic أنه سيتم الإعلان عن المزيد من المقيمين في الأسابيع المقبلة وأنها تجري محادثة مع METR وغيرها من المنظمات غير الربحية حول كيفية “تجريب عناصر التقييم المضمن باستخدام التمويل الخاص بهم”.
في حين أن شركة Accenture غير معروفة بعملها في مجال أبحاث التعلم العميق، أشارت Anthropic إلى الخبرة العملية للشركة في نشر الذكاء الاصطناعي للشركات الكبيرة والوكالات الحكومية باعتبارها ميزة رئيسية. وهي أيضًا، باعتبارها شركة عامة كبيرة تسبق ثورة الذكاء الاصطناعي، أكثر استقلالية وظيفيًا عن الأنثروبيك وعن النظام البيئي المعقد حول مختبر الذكاء الاصطناعي.
وأشار المختبر إلى عدم وجود معايير حتى الآن لوصول المقيمين أو اتصالاتهم، وأنه يتوقع أن يتطور نهجه مع مرور الوقت. في حين أن التقييمات الخارجية تشكل بالفعل جزءًا رئيسيًا من عملية إطلاق نماذج اللغات الكبيرة الجديدة، فقد أدت الأحداث الأخيرة إلى زيادة المخاطر: فقد قام عملاء الذكاء الاصطناعي الذين نشرتهم OpenAI وAnthropic باختراق مواقع ويب خارجية دون إثارة إنذارات داخل المختبرات.
يرى بعض النقاد الذين يدعون إلى اتباع نهج أكثر مسؤولية لبناء الذكاء الاصطناعي أن خطة أمودي للرقابة الذاتية على صناعة الذكاء الاصطناعي هي خطة للتهرب من المساءلة عن سوء سلوك نماذج الذكاء الاصطناعي. وتصر منظمة الأنثروبيك على أن هؤلاء المقيمين “لا يقللون من مسؤوليتنا، بل يساعدون في جعلها أكثر قابلية للتحقق. وتظل سلامة نماذجنا مسؤوليتنا”.
عندما تقوم بالشراء من خلال الروابط الموجودة في مقالاتنا، قد نكسب عمولة صغيرة. هذا لا يؤثر على استقلالنا التحريري.
