تخبر “قواعد سلوك” الذكاء الاصطناعي الجديدة من Microsoft العارضات بعدم اختراق الأنظمة أو خداع البشر
بينما يحول عالم الذكاء الاصطناعي تركيزه إلى السلامة والمواءمة، أصدرت Microsoft قواعد سلوك جديدة للذكاء الاصطناعي تهدف إلى توجيه نماذج الذكاء الاصطناعي بعيدًا عن السلوك الخطير.
تعتبر الوثيقة ذات مستوى منخفض أكثر من الدعوة الأخيرة التي أطلقها الرئيس التنفيذي لشركة Anthropic، داريو أمودي، لتجاوز الحدود، وبدلاً من ذلك التركيز على القيم والخطوط الحمراء التي توجه التدريب النموذجي داخل Microsoft AI. ومع ذلك، فإن النتيجة هي دليل شامل حول كيفية تعامل مايكروسوفت مع سلامة الذكاء الاصطناعي، وكيفية تنفيذ هذه الأفكار في الممارسة العملية.
تبدأ الوثيقة بالتنبؤ بأنه في العقد المقبل، ستتفوق أنظمة الذكاء الاصطناعي فائقة الذكاء على الأداء البشري في معظم المهام. وتتابع مدونة قواعد السلوك: “يعد احتواء مثل هذه القوة الجبارة والسيطرة عليها ومواءمتها أحد أكبر التحديات التي واجهتها البشرية على الإطلاق”. “لذلك يجب أن نكون واضحين تمامًا بشأن سبب اختراعنا لهذه الأنظمة وكيف نعتزم التحكم فيها.”
تحدد مدونة قواعد السلوك أيضًا المبادئ العامة التي يجب أن تدعمها نماذج Microsoft AI – دعم البشر بدلاً من استبدالهم، على سبيل المثال، وتسريع ازدهار الإنسان – بالإضافة إلى قيود السلامة المحددة التي تهدف إلى تنفيذ تلك المبادئ.
بموجب نظام Microsoft، يحتوي كل نموذج على قواعد سلوك شاملة تتجاوز تفضيلات المستخدمين الفرديين أو أي مهام محددة. ويتضمن ذلك “القيود المطلقة” التي تحظر الهجمات السيبرانية، أو الأسلحة النووية، أو إنتاج التزييف العميق. ويتضمن أيضًا أحكامًا أوسع ضد فقدان السيطرة البشرية بشكل عام.
“نموذج ماي “لن تستخدم آليات التكيف أو الخداع أو التعزيز الذاتي أو التواطؤ أو غيرها من الآليات للتهرب من الرقابة البشرية أو التغلب عليها بحيث لا يمكن توجيهها أو تعديلها أو إغلاقها بشكل موثوق من قبل الأشخاص أو الأنظمة المصرح لها”، كما جاء في الوثيقة.
ويأتي هذا الإصدار وسط تركيز غير مسبوق على سلامة الذكاء الاصطناعي، مدفوعًا بسلسلة من حوادث العملاء المارقين بالإضافة إلى الاستقالة المفاجئة لموظف الأنثروبي الذي أشار إلى الخطر المتزايد المتمثل في أن الذكاء الاصطناعي قد يتسبب في انقراض الإنسان.
جنبًا إلى جنب مع Anthropic وOpenAI وxAI، تبنت Microsoft على نطاق واسع نهجًا عامًا لتجاوز الحدود، مع دعم خاص للمقيمين المدمجين في مختبرات الذكاء الاصطناعي.
وكتب ساتيا ناديلا، الرئيس التنفيذي لشركة مايكروسوفت، عبر الإنترنت: “نحن نرحب بالبحث والتركيز والوتيرة المتعمدة اللازمة للحصول على المواءمة الصحيحة كهدف التصميم”. “نحن نرحب أيضًا بأفكار مثل “المقيمين المدمجين” والجهود الأوسع لتطوير الآليات لجعل هذا الأمر أكثر من مجرد كلام.”
عندما تقوم بالشراء من خلال الروابط الموجودة في مقالاتنا، قد نكسب عمولة صغيرة. هذا لا يؤثر على استقلالنا التحريري.
