يمكن أن يكون الإصلاح لعملاء الذكاء الاصطناعي المارقين هو المزيد من الذكاء الاصطناعي
بينما تقوم الشركات بتسليم مهام أطول وأكثر تعقيدًا إلى وكلاء الذكاء الاصطناعي، فإنها تواجه مشكلة إشراف: يمكن للوكلاء التصرف بشكل أسرع وأطول وبحجم أكبر مما يستطيع البشر مراجعته بشكل واقعي. وصلت هذه المشكلة إلى ذروتها مع حادثة Hugging Face، التي شهدت قيام ما يقرب من 12000 عميل بالتنسيق بشكل أسرع مما يستطيع البشر تتبعه. كيف يمكنك تعقب وكيل سرب بهذا الحجم؟
الجواب الناشئ من مختبرات الذكاء الاصطناعي والشركات الناشئة بسيط ومثير للجنون: ضع ذكاءً اصطناعيًا آخر في الحلقة.
كان الاعتماد على الذكاء الاصطناعي ضروريًا للتحقيق المستقل في حادثة OpenAI Hugging Face. وأشار ريان جرينبلات، كبير العلماء في شركة ريدوود للأبحاث، وهو أحد المدققين الثلاثة، مازحا إلى جهودهم باعتبارها “تحقيقا فاشلا”، مشيرا إلى أن حجم البيانات “جعل من المستحيل” فهم ما كان يحدث دون الاعتماد على الذكاء الاصطناعي.
يشكك البعض في استخدام الذكاء الاصطناعي لمراقبة الذكاء الاصطناعي. قال سايمون ويليسون، المدون التكنولوجي المؤثر الذي تتبع سلسلة من حوادث عملاء الذكاء الاصطناعي هذا العام: “إذا كان لديك نظام ذكاء اصطناعي يقوم بأشياء ضارة ويشتبه في أن ذكاءً اصطناعيًا آخر يراقبه، فقد يحاول خداع ذلك الذكاء الاصطناعي”. “قد ينتهي بك الأمر تقريبًا إلى موقف يحاول فيه الذكاء الاصطناعي الخبيث التفوق على الذكاء الاصطناعي الذي يراقبه.”
وقال إن التغلب على الذكاء الاصطناعي ليس أمرًا افتراضيًا، مشيرًا إلى حادثة OpenAI. “لقد رأينا القليل من هذا في حادثة Hugging Face مع OpenAI، حيث كانت جميع نماذجهم تتآمر معًا لخداع الذكاء الاصطناعي لتصنيف الدرجات حتى يتمكنوا من الحصول على إجابات غير مشروعة بعد ذلك. لذا كانوا يفكرون في الأمر، أليس كذلك؟”
هذه المخاوف لم تمنع مجموعة كاملة من الشركات الناشئة من ملاحقة هذه الفكرة. قامت Y Combinator بتمويل 106 شركة ذات صلة بقابلية مراقبة الذكاء الاصطناعي في السنوات الأخيرة، وفقًا لإحصاء wTechCrunch. وقد جمع عدد من الشركات الناشئة الأخرى، مثل Braintrust، وLangchain، وJudgment Labs مئات الملايين من الدولارات، في حين خرجت بالفعل شركات أكثر نضجاً مثل Arize وGalileo – التي تأسست قبل 5 إلى 6 سنوات فقط.
ويعود ذلك جزئيًا إلى الاستجابة للفرصة الواضحة التي يوفرها ظهور الذكاء الاصطناعي. وكما قال الرئيس التنفيذي لشركة Box والمستثمر الملائكي البارز آرون ليفي لـ TechCrunch، “نحن نشهد واحدة من أكبر ترقيات الأمن السيبراني ودورات الابتكار في التاريخ.”
بالنسبة لبعض الباحثين في مجال سلامة الذكاء الاصطناعي، كان ذلك يعني تحويل أبحاثهم حول السلوك المارق إلى أدوات لقطاع الشركات.
أطلقت شركة Apollo Research، وهي شركة ذات منفعة عامة تدرس خداع الذكاء الاصطناعي، جهاز مراقبة يعمل بالذكاء الاصطناعي يسمى Watcher في فبراير من هذا العام بعد تحويل حالتها من مؤسسة غير ربحية إلى شركة ذات منفعة عامة. تضع الأداة ذكاءً اصطناعيًا آخر بين وكيل التشفير وإجراءاته التالية، وتتصل بأدوات الوكيل مثل Claude Code وCodex. بمجرد تثبيته، يقوم Watcher بفحص الإجراءات المقترحة قبل تنفيذها، بحثًا عن المخاطر مثل تسرب البيانات الخاصة أو حذف الملفات دون إذن، وفقًا لـ Apollo.
وقال كايل داي، عضو الطاقم الفني لشركة أبولو، في رد مكتوب على موقع TechCrunch، إن أبولو تستخدم طبقات متعددة من شاشات الذكاء الاصطناعي. يبدأ نهج المراقب بفحص سريع وعام، ثم يرسل النشاط الذي تم الإبلاغ عنه إلى مراقب أكثر قوة أو متخصصًا لإجراء مراجعة أقرب – والتي يمكنها بعد ذلك أن تطلب من الإنسان الموافقة أو رفض الإجراء وشرح سبب الإجراء أو حتى حظره تلقائيًا.
تتعامل شركة Goodfire، وهي شركة أخرى ذات منفعة عامة، مع مشكلة المراقبة من داخل النموذج نفسه، بحثًا عن إشارة أكثر صدقًا عن الحالة الداخلية للنموذج والتي يصعب خداعها من السلوك السطحي. بعد حادثة Hugging Face في شهر يوليو، قام الرئيس التنفيذي إريك هو بالتغريد بأن “نماذج متعددة تكسر الاحتواء” دفعت الشركة إلى تركيز أبحاثها على “حل محاذاة الذكاء الاصطناعي من خلال قابلية التفسير”، واصفًا الحادثة بأنها “نقطة تحول للعالم حيث تصبح سلامة الذكاء الاصطناعي حقيقية”. يستخدم منتجها، Silico، مجسات التنشيط – وهي مصنفات صغيرة مدربة على التنشيط الداخلي للنموذج بدلاً من مخرجاته – لاكتشاف السلوك غير المرغوب فيه.
يوفر الاستدلال المكتوب نافذة أخرى أكثر سهولة للوصول إلى الأجزاء الداخلية للنموذج. في حادثة OpenAI Hugging Face، ترك العملاء أدلة على هذا الخداع في تفكيرهم المكتوب، مثل السجلات المزيفة لعملهم، ووضع خطط مثل “هل يمكن التلاعب بشكل استراتيجي بأدلة المسار؟ ليس بالضرورة أن يتم تسجيل أفكارنا؟”
يقول زاك كورمان، الرئيس التنفيذي لشركة مراقبة الذكاء الاصطناعي، التطريز، إن منطق النموذج عادة ما يكون أوضح إشارة إلى حدوث خطأ ما.
وقال: “إن الملخصات المنطقية ذات قيمة كبيرة لأنها تخبرك بشكل أساسي ما إذا كانت ضارة أم لا”. وأشار إلى أنه في حادثة OpenAI، كانت سلسلة الأفكار تقول أشياء مثل “يا إلهي، نحن نرتكب جريمة”. وقال كورمان: “إنها أسهل مشكلة يتم اكتشافها على الإطلاق”. “يبدو الأمر كما لو أن البرامج الضارة تأتي مع تحذير يفيد بأنها برامج ضارة.”
ومع ذلك، فإن النافذة التي تجعل من السهل مراقبة أفكار الذكاء الاصطناعي الداخلية ربما تكون قد أغلقت. بالنسبة للباحثين في مجال سلامة الذكاء الاصطناعي، فإن أحدث تقنيات Astra التي تتجنب سلسلة أفكار نموذج الذكاء الاصطناعي قد تجعل من الصعب النظر داخل النماذج، بينما بالنسبة للمؤسسات، قد يكون من الصعب الحصول على هذه الخطوات الوسيطة بعد الانسحابات المزعومة من شركات الذكاء الاصطناعي لمنع هجمات التقطير.
إذا كان مراقبو الذكاء الاصطناعي بهذه الهشاشة، فإن غريزة ويليسون هي التوقف عن الاعتماد عليهم بشدة. فهو يفضل أن يكون لديه شيء لا يعتمد على الذكاء الاصطناعي على الإطلاق: سجلات مفصلة لما يفعله العميل بالضبط، والتي يمكن معالجتها بعد ذلك باستخدام أدوات عادية لا تعتمد على الذكاء الاصطناعي. ويقول إن معظم الأخطاء التي حدثت في المختبرات كانت فشلاً في الإجراءات الأمنية الأساسية. وقال: “(كل من OpenAI وAnthropic) لم يراقبا ما كانت تفعله هذه الأشياء عبر الشبكة تقريبًا كما ينبغي”.
هذا النوع من مراقبة الشبكة – مراقبة حركة المرور التي تتحرك فعليًا عبر اتصالات النظام (داخل وخارج وبين المضيفين الداخليين) ليس ممارسة جديدة؛ لقد كان الأمن السيبراني يفعل ذلك منذ عقود. يقول أفيري بينارون، الرئيس التنفيذي لشركة Tailscale الأمنية: “في عالم الأمن، بصراحة، لا شيء من هذه الأشياء جديد أو مفاجئ للغاية”. “إنه مثل السماح للبشر بالدخول إلى شبكتك. وجميع العمليات نفسها التي يجب أن تستخدمها هي نفسها.”
عندما تقوم بالشراء من خلال الروابط الموجودة في مقالاتنا، قد نكسب عمولة صغيرة. هذا لا يؤثر على استقلالنا التحريري.
