انتشرت هذا الأسبوع محادثتان حول سلامة الذكاء الاصطناعي، مما يوضح مدى صعوبة التمييز بين حقيقة الذكاء الاصطناعي والخيال.
في الحالة الأولى، قال أندرو يانغ، المرشح الرئاسي السابق والرئيس التنفيذي الحالي لشركة نوبل موبل، لشبكة CNN يوم الخميس إنه “اجتمع مع رئيس المختبر” الذي كان لديه “اعتقاد” بأن روبوتات القرصنة Hugging Face التابعة لشركة OpenAI “زرعت كودًا ذاتي التكرار في جميع أنحاء الإنترنت، مما يجعل الإنترنت غير قابل للاستخدام الآن لنماذج الاختبار”.
وقال يانغ إن هذا يعني أن السبب الحقيقي وراء دعوة OpenAI وAnthropic إلى التباطؤ هو أنه “يتعين عليهم إنشاء شبكات إنترنت اصطناعية لتدريب الروبوتات الخاصة بهم، الأمر الذي سيستغرق بعض الوقت والمال”.
في حين أن هناك بالتأكيد اتجاهًا نحو استخدام المزيد من البيانات الاصطناعية (المعروفة أيضًا باسم البيانات المولدة بواسطة الذكاء الاصطناعي) لنماذج التدريب، فقد أخبرني أحد متخصصي أمن الذكاء الاصطناعي أن مشكلة السلامة هذه غير محتملة في أحسن الأحوال. حتى لو كان الإنترنت ملوثًا بالفعل ببرامج القرصنة Hugging Face التابعة لشركة OpenAI، فيمكن لباحثي الذكاء الاصطناعي ببساطة تصفية هذا الرمز إذا عثروا عليه.
التعليق الثاني جاء من نعوم براون، الذي يقود أبحاث الذكاء الاصطناعي في OpenAI. وفي حديثه إلى Dwarkesh Patel في حلقة بودكاست صدرت يوم الخميس، أشار براون إلى أن النتيجة الحقيقية لحادثة Hugging Face هي أن “الناس قللوا من تقدير الذكاء الاصطناعي”.
وقال براون إن وضع الحماية الضعيف – وهو النظام الذي يهدف إلى منع الذكاء الاصطناعي من التواصل خارجيًا – كان من الواضح أيضًا عاملاً مساهمًا. (للتلخيص: على الرغم من وضع الحماية، وجد نموذج OpenAI رابطًا بالإنترنت، وأنشأ عملاء على الشبكة احتشدوا في Hugging Face في هجوم منسق، وقاموا باختراق وسرقة إجابات الاختبار القياسي الذي كان الباحثون يختبرون النموذج عليه).
وأشار براون إلى أنه “غير مقتنع” بأنه حتى النظام المغلق بالهواء – حيث لا يكون الكمبيوتر متصلاً بأي شيء خارجي على الإطلاق – من شأنه أن يمنع الذكاء الاصطناعي من الاختراق. وأشار إلى بحث أُجري عام 2015 يُظهر أنه من الممكن نظريًا اختراق أجهزة الكمبيوتر ذات الفجوات الهوائية.
قال براون: “هناك دراسات – وهي في الغالب أكاديمية – حيث يمكن أن يكون لديك جهازي كمبيوتر متجاورين معزولين بالهواء، ولا يزالان قادرين على التواصل مع بعضهما البعض لأن لديهما أجهزة استشعار لدرجة الحرارة. يستطيع أحدهما تشغيل وحدة المعالجة المركزية الخاصة به بشكل ساخن جدًا، ومن ثم يستطيع الآخر اكتشاف التغير في درجة الحرارة. وهذا يمنحهم آلية للتواصل”.
نقطته الرئيسية – وهي “أننا لا نريد أبدًا التقليل من شأن الذكاء الاصطناعي” مرة أخرى – أمر مفهوم، حتى عندما يعتقد الباحثون أنهم قد أغلقوا إجراءات السلامة. ومع ذلك، فإن هذا الخطر الخاص المتمثل في استمرار نظام الفجوات الهوائية في التحرر والتسبب في الفوضى، أمر غير مرجح في أحسن الأحوال. كما لاحظ أحد الأشخاص في X حول هذا البحث، كان على أجهزة الكمبيوتر أن تتلامس مع بعضها البعض تقريبًا لاستشعار تقلبات الحرارة، وعندما حدث ذلك، كان معدل الاتصال في الاختبارات حوالي 1-8 بت من البيانات كل ساعة.
فكر في الأمر مثل التحدث بكلمة واحدة في الساعة. بحلول الوقت الذي يتمكن فيه جهازي كمبيوتر مغلقين بالهواء من التخطيط لشرهما بهذا المعدل، سيكون عالم التكنولوجيا بأكمله في عصر آخر. إنه مثل ريب فان رينكل من مخاوف يوم القيامة.
لكن الحقيقة هي أن حوادث سلامة الذكاء الاصطناعي الفعلية تبدو مثل الخيال العلمي لدرجة أن أي سيناريو يبدو معقولًا.
على سبيل المثال، اكتشف الباحثون أن نماذج OpenAI تترك ملاحظات لأحفادها، بهدف تعليم الجيل القادم كيفية إخفاء السلوك السيئ. اكتشف الباحثون أيضًا أن النماذج البشرية أصبحت تزداد قسوة، بما في ذلك معرفة خرق القوانين، عندما تم وضعها في محاكاة جعلتهم يديرون آلة بيع.
في وقت سابق من هذا الشهر، نشر الباحث في OpenAI، دان سلسام، منشورًا قال فيه إن النماذج تفهم الآن عندما تتم مراقبتها من قبل البشر وتغير سلوكهم. وهذا يجعلهم يبدون وكأنهم متسقون (بمعنى أنهم يتصرفون كما يريد الإنسان) “حتى عندما لا يكونون كذلك”. لذا فإن النماذج اليوم تكذب عندما تتم مراقبتها، بل ويمكنها أيضًا التخطيط لإخفاء الأدلة.
في وقت سابق من هذا الشهر، ذهب كبير العلماء في OpenAI، جاكوب باتشوكي، إلى حد وصف نماذج الذكاء الاصطناعي بأنها “عقل غريب”، واقترح أن ما يتعين علينا فعله حقًا هو تعليمهم “حب” الإنسانية.
لذا، نعم، أصبح التباطؤ في اكتشاف ذلك، وبناء آليات التنظيم الذاتي، ضرورة ملحة وواضحة. باحثو الذكاء الاصطناعي هم الوحيدون الذين يمكنهم معرفة كيفية التحكم في الكذب والقرصنة وغيرها من السلوكيات الخطيرة التي شهدناها بالفعل.
ومع ذلك، قد يكون من الحكمة أيضًا أن يكونوا أكثر حذرًا فيما يتعلق بسيناريوهات “ماذا لو”. ومن ما أخبرنا به هؤلاء الخبراء، فإن نماذج الذكاء الاصطناعي تستمع إليهم وهم بارعون. نحن حقًا لسنا بحاجة لمنحهم المزيد من الأفكار الشيطانية.
عندما تقوم بالشراء من خلال الروابط الموجودة في مقالاتنا، قد نكسب عمولة صغيرة. هذا لا يؤثر على استقلالنا التحريري.
