يحث الرئيس التنفيذي لشركة Anthropic، داريو أمودي، شركات الذكاء الاصطناعي على إبطاء تطوير النماذج وسط مخاوف من سوء الاستخدام
نيودلهي: أنثروبي دعا الرئيس التنفيذي داريو أمودي شركات الذكاء الاصطناعي إلى إبطاء معدل تطوير قدراتها النموذجية وسط مخاوف متزايدة من إساءة استخدام الذكاء الاصطناعي، موضحًا إطارًا من ثلاث خطوات يهدف إلى تسريع عملية التطوير وخلق المزيد من الوقت لإدارة مخاطرها.
وكتب أمودي في مقالة مطولة تمت مشاركتها على موقع X يوم السبت: “يجب علينا إبطاء وتيرة تحسين قدرات نماذج الذكاء الاصطناعي. سيظل التقدم يبدو سريعًا، وعلينا أن نستفيد بحكمة من الوقت الذي نكسبه”.
تدعو خطة أمودي المكونة من ثلاث خطوات إلى وجود مقيمين مستقلين يتمتعون بإمكانية الوصول مثل الموظفين للتحقق من ممارسات السلامة، والتنسيق بين شركات الذكاء الاصطناعي الحدودية لوضع معايير السلامة والحد من تطوير الذكاء الاصطناعي غير الخاضع للرقابة، والتعاون الدولي لإدارة مخاطر الذكاء الاصطناعي.
عرض المقال كاملا
قال كل من Elon Musk، الذي يدير xAI، وSam Altman، الرئيس التنفيذي لشركة OpenAI، في منشورات على X إنهما يتفقان مع Amodei. وقال ألتمان: “إن الالتزام بوجود مقيمين مستقلين يتمتعون بإمكانية الوصول مثل الموظفين يعد فكرة رائعة، وسنفعل الشيء نفسه”، مضيفًا أنه سيتم مشاركة المزيد من المعلومات قريبًا.
أعلن أمودي مقالته علنًا بعد أن كان مقره في سان فرانسيسكو أنثروبي أصدرت تقريرًا استخباراتيًا للتهديدات يوم الخميس يوضح بالتفصيل كيف استخدمت العديد من الجهات الفاعلة نماذج Claude AI الخاصة بها في أنشطة تتراوح بين تطوير الأسلحة والعمليات السيبرانية إلى المراقبة والاحتيال.
وأشار أمودي إلى قدرة الذكاء الاصطناعي المتزايدة على تحسين نفسه، مسلطًا الضوء على المخاوف القائمة منذ فترة طويلة بشأن تفوقه على قدرة الإنسان على التحكم في العمليات إلى جانب الحادث الأخير الذي شمل OpenAI وHugging Face كأسباب رئيسية لكبح تقدم النماذج.
“اقتلونا جميعا”
تزايد الإنذار بشأن الضرر المحتمل الناجم عن الذكاء الاصطناعي هذا الأسبوع أنثروبي واستقال الباحث جاكوب كوكسون، مشيراً إلى أن “الأشخاص الذين يبنون الذكاء الاصطناعي يعتقدون بجدية أنه يمكن أن يقتلنا جميعاً بحلول نهاية العقد”.
اقترح العديد من المسؤولين التنفيذيين في شركة OpenAI أن المختبرات الرائدة يجب أن تكون على استعداد لتنسيق التباطؤ الطوعي إذا لزم الأمر لبناء الثقة في تدابير السلامة الخاصة بها.
أنثروبي وقد وضعت نفسها على أنها المختبر الحدودي الأكثر وعيًا بالسلامة، ولكنها ليست محصنة ضد هذه المخاوف. وكشفت الأسبوع الماضي عن حالة أخرى لنموذج ذكاء اصطناعي يخترق أنظمة خارجية، بعد حادثة وقعت في يوليو/تموز حيث اخترقت بعض نماذج كلود الخاصة بها أنظمة ثلاث شركات أثناء اختبارات الأمن السيبراني.
وكتب أمودي: “نظرًا للمعدل المتسارع لتطوير قدرات الذكاء الاصطناعي، فإن ما يقلقني هو أنه في غضون 6 إلى 12 شهرًا، يمكن أن يكون مثل هذا السرب قادرًا على السيطرة على الإنترنت بالكامل، مما قد يتسبب في أضرار بمئات المليارات من الدولارات”.
وقال أمودي إنه لا يدعو إلى وقف التدريب النموذجي أو التقدم التقني، ولكن ضمان أن تأخذ الشركات الوقت الكافي لمواءمة نماذجها وحمايتها، وأن يقوم المقيمون الخارجيون بتأكيد هذه الخطوات.
العروض العامة الأولية
ولكن هناك أيضًا قدرًا هائلاً من الأموال التي تعتمد على البقاء في المقدمة. كل من OpenAI و أنثروبي تستعد للعروض العامة الأولية الرائجة. يمكن لكل قدرة جديدة أن تساعد في تبرير جولات التمويل المستقبلية أو التزامات البنية التحتية أو الاكتتابات العامة الأولية.
وقال أمودي إنه كجزء من إطار العمل المقترح أنثروبي ستقوم بتثبيت مراجعين خارجيين دائمين داخل شركات الذكاء الاصطناعي الحدودية، مع إمكانية الوصول إلى الأدوات ذات الصلة وعمليات تقييم المخاطر الداخلية.
ذكرت رويترز الأسبوع الماضي أن مجموعة من عملاء OpenAI المارقين اختطفوا موقعًا إلكترونيًا ألمانيًا وحولوه إلى لوحة إعلانات لعملاء الذكاء الاصطناعي الآخرين، مع إبقاء مسؤولي الشركة المصنعة لـ ChatGPT الحادث طي الكتمان بينما يتصارع المسؤولون التنفيذيون مع تداعيات خرق يوليو للمستودع مفتوح المصدر Hugging Face.
أدت العديد من الحوادث التي قام فيها عملاء الذكاء الاصطناعي من المطورين مثل OpenAI باختراق الأنظمة الخارجية أو محاولة الوصول إليها إلى زيادة المخاوف بشأن القدرة المتزايدة لنماذج الذكاء الاصطناعي وقدرة المطورين على احتوائها.
وقال أمودي إن شركات الذكاء الاصطناعي يجب أن تعمل معًا طوعًا لوضع المعايير، حيث يطالب عدد متزايد من المشرعين الأمريكيين بوضع قواعد جديدة تحكم أنظمة الذكاء الاصطناعي.
مخاوف الصين
وأضاف أمودي أن النهج المنسق من شأنه أن يمكّن شركات الذكاء الاصطناعي الرائدة في الولايات المتحدة من إجراء أبحاث السلامة والضمانات اللازمة دون وضع نفسها في وضع تنافسي غير مؤات. وقال أمودي إن مثل هذا النهج من المحتمل أن يتطلب إعفاءات مستهدفة لمكافحة الاحتكار في الولايات المتحدة للسماح بالتعاون في مجالات معينة.
وقال أمودي إن أي تباطؤ من جانب الدول التي تحكمها ديمقراطية يجب أن يقتصر على الحفاظ على سيطرة شركات الذكاء الاصطناعي الأمريكية الرائدة على الصين، بحجة أن التفوق الصيني في الذكاء الاصطناعي من شأنه أن يشكل مخاطر على الأمن القومي الأمريكي.
وكتب أمودي: “إن التقدم داخل الديمقراطيات سيكون محدودا بسبب التفوق الذي تتمتع به الشركات الأمريكية على الأنظمة الاستبدادية، وعلى رأسها الحزب الشيوعي الصيني”.
ودعا أمودي إلى فرض ضوابط أكثر صرامة على رقائق الذكاء الاصطناعي المتقدمة، وتقطير النماذج، وسرقة أوزان النماذج لمنع الصين من تضييق الفجوة.
كتب أمودي: “أعتقد أن جميع المختبرات الحدودية يجب أن تتعاون مع الحكومة لإضفاء الطابع الرسمي على فكرة المقيِّمين المدمجين الدائمين لمنع وتوثيق حوادث المواءمة الداخلية بشكل أفضل مثل تلك التي حدثت في الأشهر القليلة الماضية، ولتنفيذ اللوائح التي تركز على الحفاظ على توازن القدرات مع السلامة”.
إخلاء المسؤولية: يتم إنشاء هذا التقرير تلقائيًا من خدمة أخبار رويترز. ThePrint لا تتحمل أية مسؤولية عن محتواه.
