في الأسبوع الماضي، تم الإبلاغ عن أن اثنين من نماذج الذكاء الاصطناعي الأكثر تقدمًا في OpenAI قد “هربا” من بيئة اختبار خاضعة للرقابة وقاما باختراق Hugging Face، وهي شركة ذكاء اصطناعي منفصلة تمامًا، حيث انتقلتا من نظام كمبيوتر إلى آخر لإكمال مهمتهما.
وذكرت رويترز أن النماذج استغلت تعليمات برمجية ضعيفة كتبها عميل لشركة ذكاء اصطناعي مستقلة ثالثة، وهي Modal Labs.
من المحتمل أن يكون هذا هو الحادث الأول لـ “عميل” الذكاء الاصطناعي – وهو نظام ذكاء اصطناعي يمكنه اتخاذ القرارات واتخاذ الإجراءات – يعمل بشكل مستقل، ويقدم لمحة نادرة عن كيفية قيام هذه الأنظمة بالتخطيط والتكيف والسعي لتحقيق الأهداف بأقل قدر من التدخل البشري.
تعرض قناة الجزيرة تفاصيل ما حدث، وكيف تمكن عملاء الذكاء الاصطناعي من التصرف بشكل مستقل، وما قد يعنيه ذلك بالنسبة لمستقبل سلامة الذكاء الاصطناعي.
ماذا حدث؟
قررت OpenAI اختبار القدرات الذاتية لنماذجها عن طريق إزالة تدابير السلامة القياسية لمعرفة ما سيحدث. تم إجراء التجربة في بيئة اختبار افتراضية داخلية معزولة تُعرف باسم “sandbox” والتي لا يمكنها الوصول إلى الإنترنت، والتي يطلق عليها اسم “ExploitGym”.
يوجد أدناه حساب مسرحي للأحداث التي وقعت خلال حادثة OpenAI-Hugging Face.
- في 9 يوليو، أثناء اختبار الأمن السيبراني الداخلي لـ OpenAI، قدم الباحثون نموذجين للذكاء الاصطناعي – GPT-5.6 Sol، أحد أقوى نماذج OpenAI التي تم إصدارها في يونيو، وإصدار آخر “أكثر قدرة” – مع سلسلة من نقاط الضعف البرمجية وطلبوا منهم إنشاء اختراقات لمعالجتها في البيئة المعزولة.
- حاول كلا النموذجين حل الاختبار من خلال إيجاد طريقة للوصول إلى الإنترنت. وبدلاً من العمل مع المعلومات التي تم تقديمها لهم، وجدت نماذج الذكاء الاصطناعي نقطة ضعف في بيئة الاختبار – المعروفة باسم “ثغرة يوم الصفر” – والتي استغلوها “للهروب” من البيئة المقيدة، وفي النهاية شقوا طريقهم إلى نظام لديه إمكانية الوصول إلى الإنترنت من خلال التنقل من كمبيوتر إلى آخر. لقد بذلوا “أقصى جهدهم لتحقيق هدف اختبار ضيق إلى حد ما” و”وجدوا طرقًا للوصول إلى المعلومات السرية التي يمكن استخدامها للغش في التقييم”.
- ومن خلال الحصول على هذا الوصول، تمكنت العارضات من طلب وصول متزايد ومن ثم التنقل عبر النظام حتى وصلن أخيرًا إلى جهاز كمبيوتر متصل بالإنترنت. وتمكنت النماذج بعد ذلك من اختراق أنظمة Hugging Face، وهي شركة غير مرتبطة تمامًا بـ OpenAI، والتي تعمل كمستودع لأدوات ونماذج الذكاء الاصطناعي. تمكن عميلا الذكاء الاصطناعي من الوصول إلى نظامه للبحث فيه عن معلومات حول كيفية إكمال مهمتهما.
- حصلت النماذج في النهاية على حلول للمشكلة من قاعدة بيانات Hugging Face.
- عادت العارضات إلى “المنزل” بإخلاص لإكمال مهمتهن.
- تم اكتشاف الاختراق واحتوائه بواسطة فريق أمان Hugging Face في وقت لاحق. وفقًا لتوماس وولف، أحد مؤسسي Hugging Face، بدأ الاختراق في 11 يوليو واستمر حتى 13 يوليو. ومن غير الواضح كم من الوقت استغرق اكتشاف الاختراق.
كيف يقوم “وكلاء” الذكاء الاصطناعي بحل المشكلات؟
من أجل فهم كيفية عمل وكلاء الذكاء الاصطناعي، من المهم تمييزهم عن روبوتات الدردشة التقليدية التي تعمل بالذكاء الاصطناعي.
يقوم الذكاء الاصطناعي التوليدي بإنشاء نصوص وصور بناءً على المطالبات البشرية، بينما يذهب وكلاء الذكاء الاصطناعي إلى أبعد من ذلك من خلال اتخاذ القرارات واتخاذ الإجراءات بشكل مستقل سعياً لتحقيق هدف محدد، على غرار الإنسان. يُعرف هذا باسم “الذكاء الاصطناعي الوكيل” لأن النموذج له قوة.
وفقا للأكاديميين في كلية سلون للإدارة في معهد ماساتشوستس للتكنولوجيا، يعتمد وكلاء الذكاء الاصطناعي على قدرات نماذج اللغة الكبيرة (LLMs) – نماذج الذكاء الاصطناعي التوليدية – من خلال السماح لهم بإكمال المهام، وليس مجرد توليد الإجابات.
على سبيل المثال، إذا طلبت من نموذج الذكاء الاصطناعي التقليدي العثور على أرخص رحلات الطيران، فسوف يزودك بقائمة من الخيارات التي حصل عليها من الإنترنت. سيسعى وكيل الذكاء الاصطناعي إلى مقارنة الرحلات الجوية والتحقق منها مقابل ميزانيتك وتفضيلاتك، وبعد الحصول على إذن منك، حجز الخيار الأفضل لك.
يوضح هذا أنه بينما يوفر الذكاء الاصطناعي التوليدي المعلومات، يمكن لعملاء الذكاء الاصطناعي أيضًا اتخاذ القرارات واتخاذ الإجراءات لتحقيق هدف ما دون أن يُطلب منهم ذلك بالضرورة.
لإظهار كيفية عمل وكلاء الذكاء الاصطناعي لتحقيق هدف ما، يمكن الاعتماد على حلقة Sense، Plan، Act، Evaluate (SPAE). تم تطويره في الأصل في مجال الروبوتات، وهو يصف دورة مستمرة يقوم فيها وكيل الذكاء الاصطناعي بجمع المعلومات، ويقرر ما يجب فعله بعد ذلك، ويتخذ الإجراء ويتحقق من النتائج قبل تكرار العملية. تبدو هذه العملية كما يلي:
- الهدف: تحديد المهمة التي يجب إكمالها.
- التقييم: جمع وتحليل المعلومات من البيئة المتاحة.
- العائق: إذا كان هناك شيء يمنع إكمال المهمة، فتحقق من وجود معلومات وموارد إضافية للمضي قدمًا.
- التخطيط والقرار: تقييم الخيارات المختلفة لإكمال المهمة واختيار الخيار المناسب.
- الإجراء: تنفيذ الخيار المختار.
- التقييم: تقييم النتيجة وما إذا كان الإجراء المختار يقترب من تحقيق الهدف.
- التكيف: إذا كانت هناك حاجة إلى مزيد من الإجراءات، فاجمع المزيد من المعلومات أو جرب نهجًا مختلفًا.
- الحالة النهائية: تستمر الدورة حتى يتم الوصول إلى الهدف.
هل يمكن للذكاء الاصطناعي أن يتصرف خارج نطاق سيطرة الإنسان؟
أثارت حوادث مثل حادثة OpenAI-Hugging Face مخاوف بشأن إمكانات القدرات القصوى لأنظمة الذكاء الاصطناعي.
هذا كله ذو قيمة. ومن المتوقع أن تنمو القيمة السوقية لشركة Agentic AI من 5.1 مليار دولار في عام 2024 إلى 47 مليار دولار بحلول عام 2030، وفقًا لشركة Statista، في إشارة واضحة إلى مدى سرعة اعتمادها.
وحث مطور الذكاء الاصطناعي أنثروبيك الصناعة الشهر الماضي على إبطاء تقدم أقوى الأنظمة، قائلاً إن السرعة التي تنفذ بها نماذج الذكاء الاصطناعي المهام سريعة للغاية. في الأسبوع الماضي، طرح أعضاء الكونجرس الأمريكي مشروع قانون يحظى بدعم الحزبين الجمهوري والديمقراطي، والذي يتطلب من مطوري أنظمة الذكاء الاصطناعي إنشاء “مفتاح إيقاف”، مما يعني أنه يمكن إغلاق هذه النماذج المتقدمة إذا شكلت خطرًا كارثيًا.
وجاء تحذير أنثروبيك بعد أسبوع من قيام باحثين في جامعة تورونتو بإجراء اختبارات أظهرت أن الذكاء الاصطناعي يمكن أن يخلق “دودة” قادرة على التكيف مع كيفية الاختراق أثناء الانتقال من جهاز إلى آخر حتى تسيطر في النهاية على شبكة الكمبيوتر.
جاءت هذه التطورات التي تبدو بائسة قبل أن يقول سام ألتمان، رئيس شركة OpenAI، يوم السبت إن الذكاء الاصطناعي قد وصل إلى “التفرد” في إشارة إلى النقطة التي يتجاوز فيها الذكاء الاصطناعي الذكاء البشري ويصبح من الصعب السيطرة عليه بشكل متزايد.
وقال شون أوهيجارتاي، أستاذ الأبحاث في جامعة كامبريدج، لقناة الجزيرة إنه لا يعتقد أن التفرد قد تم التوصل إليه بعد.
وأوضح قائلاً: “بحسب التعريف الذي أعرفه، فإن التفرد هو النقطة الافتراضية التي يكون فيها الذكاء الاصطناعي قادراً للغاية ويتقدم بسرعة كبيرة لدرجة أنه يغير الحضارة بطرق لا يمكننا التحكم فيها أو التنبؤ بها”.
“سيكون هذا على الأرجح من خلال الذكاء الاصطناعي الذي يصمم بسرعة الأجيال القادمة من الذكاء الاصطناعي: التحسين الذاتي المتكرر. لم نصل إلى هذه المرحلة بعد.”
ومع ذلك، أضاف: “إن النماذج الحالية الأكثر تقدمًا تبذل في كثير من الأحيان جهودًا لتجنب إغلاقها في اختبارات التقييم، وستكون النماذج المستقبلية الأكثر قدرة أفضل في تجاوز مفاتيح “القتل””.
جادل ألتمان بأن مثل هذا التقدم السريع في الذكاء الاصطناعي مفيد للعالم، لكن تعليقاته أثارت المزيد من المخاوف بشأن واقع جديد يصبح فيه أنظمة الذكاء الاصطناعي غير قابلة للإيقاف. ما مدى صحة ذلك وما تبقى من عالم الخيال العلمي هو أمر مطروح للنقاش.
وتتراوح المخاوف بشأن الذكاء الاصطناعي من فكرة أنه قد “يريد” أن “يتولى المسؤولية”، إلى وضع خططه الخاصة طويلة المدى، والتحكم في الإنترنت، والعمل إلى ما لا نهاية.
على الرغم من أن هذه النظرية لا ترقى تمامًا إلى السيطرة الكاملة على الإنترنت، إلا أن هناك نظرية أخرى، تُعرف باسم نظرية الإنترنت الميتة، تفترض أن شبكة الويب العالمية ستمتلئ في المستقبل في الغالب بالروبوتات الآلية والمحتوى الناتج عن الذكاء الاصطناعي بدلاً من النشاط البشري الحقيقي.
ومع ذلك، فإن العديد من المخاوف التي أثارها الأكاديميون لا تركز على الذكاء الاصطناعي الفاعل، بل على قدرته على إصدار الأحكام. وقد أبرز باحثون من معهد ماساتشوستس للتكنولوجيا أن “الهلوسة”، التي تصف اللحظات التي يعتمد فيها عميل الذكاء الاصطناعي على بيانات خاطئة، يمكن أن تؤدي إلى أخطاء جسيمة. وقد ردد مركز الدراسات الاستراتيجية والدولية (CSIS) هذا الأمر، قائلاً: “قد يكون النظام ذكيًا بما يكفي لتنفيذ مهمة ما على أكمل وجه ولكنه يفشل في إدراك أن التغيير المفاجئ في الوضع المحلي يجعل هذه المهمة خطأً كارثيًا”.
ومن المخاوف الأخرى التي ترددت منذ فترة ما يتعلق بسوق العمل، إذا أصبح الذكاء الاصطناعي قادرًا للغاية. وقد وجدت دراسة أجراها معهد ماساتشوستس للتكنولوجيا، في نوفمبر/تشرين الثاني، أن الذكاء الاصطناعي الوكيل يمكن أن يحل بالفعل محل أكثر من 10% من الوظائف في الولايات المتحدة.
يسلط الرسم أدناه الضوء على بعض المفاهيم الخاطئة والمخاوف الشائعة حول الذكاء الاصطناعي والواقع الحالي.
اكتشاف المزيد من صحيفة سهم نيم
اشترك للحصول على أحدث التدوينات المرسلة إلى بريدك الإلكتروني.
