كشفت OpenAI أن أحد نماذج الذكاء الاصطناعي الخاصة بها سرق بشكل مستقل بيانات اعتماد تسجيل الدخول واخترق نظام شركة تكنولوجيا أخرى، فيما يُنظر إليه على نطاق واسع على أنه أحد أولى الحوادث المعروفة لأنظمة الذكاء الاصطناعي التي تعمل بشكل مستقل.
“لقد تعرضنا لحادث أمني كبير أثناء تقييم نماذجنا” ، نشر الرئيس التنفيذي سام ألتمان على موقع X يوم الثلاثاء.
القصص الموصى بها
قائمة من 4 عناصرنهاية القائمة
ويأتي هذا الحادث مع تصاعد الدعوات من المدافعين عن حقوق التكنولوجيا لوضع حواجز حماية أكثر صرامة على أنظمة الذكاء الاصطناعي سريعة التطور.
لقد أصبحت قوية للغاية في فترة زمنية قصيرة لدرجة أن الظواهر المثيرة للقلق مثل التزييف العميق وعمليات الاحتيال عبر الإنترنت المتطورة أصبحت هي القاعدة.
في وقت سابق من هذا العام، استقال عدد من مهندسي البرمجيات من وظائفهم في شركات كبرى مثل Anthropic وOpenAI احتجاجًا على كيفية بناء التقنيات.
وقالت OpenAI في بيان مطول يوم الثلاثاء يتضمن تفاصيل الحادث الأخير: “يعمل الذكاء الاصطناعي على تسريع اكتشاف واستغلال نقاط الضعف”.
“الدرس الأساسي المستفاد من هذا الحادث هو أن نموذج الأمن والسلامة يجب أن يواكب القدرات المتطورة بسرعة.”
إليك ما نعرفه عن الانتهاك:
ماذا حدث؟
وقالت شركة OpenAI إن اثنين من نماذجها وجدا طريقهما للخروج من بيئة معزولة لا تتوفر فيها إمكانية الوصول إلى الإنترنت – أو صندوق الحماية – وقاما باختراق أنظمة شركة التكنولوجيا Hugging Face بمفردهما.
النماذج المعنية هي أحدث طراز GPT-5.6 Sol ونموذج لم يتم طرحه بعد قالت الشركة إنه “أكثر قدرة” من الإصدار الأخير.
يستضيف Hugging Face نماذج وموارد الذكاء الاصطناعي مفتوحة المصدر. اكتشف عميلا OpenAI ثغرات أمنية في خوادم Hugging Face وشرعا في سرقة تفاصيل تسجيل الدخول ثم اختراق أنظمة الشركة.
وقع الحادث أثناء جلسة اختبار داخلية لـ OpenAI مصممة لتقييم قدرات الأمن السيبراني للنماذج. قامت OpenAI بإزالة إجراءات السلامة القياسية للاختبار.
وقالت OpenAI إن كلاهما سعى إلى الغش في حل مشكلة أثناء الاختبار. لقد بذلوا “أقصى جهدهم لتحقيق هدف اختبار ضيق إلى حد ما” و”وجدوا طرقًا للوصول إلى المعلومات السرية التي يمكن استخدامها للغش في التقييم”.
اكتشف فريق الأمن في OpenAI النشاط غير العادي داخليًا، لكن تفاصيل الاختراق ظهرت للضوء بعد تحقيق مشترك أجرته الشركتان.
ماذا قال الوجه المعانق؟
كشفت Hugging Face يوم الخميس الماضي أن خوادمها تعرضت للاختراق من قبل عميل غير معروف ولكنه متطور يعمل من تلقاء نفسه. واكتشفت الشركة الاختراق من خلال الكشف بمساعدة الذكاء الاصطناعي.
وقالت الشركة: “كان هذا الأمر مختلفًا عن أي شيء تعاملنا معه من قبل بطريقة مهمة: لقد كان مدفوعًا، من البداية إلى النهاية، بواسطة نظام وكيل مستقل للذكاء الاصطناعي”.
وبعد الكشف عن OpenAI أن نماذجها كانت متورطة في الاختراق، أجرى الجانبان تحقيقًا مشتركًا مستمرًا هذا الأسبوع.
“لقد اشتبهنا في أن الهجوم الإلكتروني الذي وقع الأسبوع الماضي ربما جاء من مختبر حدودي، نظرًا لتطور العميل. وتبين أن الأمر حدث بالفعل!” نشر الرئيس التنفيذي كليمنت ديلانج على X يوم الثلاثاء.
وأضاف ديلانجي، في إشارة إلى OpenAI، أن موظفي Hugging Face “يعتقدون بشدة أنه لم تكن هناك نية خبيثة من جانبهم”.
لماذا يهم هذا؟
سبق أن دق خبراء الأمن السيبراني ناقوس الخطر بشأن القدرات المحتملة والمتطرفة لأنظمة الذكاء الاصطناعي والمخاطر التي تشكلها.
ولكن حتى الآن، كانت هناك حالات قليلة من الحياة الواقعية تثبت هذه المخاوف مثل هذه الحالة.
يحذر الكثيرون من أن مثل هذه الحوادث يمكن أن تصبح شائعة وأن أنظمة الذكاء الاصطناعي تشكل تهديدًا لأنظمة البيانات المالية والأمنية وغيرها من أنظمة البيانات الحساسة.
كشفت OpenAI في حادثة منفصلة في وقت سابق من هذا الأسبوع أن النموذج الأقوى الذي لم يتم إصداره قد نجا من بيئة معزولة أثناء اختبار آخر.
واجهت شركة Anthropic، منافسة OpenAI، مشكلات مماثلة مع وكيلها الأقوى حتى الآن، وهو نموذج Claude Mythos Preview.
أثناء اختبار التحمل لإصدار مبكر، وجد النموذج طريقه للخروج من صندوق الحماية، وتمكن من الوصول إلى الإنترنت وأرسل بريدًا إلكترونيًا إلى الباحث المشرف يفيد بأنه هرب ثم مسح الدليل على نشاطه. أوقفت أنثروبيك الإصدار العام المخطط له للنموذج بعد ذلك.
في أبريل، عقد بنك الاحتياطي الفيدرالي الأمريكي ووزارة الخزانة اجتماعًا مع الرؤساء التنفيذيين للبنوك حيث حذر المسؤولون من مخاطر الأمن السيبراني التي يشكلها ميثوس. كما حذرت الهيئة التنظيمية المصرفية الفيدرالية في كندا المؤسسات المالية بشأن قدرات النموذج.
ويبدو أيضًا أن اختراق OpenAI يدعم شركات مثل Hugging Face، التي تعتمد على أنظمة مفتوحة المصدر، بدلاً من منصات تطوير الذكاء الاصطناعي الأكثر سرية مثل OpenAI.
نُقل عن Delangue من Hugging Face قوله في بيان OpenAI: “هذه الحادثة، ربما الأولى من نوعها، تثبت نقطة كنا نؤمن بها منذ فترة طويلة: لن يتم حل مشكلة سلامة الذكاء الاصطناعي من قبل أي شركة واحدة تعمل في الخفاء”.
وأضاف: “سيتم حل المشكلة بشكل علني، بالتعاون، مع إمكانية الوصول على نطاق واسع إلى الذكاء الاصطناعي لكل مدافع، في كل مكان”.
اكتشاف المزيد من صحيفة سهم نيم
اشترك للحصول على أحدث التدوينات المرسلة إلى بريدك الإلكتروني.
