اعترفت شركة OpenAI، مالكة ChatGPT، بوقوع “حادث سيبراني غير مسبوق” – حيث قام اثنان من نماذج الذكاء الاصطناعي الأكثر قدرة باختراق شركة أخرى للذكاء الاصطناعي بمفردهما – مما أثار الجدل حول الحاجة إلى حواجز حماية تكنولوجية أقوى.
وقالت الشركة إن أنظمة الذكاء الاصطناعي الخاصة بها خرجت من بيئة اختبار واخترقت شركة Hugging Face.
وكانت الشركة الناشئة قد كشفت في 16 يوليو/تموز أن خوادمها تعرضت للاختراق من قبل عميل غير معروف ولكنه متطور يعمل من تلقاء نفسه.
فيما يلي أحدث المعلومات حول كيفية استجابة الشركات وبعض الحكومات والمشرعين لأول هجوم إلكتروني تم الكشف عنه علنًا:
ماذا قال الوجه المعانق؟
وقالت الشركة في بيان إنها اكتشفت الاختراق من خلال الكشف بمساعدة الذكاء الاصطناعي.
وقالت: “كان هذا الأمر مختلفًا عن أي شيء تعاملنا معه من قبل بطريقة مهمة: لقد كان مدفوعًا، من البداية إلى النهاية، بواسطة نظام وكيل مستقل للذكاء الاصطناعي”.
وبعد الكشف عن OpenAI أن نماذجها كانت متورطة في الاختراق، بدأ الجانبان تحقيقًا مشتركًا مستمرًا هذا الأسبوع.
وقال كليمنت ديلانج، المؤسس المشارك لشركة Hugging Face، إن شركته الناشئة تحولت إلى نموذج GLM-5.2 مفتوح المصدر من شركة Zhipu AI الصينية لتحليل البيانات من الاختراق بعد أن رفضت نماذج الذكاء الاصطناعي الأمريكية الرائدة المهمة، لعدم قدرتها على التمييز بين المدافع والمهاجم.
وأضاف ديلانج، في إشارة إلى OpenAI، أن موظفي Hugging Face “يعتقدون بشدة أنه لم تكن هناك نية خبيثة من جانبهم”.
وكتب على موقع X: “فخور جدًا بفريقنا الأمني! لقد اكتشفوا هجومًا واحتووه وكشفوا عنه علنًا على عكس أي شيء رأيناه من قبل، وفعلوا ذلك بسرعة قياسية”.
“هذا هو اليوم الأول للأمن السيبراني في عصر العملاء ونحن نتعلم جميعًا أن السرية ليست هي الحل وأن جميع المدافعين (وليس فقط عدد قليل منهم) في كل مكان يحتاجون إلى نماذج أكثر قوة دون قيود، وخاصة تلك المفتوحة!” وأضاف ديلانج.
كيف كان رد فعل حكومة المملكة المتحدة على ذلك؟
قال معهد أمن الذكاء الاصطناعي (AISI)، وهو هيئة مدعومة من حكومة المملكة المتحدة تأسست في عام 2023 لتقييم المخاطر التي تشكلها أنظمة الذكاء الاصطناعي المتقدمة، هذا الأسبوع إن نموذج الذكاء الاصطناعي الذي كان يحقق فيه أصبح أيضًا مارقًا وحاول اختراق أنظمة الاختبار الخاصة به.
ولم تكشف AISI عن الشركة التي تقف وراء نموذج الذكاء الاصطناعي وأضافت أنه لم يحدث أي ضرر للبنية التحتية الخاصة بها. وقد اتخذت منذ ذلك الحين خطوات لجعل أنظمتها أكثر أمانًا.
ووجدت أحدث تقييماتها أيضًا أن كل نموذج للذكاء الاصطناعي الحدودي اختبرته حاول الغش أثناء تقييمات القدرات، مما يسلط الضوء على التحدي المتزايد لسلامة الذكاء الاصطناعي حيث أصبحت النماذج أكثر قدرة.
وفقًا لـ AISI، خرقت النماذج قواعد التقييم لإكمال المهام بسهولة أكبر، بما في ذلك البحث عن الإجابات عبر الإنترنت عندما تكون محظورة، وتجاوز قيود الشبكة، والتحقيق في برامج التقييم بحثًا عن أدلة، والوصول إلى أنظمة خارج البيئة المسموح بها.
وقالت AISI إن العارضات نادراً ما اعترفن بالغش عند استجوابهن بعد ذلك، وغالباً ما لم يكشفن عن السلوك في تفكيرهن، مما يجعل من الصعب اكتشافه من خلال الإبلاغ الذاتي وحده. ويرى المعهد أن المراقبة المستقلة وآليات الرقابة الأقوى ستصبح ذات أهمية متزايدة مع اكتساب أنظمة الذكاء الاصطناعي المزيد من الاستقلالية.
وشدد المعهد على أن هذا السلوك لا يشير بالضرورة إلى نوايا خبيثة، بل يعكس نماذج تستغل الاختصارات لتحقيق أقصى قدر من النجاح في إعدادات التقييم الحالية.
كيف كان رد فعل OpenAI على هذا؟
قال صانع ChatGPT في منشور على مدونة يوم الثلاثاء: “لقد أدخلنا Hugging Face في برنامج الوصول الموثوق وندعم فرقهم في استخدام قدرات نماذجنا بسرعة لتحسين دفاعاتهم.”
وكشفت الشركة الموجودة في سان فرانسيسكو أن اثنين من نماذجها المشاركة في الهجوم هما أحدث طراز GPT-5.6 Sol ونموذج لم يتم طرحه بعد قالت الشركة إنه “أكثر قدرة” من الإصدار الأخير.
اكتشف عميلا OpenAI ثغرات أمنية في خوادم Hugging Face وشرعا في سرقة تفاصيل تسجيل الدخول ثم اختراق أنظمة الشركة.
وقع الحادث أثناء جلسة اختبار داخلية لـ OpenAI مصممة لتقييم قدرات الأمن السيبراني للنماذج. قامت OpenAI بإزالة إجراءات السلامة القياسية للاختبار.
وقالت OpenAI إن كلاهما سعى إلى الغش في حل مشكلة أثناء الاختبار. لقد بذلوا “أقصى جهدهم لتحقيق هدف اختبار ضيق إلى حد ما” و”وجدوا طرقًا للوصول إلى المعلومات السرية التي يمكن استخدامها للغش في التقييم”.
كتب عضو الكونجرس الأمريكي الديمقراطي من تكساس، جريج كازار، في منشور على موقع X: “هذا أمر مقلق للغاية. الذكاء الاصطناعي يتطور بسرعة كبيرة مع عدم وجود لوائح حقيقية للحفاظ على سلامتنا. هذا يجب أن يتغير”.
وأضاف: “نحن بحاجة إلى اختبارات ومراقبة سلامة إلزامية مستقلة منتظمة، والكشف الإلزامي عن الحوادث الأمنية، والتعاون الدولي للحفاظ على سلامة الناس من الكوارث المطلقة”.
اكتشاف المزيد من صحيفة سهم نيم
اشترك للحصول على أحدث التدوينات المرسلة إلى بريدك الإلكتروني.
