يقول صانع ChatGPT إن الوكيل المستقل نجا من اختبار خاضع للرقابة ووصل إلى خوادم شركة Hugging Face للذكاء الاصطناعي.

قال OpenAI، منشئ ChatGPT، إن اثنين من نماذج الذكاء الاصطناعي الأكثر تقدمًا قد خرجا من اختبار خاضع للرقابة واخترقا شركة أخرى للذكاء الاصطناعي.

وقالت شركة OpenAI يوم الثلاثاء إن “الحادث السيبراني غير المسبوق” وقع خلال تمرين داخلي يهدف إلى اختبار القدرات السيبرانية لنماذجها.

القصص الموصى بها

قائمة من 3 عناصرنهاية القائمة

وبدلاً من ذلك، أفلت وكيل مستقل مدعوم بنماذج الذكاء الاصطناعي – GPT 5.6 Sol الذي تم إصداره حديثًا ونموذج “أكثر قدرة” لم يتم طرحه – من بيئة الاختبار ووصل إلى الإنترنت المفتوح. وقالت الشركة إنها استخدمت بعد ذلك تفاصيل تسجيل الدخول المسروقة واكتشفت ثغرة أمنية لم تكن معروفة من قبل للوصول إلى خوادم Hugging Face.

تدعي شركة OpenAI أن الاختراق يمثل قيام العميل “ببذل أقصى جهوده” لاستعادة المعلومات التي من شأنها أن تساعد في تحقيق أهداف الاختبار.

وقال كليمنت ديلانج، المؤسس المشارك لشركة Hugging Face، إن الشركة اشتبهت في أن مختبرًا حدوديًا كان وراء الهجوم، وأنه يعتقد أنه لم تكن هناك نية خبيثة من جانب OpenAI.

“من المثير للدهشة أن كل هذا حدث بشكل مستقل!” وكتب مضيفا أنها “قد تكون الحادثة الأولى من نوعها”.

جريج كاسار، عضو ديمقراطي في مجلس النواب الأمريكي من ولاية تكساس، وصف الحادث بأنه “مثير للقلق”.

وقال: “إن الذكاء الاصطناعي يتطور بسرعة كبيرة مع عدم وجود لوائح حقيقية للحفاظ على سلامتنا”، ودعا إلى إجراء اختبارات سلامة مستقلة إلزامية، والكشف الإلزامي عن الحوادث الأمنية، والتعاون الدولي.

يأتي هذا الكشف بعد أسابيع من توقيع الرئيس الأمريكي دونالد ترامب على أمر تنفيذي لإنشاء إطار عمل لفحص مخاطر الأمن القومي لأنظمة الذكاء الاصطناعي الأكثر تقدمًا قبل إصدارها للعامة.

لقد دق الخبراء مراراً وتكراراً ناقوس الخطر بشأن الهجمات السيبرانية المدعومة بالذكاء الاصطناعي والنماذج التي تخرج عن نطاق السيطرة البشرية. في الشهر الماضي، حث مطور الذكاء الاصطناعي Anthropic الصناعة على التوقف مؤقتًا عن تطوير أقوى أنظمتها.


اكتشاف المزيد من صحيفة سهم نيم

اشترك للحصول على أحدث التدوينات المرسلة إلى بريدك الإلكتروني.

شاركها.
اترك تعليقاً

اكتشاف المزيد من صحيفة سهم نيم

اشترك الآن للاستمرار في القراءة والحصول على حق الوصول إلى الأرشيف الكامل.

متابعة القراءة