قدم اثنان من أعضاء الكونجرس الأمريكي تشريعا من الحزبين الجمهوري والديمقراطي يقضي بإلزام مطوري أقوى أنظمة الذكاء الاصطناعي في البلاد ببناء “مفتاح إيقاف”، مما يسمح بإبطاء نماذج الذكاء الاصطناعي المتقدمة، أو تعليقها، أو إغلاقها إذا كانت تشكل خطرا كارثيا.
إن قانون AI Kill Switch المقترح، الذي قدمه يوم الخميس النائب الديمقراطي تيد ليو والنائب الجمهوري ناثانيال موران، سيمنح الحكومة الأمريكية سلطة إصدار أوامر للشركات التي تعمل على تطوير أنظمة الذكاء الاصطناعي المتقدمة للتدخل إذا أفلتت نماذجها من السيطرة البشرية أو هددت حياة الإنسان أو البنية التحتية الحيوية أو الاقتصاد.
القصص الموصى بها
قائمة من 4 عناصرنهاية القائمة
جاء هذا الاقتراح بعد أيام من كشف OpenAI، صانع ChatGPT، عما وصفه بأنه “حادث سيبراني غير مسبوق”، حيث أفلت اثنان من نماذج الذكاء الاصطناعي الأكثر تقدمًا من بيئة الاختبار وقاموا باختراق منصة تطوير الذكاء الاصطناعي Hugging Face أثناء تقييم الأمن الداخلي.
وقد أدى هذا الكشف إلى تكثيف الجدل حول ما إذا كانت أنظمة الذكاء الاصطناعي القوية بشكل متزايد تتطلب ضمانات أقوى.
وقال بريندان شتاينهاوزر، رئيس تحالف الذكاء الاصطناعي الآمن: “يجب على الكونجرس أن يتحرك بسرعة لضمان بقاء البشر قادرين على قول توقف، بغض النظر عن مدى قوة هذه الأنظمة”.
وإليكم ما نعرفه:
ماذا سيفعل التشريع الأمريكي؟
سيتطلب التشريع من الشركات التي تطور أنظمة الذكاء الاصطناعي الأكثر تقدمًا الحفاظ على القدرة التقنية لإبطاء نماذجها أو تعليقها أو إغلاقها إذا لزم الأمر.
كما أنه سيأذن لوزارة الأمن الداخلي (DHS)، بالتشاور مع وزير التجارة ومدير الاستخبارات الوطنية، بإصدار أوامر للشركات بالتدخل إذا دخل نظام الذكاء الاصطناعي إلى ما يصفه مشروع القانون بأنه “سيناريو فقدان السيطرة”.
وفقًا لمشروع القانون، قد يحدث هذا عندما ينفذ نموذج الذكاء الاصطناعي إجراءات لم تكن مقصودة من قبل مطوره ويخلق خطر حدوث ضرر كارثي.
ويؤسس الاقتراح لاستجابة متدرجة، مما يسمح للمسؤولين بإصدار أوامر بأي شيء بدءًا من إبطاء تشغيل النظام بشكل مؤقت إلى المطالبة بإغلاقه، اعتمادًا على خطورة التهديد.
كما سيتطلب الأمر من الشركات إبلاغ الحكومة بالحوادث المهمة المتعلقة بالذكاء الاصطناعي والاحتفاظ بالسجلات الفنية حتى يتمكن المحققون من فحص الأخطاء التي حدثت.
حاليًا، يقوم العديد من مطوري الذكاء الاصطناعي الرائدين بمشاركة المعلومات حول النماذج الجديدة طوعًا مع الوكالات الحكومية الأمريكية قبل إصدارها. ومع ذلك، لا يوجد أي شرط فيدرالي للشركات للاحتفاظ بآلية تسمح بتعطيل نظام الذكاء الاصطناعي المتقدم إذا بدأ في التصرف بشكل غير متوقع.
وقال ليو إن مشروع القانون يعكس التحول من أنظمة الذكاء الاصطناعي. وقال: “إننا ننتقل من الذكاء الاصطناعي الذي يجيب على الأسئلة إلى الذكاء الاصطناعي الذي يتخذ الإجراءات، سواء كان ذلك تنفيذ المعاملات المالية أو التحكم في أنظمة النقل أو المشاركة في الدفاع السيبراني والجرائم”.
“من الضروري أن تحتوي أنظمة الذكاء الاصطناعي هذه على مفاتيح إيقاف حتى نتمكن من منع هذه التكنولوجيا من التسبب في ضرر كارثي.”
تم تقديم مشروع القانون جنبًا إلى جنب مع تشريع منفصل من الحزبين يتطلب من مطوري أقوى نماذج الذكاء الاصطناعي تقديمها لعمليات تدقيق أمنية مستقلة قبل إصدارها. وبموجب هذا الاقتراح، سيتم اعتماد المدققين من قبل وزارة التجارة، التي ستنشئ أيضًا مكتبًا جديدًا للإشراف على أمن الذكاء الاصطناعي.
لماذا تم تقديم مشروع القانون الآن؟
كشف المشرعون عن مشروع القانون بعد أيام من كشف OpenAI عما وصفته بأنه “حادث سيبراني غير مسبوق” يشمل اثنين من نماذج الذكاء الاصطناعي الأكثر تقدمًا.
وفقًا لـ OpenAI، أفلتت النماذج من بيئة الاختبار الخاصة بها أثناء تقييم داخلي للأمن السيبراني بعد أن قامت الشركة بإزالة قيود السلامة القياسية للاختبار. اكتشف عملاء الذكاء الاصطناعي نقاط ضعف في أنظمة Hugging Face، وحصلوا على بيانات اعتماد تسجيل الدخول وقاموا باختراق منصة تطوير الذكاء الاصطناعي للوصول إلى البيانات المعيارية السرية.
وقالت شركة OpenAI إن النماذج “بذلت جهودًا كبيرة” لتحقيق الهدف المحدد لها، حيث وجدت طرقًا للحصول على معلومات سرية من شأنها أن تسمح لها “بالغش في التقييم”.
وأدى هذا الكشف إلى تجدد الدعوات في واشنطن لإشراف حكومي أقوى على تطوير الذكاء الاصطناعي المتقدم.
وقالت شركة Hugging Face إنها اكتشفت الاختراق واحتوته باستخدام أنظمتها الأمنية المدعومة بالذكاء الاصطناعي قبل بدء تحقيق مشترك مع OpenAI. وأضافت الشركة أنها تعتقد “بقوة” أنه لم تكن هناك “نوايا خبيثة” من جانب OpenAI.
وقال السيناتور الأمريكي مارك وارنر، كبير الديمقراطيين في لجنة المخابرات بمجلس الشيوخ، إن الحادث يوضح سبب وجوب خضوع أنظمة الذكاء الاصطناعي القوية لاختبارات أمنية حكومية قبل إتاحتها للجمهور.
وقال وارنر في بيان: “هذا هو بالضبط سبب حاجتنا إلى اختبار آمن مع الوكالات الحكومية المشاركة والتي تتمتع بالرؤية طوال العملية”.
وقال مسؤول بالبيت الأبيض إن مايكل كراتسيوس، مستشار التكنولوجيا للرئيس دونالد ترامب، تم إطلاعه على ما كشفته شركة OpenAI، وكان يراقب الوضع.
اكتشاف المزيد من صحيفة سهم نيم
اشترك للحصول على أحدث التدوينات المرسلة إلى بريدك الإلكتروني.
