"أوبن إيه آي" تعزز إجراءات الأمن لمواجهة مخاطر نماذج الذكاء الاصطناعي

أعلنت شركة OpenAI عن مجموعة جديدة من السياسات والإجراءات الأمنية، تهدف إلى احتواء الحوادث المحتملة أثناء اختبار نماذج الذكاء الاصطناعي، وذلك في ظل التطور السريع لهذا القطاع وما يرافقه من مخاطر متزايدة على الأمن السيبراني.

تفاصيل الإجراءات الجديدة

تشمل السياسات التي كشفت عنها الشركة مراقبة أكثر تفصيلًا لسلوك النماذج خلال مراحل التطوير، مع تعزيز التركيز على مواءمة النماذج وأمنها في مرحلة ما بعد التدريب. وأوضحت أن هذه الخطوات جاءت جزئيًا نتيجة القدرات المتقدمة في مجال الأمن السيبراني لنموذجها المرتقب Astra، إلى جانب الحوادث الأخيرة التي أثارت مخاوف بشأن سلامة الأنظمة.

حادثة "Hugging Face" وتأثيرها

ذكرت الشركة أنها أوقفت عمليات التعلم المعزز لمدة أسبوعين عقب حادثة مرتبطة بمنصة "Hugging Face"، قبل أن تستأنف تدريب العديد من النماذج الأقل خطورة. وأكدت أن هذه التجربة دفعتها إلى إعادة تقييم بروتوكولات الأمن، وتطوير آليات أكثر صرامة لحماية أنظمة الذكاء الاصطناعي من أي اختراق محتمل.

تعزيز عزل الشبكات

من أبرز الإجراءات الجديدة تعزيز ممارسات عزل الشبكات، بحيث لا يؤدي اختراق أحد أعباء العمل أو الخدمات الداعمة بمفرده إلى منح المهاجمين وصولًا غير مصرح به إلى الإنترنت أو إلى شبكات داخلية أخرى. ويُعتبر هذا الإجراء خطوة أساسية لتقليل المخاطر المرتبطة بالهجمات المتقدمة.

نظام مراقبة متقدم

أوضحت الشركة أنها طورت نظام مراقبة متقدم يفحص مجموعة واسعة من الأنشطة بحثًا عن سلوك غير مصرح به، ويراقب إجراءات الأدوات التي تستخدمها النماذج وآثار الاستدلال وسجلات النشاط. الهدف من ذلك هو اكتشاف الأنماط التي قد تشير إلى نشاط مقلق أو محاولة تجاوز القيود الأمنية.

سرعة الاستجابة

تستهدف OpenAI إصدار تنبيهات خلال 30 دقيقة فقط من اكتشاف أي نشاط يثير المخاوف، وهو ما يمثل نقلة نوعية في سرعة الاستجابة للحوادث الأمنية. وأشارت إلى أن تشغيل نظام المراقبة سيحتاج إلى موارد حوسبة تعادل نحو 20% من الموارد المستخدمة في العملية التي تتم مراقبتها، وهو ما يعكس حجم الاستثمار في تعزيز الأمن.

أهمية الإجراءات في ظل التطور السريع

يرى خبراء الأمن السيبراني أن هذه الإجراءات تأتي في وقت بالغ الأهمية، حيث يشهد قطاع الذكاء الاصطناعي تطورًا متسارعًا يرافقه مخاطر متزايدة. ويؤكدون أن الشركات المطورة للنماذج مطالبة بتبني سياسات صارمة لضمان سلامة المستخدمين وحماية البيانات من أي استغلال غير مشروع.

في ختام إعلانها، قالت شركة OpenAI: "نحن ملتزمون بتطوير نماذج ذكاء اصطناعي آمنة وموثوقة، والإجراءات الجديدة تمثل خطوة إضافية نحو بناء أنظمة قادرة على مواجهة التحديات الأمنية المتزايدة."