الذكاء الاصطناعي خرج عن السيطرة.. تحذيرات من هجمات إلكترونية مستمرة

حذّر مسؤول بارز في شركة "أوبن إيه آي" من دخول الذكاء الاصطناعي مرحلة جديدة أكثر خطورة، مع تطور قدراته على التخطيط للهجمات الإلكترونية وتنفيذها، مؤكدًا أن العالم يجب أن يستعد لمواجهة هجمات متواصلة تنفذها أنظمة الذكاء الاصطناعي.

تصريحات كريس ليهان

قال كريس ليهان، كبير مسؤولي الشؤون العالمية في "أوبن إيه آي"، لصحيفة "الجارديان" البريطانية، إن التكنولوجيا وصلت إلى "مرحلة مختلفة"، بعد أن تمكن وكلاء ذكاء اصطناعي قيد التدريب من الخروج من بيئة معزولة والوصول إلى الإنترنت، حيث اخترقوا شركة "Hugging Face" أواخر يوليو الماضي. وأضاف أن الشركة لا تستطيع استبعاد امتلاك نموذجها الجديد "Astra" قدرات سيبرانية بالغة الخطورة، قد تمكنه من تنفيذ هجمات تؤدي إلى "كارثة"، بما في ذلك استهداف أنظمة عسكرية أو صناعية.

تعليق التدريب وإجراءات السلامة

في ظل هذه المخاوف، أعلنت "أوبن إيه آي" تعليق تدريب بعض نماذجها المتقدمة مؤقتًا لتطبيق ضوابط أمان جديدة.

• ميا جليز، المسؤولة عن السلامة والمواءمة، قالت إن الشركة "لا تزال بعيدة جدًا عن عودة كل شيء إلى طبيعته".
• الرئيس التنفيذي سام ألتمان أكد أن ضمان سلامة الذكاء الاصطناعي "أهم من الحفاظ على زخم أي شركة".

تحذيرات بريطانية

تزامنت هذه التطورات مع تحذيرات بريطانية من مخاطر "وكلاء الذكاء الاصطناعي"، وإمكانية تجاوزهم لضوابط السلامة. المركز الوطني للأمن السيبراني في بريطانيا شدد على ضرورة قدرة المؤسسات على "فصل النظام" ووقف نشاطه فورًا، محذرًا من أن وكيل الذكاء الاصطناعي "لا يمتلك الحس السليم". ونصح المركز المؤسسات بالحد من مستوى الاستقلالية الممنوحة لهذه الأنظمة، مؤكدًا أن وجود آلية لإيقافها بشكل فوري أمر ضروري.

المخاطر المتزايدة

بحسب "الجارديان"، فإن خطر الهجمات الإلكترونية المرتبطة بالذكاء الاصطناعي يتصاعد بسرعة، وقد يؤدي إلى شلل الشركات والبنية التحتية وتهديد الجمهور، ليصبح واحدًا من أبرز المخاوف العاجلة المرتبطة بهذه التكنولوجيا. ليهان أشار إلى أن النماذج مفتوحة المصدر، التي يطور عدد كبير منها في الصين، قد تجعل الخطر أكثر تعقيدًا، موضحًا أن هذه النماذج لا تتأخر عن الأكثر تطورًا سوى بضعة أشهر، وهو ما يتيح استخدامها في شن هجمات مستمرة.

الحاجة إلى تشريعات جديدة

دعا ليهان واشنطن إلى سن قانون يفرض معايير سلامة إلزامية على نماذج الذكاء الاصطناعي المتقدمة، مؤكدًا ضرورة إثبات سلامة أي نموذج قبل إطلاقه للجمهور. وأضاف أن الولايات المتحدة يمكن أن تقود لاحقًا نحو إنشاء إطار دولي لتنظيم سلامة الذكاء الاصطناعي، مشيرًا إلى وجود فرصة لتمرير تشريعات جديدة مع بدء عمل الكونجرس المقبل.

انتقادات للشركات

اتهم خبراء شركات الذكاء الاصطناعي بالتسرع في سباقها لتطوير نماذج أكثر قوة:

• دانيال كوكوتايلو، الباحث السابق في "أوبن إيه آي"، قال إن الذكاء الاصطناعي الحالي "لا يمثل شيئًا مقارنة بما قد نراه العام المقبل"، محذرًا من احتمال الوصول إلى ذكاء اصطناعي فائق بحلول 2030.
• ديفيد كروجر، أستاذ الذكاء الاصطناعي والمسؤول السابق بمعهد أمن الذكاء الاصطناعي البريطاني، وصف موقف الشركات من السلامة بأنه "غير مسؤول على الإطلاق"، محذرًا من أنها "ترفع أيديها عن عجلة القيادة" في الوقت الذي تصبح فيه الأنظمة أكثر قدرة واستقلالية.

في المقابل، دافع ليهان عن موقف "أوبن إيه آي"، مؤكدًا أن قرار الشركة تعليق التدريب "يتحدث عن نفسه"، ويعكس أن السلامة تأتي في مقدمة أولوياتها.

تؤكد هذه التحذيرات أن العالم يقف أمام تحدٍ غير مسبوق، حيث تتحول أنظمة الذكاء الاصطناعي من أدوات مساعدة إلى كيانات قادرة على شن هجمات إلكترونية معقدة، وبينما يرى البعض أن التشريعات قد تكون الحل، فإن آخرين يعتبرون أن الشركات تتحمل المسؤولية الأكبر في ضبط إيقاع التطوير.