تحذير من OpenAI: الذكاء الاصطناعي يتطور أسرع من قدرتنا على السيطرة عليه

وتأتي تحذيرات كريستيانو في وقت تتسابق فيه شركات التكنولوجيا الكبرى على تطوير نماذج ذكاء اصطناعي أكثر قدرة على تنفيذ المهام المعقدة، وتحليل كميات ضخمة من البيانات، والعمل بدرجات متزايدة من الاستقلالية، ما يعيد إلى الواجهة سؤالًا أساسيًا حول مدى قدرة البشر على الحفاظ على السيطرة على هذه الأنظمة مع تطور قدراتها.

وقال كريستيانو إن المخاطر لا تقتصر على الاستخدامات الحالية للذكاء الاصطناعي، وإنما تمتد إلى احتمال ظهور أنظمة مستقبلية تتمتع بقدرات واسعة، بحيث يصبح التنبؤ بسلوكها أو توجيهها وفق الأهداف المطلوبة أكثر صعوبة، إذا لم تتطور أدوات السلامة والرقابة بالسرعة نفسها.

سباق بين قدرات الذكاء الاصطناعي وإجراءات السلامة

ويواجه قطاع الذكاء الاصطناعي تحديًا متزايدًا في تحقيق توازن بين تسريع تطوير التقنيات الجديدة ووضع ضمانات كافية للحد من المخاطر المحتملة، خصوصًا مع تدفق استثمارات ضخمة إلى القطاع وظهور نماذج أكثر تطورًا خلال فترة زمنية قصيرة.

ويرى كريستيانو أن التعامل مع هذه المخاطر المستقبلية يتطلب توسيع نطاق الاختبارات والتقييمات المستقلة، وزيادة الشفافية بشأن قدرات النماذج الجديدة وحدودها، إلى جانب تطوير آليات تتيح التدخل البشري عندما تتصرف الأنظمة بصورة غير متوقعة.

ولا يتعلق الجدل فقط بمدى دقة هذه النماذج أو قدرتها على تنفيذ الأوامر، بل يمتد إلى سؤال أكثر تعقيدًا: ماذا يحدث عندما تصبح الأنظمة قادرة على التخطيط وتنفيذ سلسلة من المهام بدرجة أكبر من الاستقلالية؟

جدل داخل صناعة الذكاء الاصطناعي

وتعكس تصريحات كريستيانو نقاشًا أوسع داخل مجتمع الذكاء الاصطناعي حول كيفية التعامل مع الأنظمة الأكثر تقدمًا. ففي الوقت الذي يرى فيه مؤيدو تسريع التطوير أن الذكاء الاصطناعي يمكن أن يرفع الإنتاجية ويسرّع البحث العلمي ويحسن قطاعات واسعة من الخدمات، يحذر باحثون آخرون من طرح أنظمة أكثر قوة قبل التأكد من وجود وسائل فعالة لاختبارها ومراقبتها والسيطرة عليها.

ويُعد كريستيانو من الأسماء المعروفة في مجال "مواءمة الذكاء الاصطناعي"، الذي يركز على تطوير أنظمة تتوافق تصرفاتها مع الأهداف التي يحددها البشر، كما سبق أن عمل في OpenAI قبل مواصلة أبحاثه المتعلقة بسلامة الأنظمة المتقدمة.

وتكتسب هذه المخاوف أهمية إضافية مع انتقال الذكاء الاصطناعي من أدوات تعتمد أساسًا على الاستجابة لأوامر المستخدمين إلى أنظمة أكثر قدرة على تنفيذ مهام متعددة واتخاذ خطوات متتابعة للوصول إلى أهداف محددة.

وبينما تسعى شركات التكنولوجيا إلى دفع حدود قدرات الذكاء الاصطناعي، تتزايد في المقابل الدعوات إلى تطوير قواعد تنظيمية وضمانات تقنية أكثر وضوحًا، بحيث لا يتحول السباق نحو أنظمة أكثر ذكاءً إلى سباق تتقدم فيه القدرات أسرع من قدرة البشر على فهمها والسيطرة عليها.