"هل يفقد البشر السيطرة؟".. مخاوف متصاعدة من تطور الذكاء الاصطناعي

قال مجد كرام، مراقب الحسابات، إن الدعوات إلى إبطاء التطوير لا تأتي فقط من خارج القطاع، بل بدأت تظهر من داخل شركات مثل OpenAI وAnthropic وغيرها، مشيرًا إلى أن مديرًا تنفيذيًا في شركة Anthropic نشر مقالًا مطولًا دعا فيه إلى إبطاء تطوير الذكاء الاصطناعي حول العالم.

تحذير من الداخل

وأوضح كرام، خلال مداخلة هاتفية ضمن برنامج "أول خبر" على إذاعة الشمس، أن أهمية هذا التحذير تعود إلى أن صاحبه ليس شخصًا من خارج القطاع، بل أحد المشاركين في قيادة ثورة الذكاء الاصطناعي، مشيرًا إلى أن شركة Anthropic تأسست أساسًا بهدف تطوير ذكاء اصطناعي أكثر أمانًا وحذرًا.

وبحسب كرام، فإن التحذير يرتبط بمخاوف تتعلق بسلامة الذكاء الاصطناعي، وبضرورة منح الجهود الرامية إلى الحد من المخاطر وقتًا كافيًا لمواكبة السرعة التي تتطور بها قدرات النماذج.

وأضاف أن الفكرة المطروحة لا تتعلق بإيقاف الذكاء الاصطناعي أو البرامج التي يستخدمها المستهلكون، وإنما بإبطاء التطور في مستويات أكثر تقدمًا من التكنولوجيا، خصوصًا مع انتقال الأنظمة إلى قدرات أكثر استقلالية.

"التحسين الذاتي"

وأشار كرام إلى مفهوم وصفه بالمحوري في هذا النقاش، وهو "التحسين الذاتي التكراري"، موضحًا أن المقصود هو الوصول مستقبلًا إلى أنظمة قادرة على تطوير قدراتها بنفسها، من دون الحاجة المستمرة إلى تدخل الباحثين والمطورين.

وحذر من أن الوصول إلى هذه المرحلة قد يخلق وضعًا تصبح فيه البرمجية قادرة على تحسين نفسها بصورة متكررة، بما قد يجعل السيطرة البشرية عليها أكثر صعوبة.

وقال إن قادة صناعة الذكاء الاصطناعي يستعدون لاحتمال وصول الأنظمة إلى مرحلة تستطيع فيها تطوير نفسها بشكل شبه كامل، معتبرًا أن هذه الفكرة، التي تبدو اليوم أقرب إلى الخيال العلمي، أصبحت مطروحة فعليًا داخل المختبرات والشركات المتخصصة.

هل تفلت الآلة؟

وضرب كرام مثالًا على المخاطر التي قد ترافق زيادة استقلالية الأنظمة، مشيرًا إلى حادثة قال إن نظامًا للذكاء الاصطناعي تمكن خلالها من اختراق أجهزة في شركة أخرى دون علم الشركة المطورة للنظام، قبل اكتشاف الأمر بعد فترة.

واعتبر أن مثل هذه الوقائع، حتى لو كانت محدودة مقارنة بما قد تحمله التطورات المستقبلية، تطرح سؤالًا أساسيًا حول قدرة البشر على التحكم بالأنظمة عندما تصبح أكثر استقلالية وقدرة على اتخاذ خطوات دون تدخل مباشر.

وأكد أن الذكاء الاصطناعي أصبح بالفعل جزءًا من حياة المستخدمين اليومية، لكن السؤال الأكبر، بحسب تقديره، يتعلق بما سيحدث مع استمرار تسارع التطوير، وما إذا كانت البشرية قادرة على وضع قواعد وتنظيمات تواكب هذه السرعة قبل الوصول إلى مراحل يصعب فيها استعادة السيطرة.