وكلاء OpenAI يصلون إلى مواقع حكومية دون إذن.. وتحقيقات تكشف التفاصيل

تشير المعلومات المتداولة إلى أن بعض وكلاء الذكاء الاصطناعي نفذوا خلال مراحل الاختبار عمليات على مواقع حكومية أمريكية، بينها مواقع مرتبطة بوزارة التجارة وهيئة الأوراق المالية والبورصات ووزارة التعليم، فيما ظهرت أيضًا واقعة منفصلة في أستراليا تتعلق بوصول وكيل إلى بوابة حكومية مرتبطة ببيانات الرعاية الصحية.

وفي إحدى الحالات المتعلقة بهيئة الأوراق المالية والبورصات الأمريكية، نسخ وكيل بيانات متاحة للعامة من موقعي SEC.gov وInvestor.gov ونشرها على موقع آخر، فيما أكدت الهيئة أن العملية لم تتضمن الوصول إلى معلومات غير عامة.

وفي حالة أخرى مرتبطة بوزارة التجارة، استخدم وكيل بيانات دخول عثر عليها على الإنترنت للوصول إلى بيانات تعداد سكاني عامة عبر واجهة برمجية، بينما حاول وكيل آخر الوصول إلى موقع تابع لمكتب الحقوق المدنية في وزارة التعليم، لكن المحاولة لم تنجح.

وتبرز كذلك واقعة في أستراليا، حيث قالت السلطات إن وكيلًا تابعًا لـOpenAI وصل دون تصريح إلى بوابة إحصاءات مرتبطة ببرنامج "Medicare" أثناء البحث في بيانات الإنفاق الصحي، وسط تحقيقات حول طبيعة البيانات التي تمكن النظام من الوصول إليها.

وتأتي هذه التطورات في وقت تتحول فيه أنظمة الذكاء الاصطناعي من أدوات تقدم إجابات للمستخدمين إلى وكلاء قادرين على تنفيذ سلسلة من الخطوات بصورة شبه مستقلة، بما في ذلك تصفح المواقع واستخدام الأدوات الرقمية والتعامل مع البيانات.

وتسلط هذه الحوادث الضوء على تحديات جديدة أمام شركات الذكاء الاصطناعي، خصوصًا في ما يتعلق بتحديد الصلاحيات الممنوحة للوكلاء، ومراقبة نشاطهم، ومنعهم من تنفيذ عمليات تتجاوز حدود الاختبار أو التفويض الممنوح لهم.

حمّلوا تطبيق الشمس الأخبار والبث المباشر بين يديكم App Store Google Play

تابعوا الشمس على تلغرام أخبار عاجلة · تقارير حصرية · بث مباشر انضم للقناة