هل ستراقب الخوارزميات كلام أطفال غزة؟ خطة تثير مخاوف جديدة

تعتزم مؤسسة "Gaza Children Village" استخدام نظام ذكاء اصطناعي لتحليل أحاديث الطلاب والمعلمين في مدارسها، وإرسال تنبيهات إلى مؤسسها ومديرها التنفيذي ديفيد حسن عندما يرصد النظام عبارات يصنفها على أنها معادية للسامية أو تحريضية أو قائمة على الكراهية.

وقال حسن، خلال ندوة عبر الإنترنت في سبتمبر، إن التسجيلات ستُحفظ لمدة 72 ساعة، فيما أفاد تقرير وكالة أسوشيتد برس بأن التقنية خضعت للاختبار، وأن الخطة تشمل تطبيقها في عشرات الصفوف، دون تحديد موعد لبدء استخدامها.

اعتراضات على مراقبة الأحاديث

اعترض بشارة بحبح، الناشط السياسي الفلسطيني الأميركي وعضو مجلس إدارة المؤسسة، على استخدام الكاميرات لإسكات الطلاب والمعلمين، وقال إنه لم يكن على علم بالخطة وإنها لم تُطرح على المجلس.

كما حذّر مسؤول في جهة إغاثية شريكة من أن المشروع قد يدفع الجهة إلى إعادة النظر في تعاونها مع المؤسسة، في حين لم تتضح المعايير التي سيعتمدها النظام لتصنيف الكلام أو الضمانات المخصصة لحماية التسجيلات.

وأشار التقرير أيضًا إلى أن منظمة PollyLabs نفت مشاركتها في تطوير تقنية المراقبة أو نشرها، رغم الإشارة إليها في مراسلات سابقة للمؤسسة.

ولا يؤكد التقرير أن النظام بدأ العمل بالفعل، كما لا تتوافر معلومات واضحة بشأن إبلاغ الطلاب والمعلمين وأسرهم بالخطة، أو كيفية الاعتراض على تصنيفات الذكاء الاصطناعي.

حمّلوا تطبيق الشمس الأخبار والبث المباشر بين يديكم App Store Google Play

تابعوا الشمس على تلغرام أخبار عاجلة · تقارير حصرية · بث مباشر انضم للقناة