دراسة: العالم معرض لخطر إنشاء جيل من الروبوتات العنصرية والمتحيزة

أثيرت مخاوف بشأن مستقبل الذكاء الاصطناعي بعد أن تبين أن الروبوت قد تعلم "الصور النمطية السامة" من الإنترنت.

وأظهرت الآلة تحيزات كبيرة بين الجنسين والعرقية، بما في ذلك الانجذاب نحو الرجال على النساء والأشخاص البيض على الأشخاص الاخري  أثناء الاختبارات التي أجراها العلماء.

كما قفز إلى استنتاجات حول وظائف الناس بعد إلقاء نظرة على وجوههم.

قال المؤلف أندرو هوندت ،في معهد جورجيا للتكنولوجيا الذي شارك في إدارة العمل كطالب دكتوراه يعمل في مختبر جونز هوبكنز للتفاعل الحسابي والروبوتات في بالتيمور ، ماريلاند: "لقد تعلم الروبوت صورًا نمطية سامة من خلال نماذج الشبكة العصبية المعيبة هذه".

وأضاف "نحن معرضون لخطر إنشاء جيل من الروبوتات العنصرية والمتحيزة جنسيًا، لكن الأشخاص والمنظمات قرروا أنه لا بأس في إنشاء هذه المنتجات دون معالجة المشكلات".

وقال الباحثون، إن أولئك الذين يدربون نماذج الذكاء الاصطناعي للتعرف على البشر غالبًا ما يلجأون إلى مجموعات بيانات ضخمة متاحة مجانًا على الإنترنت،  ولكن نظرًا لأن الويب مليء بمحتوى غير دقيق ومنحاز بشكل علني، فقد قالوا إن أي خوارزمية مبنية بمجموعات البيانات هذه يمكن أن تُشبع بنفس المشكلات.

واضافوا" قلقًا بشأن ما يمكن أن تعنيه مثل هذه التحيزات بالنسبة للآلات المستقلة التي تتخذ قرارات دون توجيه بشري، قرر فريق Hundt اختبار نموذج ذكاء اصطناعي يمكن تنزيله علنًا للروبوتات تم إنشاؤه كطريقة لمساعدة الآلة على «رؤية» وتحديد الأشياء بالأسم.