التحيز في الذكاء الاصطناعي.. تحديات وحلول مبتكرة

في السنوات الأخيرة، شهدنا تطورات استثنائية في الذكاء الاصطناعي التوليدي وزادت استخداماته في مجالات متعددة، من التمويل إلى الرعاية الصحية وحتى النقل. كما أدى هذا التطور إلى تقدم تقنيات ناشئة أخرى، مثل: الأمن السيبراني المتقدم، والحوسبة الكمومية، وغير ذلك. ولكن، مثلما جلبت هذه التقنية إمكانات غير مسبوقة، فقد جلبت أيضًا تحديات معقدة.

ومن هذه التحديات: إمكانية توظيف الذكاء الاصطناعي لتنفيذ هجمات إلكترونية متقدمة، وتزييف المحتوى، بالإضافة إلى ظهور تحيزات في الأنظمة الذكية.

سعت بعض الشركات إلى إيجاد حلول تقلل التحيز، وأبرزها: مؤسسة NTT للأبحاث التي قدمت تقنية جديدة لتقليل التحيز في الشبكات العصبية العميقة (DNNs)، وهو نوع من الذكاء الاصطناعي الذي يمكن أن يؤدي دورًا هامًا في قطاعات متعددة، مثل: التوظيف، والقضاء، والرعاية الصحية.

الهدف الأساسي من هذه التقنية تطوير نماذج ذكاء اصطناعي غير متحيزة قادرة على اتخاذ قرارات محايدة تعتمد على الكفاءة والمهنية بدلًا من العرق أو الجنس. وهذه النماذج المستقبلية قد تقضي تمامًا على التمييز في العديد من المجالات وخاصة مجال العمل؛ مما يعزز التنوع والشمولية في بيئات العمل، ويزيد الإنتاجية ويوفر الوقت والجهد.

أمثلة واقعية على التحيز في أنظمة الذكاء الاصطناعي:

واجهت شركة أمازون هذا التحدي عندما أوقفت استخدام خوارزمية توظيف لاحظت أنها تفضل المرشحين الذين يستخدمون كلمات معينة مثل: “captured” و”executed”، وهي مصطلحات ظهرت بكثرة في السير الذاتية الخاصة بالرجال.

مثال آخر على التحيز ظهر في عمل الباحثة Joy Buolamwini بالتعاون مع Timnit Gebru في معهد ماساتشوستس للتكنولوجيا، فقد اكتشفوا أن بعض تقنيات تحليل الوجه تظهر معدلات خطأ أعلى عند تقييم النساء من الأقليات، وقد يكون ذلك بسبب نقص في بيانات التدريب.

البحث عن حلول جديدة:

وفقًا لدراسة من MIT، أصبحت الشبكات العصبية العميقة قادرة على تحليل كميات كبيرة جدًا من المدخلات مثل: الأصوات والصور، مما يمكنها من تعرّف الخصائص المشتركة، وتصنيف الكلمات والكائنات. وقد أصبحت هذه الشبكات شائعة الاستخدام في مجالات عديدة، ولكنها قد تعتمد أحيانًا على خصائص تتسبب بظهور تحيزات في نتائجها.

ولحل مشكلة التحيز، قدم الباحث Hidenori Tanaka من مؤسسة NTT للأبحاث بالتعاون مع فريق من العلماء، حلًا يسمى “الضبط الدقيق القائم على الاتصال” (CBFT) (Connectivity-Based Fine-Tuning) الذي يساعد في تقليل اعتماد نماذج الذكاء الاصطناعي على السمات والخصائص التي قد تتسبب بظهور نتائج متحيزة.

آلية عمل CBFT:

يعتمد CBFT على إيجاد مسارات جديدة في بيانات النموذج تدفعه إلى تخطي الحواجز التي تولد التحيز. على سبيل المثال: إذا كان النموذج يعتمد على الخلفية لتحديد نوع معين من الأجسام، يعمل CBFT على تعديل المسار لتحديد الأجسام بناءً على شكلها فقط، متجاهلًا الخلفية كعامل مؤثر.

الخلاصة:

إن تطور الذكاء الاصطناعي التوليدي يبشر بتغيير جذري في مجالات متعددة، من الرعاية الصحية إلى النقل والتمويل. ولكن لا بد من مواجهة التحديات المرتبطة بهذا التطور ومنها: التحيز، لذا يتعين على المطورين والباحثين وصناع القرار العمل معًا لفرض معايير قانونية وأخلاقية وإيجاد حلول مبتكرة تضمن الاستخدام المسؤول للذكاء الاصطناعي، ليصبح هذا التطور التقني عونًا لنا، وليس سببًا لمزيد من المشكلات.

Copy URL
URL Copied