معهد ماساشوستس للتكنولوجيا يطور تقنية جديدة لكشف هلوسة الذكاء الاصطناعي

 أعلن معهد ماساشوستس للتكنولوجيا “إم.تي.آي” عن تطوير تقنية جديدة تهدف إلى اكتشاف ظاهرة “هلوسة” تطبيقات الذكاء الاصطناعي، وهي تشير إلى الإجابات غير الدقيقة أو الغريبة التي تقدمها برامج المحادثة عند الرد على استفسارات المستخدمين. 

تسعى هذه التقنية الجديدة إلى مساعدة مدققي الحقائق الذين يواجهون تحديات كبيرة عند مراجعة المستندات الطويلة والمعقدة التي تعتمد عليها أنظمة الذكاء الاصطناعي لتقديم إجاباتها. وقد ابتكر علماء ومهندسون من إم.آي.تي “نظاماً سهل الاستخدام” يمكنه تمكين المستخدمين من التحقق من إجابات نماذج اللغة الكبيرة بشكل أسرع وأكثر فعالية.

تمت تسمية التقنية بـ “سيمجين”، وهي أداة مطلوبة بشدة في الوقت الحالي، حيث تساهم في تقليل الأعباء الناجمة عن عمليات التحقق من صحة إجابات أنظمة الذكاء الاصطناعي، والتي يمكن أن تكون مرهقة وتؤدي إلى أخطاء قد تجعل البعض يتردد في استخدام هذه الأنظمة.

وتوفر أداة “سيمجين” للمستخدمين مقتطفات من إجابات برامج المحادثة المعتمدة على نماذج اللغة الكبيرة، مشيرة مباشرة إلى مكان المعلومات في المصدر الأصلي مثل خلية معينة في قاعدة البيانات. وبحسب ما ذكره المعهد، فإن هذه التقنية تقلل من الوقت المستغرق للتحقق من المعلومات بنسبة تقترب من عشرين بالمائة، مما يساعد في التغلب على بعض المشكلات الأكثر إزعاجاً المرتبطة باستخدام برامج المحادثة المدعومة بالذكاء الاصطناعي.

وقد أوضح الباحث شانون شين من معهد “إم.تي.آي” أن أداة “سيمجين” تعزز من ثقة المستخدمين في ردود نماذج اللغة الكبيرة، إذ تتيح لهم مراجعة المحتوى بسهولة لضمان دقة المعلومات المقدمة. مع ذلك، اعترف الباحثون بأن الأداة حالياً تعمل بشكل أفضل مع جداول التدقيق أو مصادر البيانات المنظمة، كما أن فعاليتها تعتمد بشكل كبير على جودة البيانات المستخدمة في تدريب نموذج الذكاء الاصطناعي.