الذكاء الاصطناعي يواجه تحديات الدقة.. روبوتات المحادثة تخطئ عند الإيجاز

تشير دراسة جديدة صادرة عن شركة Giskard الفرنسية إلى وجود خطر معين عند طلب إجابات قصيرة من روبوتات المحادثة مثل ChatGPT، حيث يؤدي ذلك إلى زيادة فرص ظهور “هلوسة” في إجابات الذكاء الاصطناعي، مما يعني إنتاج معلومات غير دقيقة أو مختلقة. وبينت الدراسة أن التحكم في طريقة تفاعل النماذج اللغوية من خلال التأكيد على الإيجاز قد يتسبب في تدهور دقتها، خاصة عند التعامل مع استفسارات معقدة.

طلب الإجابات القصيرة ومشكلة هلوسة الذكاء الاصطناعي

أكدت الدراسة الصادرة عن Giskard أنه عند إضافة توجيه بسيط مثل “كن موجزًا” كتعليمات للنظام، فإن ذلك قد يؤدي إلى زيادة احتمالات أن تنتج النماذج معلومات غير صحيحة، مما يجعلها أقل موثوقية عند استخدامها في السياقات التي تحتاج إلى مستويات عالية من الدقة. ومن المعروف أن اعتماد الإيجاز غالبًا ما يُصاحب بتحسين سرعة الاستجابة وتقليل تكاليف المعالجة، ولكنه يؤثر سلبًا على موثوقية النماذج، خاصة عند التعامل مع أسئلة مبنية على افتراضات خاطئة. بالإضافة إلى ذلك، أشارت الدراسة إلى أن الطلب على الإيجاز قد يمنع النظام من شرح المعلومات أو تفنيد المغالطات بفاعلية، مما يضع المستخدمين أمام تحديات كبيرة في تقييم صحة الإجابات.

التناقض بين تجربة المستخدم ودقة المعلومات

أشارت الدراسة إلى التحدي الكبير الذي يواجه مطوري روبوتات المحادثة، خاصة عندما يتعلق الأمر بتحسين تجربة المستخدم دون التأثير على الموثوقية. يُظهر المستخدمون انجذابًا نحو النماذج التي تقدم إجابات موجزة وسريعة، ولكن هذا قد يؤدي في العديد من الحالات إلى انخفاض الدقة. وقد وضحت الدراسة أن النماذج الذكية مثل GPT-4 وClaude 3.7 Sonnet وغيرها، أظهرت انخفاضًا واضحًا في جودة الإجابات عند طلب الإيجاز دون ترك مساحة كافية لتوضيح المعلومات أو تصحيح الأخطاء.

توصيات لتحسين جودة روبوتات المحادثة

لتطوير روبوتات محادثة أكثر موثوقية، أوصت الدراسة بتجنب الإيجاز المفرط، خاصة عند التعامل مع استفسارات مثيرة للجدل أو تحتوي على معلومات مغلوطة. من المهم أن تتوفر “مساحة نصية كافية” للنماذج لشرح تفاصيل الإجابات، مما يمكنها من تصحيح الافتراضات الخاطئة، وتحقيق دقة أعلى للمعلومات. كما يجب تحسين تصميم النماذج بحيث توازن بين توفير تجربة مستخدم إيجابية والحفاظ على مصداقية المعلومات. ولتحقيق هذا التوازن، يمكن اعتماد تقنيات تعليمية تعزز قدرة النماذج على التفاعل بمرونة مع استفسارات معقدة دون أن تفقد فعاليتها أو دقتها.

بالنظر إلى هذه النتائج، يجب على المستخدمين توخي الحذر عند الاعتماد على روبوتات المحادثة للحصول على إجابات دقيقة، خاصة إذا كانت التوجيهات تُركز على الإيجاز فقط. كذلك، من الضروري أن يعمل مطورو النماذج الذكية على تحسين الاستراتيجيات لتعزيز الفاعلية والموثوقية معًا؛ لتجنب حالات الهلوسة المعلوماتية التي قد تترك تأثيرًا سلبيًا على المستخدمين.