حين يتكلّم الوهم بثقة: عدسات لفهم هلوسة الذكاء الاصطناعي واختبارها
في كتابي الشامل عن الذكاء الاصطناعي تحدثت عن ظاهرة الهلوسة في هذه النماذج، لكن كان الحديث عنها فقرة ضمن فقرات، وجانباً من جوانب متعددة. لكنني لاحظت، أنها تستحق كتاباً بأكمله، لنجيب على السؤال المهم: "متى لا نثق بما يعطينا إياه نموذج الذكاء الاصطناعي؟"، فجاء هذا الكتاب بعنوان: "حين يتكلم الوهم بثقة: عدسات لفهم هلوسة الذكاء الاصطناعي واختبارها".
هلوسة نماذج الذكاء الاصطناعي ليست عيباً هامشياً بين عيوب أخرى، إنما هي الخطر الأكثر خداعاً في هذه التقنية، لأنه لا يأتي متنكراً في هيئة خطأ واضح، بل في هيئة إجابة رصينة واثقة، لا تختلف في نبرتها قيد أنملة عن الإجابة الصحيحة الأكيدة.
نموذج الذكاء الاصطناعي لا يكتفي بنسج معلومة خاطئة؛ بل قد يتشبّث بخطئه الأول ويبرره بتفاصيل إضافية بدل التراجع عنه. الهلوسة نفسها تتكرر بالمنطق ذاته في سطر الكود البرمجي، كما تتكرر في الصورة والصوت، حيث تكتسب واقعية بصرية تُضاعف قدرتها على الخداعِ. ووجدتُها تطرح سؤالاً لم أكن أتوقعه في سياقي أنا: هل العربية أكثر عرضة لها فعلاً، ومن أغرب أوجه الهلوسة نموذج يهلوس ليس عن العالم، بل عن نفسه هو، فيَعِد بإنجازٍ لم يحدث، باللباقة نفسها التي يَعِد بها بحقيقة صادقة.
يسير بك هذا الكتاب، عبر محطات، وقد سمّيتُ كل واحدة منها "إشارة"، لأن الإشارة، من الناحية التقنية والمعرفية، هي ما نبحث عنه وسط ضجيج الوهم. وبُني الكتاب من الداخل على ثلاث وحدات متدرجة: "الإشارة" هي الفصل الكبير، الذي يضم بداخله عدة "عدسات"، وكل عدسة هي زاوية واحدة محددة ننظر من خلالها إلى جانب من الظاهرة، وتُختم كل عدسة بـ"بؤرة" تُلخص جوهرها في عنوان مختصر. اخترتُ هذه المصطلحات عمداً لتحاكي جوهر الكتاب نفسه: التمييز بين الرؤية الواضحة والرؤية المشوَّهة، والتركيز الحاد على الحقيقة وسط ضجيج الاحتمال.
تبدأ الرحلة بفهم ما هي الهلوسة؟ ولماذا تحدث من الأساس؟ ثم تصنيفها إلى أوجهها المختلفة، ثم معايير الحكم على أي مخرج ومتى نثق به، ثم الإجراءات العملية الملموسة للحماية منها، ثم منهجية تصميم اختبارات فردية ومعايير مرجعية تكشف الهلوسة قبل وقوعها، ثم دراسة قضايا من الحياة والبحث العلمي. وكان بعدها الانتقال من النصوص إلى مجالات أخرى، فجاءت الهلوسة في أكواد البرمجة، وتبعتها الهلوسة في الوسائط المتعددة. ثم عكفنا على الهلوسة في سياق اللغة العربية، لنعطف بعدها على دراسة نماذج الاستدلال وهلوستها، وهلوسة الترجمة الآلية والسياقات الطويلة والأنظمة الوكيلة، لنصل إلى ما أسميته أنا بالهلوسة الإجرائية. ثم أوصلنا القارئ إلى ورشة تطبيقية ليُجرّب فيها اكتشاف الهلوسة بنفسه، قبل أن نختم برحلة أخيرة تستشرف المستقبل، وأجبنا عن السؤال المهمً: هل ستُحل هذه المشكلة يوماً؟