الهلوسة الرقمية (Digital / AI Hallucination) هي واحدة من أكبر التحديات التقنية، وتعني قيام نموذج الذكاء الاصطناعي بتوليد مخرجات ومعلومات خاطئة أو مخترعة تماماً، وتقديمها للمستخدم بثقة شديدة وكأنها حقائق مسلم بها.
الذكاء الاصطناعي لا يتعمد الكذب، بل يعتمد على “التوقع الإحصائي” للكلمة التالية؛ وعندما يواجه فجوة معرفية، يقوم بسدّها عبر ابتكار معلومات تبدو منطقية سياقياً لكنها وهمية في الواقع.
شاع المصطلح جماهيرياً في أواخر عام 2022 وبدايات 2023 بالتزامن مع إطلاق ChatGPT، لدرجة أن قاموس كامبريدج اختار كلمة “Hallucinate” ككلمة العام في 2023 بعد تعديل تعريفها ليشمل الذكاء الاصطناعي.
أمثلة شهيرة على الهلوسة الرقمية
تتنوع الهلوسة الرقمية وتأخذ أشكالاً مختلفة، ومن أبرز الأمثلة الواقعية عليها:
اختلاق المراجع الأكاديمية والمقالات: تطلب من النموذج دراسة حول موضوع معين، فيعطيك اسماً لباحث حقيقي وجامعة مرموقة، ولكنه يخترع اسم بحث وتاريخ نشر ورابط إلكتروني لا وجود له في الواقع.
الفضيحة القانونية في المحاكم (2023): قام محامٍ في نيويورك بالاعتماد على الذكاء الاصطناعي لكتابة مذكرة قضائية. هلوس النظام واخترع 6 قضايا سابقة بأسماء قضاة ومتهمين وهميين، مما عرض المحامي لعقوبات قضائية قاسية.
تلفيق السير الذاتية والأحداث: عند سؤال الذكاء الاصطناعي عن شخصية عامة، قد يدمج تاريخ شخص مع شخص آخر، كأن يذكر أن شخصاً حياً قد توفي في تاريخ محدد، أو ينسب براءات اختراع لعلماء لم يبرموها.
أخطاء الوصفات والتعليمات الخطيرة: في بعض محركات البحث المدعومة بالذكاء الاصطناعي، نصح النظام مستخدماً بإضافة “الغراء غير السام” لتماسك الجبن على البيتزا، بناءً على منشور قديم وساخر في موقع Reddit عجز الذكاء الاصطناعي عن فهم سياقه الهزلي.
You must be logged in to post a comment.