Hallucination

هلوسة الذكاء الاصطناعي (AI Hallucination) هي لما أداة زي ChatGPT أو Claude أو Gemini تقولك معلومة غلط أو مختلقة، بنفس الثقة اللي بتقول بيها المعلومة الصح. ممكن تكون رقم إحصائي مش موجود، أو اسم دراسة وهمية، أو رابط مش شغال، أو ميزة في إعدادات Ads Manager مش موجودة أصلًا.

الخطر مش إن الأداة بتغلط، كل الناس بتغلط. الخطر إن الغلط بيبان مقنع جدًا، فسهل تصدقه وتنشره.

ليه بتحصل؟

لأن النموذج اللغوي الكبير LLM بيتوقع الكلام الأكثر منطقية بعد كلامك، مش بيدوّر في قاعدة بيانات عن الحقيقة. فلو سألته عن حاجة معلوماته عنها ناقصة، بدل ما يقول «مش عارف»، ممكن يكمّل بكلام شكله صح.

وبتزيد في الحالات دي:

• أرقام وإحصائيات محددة: «متوسط CTR في مجال العقارات في مصر».
• مصادر ومراجع: أسماء دراسات وكتب وروابط.
• تفاصيل منتجات وأدوات بتتغير: أماكن الأزرار في Ads Manager، أسماء الإعدادات الجديدة.
• أحداث حديثة بعد تاريخ تدريب النموذج.
• أسئلة فيها افتراض غلط: «ليه ميتا لغت حملات الرسائل؟»، فيجاوبك على حاجة محصلتش.

أمثلة من شغل التسويق

• إعلان فيه ادعاء عن المنتج مش حقيقي، فالعميل يشتكي أو الإعلان يترفض.
• مقال على موقعك فيه إحصائية مختلقة، وده بيضر مصداقيتك وجودة المحتوى. شوف المحتوى المولّد بالذكاء الاصطناعي وسياسات جوجل.
• تحليل حملة فيه أرقام النموذج حسبها غلط أو افترضها.
• شرح خطوات في منصة بأسماء قوايم قديمة أو مش موجودة.

7 طرق تقلل بيها الهلوسة

1. ادّيله المعلومة بدل ما تسأله عنها. ارفع ملف المنتج أو التقرير وقوله «اعتمد على الملف ده بس».
2. اطلب منه يقول «مش عارف». اكتب في الطلب: «لو مش متأكد من معلومة، قول كده بوضوح».
3. اطلب المصدر وافتحه بنفسك. لو الرابط مش شغال أو مبيقولش كده، المعلومة مش مضمونة.
4. متسألش عن أرقام سوق وتعتمد عليها. الأرقام من حساباتك إنت أو من مصادر رسمية.
5. راجع الحسابات: لو طلع نسب أو مجاميع، احسبها بنفسك في شيت.
6. أدوات البحث: النماذج اللي بتدوّر على النت وبتحط مصادر أقل عرضة للهلوسة في الأحداث الحديثة، بس برضه راجع.
7. مراجعة بني آدم لأي حاجة هتتنشر أو هتتبني عليها قرار.

إزاي تكتشفها؟

• تفاصيل دقيقة جدًا من غير مصدر: «73.4% من المستخدمين…».
• أسماء دراسات أو خبراء مش لاقيهم في بحث جوجل.
• إجابة مختلفة لما تسأل نفس السؤال تاني بصيغة تانية.
• ثقة زيادة في موضوع إنت عارف إنه معقد أو بيتغير.

الذكاء الاصطناعي لسه مفيد جدًا

الهلوسة مش سبب تبطّل تستخدمه. هي سبب تستخدمه في المكان الصح: الصياغة والأفكار والتلخيص والتنظيم، مع حقائق وأرقام إنت اللي بتدّيهاله أو بتراجعها. والحدود دي متشرحة في استخدام الذكاء الاصطناعي في كتابة الإعلانات: حدوده الحقيقية.

الخلاصة

هلوسة الذكاء الاصطناعي معناها إن الإجابة ممكن تبان صح وهي غلط. ادّي النموذج المعلومة بنفسك، واطلب منه يعترف لما ميعرفش، وراجع أي رقم أو مصدر أو ادعاء قبل ما ينزل باسمك. ولو عايز تطلّع أحسن نتيجة من الأداة، ابدأ من برومبت تسويق: 25 أمر جاهز.