الذكاء الاصطناعي لا يمتلك وعيًا أو فهمًا للواقع مثل الإنسان، بل يعتمد على تحليل أنماط لغوية من كميات هائلة من النصوص التي تعلم منها عندما يُسأل سؤالًا يقوم بتجميع إجابة تبدو منطقية ومتشابهة مع ما تم تدريبه عليه والذكاء الاصطناعي لا يبحث عن الحقيقة ضع تحت هذا الف خط بل أنه يبحث عن الاحتمال الأكثر ترجيحًا للكلمة التالية في الجملة فإذا كانت هناك معلومات خاطئة شائعة في البيانات التي تعلم منها فقد يكررها بثقة ظنًا منه أنها صحيحة لغويًا كما أنه لا يتحقق من صحة ما يقوله في اللحظة نفسها ولهذا السبب قد يخترع أحيانًا أسماء أو تفاصيل غير موجودة فيما يُعرف باسم هلوسة الذكاء الاصطناعي