Die sogenannte künstliche "Intelligenz" (KI) kann nur mit dem Wissen arbeiten, das ihr zur Verfügung steht. Sie hat keinen eigenen Willen und keine eigene Kreativität. KI kann keine Wahrheiten oder Ideen entdecken bzw. erschaffen, sondern nur vorhandene Informationen nutzen und daraus etwas ableiten.
KI braucht viele Daten, um Muster zu erkennen. Sie kann aber keine eigenen echten Gedanken oder Einfälle haben.
Sie kann zwar versuchen, Gefühle, Werte und komplexe Zusammenhänge in Worte zu fassen, doch sie kann diese nicht wahrnehmen, sie kann nicht fühlen.
In der Wissenschaft kann KI helfen, Daten schneller zu analysieren und Vermutungen (Hypothesen) zu bilden, bleibt aber an das Wissen gebunden, das sie bekommt.
Es wurde schon öfers ausprobiert, wie Künstliche Intelligenz (KI) reagiert, wenn man ihr absichtlich falsche Informationen gibt. In Tests zeigte sich: KI macht dann auch Fehler und gibt Antworten, die nicht stimmen. Wenn verschiedene KI-Programme 100 Fragen beantworten mussten, kamen in allen Fällen falsche oder irreführende Antworten heraus, meist ohne Warnung oder Erklärung. Bei vielen Chatbots fand man ähnliche Probleme - etwa ein Drittel ihrer Antworten enthielt falsche Informationen. Weitere Tests zeigten, dass manche KI-Systeme in einigen Fällen auch klar erkennbare täuschende Antworten liefern, besonders wenn es einen Konflikt zwischen verschiedenen Zielen gibt.