Ich habe heute ein interessantes Experiment gemacht. Ich habe Claude, den KI-Assistenten von Anthropic, zu einer Fachfrage befragt – einem Bereich in dem ich mich bereits auskenne. Das Ergebnis war ernüchternd.

Ich musste Claude im Laufe des Gesprächs mehrmals korrigieren. Jedes Mal hat er seine Fehler eingeräumt – aber das ändert nichts daran, dass die falschen Antworten zunächst genauso selbstsicher klangen wie richtige. Wer sich in dem Thema nicht auskennt, hätte das einfach geschluckt. Ohne nachzufragen.

Genau das ist das Problem. Eine Suchmaschine zeigt dir Quellen, die du selbst bewerten kannst. Claude serviert dir eine fertige Antwort – und du hast keine Möglichkeit zu erkennen ob sie stimmt oder nicht, außer du weißt es bereits selbst.

Dazu kommt noch die Kostenfrage. KI-Dienste sind nicht gratis. Und wenn ich am Ende trotzdem alles selbst überprüfen muss – wer profitiert dann eigentlich wirklich davon?

Mein Fazit: KI-Tools können nützlich sein, aber blindes Vertrauen ist gefährlich. Wer bereits Fachwissen mitbringt, kann KI vielleicht als groben Einstieg nutzen. Wer dieses Wissen nicht hat, sollte sehr vorsichtig sein – denn falsche Antworten in selbstsicherem Ton können echten Schaden anrichten.

Kritisch bleiben ist keine Option. Es ist eine Notwendigkeit.