Halluzination

Von einer Halluzination spricht man, wenn eine KI etwas Falsches so ausspricht, als wäre es schlicht wahr. Diese Systeme sind darauf gebaut, flüssig und sicher zu klingen, und meistens haben sie auch recht — aber nicht immer. Wo die Fakten dünn werden, füllt eine Antwortmaschine die Lücke manchmal mit einer selbstsicheren Vermutung, und sie klingt dabei kein bisschen weniger überzeugt.

Für ein Unternehmen wird das sehr schnell konkret. Ein Assistent sagt einem Kunden vielleicht, dass du um fünf schliesst, obwohl du erst um sieben schliesst, nennt einen Preis, den du nie verlangt hast, verortet dich in der falschen Stadt oder schreibt dir eine Leistung zu, die du gar nicht anbietest. Der Kunde hat keinen Grund zu zweifeln — die Antwort kam glatt, mit der ganzen Sicherheit einer Tatsache — und er handelt womöglich danach, bevor du überhaupt ein Wort davon hörst.

Halluzinationen lassen sich nicht abschalten, aber aushungern. Diese Systeme erfinden dort am freiesten, wo klare Informationen fehlen. Wenn die Wahrheit über dich klar, einheitlich und an Orten steht, die eine Maschine lesen kann — zuerst auf deiner eigenen Website, dann im weiteren Netz — bleibt weniger Leerraum, in dem eine Vermutung wachsen kann. Die klare, offensichtliche Quelle für die Fakten über dich zu sein, ist der beste Schutz, den es gibt.

Stell es dir vor wie einen selbstsicheren Fremden, der Leuten den Weg zu deiner Tür beschreibt — manchmal perfekt, manchmal schickt er sie in die falsche Strasse, und immer klingt er sicher. Du kannst Fremde nicht davon abhalten, über dich zu reden, aber du kannst die richtige Wegbeschreibung so klar und so leicht auffindbar machen, dass sie es ist, die weitergegeben wird. Die eigenen Fakten öffentlich klarzustellen — so bleibt die Geschichte über dich wahr.