KI erfindet Antworten: Ein neuer Ansatz soll das ändern

Veröffentlicht am 31.10.2026

Was bedeutet „Halluzination“?

Wenn eine KI eine Antwort erfindet, die falsch ist, aber überzeugend klingt, spricht man von einer Halluzination. Das passiert, weil Sprachmodelle vor allem lernen, Text zu schreiben, der plausibel klingt. Ob er auch stimmt, prüfen sie dabei nicht. Laut einem Paper des Start-ups entstehen Halluzinationen schon aus dem Training selbst.

Die Idee: ein Spielbrett für Wissen

Thore Graepel, ein früherer Deepmind-Forscher, hat das Unternehmen Metis Reasoning gegründet. Er orientiert sich an AlphaGo, dem Programm, das 2016 den Go-Profi Lee Sedol besiegte. AlphaGo kombinierte zwei Dinge: Ein Netz schlug mögliche Züge vor, und ein systematisches Durchrechnen prüfte, wie ein Spiel weitergehen könnte.

Metis will dieses Prinzip auf das Schlussfolgern übertragen. Dafür braucht es ein ausdrückliches Wissensverzeichnis, das außerhalb des Modells liegt. Darin steht, was mit welcher Sicherheit bekannt ist und welche Fragen offen sind. Neue Einträge prüft eine unabhängige Instanz, etwa mit Berechnungen oder Belegen. Fällt eine Annahme weg, werden darauf aufbauende Schlüsse neu bewertet.

Was der Vorteil wäre

Laut Metis soll so weniger erfunden werden. Antworten sollen mit Quellen begründet sein. Und falsches Wissen ließe sich löschen, ohne das Modell neu zu trainieren. Für Betriebe wäre das interessant, weil man nachvollziehen könnte, woher eine Aussage stammt. Wie man KI im Büro sicher einsetzt, zeigt KI im Büro sicher nutzen.

Noch kein fertiges Produkt

Wichtig ist: Das Konzept existiert bisher nur als Forschungsprogramm, als Whitepaper. Es gibt kein funktionierendes System, keine Tests und keine Vergleiche mit aktuellen Reasoning-Modellen. Das Team selbst räumt ein, dass die echte Welt nur Teilinformationen liefert, Belege teuer sein können und manche Fragen keine Antwort haben.

Was Sie jetzt tun können

Warten Sie nicht auf diese Technik. Prüfen Sie KI-Antworten, bevor Sie sie verwenden, besonders bei Preisen, Rechtsfragen oder medizinischen Themen. Fragen Sie nach Quellen und kontrollieren Sie diese selbst. Eine KI ist ein Hilfsmittel, aber keine letzte Instanz.

Quelle: https://the-decoder.de/ex-deepmind-forscher-will-ki-halluzinationen-mit-alphago-prinzip-beseitigen/