Generell bin ich mir aktuell nicht so sicher, ob der gegenwärtige KI-Hype gerechtfertigt ist. Dieser beruht ja auf der Grundannahme, dass es eine starke Steigerung der Fähigkeiten geben wird, welche sich kommerzialisieren lässt.
Ich halte es aber für möglich, dass der gegenwärtige Ansatz recht bald auf einem Platau enden wird, welches er nicht überschreiten können wird.
Die Textgenerator-KI beruht ja auf Statistik dahingehend, dass sie sehr gut darin ist, zu erkennen, welches Wort in einem Text als nächstes gewählt werden sollte. Dies produziert für den Leser "angenehme" Texte, weil sie dem entsprechen, was er gemäß seines natürlichen Textverständisses erwarten würde. Schwere Grammatikalische Fehler oder thematische Brüche würden hier stören, und in diesem Bereich ist die KI durchaus leistungsfähig.
Was die KI aber nicht kann, ist es, die Wahrheit zu erkennen.
Wenn ich sie frage, wie das Wetter gestern war, wären "sonnig" oder "bewölkt" plausible Antworten. Welche davon richtig ist, kann ich allerdings selber u.U nicht beurteilen.
Die KI halt auch nicht, es gibt halt keine "Faktenfindungs-Gewichtung" der Ergebnisse.
Die KI kann halt gut Texte erstellen, die wahr klingen, es aber nicht unbedingt sein müssen.
Um zusätzlich den Wahrheitsgehalt auf ein kommerzialisierbares Niveau zu heben, reicht der derzeitige Ansatz nicht aus.
Als Beispiel sei das mit dem
halluzinierten Gerichtsurteil genannt.
Nun hat auch der Chatbot einer Fluglinie, so bestätigt es ein Gericht,
nachweislich gelogen.
Auch dieses Beispiel geht in die gleiche Richtung:
Später Gast hat geschrieben: ↑So 11. Feb 2024, 14:07
User
Wieviel Ohm/m hat Tantaldraht mit einem Durchmesser von 0.5mm?
ChatGPT
Der spezifische Widerstand von Tantaldraht beträgt etwa 131 μΩ·cm. Um den Widerstand pro Längeneinheit zu berechnen, verwenden wir die Formel:
[]
Hab den Rest der Rechnung nicht auf Plausibilität geprüft, mir ist nur der Dezimalfehler aufgefallen. Wahrscheinlich ist der Rest noch falscher.
Wenn z.B. Einheiten allein aufgrund ihrer Wahrscheinlichkeit, in einem bestimmten Text aufzutauchen, verwendet werden und nicht, weil sich einfach
richtig sind, kann das nix werden.
Insofern könnte es durchaus sein, dass der KI-Hype genauso schnell wieder vorbei ist wie die Dotcom-Blase, und sich einige bei Nvidia gut die Finger verbrennen.