Bis zu 25 Prozent verfälscht: Microsoft-Forscher warnen davor, große Dokumente von KI bearbeiten zu lassen
https://t3n.de/news/bis-zu-25-prozent-verfaelscht-microsoft-forscher-warnen-davor-grosse-dokumente-von-ki-bearbeiten-zu-lassen-1742608/
Bis zu 25 Prozent verfälscht: Microsoft-Forscher warnen davor, große Dokumente von KI bearbeiten zu lassen
https://t3n.de/news/bis-zu-25-prozent-verfaelscht-microsoft-forscher-warnen-davor-grosse-dokumente-von-ki-bearbeiten-zu-lassen-1742608/
14 Kommentare
Ach komm, ich wollte doch nur das eine Bild verschieben!
Der Schaden den KI dadurch anrichtet, dass es gerade von Leuten die keine Ahnung haben, was es eigentlich tut, was es kann und wo seine Grenzen liegen, als magische betrachtet wird, wird wahrscheinlich noch richtig übel die nächsten Jahre.
Traurig dass nicht jedem Nutzer klar ist, dass man KI nicht vertrauen kann. Und zwar nicht einmal soweit, dass am Ende ein Dokument mit dem selben Inhalt rauskommt wie man oben reingibt
Xerox Vibes ^2
Daher sollten alle Tools ähnlich den Coding Tools einfach die Diffs anzeigen.
Das Problem ist aber schon länger bekannt unter dem Ausdruck „context rod“.
Man kann es verhindern in dem die KI nur read only aus einer Datenbank zieht.
Mir wird seitens Arbeitgeber (sehr spezieller Anwendungsfall) aufgetragen, längere Texte nicht zu lesen, sondern mittels Chadibidii bestimmte relevante Stellen suchen zu lassen. Wenn ich mir die rausgesuchten Stellen dann anschaue, passiert es regelmäßig, dass das ganz anders formuliert im Originaltext stand oder mehrere Zeilen zu einer neuen Phantasiezeile zusammengebacken wurden.
Sobald es um Zitate und präzises Arbeiten an Texten geht, kann man Chadibidii komplett vergessen, lol.
Interessant, dass sowas mal eben in einem Nebensatz fallen gelassen wird:
Allerdings sei ein Fortschritt erkennbar: Beim Vergleich von GPT-40 und GPT-5.4 stieg die Genauigkeit von 14,7 auf 71,5 Prozent an.
Das sind schon sehr extreme Zahlen aus meiner Sicht. Ist die Frage wie gut es in nächster Zeit noch wird.
Ich nutze wegen der fehlenden Zuverlässigkeit fast überhaupt keine LLMs. Aber die Studie stimmt mich dann doch positiver als der Titel vermuten lassen könnte.
Microsoft lol
Das erinnert mich an diesen katastrophalen Fehler bei Xerox Kopierern die Zahlen und Buchstaben vertauscht haben nur noch hundertmal schlimmer.
… dieser Artikel wurde von Anwälten, Versicherungsvertretern und Banken gesponsert.
Dafür reicht der Kontext auch nicht. Daher Planungsfeature nutzen und in kleinen Teilen unter Aufsicht bearbeiten lassen.
LLMs halluzinieren?! Nein!
Doch!
Ohh!
Das ist ja komisch. Wie kann das denn sein? Das ist ja ikonisch