> Der Fehler sei nach dieser Darstellung dort entstanden, wo ein militärischer Datenbankeintrag über Jahre hinweg nicht aktualisiert wurde und anschließend von einem System wie Maven ohne ausreichende menschliche Überprüfung weiterverarbeitet worden sei.
So sehr man Palantir und deren Systeme kritisieren sollte, so sehr sollte man nicht außer Acht lassen, dass quasi immer „Shit in, Shit out“ gilt.
Es scheint ja gerade nicht so zu sein, dass das System eigenständig mögliche Ziele identifiziert hat, sondern dass diese auf Basis von vorhandenen Daten ausgewählt wurden, die schlicht fehlerhaft/veraltet waren.
toshman76 on
Einer von genug zusätzlichen Gründen Palantir zu meiden wo es nur geht.
Carbios_Moon on
Palantir und so menschenverachtende Verbrecher wie Trump und der besoffene „no stupid rules of engagement“ Hegseth.
Luuigi on
Ich sage das fast ungern weil es sich anhört als würde man PLtR verteidigen – dass aber Menschen am ende die entscheidungen besser machen ist natürlich nachweislich falsch (daher ja der witz mit dem unterschied zwischen einer schule und einem militärbunker) An sich wäre ein 99.9% perfektes system aus utilitaristischer sicht besser als ein 98% perfekter mensch. Zumindest denke ich so. Deontologismus ist in Kriegen von vornherein unangebracht. Man ist ja schon über den punkt hinweg ab dem man bewusst entschieden hat dass jetzt menschen sterben werden.
MoccaLG on
Das war doch immer schon die Gefahr mit KI Systemen. Weil man nun die „Schuld“ auf ein Systemversagen oder Fehler führen kann und Menschen bzw. Entscheidungsträger nicht mehr belangt werden können. Jetzt ist es halt technisches Versagen wie eine kaputte Bremse, wer hätte das ahnen können….
_10o01_ on
Software-Fehler, da kann man leider nichts machen.
drmanhattanmar on
Auch auf die Gefahr hin, zu nerven:
Wer mehr über Palantir und Peter Thiel wissen möchte oder anderen eine Art Kompendium an die Hand geben möchte, dem lege ich meine Linksammlung ans Herz.
Sie ist nicht erschöpfend, aber sie hilft um einen Eindruck von der Tragweite der Aktionen der Firma und der Ideologie ihrer Gründer zu bekommen.
9 Kommentare
> Der Fehler sei nach dieser Darstellung dort entstanden, wo ein militärischer Datenbankeintrag über Jahre hinweg nicht aktualisiert wurde und anschließend von einem System wie Maven ohne ausreichende menschliche Überprüfung weiterverarbeitet worden sei.
So sehr man Palantir und deren Systeme kritisieren sollte, so sehr sollte man nicht außer Acht lassen, dass quasi immer „Shit in, Shit out“ gilt.
Es scheint ja gerade nicht so zu sein, dass das System eigenständig mögliche Ziele identifiziert hat, sondern dass diese auf Basis von vorhandenen Daten ausgewählt wurden, die schlicht fehlerhaft/veraltet waren.
Einer von genug zusätzlichen Gründen Palantir zu meiden wo es nur geht.
Palantir und so menschenverachtende Verbrecher wie Trump und der besoffene „no stupid rules of engagement“ Hegseth.
Ich sage das fast ungern weil es sich anhört als würde man PLtR verteidigen – dass aber Menschen am ende die entscheidungen besser machen ist natürlich nachweislich falsch (daher ja der witz mit dem unterschied zwischen einer schule und einem militärbunker) An sich wäre ein 99.9% perfektes system aus utilitaristischer sicht besser als ein 98% perfekter mensch. Zumindest denke ich so. Deontologismus ist in Kriegen von vornherein unangebracht. Man ist ja schon über den punkt hinweg ab dem man bewusst entschieden hat dass jetzt menschen sterben werden.
Das war doch immer schon die Gefahr mit KI Systemen. Weil man nun die „Schuld“ auf ein Systemversagen oder Fehler führen kann und Menschen bzw. Entscheidungsträger nicht mehr belangt werden können. Jetzt ist es halt technisches Versagen wie eine kaputte Bremse, wer hätte das ahnen können….
Software-Fehler, da kann man leider nichts machen.
Auch auf die Gefahr hin, zu nerven:
Wer mehr über Palantir und Peter Thiel wissen möchte oder anderen eine Art Kompendium an die Hand geben möchte, dem lege ich meine Linksammlung ans Herz.
Sie ist nicht erschöpfend, aber sie hilft um einen Eindruck von der Tragweite der Aktionen der Firma und der Ideologie ihrer Gründer zu bekommen.
https://www.reddit.com/u/drmanhattanmar/s/5yYHzmd4Wi
Ein „sudo updatedb“ entscheidet heute über die Leben hunderter Unschuldiger. What a time to be alive
Die Software hat wohl aktuelle Konflikte Ukraine/Ganza als Trainingsmuster verwendet.