Die Art und Weise, wie die Öffentlichkeit über KI-Risiken spricht, geht völlig daneben. Alle machen sich Sorgen wegen AGI oder Deepfakes, während Militärs derzeit kommerzielle Cloud-Infrastrukturen nutzen, um die Zielgenerierung im industriellen Maßstab zu automatisieren.
Früher gab es im Krieg einen physischen Engpass – menschliche Analysten mussten tatsächlich dort sitzen und sich die Drohnen-Feeds ansehen oder Abfangprotokolle lesen. Es hat Tage gedauert. Nun, Systeme mögen "Lavendel" Sie nehmen lediglich riesige Mengen an Überwachungsdaten, Textnachrichten und Standortverfolgung auf und weisen Menschen auf der Grundlage statistischer Korrelationen einen Bedrohungswert von 1 bis 100 zu. Irgendwann wurde eine automatisierte Abschussliste mit bis zu 37.000 Namen erstellt.
Die militärische Verteidigung hierfür ist immer: "Eine Maschine schießt nicht. Die letzte Entscheidung trifft immer ein Mensch."
Doch Kognitionspsychologen nennen dies Automatisierungsbias. Wenn ein Algorithmus täglich Tausende von Zielen ausspuckt, ist der menschliche Analyst völlig überfordert. Berichten zufolge verbringen Beamte etwa 20 Sekunden damit, eine Zielakte zu prüfen, bevor sie einen Angriff genehmigen. Sie stempeln buchstäblich nur die Leistung der Maschine ab, weil sie zu schnell ist, um sie tatsächlich noch einmal zu überprüfen.
Schlimmer noch: Berichten zufolge sind die Algorithmen vorab autorisiert, ein festes Verhältnis von zivilem Kollateralschaden zu akzeptieren (z. B. 15 bis 20 Zivilisten pro Ziel auf niedriger Ebene). Es handelt sich lediglich um eine in die Werkseinstellungen integrierte mathematische Gleichung.
Was passiert also, wenn das Modell einen statistischen Fehler macht (was bei allen ML-Modellen der Fall ist), ein erschöpfter Analyst nach 20 Sekunden auf „Genehmigen“ klickt und unschuldige Menschen sterben? Wer hat das Kriegsverbrechen begangen? Der Cloud-Host? Der Softwareentwickler? Der Analytiker? Die Maschine? Es gibt eine riesige "Verantwortungslücke" und das Völkerrecht hat darauf keine Antwort.
Wenn jemand die tatsächlichen Mechanismen dieser Systeme und das Rechtsvakuum, in dem wir uns befinden, verstehen möchte, finden Sie hier eine Aufschlüsselung davon, in der die Einzelheiten erläutert werden: https://youtu.be/8W3NXmn75YQ
Neugierig, wie andere Leute hier die Haftungsfrage sehen. Schlafwandeln wir da einfach völlig durch?
The "Responsibility Gap": How commercial cloud infrastructure is currently automating the military kill-chain, and why the "Human-in-the-loop" defense is a legal fiction.
byu/firehmre inFuturology
4 Kommentare
That’s a valid point, so easy to blame the machine now and run from responsibility. High time to have a legal framework.
You have raise a solid point, don’t think any government has started to ponder upon this yet
They ask another AI on how to whitewash the project via a shock horror sidetrack media campaign and carry on. Probably articals like
„[Insert usual terrorist group name]
is now using AI for drone strikes, find out how
[insert name of AI that just f**ked up]
is saving
[insert your countries name]
from being next“
Followed by abit of fake news on the „non-fake news“ media that blames the opposition country that you countries media typically uses that explains how said countries AI was targeting your countries schools or hospitals.
At this stage I would trust AI to make more ethical decisions than any human in the upper echelons of any major world power’s military, who routinely obliterate residential buildings, oil refineries, and will even starve civilians to death, shooting children waiting in line for what meagre amount of food managed to trickle in. It can’t get any worse than powerful humans being in control, evidently. Please AI, kick these sick bstrds off planet earth.