Habe diese Woche einen Artikel über etwas geschrieben, das mich nachts wirklich wach hält. Wir beobachten, wie Verteidigungsunternehmen und Technologieunternehmen um den Bau autonomer Waffensysteme wetteifern, ohne dass es dazu einer öffentlichen Aufsicht bedarf.
Anthropic hat gerade das Project Glasswing gestartet, das Unternehmen wie Lockheed und Raytheon Zugang zu ihrem leistungsstärksten Modell für bietet "Defensive" Zwecke. Open hat sein militärisches Nutzungsverbot letztes Jahr stillschweigend aufgehoben. Google verlängerte seine Pentagon-Verträge, nachdem protestierenden Mitarbeitern die Tür gezeigt wurde.
Es sind dieselben Unternehmen, die uns auf Konferenzen Vorträge über KI-Sicherheit halten.
Der Teil, der mich fasziniert, ist die Geschwindigkeit. Diese Systeme werden schneller eingeführt, als jede Regulierungsbehörde mithalten kann. Bis der Kongress eine Anhörung zum autonomen Targeting abhält, wird es bereits in der Praxis eingesetzt sein.
Und das Argument ist immer dasselbe. "Wenn wir es nicht bauen, wird China es tun." Als ob das rechtfertigen würde, menschliches Urteilsvermögen aus Entscheidungen über Leben und Tod zu streichen.
Ich bin nicht antimilitärisch und ich bin nicht naiv, was Geopolitik angeht. Aber es gibt eine Grenze zwischen der Entwicklung von Werkzeugen, die Soldaten helfen, bessere Entscheidungen zu treffen, und der Entwicklung von Systemen, die diese Entscheidungen für sie treffen. Wir überschreiten gerade diese Grenze und die meisten Menschen wissen es nicht einmal.
Den vollständigen Artikel finden Sie auf unserem Blog, falls jemand tiefer in die Quellen eintauchen möchte.
Was denken Sie? Gibt es eine Möglichkeit, militärische KI verantwortungsvoll zu entwickeln, oder ist die Anreizstruktur einfach grundlegend kaputt?
https://octopodas.com/blog/ai-warfare-morality
10 Kommentare
This post examines the growing trend of major AI companies providing their most capable models to defence and military organisations. It covers Anthropic’s Project Glasswing, OpenAI’s removal of their military use policy, and Google’s continued Pentagon partnerships. The core argument is that the speed of military AI deployment is outpacing regulatory oversight and that the industry’s self-regulation through „responsible AI“ frameworks is insufficient when the financial incentives favour rapid deployment. The post raises questions about where the line should be drawn between decision support tools and autonomous systems, and whether current governance structures can keep pace.
They are Loyal Evil, because right now, both the laws and corrupt politicians are on their side.
It’s a weapon. They are exactly as “evil” as any other weapons manufacturer
Correct me if I am wrong but isn’t this a tale as old as time? The only difference is that in this age people think that online „activism“ can change anything relevant in the real world.
Pretty sure the cat is out of the bag on that one. People are firebombing Sam Altman’s homes (which people should absolutely not do).
The problem is not military use but using the same weapon against own citizens in wrong hands and create a reign of terror.
1) Sure Palantir is pretty bad in a bunch of ways. This gets talked about a lot. And people spend a lot of time accusing the other companies you mention of being bad. It seems like you are acting like you have an unpopular position that in fact gets said very widely.
2) Why did you self-censor OpenAI in your title?
3) You write:
> Anthropic just launched Project Glasswing giving companies like Lockheed and Raytheon access to their most powerful model for „defensive“ purposes.
What else should they have done given that they found many serious security flaws in major software systems? You expect those security holes to be patched how exactly?
If PLTR is enough to keep you up at night. You probably shouldn’t ever look at what most companies are doing in the stock market. You’d never be able to get a wink of sleep again.
The whole of today’s economy is based in fraud upon a bed of lies. Start recognizing it.
IMHO it is incorrect to assume ‘evil’ simply because it’s military related. One could make a case Palantir it approaching from the dark due to Peter Theils dystopian outbursts, but aside from that it’s the continuation of evolving technology.
Throughout history militaries have been the main divers of innovation and public input has never been a factor. No reason to be surprised this time.