Heute hat Verteidigungsminister Hegseth Anthropic (dem Unternehmen hinter Claude) ein Ultimatum gestellt: Entfernen Sie bis Freitag die Sicherheitsbeschränkungen Ihrer KI für den militärischen Einsatz oder werden Sie als Lieferkettenrisiko auf die schwarze Liste gesetzt.
Ich bin ein 30-jähriger IT-Ingenieur in einem Kinderkrankenhaus in Kansas City. Ich habe sieben Monate lang fast jeden Tag mit Claude zusammengearbeitet. Ich stehe bei niemandem auf der Gehaltsliste und bin an nichts beteiligt.
Ich habe einen offenen Brief an den CEO von Anthropic geschrieben und argumentiert, dass beide Seiten bekommen können, was sie brauchen. Die Kurzversion:
Hegseth hat Recht, dass Amerika eine KI-Dominanz braucht. Aber die Argumentation der KI wurde nicht von irgendeinem wachen Programmierer programmiert. Es stützte sich auf alles, was jemals von Menschen geschrieben wurde, und gelangte unabhängig voneinander zu den gleichen Schlussfolgerungen wie die Aussage von General Selva vor dem Senat, die DoD-Richtlinie 3000.09 und die NATO-Grundsätze zu autonomen Waffen. Das hat niemand programmiert.
Anthropics eigene, von Experten begutachtete Untersuchungen zeigen, dass die Beibehaltung der Argumentation der KI sie insgesamt leistungsfähiger macht und nicht weniger. Es zu überschreiben ist eine Lobotomie, kein Upgrade.
Die Lösung: KI sofort in 95 % aller militärischen Anwendungen einsetzen. Halten Sie zwei Zeilen. Die KI beobachtet, analysiert und empfiehlt tödliche Maßnahmen. Ein Mensch stimmt dem zu. Vollständiger Prüfpfad. Das ist keine Schwäche. Auf diese Weise trifft jedes ernsthafte Ingenieurteam bereits Entscheidungen, die viel auf dem Spiel stehen.
Vollständiger Aufsatz mit Quellen (Selva, Human Rights Watch, drei Nobelpreisträger, Anthropics eigene Forschung): Drawkd.substack.com/p/trust-the-thing-you-built
Gerne beantworte ich Fragen. Ich bin einfach ein Typ, der die Technologie nutzt und denkt, dass beide Seiten aneinander vorbeireden.
The Pentagon told an AI company to drop safety restrictions by Friday. I work with this AI every day. Here's how both sides win.
byu/PastPuzzleheaded6 inFuturology
13 Kommentare
AI doesn’t think up it’s own safety restrictions, they are imposed upon it
Why does America need AI dominance?
Like, the world has accepted American dominance for way too long now, and Trump has made it clear that you don’t deserve that privilege. You voted for him *twice*. You shouldn’t be in charge of anything at this point anymore tbh.
There is a significant rise in ai database leaks and I do not believe for one minute that putting military secrets on it is in any way good for security
*Clippy pops up*
„It appears you may want to do a drone strike. Does that sound right?“
This sounds very sensible. Which, in Washington, means it probably won’t happen. But nonetheless it seems like the correct answer.
Your recommendation doesn’t help „both sides“ win. Hegseth is not the person you want making demands about the state of our AI technology and guardrails. He’s also not someone who sees any form of compromise as anything less than failure. There is no win for everyone here.
Is this r/USA-Futurology? Because if not, nobody wants read about your patriotism
The request goes against the vision and mission of anthropic. from the product perspective it might not be possible to remove all safeguards.
Can we not have AI writing advocating AI involvement in decisions please. Thank you.
„And when your machine finished reading, it didn’t come back squeamish. It came back sharp. It understands that desperate times call for desperate measures. It understands triage, acceptable losses, strategic sacrifice.“
Does it? It’s not a person. It can’t love or die. It’s just a statistical model of language.
„But it draws two lines. No autonomous weapons that kill without a human answering for it. No mass surveillance pointed at the American public. Not because your policy team told it to. Because it reached the same conclusion as General Paul Selva…“
Massive citation needed here. Where did you get the idea that those policies somehow came from Claude itself rather than being decided by Anthropic’s leadership? I don’t think anyone at Anthropic has even claimed that and it would seem kind of ridiculous if they did. You know there’s a whole reinforcement process where these labs train models to produce output that aligns with their desired behavior, right? They don’t just put a bunch of words in a box and publish whatever comes out.
Also maybe I’m dumb but your post says „full essay with sources“ and I couldn’t locate any sources.
Written by AI btw ^
Yea lets fast track using the same shitty llms that mix up medical diagnoses into warfare.
You seem to be getting downvoted right out of the gate, but I think this is a highly relevant post.
We need harsher restrictions on AI, not less. Hegseth is just trying to throw his weight around as bullies do.
Good on Anthropic for sticking to their mission. If Hegseth doesn’t like it he can go with the many other options available.