Ich habe einige Szenarien selbst getestet und ehrlich gesagt waren die Ergebnisse ziemlich gut (und gleichzeitig beunruhigend).
Auch ein Denkanstoß: Wir sagen, dass der Mensch bei jeder KI-Entscheidung auf dem Laufenden ist. Aber wie können Sie bei einem militärischen Angriff, bei dem Sie in Millisekunden handeln müssen, überhaupt beurteilen, ob das, was die KI Ihnen gesagt hat, richtig ist? Du vertraust ihm einfach…?
Ich glaube nicht, dass wir darauf eine gute Antwort haben. Und das ist der gruseligste Teil.
https://nanonets.com/blog/anthropic-pentagon-ai-control-problem/
Ein Kommentar
If you’ve seen how developers are treating Claude code, then you’d realize human in the loop quickly devolves into spamming the accept button.