Wenn ChatGPT zum Verräter wird: Unsere Regierungen bauen im Stillen den Rahmen auf, um KI dazu zu bringen, ihre Benutzer zu melden

Ich habe mich damit beschäftigt, was wirklich hinter all dem Gerede über „KI-Sicherheit“ steckt, und dabei geht es viel weniger um Sicherheit als vielmehr um Kontrolle.

Regierungen bereiten stillschweigend die Voraussetzungen dafür, dass Unternehmen wie OpenAI für was rechtlich verantwortlich gemacht werden Wir sagen zu ihren Systemen. Der Digital Services Act der EU und der Online Safety Act des Vereinigten Königreichs klingen auf dem Papier harmlos, doch beide fordern „proaktive Technologie“, die „illegale oder schädliche Inhalte“ erkennt und meldet. Im Klartext bedeutet das, dass jedes Gespräch ständig überwacht wird.

Auch die USA sind nicht weit dahinter. Dasselbe juristische Regelwerk, das es ihnen ermöglichte, Telefone abzuhören, CALEA bietet ihnen bereits den Präzedenzfall für die Ausweitung des rechtmäßigen Zugriffs auf LLMs. Sobald sich diese Interpretation ändert, brauchen sie nicht einmal ein neues Gesetz, um stillschweigend Chats zu scannen.

Das Erschreckende daran ist, dass die Technologie bereits vorhanden ist. Diese Modelle können „verdächtige“ Absichten kennzeichnen und Verstöße in Echtzeit zusammenfassen. Aber weil sie so leicht zu jailbreaken sind, werden die einzigen Leute, die es tatsächlich beobachtet, die konformen sein, alle anderen werden ihm einfach ausweichen.

Während sie also behaupten, dass es darum geht, Schaden zu stoppen, kommt in Wirklichkeit eine KI-Ebene zum Einsatz, die beobachtet, beurteilt und Berichte erstellt, nicht um Ihnen zu helfen, sondern um sicherzustellen, dass Sie nichts zu befürchten haben Du Bleiben Sie innerhalb der Linien.

Wenn Sie sich jemals gefragt haben, wie sich die digitale Überwachung entwickelt, ohne dass es jemand wirklich bemerkt, könnte dies die nächste Stufe sein.

1984 eingehend?

Weitere Einzelheiten: BurstComms.com