Vereinfachung der Regeln für KI und Verbot der sogenannten Nudification-Anwendungen

Am 26. März verabschiedete das Europäische Parlament wichtige Änderungen der Regeln für künstliche Intelligenz, bekannt als „Digital Omnibus“. Ziel dieses Änderungspakets ist es, die Umsetzung des bahnbrechenden KI-Gesetzes von 2024 zu vereinfachen und technische Probleme zu lösen, die während seiner schrittweisen Einführung in der gesamten Europäischen Union aufgetreten sind.

Ein grundlegender Sieg ist das EU-weite Verbot sogenannter Nudification-Anwendungen, die mithilfe von KI aus gewöhnlichen Fotos ohne deren Zustimmung Nacktbilder von echten Menschen erstellen. Mit diesem Schritt reagiert das Parlament direkt auf die gefährliche Verbreitung von Deepfakes, die zu einem Instrument des Mobbings und Missbrauchs werden, wobei ihre Opfer meist Frauen und Kinder sind.

Die Abgeordneten widersetzten sich erfolgreich den Bemühungen großer Industrieunternehmen und einiger politischer Fraktionen, das Gesetz deutlich zu schwächen. Sie lehnten umfassende Ausnahmen ab, die kleine Unternehmen oder Forschungseinrichtungen von den Regeln ausgenommen hätten, und stellten so sicher, dass strenge Sicherheitsstandards und der Schutz der Menschenrechte für ein möglichst breites Spektrum von Unternehmen bestehen bleiben.

Ein umstrittener Punkt bleibt jedoch die sogenannte Industrieausnahmeregelung, die von Großkonzernen mit der Begründung vertreten wird, dass für sie bereits andere Sicherheitsvorschriften gelten. Das Parlament hat daher eine wichtige Schutzmaßnahme ausgehandelt: Die Europäische Kommission muss schrittweise die Lücken in diesen Gesetzen schließen, die derzeit nur die physische Sicherheit, nicht aber die digitalen Risiken im Zusammenhang mit künstlicher Intelligenz betreffen.

Die endgültige Ausgestaltung der Regeln wird nun im Rahmen eines Trilogs mit dem Rat der EU ausgehandelt und dort endgültig über die Stärke der europäischen Regulierung entschieden. Dort wird sich zeigen, ob Europa wirklich strenge und durchsetzbare Regeln für das digitale Zeitalter festlegen wird oder ob am Ende die Interessen der Industrie Vorrang vor der Sicherheit der Endnutzer haben werden.