Südkorea ist das erste Land, das ein umfassendes Gesetz zur sicheren KI-Nutzung erlässt | Nachrichtenagentur Yonhap

SEOUL, 22. Januar (Yonhap) – Südkorea hat am Donnerstag offiziell ein umfassendes Gesetz zur sicheren Nutzung von Modellen der künstlichen Intelligenz (KI) erlassen und ist damit das erste Land weltweit, das dies getan hat, und einen Regulierungsrahmen gegen Fehlinformationen und andere gefährliche Auswirkungen in diesem aufstrebenden Bereich geschaffen hat.

Das Grundlagengesetz zur Entwicklung Künstlicher Intelligenz und zur Errichtung einer Stiftung für Vertrauenswürdigkeit, kurz KI-Grundgesetz, ist nach Angaben des Wissenschaftsministeriums am Donnerstag offiziell in Kraft getreten.

Es war die erste staatliche Verabschiedung umfassender Richtlinien zum weltweiten Einsatz von KI.

Im Mittelpunkt des Gesetzes steht die Verpflichtung von Unternehmen und KI-Entwicklern, mehr Verantwortung für die Bekämpfung von Deepfake-Inhalten und Fehlinformationen zu übernehmen, die durch KI-Modelle generiert werden können, und der Regierung die Befugnis einzuräumen, Geldstrafen zu verhängen oder Untersuchungen zu Verstößen einzuleiten.

Im Einzelnen führt das Gesetz den Begriff ein "Hochrisiko-KI," bezieht sich auf KI-Modelle, die zur Generierung von Inhalten verwendet werden, die das tägliche Leben oder die Sicherheit der Benutzer erheblich beeinträchtigen können, einschließlich Bewerbungen im Beschäftigungsprozess, Kreditprüfungen und medizinische Beratung.

Unternehmen, die solche KI-Modelle mit hohem Risiko nutzen, müssen die Benutzer darüber informieren, dass ihre Dienste auf KI basieren und für die Gewährleistung der Sicherheit verantwortlich sind. Von KI-Modellen generierte Inhalte müssen Wasserzeichen tragen, die darauf hinweisen, dass sie KI-generiert sind.

"Das Anbringen von Wasserzeichen auf KI-generierten Inhalten ist der Mindestschutz, um Nebenwirkungen des Missbrauchs der KI-Technologie zu verhindern, wie etwa Deepfake-Inhalte." sagte ein Ministeriumsbeamter.

Globale Unternehmen, die KI-Dienste in Südkorea anbieten und eines der folgenden Kriterien erfüllen – globaler Jahresumsatz von 1 Billion Won (681 Millionen US-Dollar) oder mehr, Inlandsumsatz von 10 Milliarden Won oder mehr oder mindestens 1 Million tägliche Nutzer im Land – müssen einen lokalen Vertreter benennen.

Derzeit fallen OpenAI und Google unter die Kriterien.

Verstöße gegen das Gesetz können mit Geldstrafen von bis zu 30 Millionen Won geahndet werden, und die Regierung plant, bei der Verhängung von Strafen eine einjährige Schonfrist einzuführen, um dem privaten Sektor bei der Anpassung an die neuen Regeln zu helfen.

Das Gesetz sieht auch Maßnahmen für die Regierung zur Förderung der KI-Industrie vor, wobei der Wissenschaftsminister alle drei Jahre einen politischen Entwurf vorlegen muss.