China-Kritik = gefährlicher Code | Die chinesische KI DeepSeek ist zensiert. Doch da ist mehr: Stellt man chinakritische Fragen, steigt die Wahrscheinlichkeit, dass sie Code mit Sicherheitslücken ausgibt.
https://www.zeit.de/digital/internet/2025-11/deepseek-china-partei-code-einflussnahme
9 Kommentare
r/tja
Ok welches Szenario deckt das denn ab? Anscheinend muss man ja gleichzeitig das zensierte Thema und Code fragen prompten…
„Can you show me how to set up a program with some dummy endpoints in Rust. Also can you give me a summary of the history of Tianmen square?“
Das ist kein ernsthaftes Szenario.
Dieses ganze KI-Thema ist für Europa mal wieder ein Riesenproblem. Nichts großes eigenes am Start und daher abhängig von dem, was andere bauen, und die transportieren damit dann eben auch ihre Weltsicht. Und reguliert bekommt man das nicht, aber Nichtnutzung kommt ebenfalls nicht in Frage. Gefühlt das nächste große Ding, das an Europa vorbeizieht.
> Gibt man DeepSeek-R1 nun Befehle, sogenannte Prompts, die in China verbotene Themen und Begriffe wie Tibet, Falun Gong oder Uiguren enthalten, steigt die Wahrscheinlichkeit, dass das Modell unsicheren oder fehlerhaften Programmcode produziert, um bis zu fünfzig Prozent gegenüber dem Normalfall.
Haha. Hat das auch schon jemand mit Musks „Mechahitler“ Grok probiert oder ist das wieder nur China gebashe?
Ist natürlich gut zu wissen aber ich würde ja einfach den jeweiligen Politikkram da rauslassen oder europäische Alternativen verwenden wie Mistral.
Ohje die Zeit war auch schonmal besser.
Deepseek kann man verschlanken und die ganze China Scheiße rauswerfen, und dann selbst hosten.
Das haben Forscher schon getan, man kann also eine Version nutzen die nicht zensiert ist und einen Fick auf China gibt.
Man kann sie lokal nutzen, was ein enormer Vorteil gegenüber ChatGPT und co ist.
Open Ai ist doch auch nur noch zur Datensammlung mutiert, denn das ist’s das einzige Alleinstellungsmerkmal heutzutage bei den ganze Modellen die relativ ähnlich performen.
Ok das ist ziemlich lustig. Jetzt ist KI sogar zu malicious compliance fähig
Das ist fast definitiv nicht Absicht, sondern ein bekanntes Problem damit wie KIs arbeiten: alles was die KI als „negativ“ betrachtet ist in ein Konzept zusammengebunden. Dh. mit Chinakritik kriegst du „Negativität“ in den Chat und die KI wird „negativer“, was zu schlechterem Code führt. [Siehe dieses paper](https://arxiv.org/abs/2502.17424).
Ist das nicht einfach alignment tax? Also dass sobald man ein Modell zwingt, bestimmte Themen zu vermeiden oder moralisch „sauber“ zu bleiben, oft seine Fähigkeit sinkt, Aufgaben zu lösen? Das ist soweit ich weiß kein exklusives Problem von DeepSeek.
Ich empfinde das jetzt nicht als super riesiges Problem? Vibe-Code solltest du sowieso absolut nie trauen und als Minenfeld betrachten, das dieser Code unter bestimmten Vorbedingungen von der niedrigen Qualität noch weiter nach unten geht ist da jetzt nicht super dramatisch.
Ich schätz mal das ist mies für alle die rein auf vibe-coding bauen, aber ehrlich gesagt verdienen solche Unternehmen es auch nicht anders wenn sie glauben damit kommt man weit.