China erweitert Kontrolle und Zensur auf Sprachmodelle

"Free Speech" heißt in China: Frei die Meinung der Regierung nachsprechen zu dürfen, die ja stets das beste weiß und will. So zumindest die Haltung dieser Regierung und in Zukunft sollen sich auch Sprachmodelle an die chinesischen Vorstellungen halten. Vorbild ist hier die Great Firewall um das chinesische Internet. Die meisten bekannten Dienste sind gesperrt, statt dessen gibt es lokale Alternativen - alles mit staatlicher Beteiligung und unter staatlicher Kontrolle. Unliebsame Inhalte werden rasch gelöscht, ihre Erschaffer und Verbreiter sollten mit Besuch von den Behörden rechnen.

Das strikte System hat auch eine technische Seite: China ist der weltweit führende Experte für Überwachungstechnologien. Die Great Firewall soll nun auf Sprachmodelle erweitert werden. Die chinesische Cyberspace-Verwaltung (CAC) verlangt von Unternehmen wie ByteDance und Alibaba, dass sie ihre KI-Modelle zur Prüfung durch die Regierung vorlegen. In Tests müssen die Sprachmodelle Fragen beantworten, von denen sich viele auf politisch sensible Themen und Präsident Xi Jinping beziehen. Bei der Bewertung werden auch Trainingsdaten und Sicherheitsverfahren untersucht.

Einer der Entwickler der Great Firewall, Fang Binxing, hat bereits vor mehr als einem Jahr vor den Folgen der Nutzung von ChatGPT gewarnt und arbeitet nun an Sicherheitsprotokollen, die den Modell-Output online und in Echtzeit überwachen sollen. Zudem arbeiten chinesische Forscher an speziellen LLMs und Trainingsdatensätzen, die mit chinesischen Werten (und der Meinung der Regierung) übereinstimmen.

Quelle: The Decoder, South China Morning Post

Bild: Markus Winkler / Pixabay