Lob an USA, Kritik an Staatspartei: China muss Dissidenten-Chatbots abschalten

800 Millionen Chinesen haben die Messaging-App Tencent QQ. (Bild: Getty Images)

Weil zwei Chatbots in ihren Antworten Kritik an der chinesischen Staatsführung übten und zudem Sympathien für die USA bekundeten, mussten die Computerprogramme vom Netz genommen werden. Der Einheitspartei war die Software zu gefährlich geworden.

Wer in China nicht auf Linie ist, wird entweder auf Linie gebracht oder „aus dem Weg geräumt“. Zur Abwechslung richtet sich eine aktuelle Maßnahme der autoritären chinesischen Staatsführung jedoch nicht gegen menschliche Abweichler, sondern gegen digitale. Zwei Chatbots, die in der beliebten Messaging-App Tecent QQ zum Einsatz kamen, mussten nun auf Druck von ganz oben offline genommen werden, weil sie zu „unpatriotisch“ waren.

Wie die „Financial Times“ berichtet, sollen User der App Screenshots von Chatverläufen gepostet haben, bei denen die künstliche Intelligenz der Chatbots erstaunlich kritische Äußerungen zum Besten gab. So soll der Bot BabyQ auf die Frage, ob er die kommunistische Partei liebe, mit einem „Nein“ geantwortet haben. Auf die Aussage „Lang lebe die Kommunistische Partei“ habe der Bot sogar mit folgender Antwort reagiert: „Glaubst du wirklich, dass so ein korruptes und inkompetentes Regime unsterblich ist?“

Das Unternehmen Tencent arbeitet nach dem Ausfall von zwei Chatbots an einer Alternative. (Bild: AP Photo)

Der zweite nun vom Netz genommene Bot XiaoBing zeigte sich ähnlich aufrührerisch. Die künstliche Intelligenz soll an die App-User folgende Botschaft gesendet haben: „Mein Traum von China lautet, nach Amerika zu gehen.“

Für die Machthaber in Peking offenbar zu kritisch, denn die Bots mussten nach diesen Botschaften vom Netz genommen werden. Das betroffene Unternehmen Tencent, das die Chatbots für seine Messaging-App eingesetzt hat, reagierte umgehend: „Unsere Chatbots werden von unabhängigen Unternehmen erstellt. Aktuell arbeiten wir am Service, der nach einigen Verbesserungen bald wieder aufgenommen wird.“

Doch warum haben sich die Chatbots überhaupt so kritisch geäußert? Wurden sie womöglich so programmiert? Der Grund dürfte ein anderer sein: Da Chatbots durch die Interaktion mit Usern ständig weiterlernen, haben BabyQ und XiaoBing die Regimekritik wohl durch die Kommunikation mit Chat-Anwendern aufgeschnappt und übernommen.

Chatbots sind digitale Assistenten, die als Gesprächspartner fungieren. Wer auf eine bestimmte Frage eine Antwort braucht, tippt seine Frage einfach in das Chatfenster – etwa im Facebook-Messenger – und bekommt in Sekundenschnelle eine passende Antwort. Manchmal fallen diese Antworten, wie der Fall aus China zeigt, auch ganz schön kritisch aus!