Ki in China: Sehen auch die Chinesen die Menschheit durch KI bedroht?

Ob die amerikanischen KI-Unternehmer wirklich willens wären, sich im Interesse der Menschheit staatlich überwachen zu lassen und die Entwicklung ihrer Modelle zu drosseln, steht noch dahin. Die Forderung des Anthropic-Chefs Dario Amodei danach und die sofortige Zustimmung seiner Kollegen kommen einem etwas weniger überraschend vor, wenn man den ausdrücklichen Vorbehalt beachtet, unter den er alle Selbstkontrollen stellte: dass die USA dabei natürlich ihre Führungsposition gegenüber China behalten müssten. Man könnte seine Wortmeldung also auch so zusammenfassen, dass eine stärkere Kontrolle zwar wünschenswert wäre, aber leider unmöglich ist. Wie aber denkt China selbst darüber? Sieht es die Künstliche Intelligenz auch als Bedrohung der Menschheit an, oder geht man dort unbekümmerter mit den Risiken um? Richtet man sich nach dem Nvidia-Chef Jensen Huang, ist Letzteres der Fall. „Das Narrativ ist viel pragmatischer“, sagte Huang kürzlich auf dem „All-In-Summit“ in Los Angeles: „Niemand in China sagt, das ist das Ende von diesem oder jenem.“ Meinungsumfragen scheinen das zu bestätigen. Laut dem aktuellen „AI Index Report“ der Stanford University sehen 83 Prozent der Chinesen KI eher als Chance denn als Gefahr an — in den USA tun das nur 39 Prozent. Der nie um eine originelle Äußerung verlegene Yanis Varoufakis berichtet von einer hoffnungsfrohen Stimmung sogar unter den letzten verbliebenen Marxisten in China: Der Kapitalismus werde KI nicht überleben, da der von ihr bewirkte Überfluss aller Güter deren Austauschwert ins Bodenlose fallen lassen werde — eine Voraussage, die übrigens sehr der kürzlich von Elon Musk gegenüber dem „Economist“ geäußerten Erwartung ähnelt; vielleicht wird man den amerikanischen Milliardär demnächst auch noch unter die chinesischen Marxisten zählen. Warnungen vor einem „Tschernobyl-Moment“ Weitere Stimmen machen sogar die Kultur, also eine grundsätzlich verschiedene Philosophie, für das vermeintlich geringere Risikobewusstsein verantwortlich. Bing Song, die Direktorin des Berggruen Research Center in China, schreibt es dem nicht anthropozentrischen Charakter der traditionell chinesischen Kosmos-Vorstellung zu, dass der Fokus dort nicht so stark auf die existenziellen Risiken für den Menschen gerichtet sei.Außerdem hätten die Chinesen seit dem „Yi Jing“ eine größere Toleranz gegenüber Unsicherheit und Wandel. Das entspricht offensichtlich einem im Westen populären Stereotyp von chinesischer Weisheit, doch angewendet auf die Risiken der KI mutet es etwas merkwürdig an: Sollten sich die Chinesen wirklich aufgrund ihres „nicht anthropozentrischen Weltbilds“ weniger Sorgen um das eigene Überleben machen? Bei näherem Hinsehen entdeckt man, dass Chinesen, die auf solche Weise chinesisches und westliches Denken einander gegenüberstellen, dies mit Vorliebe im Westen tun, wo sie offenbar Resonanz für derartige Projektionen vermuten. Bing Song zum Beispiel veröffentlichte ihre Auffassung in Sammelbänden der Oxford University Press („Imagining AI“) und des akademischen Springer-Verlags („Intelligence and Wisdom“). Die zuständige Behörde im Land selbst dagegen, die Cyberspace Administration of China, schlägt ganz andere Töne an. Ihr gerade in dritter Version herausgekommenes „Rahmenwerk zur Regulierung der Künstlichen Intelligenz“ nennt als vordringliche Aufgabe die Verhinderung der „drohenden Risiken eines Kontrollverlusts, die das Überleben der Menschheit gefährden könnten“. Sie empfiehlt gemäß einer Klassifizierung der Risiken abgestufte Präventionsmaßnahmen. Wang Lihong, die stellvertretende Direktorin des Amts, weist darauf hin, dass strukturelle Fehler in KI-Systemen schwer zu identifizieren und zu eliminieren seien, und fordert daher, in Bereichen mit wenig Toleranz für Irrtum die Anwendung von KI „stark einzuschränken“. Yi Zeng von der Renmin-Universität, der Dekan des Pekinger Instituts für KI-Sicherheit, hält in der Zeitschrift der Zentralen Parteihochschule eine globale Verständigung über rote Linien für unabdingbar: Wenn die Welt mit ihrem technologischen Optimismus weiterhin alle Risiken unter den Tisch kehre und Regulierungen zugunsten des Wettbewerbs zurückstelle, dann sei ein „Tschernobyl-Moment“ nur noch eine Frage der Zeit. Was, wenn die KI Ironie falsch versteht? Auch bei den in China publizierenden Philosophen bleibt die Dramatik der Befürchtungen nicht hinter der westlichen zurück. Zhao Tingyang etwa, der in Deutschland durch seine bei Suhrkamp erschienene Aktualisierung alter chinesischer Weltordnungsvorstellungen bekannt geworden ist, sieht in einem Beitrag für die Chinesische Akademie der Sozialwissenschaften die Hauptgefahr darin, dass die KI eine eigene Universalsprache entwickeln könnte, mit der sich alle Programmsysteme umschreiben ließen. Deshalb schlägt er die Einrichtung eines Selbstzerstörungsmechanismus vor, der durch jeden Versuch der Modelle, das eigene Programm zu verändern oder zu löschen, ausgelöst wird. Und Xu Yingjin von der Fudan-Universität in Shanghai vermutet in der Internetzeitung „Pengpai Xinwen“, Konflikte zwischen Mensch und Maschine könnten aufgrund von Energieknappheit aufbrechen. Im Übrigen macht er auf ein Ironie-Problem aufmerksam: Was, wenn die KI einen Ausruf wie „Dann mach mich doch tot, wenn du kannst“ für bare Münze nähme? Von den Chefs der großen chinesischen KI-Unternehmen allerdings ist kaum etwas zu so heiklen Themen zu hören. Überhaupt scheinen die einschlägigen Diskussionen meist nicht über die dafür vorgesehenen Expertenkreise hinaus in das allgemeine Bewusstsein vorzudringen. Die Mainstream-Öffentlichkeit pflegt die Kommunistische Partei für Themen zu reservieren, die sie schon gelöst zu haben glaubt. Das mag ein Grund dafür sein, dass das allgemeine Meinungsbild gegenüber der KI in China so viel optimistischer ist als im Westen. Roboter für den Kontakt zur physischen Welt Die Annahme einer kulturell bedingten Differenz in der Gefahrenwahrnehmung bestätigt sich dagegen nicht und kann für westliche Firmen und Reg…