Künstliche Intelligenz

Pentagon warnt vor digitalen Diktaturen

Künstliche Intelligenz verschiebt das globale Gleichgewicht. Während der Westen Ethikdebatten führt, baut China sein autokratisches System durch Big Data aus.

China zeigt, wie maßgeschneiderte Zensur funktioniert.

Quelle: imago/Xinhua

BerlinAnfang der 1960er-Jahre erlässt die fünfte Hauptverwaltung des KGB, zuständig für Zensur und Inlandsüberwachung, eine Direktive, um einer neuen Bedrohung Herr zu werden: Ab sofort sind Fotokopierer überall in der Sowjetunion hinter Schloss und Riegel zu sperren und nur in Gegenwart amtlicher Zeugen zu betätigen. Die Sowjets fürchten das subversive Potenzial der Geräte, den Geheimnisverrat per Knopfdruck.

Am Ende dieser Paranoia steht das Ende der Geschichte: Der Sowjet-Kommunismus scheitert, weil er eine Bürokratie aufbaut, die unter ihrer eigenen Last zusammenbricht. Fortschritt lässt sich nicht wegsperren, das ist die Lehre aus dem Fall des Eisernen Vorhangs.

Der Westen triumphiert im Wettstreit der Systeme, und der US-Politologe Francis Fukuyama schreibt seinen berühmten Essay, der die globale Hegemonie von Demokratie, Marktwirtschaft und Rechtsstaatlichkeit vorhersagt.

30 Jahre sind seither vergangen, und der Siegesrausch in Washington ist vorüber. Durch die Finanzkrise erschüttert und den Aufstieg von Populisten verunsichert hadert der Westen mit sich selbst. Und jetzt warnen Experten, die im Auftrag des Pentagons Zukunftsszenarien analysieren: Die Sinnkrise der liberalen Demokratie fällt mit einer Machtverschiebung zugunsten repressiver Regimes zusammen, deren Ausmaß wir gerade erst beginnen zu verstehen.

Der Generalstab der US-Streitkräfte hat dieser Tage eine Studie veröffentlicht, die einen neuen ideologischen Wettbewerber des Westens identifiziert: die digitale Diktatur. „Künstliche Intelligenz und Big Data versprechen, die Weltordnung neu zu gestalten“, heißt es darin.

So wie der Wettbewerb zwischen liberaldemokratischen, faschistischen und kommunistischen Gesellschaften das 20. Jahrhundert geprägt habe, könnte der „Kampf zwischen digitaler liberaler Demokratie und digitalem Autoritarismus“ das 21. Jahrhundert definieren.

Nach Ansicht der Autoren, eines Teams von Wissenschaftlern und Militärstrategen um den britischen Forscher Nicholas Wright, macht Künstliche Intelligenz (KI) den Totalitarismus im Wettstreit der Systeme wieder konkurrenzfähig, weil sie die Kosten der Überwachung drastisch reduziert.

Digitale Diktaturen müssen den Fortschritt nicht mehr wegsperren wie ihre analogen Vorläufer. Sie haben das Instrumentarium, Kontrolle auszuüben, ohne Kreativität abzuwürgen. Kollektive Unterdrückung weicht selektiver Unfreiheit, das Schleppnetz dem Skalpell.

Die Experten machen kein Geheimnis daraus, an welche Macht sie denken: „China ist derzeit dabei, Kernkomponenten eines solchen Systems des digitalen Autoritarismus aufzubauen“, schreibt US-Brigadegeneral Alexus Grynkewich im Vorwort der Analyse.

Diesen großen Sprung nach vorn lässt sich das Regime einiges kosten. Auf 196 Milliarden Dollar beziffert die Pentagon-Studie Chinas Ausgaben für innere Sicherheit allein im Jahr 2018. Mit der Einbindung Chinas in die Globalisierung verband sich einst die Hoffnung auf eine politische Öffnung, auf einen Regimewechsel von innen. Diese Hoffnung stirbt. 

Vor ein paar Tagen erst hielt George Soros auf dem Weltwirtschaftsforum in Davos eine Brandrede: „China ist nicht das einzige autoritäre Regime der Welt, aber es ist zweifellos das reichste, stärkste und fortschrittlichste im Bereich des maschinellen Lernens und der Künstlichen Intelligenz“, warnte der Philanthrop. Der chinesische Präsident Xi Jinping sei der „gefährlichste Gegner des Konzepts der offenen Gesellschaft“.

Europa ist bei der Entwicklung von Künstlicher Intelligenz abgeschlagen

Dass die digitale Ära die Spielregeln der internationalen Politik verändert, hat sich auch im Kreml herumgesprochen: Wer bei KI „die Führung übernimmt, wird Herrscher der Welt“, sagt Russlands Präsident Wladimir Putin, der seine Karriere bekanntlich beim KGB begann. Europa hinkt der Entwicklung hinterher.

Gerade einmal drei Milliarden Euro hat die Bundesregierung zusammengekratzt, um die Zukunftstechnologie zu fördern. Immerhin, das Problem ist erkannt: Das Auswärtige Amt will im Sommer eine Digitalstrategie vorlegen, in der es sich mit den geopolitischen Folgen der KI-Revolution beschäftigt.

„Wir wären naiv, wenn wir nicht sehen würden, dass es auch eine negative Seite der Digitalisierung gibt“, sagte Bundesaußenminister Heiko Maas dem Handelsblatt. „Autoritäre Regime könnten Gesichtserkennung, Massendatenauswertungen und Künstliche Intelligenz nutzen, um Menschen zu überwachen, Repression auszuüben und Freiheit zu beschneiden.“

Hollywood hat uns konditioniert, bei Künstlicher Intelligenz an Auftragskiller wie den Terminator zu denken, anspruchsvolleren Cineasten mag die diabolisch-monotone Stimme des Bordcomputers HAL aus Stanley Kubricks „Odyssee im Weltraum“ in den Sinn kommen.

Die Autoren des Pentagon-Papiers dagegen definieren KI schlicht als: „automatisiertes Lernen von Systemen, die Daten auswerten, um komplizierte Aufgaben zu erledigen“. Aus geopolitischer Perspektive geht es in der KI-Debatte weniger um die Entwicklung neuer Waffensysteme, den Einsatz von Kampfrobotern und autonomen Drohnen.

In erster Linie geht es ihnen um die Entwicklung von Repressionstechnologien, die das Problem lösen, an dem die Sowjetunion zerbrochen ist: dass erzwungene Ordnung letztlich Stagnation bedeutet, weil der Überwachungsapparat gesellschaftliche Dynamik unter sich begräbt.

KI stellt damit eine der letzten Gewissheiten infrage, an die sich der verunsicherte Westen klammern konnte. Nur freiheitliche Regierungssysteme könnten es sich leisten, sozialen Wandel zuzulassen, nur sie seien fortschrittskompatibel. Dachte man.

Mit der „Großen Firewall“ zeigt China schon seit Jahren, wie maßgeschneiderte Zensur funktioniert: Informationen, die ökonomisch wertvoll sind, können sich ungehindert verbreiten; politische Ideen dagegen werden beschnitten. Der moderne Überwachungsstaat schränkt die Meinungsfreiheit ein, schafft aber genügend Raum zum Reichwerden – und damit Anreize zur Innovation.

Schon heute können es Chinas IT-Anbieter mit den Weltmarktführern aus dem Silicon Valley aufnehmen, Tencent, Alibaba und Baidu fordern Facebook, Amazon und Google heraus. Das Band zwischen Staat und Großkonzernen ist in der Autokratie des 21. Jahrhunderts sehr eng.

Schon stellt sich die nächste Firmengeneration in den Dienst des Staates: Auf Gesichtserkennung spezialisierte Start-ups wie Sensetime und Megvii „gehen enge Partnerschaften mit Sicherheitsbehörden ein“, halten die Pentagon-Experten fest.

Chinas Führung nennt ihre Repressionsvision „Gesellschaftsmanagement“, eine Orwell-Vokabel, ebenso unheimlich wie ihr Potenzial. Computersysteme werden wohl schon bald den Ausbruch von Unruhen prognostizieren, die technischen Herausforderungen dafür sind kaum anspruchsvoller als die computergestützten Kriminalitätsvorhersagen, mit denen auch in Deutschland experimentiert wird.

Über WeChat, Tencents Alleskönner-App mit fast einer Milliarde Nutzern, lassen sich schon heute „Heat Maps“ aufrufen, die zeigen, wo sich Menschen gerade versammeln. Im Science-Fiction-Film Minority Report ahnt eine KI Morde voraus, bevor die Mörder wissen, dass sie zu Mördern werden.

Genau davon träumen Überwachungsapparatschiks: mit der politischen Säuberung zu beginnen, bevor ein Dissident zum Dissidenten wird. Mancher glaubt, dass die düstere Zukunft der Hightech-Autokratie schon begonnen hat.

In seinem Buch „Die Neuerfindung der Diktatur“ schreibt Chinakenner Kai Strittmatter: „Dieses neue China soll kein riesiger, von Askese und Zucht geprägter Kasernenhof sein wie noch bei Mao, sondern eher eine von außen bunt anzusehende Mischung aus George Orwells ,1984‘ und Aldous Huxleys ‚Schöne Neue Welt‘, wo sich der Mensch dem Kommerz und Vergnügen verschreibt und so ganz von allein der Überwachung ergibt.“

Der Fortschritt Chinas alarmiert die Militärstrategen im Pentagon

Die Realität kann mit solchen Gruselanalysen nicht ganz mithalten. Der chinesische Sicherheitsapparat ist noch lange nicht so allmächtig, wie westliche Beobachter ihn gelegentlich darstellen. Doch die Fortschritte sind groß genug, um die Militärstrategen im Pentagon zu alarmieren – und das ist das Entscheidende.

Internationale Politik wird nicht von einer objektiven Wahrheit bestimmt, sondern davon, wie große Mächte einander wahrnehmen. Das KI-Papier des Pentagons zeigt: US-Militärstrategen wollen nicht warten, bis die Transformation vom Arbeiter- und Bauernstaat zur Hightech-Diktatur abgeschlossen ist.

Sie wollen Gegenstrategien, nicht irgendwann, sondern jetzt. Schon im vergangenen Jahr starteten die USA eine globale Kampagne gegen chinesische Netzausrüster wie Huawei. Die Amerikaner fürchten, dass China die digitale Infrastruktur von morgen dominiert – und drängen Verbündete, Huawei Aufträge zu verweigern.

Auch Technologie-Transfers nach China will die US-Regierung stoppen. Die Agenda, die der Handelsbeauftragte Robert Lighthizer verfolgt, lässt sich auf ein Wort reduzieren: Entkopplung. China soll von westlichen Innovationen abgeschnitten werden.

Senatoren, die ihn warnten, einen „dummen Konflikt“ zu schüren, blaffte Lighthizer an: „Wenn Ihre Schlussfolgerung lautet, dass es dumm ist, sich dagegen zu wehren, dass China all unsere Technologie und die Zukunft unserer Kinder an sich reißt, dann haben Sie recht, wir sollten kapitulieren.“

Lighthizer und seine Mitstreiter sind davon überzeugt, dass die Entwicklung von Zukunftstechnologien wie KI ein Existenzkampf ist, vergleichbar mit dem nuklearen Rüstungswettlauf im Kalten Krieg. Allerdings beginnt die neue Systemkonfrontation mit einem „inhärenten Vorteil“ (George Soros) für autoritäre Regimes. KI ist nur so gut wie die Daten, mit denen sie gefüttert wird, und in Diktaturen sind staatlicher Datengier keine Grenzen gesetzt.

Kamerabilder, Geo- und Gesundheitsdaten, Bankinformationen, Vorstrafenregister und Krankenakten – alles ist greifbar, mühelos noch dazu. China ist das Reich der Super-Apps: WeChat, als Kurzmitteilungsservice gestartet, kann Taxis bestellen, Arzttermine vereinbaren, Kinotickets reservieren, Einkäufe bezahlen – und, wie es im Kleingedruckten heißt, auf „Anfrage einer Regierungsbehörde“ Nutzerdaten „aufbewahren oder preisgeben“.

Währenddessen zeigen sich in Europa und den USA die Nachwirkungen der NSA-Affäre. Gesetzgeber verschärfen Datenschutzvorschriften, Politiker fordern die Zerschlagung von Datenmonopolen, Tech-Angestellte rebellieren gegen Militäraufträge.

Kürzlich zwangen Mitarbeiterproteste Google, aus einem Pentagon-Projekt auszusteigen, das Algorithmen zur Auswertung von Überwachungsvideos entwickeln sollte. Die Angst, als verlängerter Arm der US-Regierung wahrgenommen zu werden: Das ist das Snowden-Trauma des Silicon Valley.

Bundesaußenminister Maas kündigt an, dass sich Deutschland für weltweite Standards einsetzen will, um „die Persönlichkeitsrechte jedes Einzelnen zu schützen“. Die europäische Datenschutzgrundverordnung habe gezeigt, dass Europas Stimme globale Wirkung entfalten könne, „übrigens auch bei den Technologie-Supermächten USA und China“.

Es gibt gute Gründe, ein staatliches KI-Wettrüsten verhindern zu wollen. Es steht viel auf dem Spiel, die Privatsphäre und damit letztlich das Selbstverständnis liberaler Demokratien.

Aber vielleicht gibt es ebenso gute Gründe, eine unbequeme, geradezu beängstigende Frage zu stellen: Was, wenn unsere Datenschutzschranken und Kartellauflagen so restriktiv sind, dass sie den Gitterstäben ähneln, hinter die der KGB Fotokopierer sperren ließ?