Expertin warnt vor der IT-Industrie Amerikas

Hartnäckig und unverdrossen warnt Deutschlands einflussreichste Expertin für künstliche Intelligenz, Yvonne Hofstetter , vor der IT-Industrie Amerikas . Der freiheitlichen Gesellschaft drohe ihr Ende , wenn man den Machtanspruch der im Zuge der Digitalisierung aufgestiegenen Großkonzerne nicht entgegentrete. Benjamin Wagener hat mit der 50-Jährigen über unbedarfte Nutzer, die Gefährlichkeit des Internets der Dinge und den Informationskapitalismus des 21. Jahrhunderts gesprochen.

Der Autozulieferer ZF tastet sich gerade an das autonome Fahren heran, und Sie schreiben über künstliche Intelligenzen, die Gesellschaften lenken können. Wo stehen wir?

Wir unterscheiden zwischen starker und schwacher künstlicher Intelligenz. Die schwache künstliche Intelligenz läuft schon heute in Suchmaschinen, bei der Bild- und Texterkennung bei Übersetzungsprogrammen. Starke künstliche Intelligenz ist mehr, sie hat eine Art Bewusstsein – zum Beispiel die Intention, ein Ziel zu erreichen.

Und damit agieren diese Maschinen autonom?

Die Ziele einer künstlichen Intelligenz werden als mathematische Nutzenfunktion ausgedrückt, und diese wird immer weiter optimiert. Damit das möglich ist, überwachen die Maschinen die Umwelt, in die sie hineingesetzt werden, analysieren die erfassten Messdaten – Big Data –, fusionieren sie zu einem Lagebild und treffen aufgrund der neu gewonnenen Lageinformation eigene Entscheidungen, mit denen sie wiederum in die Umwelt eingreifen. Wir bezeichnen das als geschlossenen Regelkreis.

Wo wird das eingesetzt?

Bei der Steuerung von Industrieanlagen, auf den Finanzmärkten und auch in Suchmaschinen. Im Grunde ist die Google-Suchmaschine ebenfalls ein geschlossener Regelkreis. Und natürlich kann man auch die ganze Gesellschaft als System begreifen, die ich wie eine Industrieanlage steuere und regele. Das Silicon Valley arbeitet an Projekten, um mit Technologie steuernd in Gesellschaften einzugreifen.

Wie soll das funktionieren?

Es geschieht ganz beiläufig durch das Internet der Dinge. Dafür vernetzen wir unseren kompletten Alltag. Alle Geräte, die wir nutzen, sollen eine IP-Adresse bekommen: der Stromzähler, der Feuermelder, der Regenschirm, der ICE-Sitz, das TV, die Armbanduhr ... Wir verwandeln die Dinge unseres Alltags in Messgeräte, die Daten sammeln und senden. Künstliche Intelligenzen bei den Herstellern analysieren unsere Datenspuren, die wir überall, wo wir uns bewegen, wo wir surfen, hinterlassen, und erstellen Profile von uns.

Wofür sind diese Profile?

Der Sinn des Internets der Dinge ist doch, dass wir gesünder, moralischer, effizienter leben – eben optimiert. Dazu erschaffen wir uns Maschinen, die uns immer einen Schritt voraus sind, weil sie unsere Daten haben und daraus berechnen können, was wir als Nächstes wollen, denken oder tun. Wir nennen das Umgebungsintelligenz. Aber sie schränkt unsere Grundrechte in einem großen Maße ein.

An was denken Sie?

Umgebungsintelligenz führt in die Totalüberwachung. Je mehr Umgebungsintelligenz wir schaffen, desto weniger Rückzugsräume haben wir. Nicht einmal im Schlafzimmer sind wir dann noch allein: Dort steht mein intelligent vernetzter Wecker, da liegt meine Armbanduhr, die meine Gesundheitsdaten misst, und meine vernetzte Bettdecke, die mein Schlafverhalten überprüft.

Warum ist das gefährlich?

Weil Sie sich nie mehr so geben können, wie Sie eigentlich sind, weil Sie andauernd das Gefühl haben müssen, beobachtet, vermessen, gescannt und kontrolliert zu werden. Man hat immer einen unsichtbaren Beobachter hinter, neben, über sich. In der Öffentlichkeit stellt sich jeder so dar, wie er gerne gesehen werden will. Jeder möchte ja anders wahrgenommen werden, als er ist. Keiner will ja zum Beispiel, dass andere sehen, dass man schlechte Essgewohnheiten hat. Doch plötzlich ist alles öffentlich.

Was bedeutet das für die Demokratie?

Es kann sich keine pluralistische Gesellschaft entwickeln. Pluralismus entsteht nur, wenn sich Individuen in aller Freiheit entfalten können. Stattdessen sind wir auf dem Weg in die konforme Gesellschaft – und die widerspricht dem Gedanken der Demokratie. Denn in der Demokratie muss es immer auch Minderheiten geben, die nicht konform sind. Und diese Minderheiten müssen die Möglichkeit haben, zur Mehrheit zu werden.

Warum können in einer vernetzten Gesellschaft Minderheiten nicht zu Mehrheiten werden?

Die Umgebungsintelligenz einer hochvernetzten Gesellschaft erstellt kontinuierlich Persönlichkeitsprofile und Verhaltensprognosen. Die Vision: Wer sich verhält wie erwartet, bekommt einen Bonus, wer nicht, einen Malus. Das schließt quasi aus, dass sich ein Mensch widerständig verhält. „People Score“ nennen wir das, die chinesische Regierung hat Anfang 2016 mit dem Scoring ihrer Bürger begonnen. Technisch ist das Scoring längst auch bei uns im Westen möglich – und wird auch praktiziert. Alltägliches Beispiel: der Kredit-Score einer Person, berechnet auf der Basis von Facebook-Freundschaften. Nur wer genug Akademiker-Freunde hat, bekommt einen Kredit oder eine andere Leistung: eine Versicherung, den Führerschein, einen Operationstermin.

Das erscheint mir eine düstere, unrealistische Zukunftsvision.

Das ist sehr realistisch – und sehr gefährlich. Allein durch die Likes, die wir auf Facebook setzen, können Computer berechnen, ob man alkoholabhängig, depressiv oder schwanger ist. Dazu muss man kein einziges Wort gepostet haben. Wenn Sie zum Beispiel männlich sind und Britney Spears liken, ist das eine Indikation, dass Sie homosexuell sind. Die Maschinen treffen eine Aussage über Ihren Charakter, und wenn Menschen das wissen, verhalten sie sich anders.

Aber setzt nicht gerade eine Gegenbewegung ein? Wehren sich die Menschen nicht gegen diese Art des Datenmissbrauchs?

Das stimmt, aber es nützt uns nicht mehr viel. Denn die Datenerfassung erfolgt zunehmend nicht-kooperativ, also ohne unser Wissen. Das Google-Abacus-Projekt etwa verfolgt das Ziel, Nutzerverhalten ständig zu prüfen, um herauszufinden, ob der Anwender wirklich der ist, für den er sich ausgibt. Dazu gehört auch, die Bewegung von Menschen zu überwachen: wie ein Mensch auf der Tastatur tippt oder wie er läuft. Der Gang eines Menschen ist einzigartig. Das heißt: Wenn wir in Zukunft durch eine Straße laufen, in der smarte Kameras installiert sind, könnten uns Maschinen identifizieren.

Wer treibt das voran?

Das sind die amerikanischen Internetgiganten im Silicon Valley – alle unsere Lieblingsmarken von Google bis Facebook. Sie bauen mit ihrem Kapital ihren Technologievorsprung immer weiter aus und haben längst begonnen, die Gesellschaft an der Politik vorbei zu gestalten. Das ist alles nicht demokratisch beschlossen, aber wir legitimieren es soziologisch, einfach indem wir mitmachen und Facebook, Google, WhatsApp nutzen.

Wem nützen die Datenprofile ?

Das ist ein riesiges Geschäft, die werden gehandelt. Acxiom ist zum Beispiel einer der größten Datenhändler der Welt. Auf den Servern in den USA liegen 44Millionen deutsche Dossiers – und keiner weiß, was in seinem Dossier steht. Ich weiß das von meinem Dossier jedenfalls nicht.

Wie sieht so eine Akte aus?

Eine solche Akte enthält Merkmale über eine Person, bis hin zum Klarnamen. Zum Beispiel könnte da stehen: Yvonne Hofstetter, sexuelle Orientierung 1: weiblich, sexuelle Orientierung 2: ledig, sexuelle Orientierung 3: schläft gerne mit jungen Männern.

Wer kauft solche Profile?

Unternehmen, die ihre Kunden besser kennenlernen wollen. Oder neue Kunden gewinnen wollen. Beratungsunternehmen. IT-Serviceanbieter. Streaming-Dienste, die ihre Kunden nur noch mit den Filmen oder der Musik beglücken wollen, die ihre Kunden mögen. Daten sind teuer, der Kaufpreis kann in die Millionen gehen.

Bemerken das die Kunden nicht?

Die Personalisierung von Angeboten schränkt die Diversität ein. Das Nutzererlebnis wird eindimensionaler, flacher. Nutzer beginnen, in einer Blase zu leben, sie bekommen nur noch die Informationen und Inhalte, die ihren vermeintlichen Interessen entsprechen. Deshalb ist der IS auch zum Teil ein Internet- und Jugendphänomen: Wer sich zu einem bestimmten Thema in einem sozialen Netzwerk bewegt, bekommt viele Informationen angezeigt. Irgendwann glaubt so ein junger Mensch, die ganze Welt bestünde nur aus den Ideen des IS.

Was ist, wenn die erstellten persönlichen Profile falsch sind?

Das ist eine große Gefahr. Keiner weiß, welche Algorithmen Profile erstellen, aufgrund von welchen Daten, ob diese Rohdaten richtig oder falsch sind. Für den Einzelnen ist der Vorgang völlig intransparent. Er weiß nicht mehr, was vorgeht, und deshalb kann er Fehler auch nicht einklagen. Was ist zum Beispiel, wenn die algorithmisch berechnete Information über ein vermeintliches Krebsrisiko bei der Krankenversicherung des betroffenen Nutzers landet? Aber das ist alles kein technologisches Problem, das ist ein Problem des Marktes, weil Wirtschaftsakteure diese Entwicklung vorantreiben, um Geld zu verdienen.

Wenn die Menschen so manipuliert und ausgenutzt werden, warum wehren sie sich nicht?

Weil die Digitalisierung schön verpackt als Lifestyle daherkommt. Jeder will dabei sein, jeder will mitmachen, und keiner will außen vor sein. Mir ist manchmal schleierhaft, warum Europäer gegen Ceta und TTIP auf die Straße gehen, weil die USA angeblich europäische Umwelt-, Sozial- und Arbeitsnormen verletzen, aber unsere Datenstandards geben wir freiwillig auf, indem wir den Silicon-Valley-Kapitalismus rundweg akzeptieren – und untergraben dabei unsere Demokratie.

Vielleicht wissen viele Leute gar nicht um die Gefahr.

Nein, es ist schlimmer. Viele junge Leute der Generation Digital Natives sagen, das ist doch unsere Privatsache, wenn wir da mitmachen und unsere Freiheitsrechte aufgeben. Wir als ältere Generation scheinen bei der politischen Bildung unserer Kinder da offenbar völlig versagt zu haben. Denn in der digitalen Ära geht es ums Ganze – und das Ganze hat mehr Gewicht als die vertragsrechtlichen Möglichkeiten des Einzelnen. Hier muss der Staat den Bürger vor sich selber schützen. Es darf nicht sein, dass die Bürger ihre Grundrechte einfach aufgeben können, indem sie ein Kreuzchen bei den Nutzungsbedingungen machen.

Wollen die großen Internetkonzerne die Demokratie abschaffen, oder passiert das quasi nebenbei, weil sie ihre Geschäfte machen?

Es gibt Stimmen im Silicon Valley, die offen sagen, die Demokratie sei eine alte Technologie, man müsse etwas Neues ausprobieren, etwa die Gesellschaft so lenken wie einen Start-up. Man akzeptiert nur noch datengetriebenes Denken. Entscheidungen sollen allein auf Daten basieren. Andere Konzepte wie demokratische Debatten, Bürgerpartizipation, steuerliche Finanzausgleiche anstelle von Kapitalbeteiligungen des außerbörslichen Marktes an Ländern oder Städten seien gestrig, überkommen, überholt. Mir scheint das eine teuflische Ideologie zu sein. Auf jeden Fall würde sie in einen kalten Staat führen.

Wie kann man die Macht der Internetkonzerne brechen?

Der Markt muss reguliert werden. Es geht nicht darum zu sagen, die Technologie ist schlecht, oder die künstliche Intelligenz ist böse. Es geht darum, dass gerade eine weitere Metamorphose des Kapitalismus stattfindet. Nach dem Finanzkapitalismus tritt der Informationskapitalismus in unser Leben. Im 21. Jahrhundert verdient man viel Geld mit Daten und Information. Die Konzerne haben das erkannt und treiben die Entwicklung voran. Es ist also ein neuer Markt entstanden, der nun auch reguliert werden muss.

Wollen die Internetgiganten die Weltherrschaft – oder wollen sie nur unser Geld?

Wirtschaftliche Macht geht politischer Macht immer voraus. Und die Technologiekonzerne haben bereits enorme wirtschaftliche Macht aufgebaut. Ich bin sicher, dass sie irgendwann in Versuchung kommen, auch politische Macht auszuüben. Schon jetzt greifen Newsfeeds oder Suchmaschinenergebnisse in die politische Willensbildung ein, weil ihre Algorithmen entscheiden, wie Informationen angezeigt werden, ohne dass die Nutzer die Kriterien kennen und auf diese Kriterien Einfluss haben.

Wie kann man die Macht des Silicon Valley brechen?

Ich bin ein großer Befürworter einer eigenen europäischen digitalen Infrastruktur.

Und wie soll Europa die aufbauen?

Den Kopf hängen lassen, hilft auf alle Fälle nicht weiter. Als Erstes müssen wir den Anwendern erklären, welches Risiko sie eingehen, wenn sie die vermeintlichen kostenlosen Plattformen wie Google, Facebook, Twitter nutzen und ihre Daten dorthin auf immer verschenken. Wir müssen Unbequemlichkeiten in Kauf nehmen, uns unsere Freiheit etwas kosten lassen und sichere und damit auch teurere europäische Plattformen aufbauen.

Glauben Sie wirklich, dass wir die Macht des Silicon Valley brechen, einfach nur indem wir ein europäisches WhatsApp benutzen?

Es ist natürlich eine gewaltige Herausforderung, weil wir viel weniger Kapital haben, um solche Dienste aufzubauen. Und wir haben natürlich das Problem des Plattformeffekts: Solche Dienste funktionieren ja nur, wenn viele Menschen sie nutzen. Aber wenn wir ein wirklich gutes Design mit einer guten Funktionalität bieten, einen Service, der nicht langweilig ist und genauso glossy und flashy daherkommt wie unsere Lieblingsmarken aus dem Silicon Valley, würden die Leute auch wechseln.

Könnte man die Maschinen auch so programmieren, dass sie Grundrechte nicht beeinträchtigen?

Wir diskutieren, ob wir im 21. Jahrhundert dem Recht nicht ein zusätzliches Format geben müssen, indem wir rechtliche Grundsätze in die Computerprogramme direkt hineinschreiben. Das Problem ist, dass wir den Code von Google nicht verändern können, dass wir auf den Code von Facebook keinen Einfluss haben. Ein weiterer Grund, eine eigene Infrastruktur aufzubauen.

Wenn wir die Technologie so weiterentwickeln, wird das teurer.

Das stimmt. Und der große Marketing-Coup des Silicon Valley ist ja, dass das alles kostenlos daherkommt. Der Nutzer wählt die Dienste des Silicon Valley, weil sie kostenlos sind – zu dieser Mentalität hat uns das Silicon Valley erzogen. Aber wenn wir Sicherheit, Freiheit und Demokratie in Europa erhalten wollen, sollte uns das etwas wert sein.

Die „Schwäbische Zeitung“ beleuchtet in der Serie „Digitales Leben“ die Auswirkungen der Digitalisierung auf viele Lebensbereiche. Am Donnerstag, 10.November, lesen Sie ein Interview mit dem Digitalisierungskritiker Manfred Spitzer.