„Ich glaube nicht, dass die Maschinen uns beherrschen werden“

Es ist wohl die große Unbekannte in einer immer digitaler werdenden Welt: Wohin führt die rasante technische Entwicklung unsere Gesellschaft? Peter Dabrock , Vorsitzender des Deutschen Ethikrates, sieht die aktuellen Entwicklungen gleichbedeutend mit der industriellen Revolution. Am Mittwoch spricht er um 19 Uhr in der Akademie der Diozöse Rottenburg-Stuttgart in Weingarten darüber, wie intelligente Maschinen unsere Ethik herausfordern. Bereits im Vorfeld hebt er die grundlegende gesellschaftliche Bedeutung hervor. Im Interview mit Oliver Linsenmaier spricht er über die soziale Kontrolle von globalen Internetgiganten, die Gefahr, die persönliche Freiheit zu verlieren und erklärt, warum man dennoch mit seinen Daten nicht zwangsläufig sparsam umgehen muss.

Sie referieren am kommenden Mittwoch über intelligente Maschinen und wie sie unsere Ethik herausfordern. Worum geht es genau?

Das, was wir gerade erleben, ist vergleichbar mit der industriellen Revolution. Und das besondere in unserer heutigen Zeit besteht nicht nur darin, dass digital aufgezeichnet wird, sondern, dass die Maschinen selbstlernend aus diesen Daten Muster erkennen. Dies führt dazu, dass viele Arbeitsschritte revolutioniert werden, sich verändern und vielleicht auch wegfallen. Bei den Autos befinden wir uns beispielsweise unumkehrbar auf dem Weg zum Autonomen Fahren. Aber auch in den Bereichen Medizin, Finanzwirtschaft und Soziales – Stichwort Social Media – tut sich Grundstürzendes. Alles wird durch selbstlernende Maschinen mitgeprägt. Das wird Konsequenzen haben – für unser Selbstverständnis, für unseren Umgang miteinander und für unsere Arbeit. Wir befinden uns jetzt schon in einer technischen Transformation unserer Gesellschaftsstrukturen. Wir stehen in einer Revolutionsphase was unsere Technik anbetrifft. Wir müssen schleunigst anfangen, das zu begreifen und dann auch verantwortlich mitzugestalten.

Gerade den Sozialen Medien kommt dabei ein großes Gewicht zu.

Denken wir an das soziale Miteinander. Einen Großteil unserer Debatten führen wir über die Sozialen Medien. Und was vielen wahrscheinlich gar nicht bewusst ist: Auch unsere Sozialen Medien werden durch selbstlernende Maschinen auf Grundlage der Algorithmen gelenkt und feinjustiert. Beispielsweise lebt Facebook davon, dass Aufmerksamkeit geschaffen wird und die Menschen möglichst lange auf der Seite bleiben. Das wiederum geschieht dadurch, dass Emotionen geschürt werden. Das gelingt durch Themen aus dem Nahbereich oder Themen, die einen wütend machen. Dadurch werden politische Diskurse emotionaler und radikaler. Damit haben Soziale Medien und das maschinelle Lernen einen unglaublichen Einfluss auf unser Leben.

Welche Gefahren birgt das?

Es gibt Herausforderungen auf ganz vielen Ebenen. Das fängt bei der Datensicherheit an. Alles ist datafiziert, also von Aufzeichnung und Weitergabe von Daten geprägt. Es gibt riesige Datenströme und das birgt ein großes Risiko. Stellen Sie sich vor, dass irgendwann Herzschrittmacher oder Insulinpumpen gehackt werden können. Der zentrale Punkt ist für mich aber, dass der Datengeber die Vorteile nutzen kann. Das geht aber nur, wenn man selber Daten preisgibt. Dabei muss aber gewährleistet sein, dass man die Möglichkeit hat, in Echtzeit die Daten zurückziehen zu können. Wir müssen also den guten Grundgedanken des Datenschutzes für dieses Zeitalter des maschinellen Lernens, der künstlichen Intelligenz verändern. Das geht aber nicht dadurch, dass man möglichst wenige Daten einspeist, sondern dass der Einzelne seine Souveränität über die Daten behält. Das ist das A und O. Wenn das nicht gelingt, sägen wir den Ast ab, auf dem wir sitzen. Dafür braucht es in der Bevölkerung eine zusätzliche Sensibilität, und dazu trägt eben auch so eine Veranstaltung wie in Weingarten bei. Den Leuten muss klar werden, dass das keine Nebensächlichkeit ist, sondern es um die Grundlagen unseres Zusammenlebens geht.

Wenn wir den Umschwung nicht schaffen. Wie sieht das Worst-Case-Szenario aus?

Ich glaube nicht, dass die Maschinen uns beherrschen werden. Mein Worst-Case-Szenario ist das, was in China vonstatten geht. Also wo ein Datenaustausch zwischen den unterschiedlichen Sphären der Gesellschaft dazu führen, dass die Menschen durch eine intensive Sozialkontrolle untereinander ihre Freiheit verlieren und auf 0815 gebracht werden. In China fließt das Verhalten am Arbeitsplatz, im Verkehr oder gegenüber der Familie in ein umfassendes Bewertungssystem, das sogenannte Social Scoring ein. Davon wird dann abhängig gemacht, wie schnell man ein Flug- oder Bahnticket oder eben auch gar keins mehr bekommt. Dadurch wird die Freiheit doch sehr eingeschränkt. Ein Worst-Case-Szenario wäre aber auch, wie in dem Buch „The Circle“ von Dave Eggers geschildert. Dabei verschmelzen die sogenannten GAFA, also Google , Apple, Facebook und Amazon, zu einer Firma. Da wird schon die Richtung angedeutet, in die es gehen könnte.

Sie sprechen von einem allumfassenden Großkonzern, der nahezu jeden Bereich im Leben beeinflusst und überwacht und damit die Gesellschaft letztlich steuert. Wie nah sind wir denn an einer solchen Gesellschaft dran?

Ich halte es nicht für undenkbar, es gibt aber zwei ´Abers´. Zum positiven Aber: Aufgrund der zurückliegenden Datenskandale habe ich durchaus festgestellt, dass bei Facebook, Google und Apple ein Nachdenken begonnen hat. Ich habe den Eindruck, dass man sich da mehr Gedanken um die Datensouveränität des Verbrauchers macht – natürlich im Maße der jeweiligen Geschäftstüchtigkeit. Zum zweiten Aber: Wir dürfen nicht nur nach Kalifornien ins Silicon Valley schauen. Wir müssen auch nach China schauen. Mit Alibaba und Tencent haben wir zwei Internetgiganten in der chinesischen und ostasiatischen Welt. Die strecken ihre Tentakel in den ganzen indochinesischen, japanischen und indischen Bereich aus – also den größten Wachstumsmarkt in der globalisierten Welt. Diese Firmen wachsen dramatisch schneller als unsere berühmten GAFA. Die können Daten in ganz anderem Umfang sammeln und weiterverarbeiten als in Kalifornien. Das hat für den globalen Wettbewerb dramatische Folgen. Und wenn dann ein amerikanischer Präsident wirklich alles tut, um eine globale westlich geprägte Wirtschaft zu unterlaufen und mit seinem Protektionismus nochmal gefährdet und die Chinesen mit der Mischung aus Staat und Kapitalismus dann in die frei werdenden Lücken rein stoßen, dann muss einem das noch mehr zu denken geben. The Circle ist so also kaum vorstellbar. Aber wenn unsere westlich liberal geprägte Welt in die Krise gerät, kann das noch viel dramatischer werden, wenn Alibaba oder Tencent einen der bisherigen GAFA schluckt. Dann wird es wirklich Ernst.

Könnte es denn irgendwann einen einzigen Global Player geben?

Man kann nur hoffen, dass das nicht der Fall ist. In der westlichen Welt würde das durch das Wettbewerbsrecht wahrscheinlich unterbunden werden. In unseren westlichen Demokratien haben wir (noch) entsprechende regulatorische Mechanismen. Aber wir müssen auf jeden Fall auf der Hut sein, dass wir uns nicht aufgrund der Bequemlichkeiten der Produkte einlullen lassen und irgendwann nicht merken, dass irgendwelche Firmen einen solchen Wettbewerbsvorteil haben, dass die Regulationsbehörden kaum noch eine Chance haben, deren Marktmacht zu durchbrechen ohne die gesamten Volkswirtschaften herunter zu reißen.

Wie können wir dem als Gesellschaft entgegen wirken?

Wir sollten technisch nicht abgehängt werden, uns aber vor allem klar werden, in welcher geschichtlich bedeutenden Lage wir uns gerade befinden. Zudem müssen wir das Projekt der Datensouveränität stark machen, um technisch und regulatorisch das einzuklagen, was die Datensouveränität dann letztlich bedeutet. Man muss insgesamt schauen, dass die Politik gegenüber der Wirtschaft ihre Gestaltungshoheit behält.

Was kann jeder von uns im Kleinen machen?

Ich würde jedem raten, die Einstellungsmöglichkeiten bei Facebook zu nutzen. Da können sie ihren Newsfeed wirklich aktiv gestalten und Echoblasen aufbrechen beziehungsweise zumindest ausweiten. Man kann durchaus seriöse und alternative Nachrichten in den Vordergrund holen und muss sich nicht nur Katzenbilder zeigen lassen.

Und auch verantwortungsvoll mit den eigenen Daten umgehen.

Verantwortungsvoll mit den eigenen Daten umzugehen, bedeutet nicht datensparsam zu agieren. Das halte ich für veraltetes Denken, was der Gegenwart schlicht und einfach nicht mehr Stand hält. Man kann versuchen so sparsam mit seinen Daten zu sein, wie man will. Aber Daten werden in unendlicher Form gesammelt, gespeichert und getauscht. Natürlich darf man seine Daten nicht naiv raus hauen. Aber statt Datensparsamkeit bedarf es Datensouveränität. Und da könnten Datentreuhändler helfen. Das sind noch zu schaffende Organisationen, die uns benachrichtigen, wenn etwas mit unseren Daten geschieht, das uns nicht zusagt. Daten zu sparen ist auf Dauer wie das Pfeifen im Walde.

Zur Person:

Der Vorsitzende des Deutschen Ethikrates, Peter Dabrock, hat Katholische sowie Evangelische Theologie, Philosophie und Soziologie studiert. Von 2008 bis 2010 war er Professor für Sozialethik an der Philipps-Universität Marburg, seit 2010 ist er Professor für Systematische Theologie (Ethik) an der Friedrich-Alexander-Universität Erlangen. Neben zahlreichen Mitgliedschaften in Ethikkommissionen ist er seit 2012 Mitglied des Deutschen Ethikrates und seit 2016 dessen Vorsitzender. Zu seinen Schwerpunkten im Ethikrat gehören unter anderem der gesellschaftliche Diskurs über bioethische Fragen, Ethik der Big-Data-getriebenen Medizin sowie Informations- und Kommunikationstechnologien. (sz)