Menschen denken über Städte in Metaphern nach – die Stadt als Maschine, Haus oder Gedächtnis. Was ist Neopolis für eine Stadt?
Grundsätzlich sehe ich Städte als Lebewesen an. Ich habe in einem Sachbuch über Evolution tatsächlich mal geschrieben, dass es kein Kriterium für Leben gibt, welches auf Städte nicht zutrifft. Städte sind Lebewesen im biologischen Sinn, weil sie aus Organismen bestehen.
Wir Menschen sind ja auch nur eine Ansammlung von Zellen, die zusammenarbeiten. Daher ist die Organismus-Metapher am plausibelsten. Es gibt in Neopolis sogar eine Szene, in der der Held aus dem Fenster schaut und ihm die automatischen Fahrzeuge wie Blutkörperchen erscheinen, die in Adern fließen. Dieses Bild trifft auf jede Stadt zu.
Was unterscheidet Neopolis von anderen Städten?
Neopolis speziell ist eine hybride Stadt, in der sich Realität und Virtualität vermischen. Das kann nur wahrnehmen, wer eine spezielle Brille aufhat und den virtuellen Teil addiert bekommt. In Neopolis tummeln sich die Technologiebegeisterten. Wie Nick, ein Gamer, der dort Urlaub macht. Außerdem ist Neopolis vollständig in Privatbesitz, es gibt keine öffentlich-rechtlichen Träger. Die ganze Stadt ist eine Aktiengesellschaft – Turbokapitalismus auf die Spitze getrieben.
Für Ihre erdachte Stadt Neopolis gibt es ein reales Vorbild, die geplante saudi-arabische Retortenstadt „Neom“. Was haben die beiden Städte gemeinsam?
Auch Neom soll extrem auf Kapitalismus und freie Marktwirtschaft ausgerichtet werden. Saudi-Arabien will eine halbe Billion Dollar in dieses Stadt investieren, für den Rest werden Investoren gesucht. Für ihr Geld bekommen sie Eigentum an dieser Stadt. Ich hatte diese Idee, bevor ich zum ersten Mal von Neom gehört habe. Mir erschien sie als etwas übertriebene Fiktion – bis ich feststellte, dass sie in Form von Neom realisiert werden soll.
Glauben Sie, dass Neom je Realität wird?
Saudi-Arabien hat aktuell andere Sorgen und solche Gigantismus-Projekte neigen dazu, auf dem Papier stehen zu bleiben.
Welche weiteren Parallelen gibt es zu Neopolis?
Auch in Neom soll stark auf Technologie gesetzt werden, vieles soll automatisiert ablaufen. Klar, ich stelle das Ganze deutlich weniger positiv dar, als Saudi-Arabien auf seiner Werbe-Website. Meine Geschichte ist eher dystopisch.
In Neopolis werden, anders als geplant, nicht alle stupiden Arbeiten von Robotern verrichtet. Stattdessen gibt es ein Heer von rechtelosen Lohnsklaven. Ist das die realistischere Zukunftssicht?
Ja, das ist realistisch. Ich glaube zwar an die Möglichkeiten von Robotik. Aber wir machen uns etwas vor, wenn wir glauben, dass Roboter immer günstiger sind als Menschen. Nehmen wir an, ich will eine Maschine bauen, die Betten machen kann. Das ist extrem aufwendig und diese Maschine könnte dann nichts anderes. Oft ist es günstiger und besser, einen Menschen einzusetzen. Humanoide Roboter sind noch viel komplizierter und teurer in der Herstellung – während Menschen durch die voranschreitende Automatisierung immer billiger werden. Darum gibt es in Neopolis für die Unberechtigten noch eine Menge zu tun.
Neom, das Vorbild für Neopolis, soll bis 2025 fertig sein. Glauben Sie daran?
Nein, natürlich nicht. Solche Gigantismusprojekte werden mit viel Tamtam angekündigt, dann werden science-fictionmäßige Visionen hingemalt, dann völlig absurde Zeitpläne festgesetzt. Es gab diverse Versuche, Kunststädte aus dem Nichts zu zaubern, die als Bauruinen geendet sind. Das hat damit zu tun, dass Städte eben organische Wesen sind. Bei Neopolis bin ich davon ausgegangen, dass es manchmal doch klappt. Dabei habe ich mir Las Vegas zum Vorbild genommen – ebenfalls eine Stadt, die aus dem Nichts gezaubert wurde und erfolgreich eine Nische besetzt hat. Dort ist es die Freizügigkeit, was das Glücksspiel betrifft.
Sie haben zum Thema KI promoviert und schreiben auf ihrem Blog über „künstliche Intelligenz und menschliche Dummheit“. Wann werden die Maschinen klüger sein als wir?
Um diese Frage zu beantworten, muss man definieren, was Intelligenz ist. Was die meisten Menschen mit künstlicher Intelligenz meinen, heißt eigentlich Entscheidungsautomatisierung. Maschinen können noch nicht in allen Bereichen Entscheidungen besser treffen als Menschen, sind uns aber heute bereits in vielen Spezialgebieten überlegen. Zum Beispiel können sie besser Gesichter erkennen oder vorausahnen, was ich als nächstes lesen oder kaufen möchte.
Bis wir eine starke künstliche Intelligenz erschaffen haben, die universell lernfähig ist, wird es hoffentlich noch eine Weile dauern. Ich sage „hoffentlich“, denn andernfalls haben wir ein gewaltiges Problem. Wir haben noch nicht mal ansatzweise verstanden, wie wir eine starke künstliche Intelligenz bändigen können. Wie wir verhindern können, dass solche Maschinen uns zu Tode optimieren. Mit absurden Zielfunktionen, die wir ihnen versehentlich mitgegeben haben. Das wird in Neopolis auch thematisiert.
Inwiefern?
In „Neopolis“ beauftragen die Shareholder eine Maschine damit, Unglück zu vermeiden. Das interpretiert die Maschine dann auf ihre Art. Wir müssen aufpassen, welche Aufgaben wir automatisieren. Denn wir verstehen noch nicht, wie Maschinen Entscheidungen treffen. Neuronale Netze sind zu erstaunlichen Leistungen fähig – aber wir wissen nicht, warum. KI-Wissenschaftler verstehen also selbst nicht, warum KI so gut funktioniert. Das birgt die Gefahr, dass Maschinen falsche Entscheidungen treffen, ohne dass die Anwender es überhaupt merken.
Auf Ihrem Blog befassen Sie sich mit den Risiken von KI. Welche sind das aus Ihrer Sicht?
Ich sehe drei Kategorien von Risiken. Erstens: Dass Maschinen falsche Entscheidungen treffen. Indem man die Maschinen verbessert, bekommt man das vielleicht noch in den Griff.
Zweitens: das Ungleichheitsproblem. Es führt dazu, dass die Firma mit den meisten Daten gewinnt und einen bestimmten Bereich dominiert. Wir sehen heute schon, dass trotz Covid-19 der Technologiesektor an der Börse höher bewertet wird als je zuvor. Google, Microsoft und Amazon haben durch die Krise einen weiteren Schub bekommen und sind noch stärker geworden. Diese Unternehmen bekommen einen immer größeren Vorsprung – andere haben kaum noch eine Chance, hinterherzukommen. Das führt zum Sterben ganzer Branchen. Dieses Problem kann sich aber auch so äußern wie in China, wo Technologie inzwischen zu Zwecken eingesetzt wird, die sich Orwell in seinen kühnsten Träumen nicht ausgemalt hätte.
Sie sprechen vom Sozialkredit-System?
Zum Beispiel. Aber auch generell von der Fähigkeit, den Menschen in den Kopf zu gucken. KIs wissen heute schon recht gut, was uns interessiert, was wir vorhaben. Einfach, in dem sie uns und viele andere Menschen beobachten. Das stimmt im Einzelfall nicht perfekt, aber in der Summe erschreckend gut. So lernen die Maschinen, uns zu manipulieren. Gleichzeitig wird das Machtgefälle immer größer zwischen den wenigen Technologiekonzernen, staatlichen Akteuren und Superreichen einerseits und den Milliarden Menschen, die gar nicht verstehen, wie sie ausgenutzt werden, andererseits.
Was ist das dritte Problem?
Das dritte Problem ist der Midas-Effekt. Der besagt: Selbst, wenn die Maschinen genau das tun, was wir uns wünschen und dabei noch fair und gerecht handeln, kann das böse in die Hose gehen. Weil wir nämlich die Nebeneffekte nicht berücksichtigt haben. So wie der Sagenkönig Midas, der sich wünscht, dass alles, was er berührt, zu Gold wird. Sein Wunsch wird wahr – doch Midas verwandelt dabei seine Tochter versehentlich in eine goldene Statue und verhungert fast.
Er trifft eine Entscheidung, die ihn in letzter Konsequenz umbringt.
Ein ähnliches Problem erleben wir gerade mit dem Klimawandel. Die Menschheit hat durch die Industrialisierung Reichtum und Luxus erlangt. Aber dafür zahlen wir einen Preis. Erst jetzt merken wir: Die Welt wird wärmer, das Wetter gerät außer Kontrolle, das Wasser wird knapp. Der Klimawandel entwickelt eine Dynamik, die sich kaum noch stoppen lässt – das Gleiche gilt für künstliche Intelligenz. Solche Probleme sind am schwierigsten zu lösen. In der Biotechnologie ist uns das recht gut gelungen, Biowaffen werden international geächtet. Auch in der Medizin, hier wird zumindest viel diskutiert. Wir müssen eine ähnliche Diskussion auch über künstliche Intelligenz führen.
In Tom Hillenbrands "Hologrammatica" löst eine KI das Problem des Klimawandels sehr effizient – aber die Menschheit ist über das Ergebnis alles andere als erfreut...
Ich habe das Buch auch gelesen. Das ist das sogenannte Kontrollproblem. Wenn eine Maschine intelligenter ist, als ein Mensch – ja, dann haut sie den Menschen eben übers Ohr, um ihr Ziel zu erreichen. Es gibt genügend Experimente, die zeigen, dass Maschinen da auf allerlei faule Tricks kommen.
Sie schreiben viel für Jugendliche und haben auch selbst Kinder. Was möchten Sie der nächsten Generation zum Thema KI mit auf den Weg geben?
Ganz wichtig ist mir, dass sich die nächste Generation für das Thema interessiert. Auch wenn es vielleicht so klingt: Künstliche Intelligenz ist nichts Schlechtes, ganz im Gegenteil. Mehr Intelligenz kann uns nicht schaden. Das Problem ist die menschliche Dummheit. Wenn wir nicht vorsichtig sind, wird es schief gehen. Vielleicht brauchen wir tatsächlich Maschinen, die gute Lösungen für unsere Probleme finden – ich habe da durchaus Hoffnung. Aber die Voraussetzung ist, dass junge Menschen die Maschinen nicht nur nutzen, sondern auch verstehen.
In Ihrem Buch gibt es virtuelle Assistenten, so genannte Dschinns, die von realen Menschen kaum zu unterscheiden sind. Was meinen Sie: Wann ist es soweit?
Das ist nichts anderes als eine Alexa oder Siri, die mit einer Animation versehen wurde. Da sind wir nah dran. Google hat gerade ein Start-up gekauft, das Virtual-Reality-Brillen herstellt. Auch wenn der erste Versuch von Google gefloppt ist, ist es einfach naheliegend, dass wir eines Tages mit VR-Brillen herumlaufen werden, statt auf einen Monitor zu schauen.
Was denken Sie: Sollten fühlende und denkende Androiden auch Persönlichkeitsrechte besitzen?
Die Frage ist für mich nicht ob, sondern wann. Es ist für mich völlig klar, dass es in Bezug auf die Moral keinen prinzipiellen Unterschied gibt zwischen einem simulierten Wesen, das die Komplexität eines menschlichen Gehirns hat, und einem biologischen Wesen. Wenn ich einem Menschen, der Gefühle hat, bestimmte Rechte zubillige, dann muss ich diese Rechte auch der Maschine zubilligen – sofern sie ein vergleichbar komplexes Innenleben hat und zum Beispiel leiden oder Angst empfinden kann.
Ich kann mir gut vorstellen, dass es zumindest Menschen geben wird, die der Ansicht sind, dass man eine Maschine nicht quälen oder einfach abschalten darf. Vielleicht nehmen sich die Maschinen solche Rechte auch selbst.
Aber simuliert eine Maschine Gefühle nicht nur?
Was ist denn ein Gefühl? Hat der Regenwurm Gefühle? Wenn ich drauftrete, windet er sich und versucht, zu fliehen. Der Regenwurm hat kein Ich-Bewusstsein, aber irgendwas passiert da in seinem Inneren. Einen solchen Regenwurm am Computer zu simulieren, ist trivial.
Aber der Unterschied ist eben, dass der Regenwurm simuliert ist.
Wo ist der Unterschied zwischen einer digitalen und einer biologischen Verarbeitung von Nervenimpulsen? Zumal im Gehirn eines Lebewesens genauso elektrische Impulse verarbeitet werden – nur mit anderen „Drähten“. Man merkt daran: Ich bin ein Materialist, ich glaube nicht an eine übernatürliche Seele. Der Unterschied zwischen einem Menschen, einem Baum und einem Haufen Geröll ist nur die Anordnung der Atome. Nur die Struktur unterscheidet sich. Diese Struktur kann sich auch in einer Maschine wiederfinden. Es wird Maschinen geben, die Gefühle haben. Ein simuliertes Wesen würde unter Umständen gar nicht wissen, dass es simuliert ist. Die moralische Unterscheidung zwischen „simuliert“ und „aus Fleisch und Blut“ entspringt meiner Meinung nach einer antiquierten Sichtweise.
In Neopolis können die Menschen zwischen Realität und Virtualität kaum noch unterscheiden, da sie die ganze Zeit VR-Brillen tragen. Glauben Sie wirklich, dass Menschen so leben wollen?
Es gibt schon jetzt eine Gegenbewegung. Die Leute interessieren sich für den Wald, lesen die Bücher von Peter Wohlleben, schalten ihr Handy aus und meditieren fleißig. Das ist auch gut so. Aber das heißt noch lange nicht, dass sie ihr Handy wegschmeißen. Technologie ist verführerisch. Apps sind so programmiert, dass sie süchtig machen. Wir werden uns alle vornehmen, uns weniger mit unseren Handys und Holobrillen zu beschäftigen und werden diese Vorsätze trotzdem regelmäßig in den Wind schießen.
Weitere Hörbücher wie Neopolis entdecken
Von KI bis Gentechnik – auch in diesen packenden Science-Fiction-Hörbüchern spielen Naturwissenschaften die heimliche Hauptrolle.
