Ethische Autos oder streunende Roboter im öffentlichen Raum?
Verblüffend, dass die „Ars Electronica“ ihr Thema „Post City– Lebensräume im 21. Jahrhundert“ mit einem silbrigen Automobil und einem weißen Mann illustriert: Also, die Zukunft der Stadt ist dem Auto geweiht und männlich. Gegenüber sitzen sich Auto ohne Fahrer und meditierender Mann, der unverständlich am Grill fummelt. Was ist dort, wo vor ca. 100 Jahren die Kurbel zum Starten der Motorkutschen gedreht wurde? Das wird sich wohl bis zum Ende des Artikels klären lassen.
Während dieses Sujetbild hoffentlich nicht die Vision der Ars zur Zukunft der Stadt ist, werden durch dieses glatte Marketing-Bild reale Städte höchst simplifiziert dargestellt: Vielfältige urbane Lebensräume sind in autonome Autos komprimiert! Dies provoziert viele verschiedene Fragen, hier wird einigen ausgewählten nachgegangen werden: Was für eine Art Roboter ist ein autonomes Auto? Hat die Automobilindustrie urbanistische Ziele? Was können Entwicklung und Ziele für unsere öffentlichen Räume bedeuten?
Roboter-Autos sind bereits in einigen US-amerikanischen Bundesstaaten im Verkehr zugelassen und die europäische Automobilindustrie bringt längst ihre Entwicklungen zyklisch auf den Markt. Es geht also kaum um Zukunft, sondern vielmehr um Gegenwart: Wir erleben in der Diskussion zu selbstfahrenden Autos eine Neuauflage uralter Irrationalitäten rund um den Individualverkehr. Das Interessante daran ist, wie mit dem gegenwärtigen technologischen Wandel der kulturelle Kontext transformiert werden wird und in neue soziale Konsequenzen mündet.
Verinnerlichte blinde Flecken
Auto ist synonym mit großer Freiheit – das weiß jedes Kind. Der freie Wille eines Individuums aktualisiert sich in freier Fahrt – im Schilderwald, am linearen grauen Band, umzingelt von Vorder-, Neben- und Hinterfahrzeugen. Lateraleffekte dieser Freiheit sind Distress, Umweltverschmutzung durch Abgase und Lärm, sowie die Versiegelung der Böden für Verkehrsflächen. Das umfasst längst nicht alle Probleme, die Automobile erzeugt haben, aber zwei sind noch besonders heraus zu heben: Verlust von riesigen Flächen an öffentlichem Raum und der niemals stattgefundene Ausbau von öffentlicher Verkehrsinfrastruktur in den meisten Regionen. Zwei Beispiele für diese blinden Flecken, finden sich in direkter Umgebung des Ars Electronica Centers. Die riesige Fläche des Urfahraner Jahrmarktgeländes ist die längste Zeit des Jahres Parkplatz und nicht Naherholungsfläche in zentralster Lage mit großartiger Aussicht auf den Fluss. Weiters die von der Bevölkerung seit Generationen verinnerlichte Unterversorgung mit öffentlichem Verkehr in der an sich reichen Region Oberösterreich1.
Wollt ihr die totale Steuerung?
Was an den Motordroschken im Vergleich zu Pferdedroschken das Besondere war, wurde mit dem Präfix „auto-“ ausgedrückt. Auto steht hier für „selbst“, denn das leblose Vehikel bewegte sich selbst, ohne lebendige Muskelkraft eines Tieres. Das ist kein Naturgesetz, sondern ein kultureller Automatismus in den vom westlichen Denken geprägten Gesellschaften. Hier verläuft technologische Entwicklung vom Ersetzen einer Muskel-Kraftquelle zum Selbstantrieb durch technologische Energieumwandlung, gefolgt vom Ersetzen der manuellen Bedienung bis zu anfangs teil-, und schließlich vollautomatisiert gesteuerten und schließlich autonomen Maschinen2.
Heute behaupten einige Autoproduzenten, dass ihre selbstfahrenden Vehikel zur Marktreife entwickelt sind. Als Ziele nennt die Industrie genau wie am Beginn der Entwicklung in den 1930er Jahren: Steigern von Sicherheit, Geschwindigkeit und Vermeiden von Staus. Diese können als urbane Ziele gelten und sind für viele Menschen wichtig. Dennoch sind sie recht bescheiden im Hinblick auf die Komplexität der Städte, und der von Autos verursachten Probleme.
Die Entwicklungen zum Selbstfahren folgen grob drei Fragen, die sich teilweise ergänzen, aber auch gegenseitig behindern: Wie mehr Menschen in weniger Vehikeln transportieren? Soll die Straße oder das Vehikel die Selbstfahr-Technologie aufnehmen? Soll das menschliche Fahren unterstützt oder komplett ersetzt werden durch technologische Steuerung? Die ersten beiden Fragen sind aus Industriesicht nicht so wichtig. An letzterer aber entzündet sich heftige Konkurrenz.
Die diversen Entwicklungen der Konkurrenten in der Automobilindustrie unterscheiden zwischen Assistenz- und Automatisierungssystemen. Längst am Laufen ist, dass konventionelle hochpreisige Autos mit jeder Saison zunehmend mehr Selbstfahr-Technologie eingebaut bekommen: Spur halten, Selbstparken, Staufahren, Bremsen in Notfällen3.
Gegen diese Richtung wird argumentiert, dass autonome Autos viel sicherer fahren als Menschen. Zunehmender Verkehr, mehr Reglementierungen und mehr Ablenkung durch Medien macht Fahren gefährlicher: Steuerung muss autonom werden4.
Automatisierte Ethik
Die Vorteile eines Roboter-Autos wären schon auf den ersten Blick eindeutig: Es fährt deshalb sicherer, weil der Computer nicht ermüdet, viel schneller reagiert, sich immer an die Verkehrsregeln hält, und wenn die Karten genau genug sind und ein entsprechendes Netzwerk vorhanden ist, auch vorausschauend fahren kann wie es menschlichen Sinnen unzugänglich ist.
Aber Steuern ist generell keine objektiv entscheidbare Angelegenheit – das gilt umso mehr in unvermeidbaren Gefahrensituationen. Roboter-Autos fahren auch deshalb sicherer, das wird suggeriert, weil sie in Gefahrensituationen so entscheiden können, dass der geringste Schaden entsteht. Um richtig zu reagieren, können diese Automaten vor ihren Handlungen noch allerlei Informationen über die gefährliche Situation mit einbeziehen, die Menschen in den unendlich kurzen Entscheidungszeiträumen vor einem Unfalls verschlossen sind. Der Roboter kann mögliche Arten von Handlungen und die verschiedenen möglichen Ergebnisse seiner Handlungen im Voraus errechnen. Unfall-Optimierung ist ein neues Forschungsgebiet, in dem die Philosophie der Ethik eine eminente Rolle spielt5: Ein Auto soll unter anderem ausweichen können. Selbstredend setzt man die Priorität des Roboter-Autos so, dass erst Menschen, dann Autos auszuweichen ist. Aber autonomes Steuern wird in Problemsituationen geraten, die für Maschinen völlig neu sind. Ein alter Mann und ein Mädchen überqueren plötzlich die schmale Fahrbahn einer Brücke. Der Bremsweg ist zu kurz, ausweichen unmöglich: Wen soll das Auto überfahren oder soll es das Geländer durchbrechen und den Fahrer in den Fluss stürzen?
Roboter-Autos können unterscheiden, ob ein Radfahrer einen Helm trägt oder ob ein entgegenkommendes Auto ein Lastwagen oder ein leichtes Wägelchen ist. Ein autonomes Auto würde eher den helmtragenden als den nicht helmtragenden Radfahrer anfahren – ersterer hat bessere Überlebenschancen. Das Unfall-Optimierungssystem des Wägelchens würde sich nicht für den Lastwagen als Crashpartner entscheiden, sondern für den Radfahrer. Oder würde es das Leben der FahrerIn riskieren, um das Leben des Unbekannten zu retten? Fußgänger und Zweiräder werden im automatisierten Verkehr der autonomen Vehikel zu einem unlösbaren Problem. Sie sind unter höchste Restriktionen zu stellen und werden einfach höhere Versicherungsraten zahlen.
Die Industrie wird es sich leicht machen, die Verantwortung an die Konsumenten abgeben und unterschiedliche Ethik-Systeme anbieten. Vorstellbar sind etwa vielleicht tierlieb vegane, achtsam buddhistische oder Ethik-Systeme nach dem Ego-Shooter-Prinzip. Eine andere Form von Willkür-Ethik wäre die Zufallsentscheidung, wozu lange rechnen – einer hat immer das Bummerl.6
Diese Überlegungen, welche Ziele Priorität haben und welche unter allen Umständen zu vermeiden sind, haben große Ähnlichkeiten mit dem Konzept vom Zielalgorithmus eines autonomen, militärischen Waffensystems. Eine autonome Roboter-Waffe, "once activated, can select and engage targets without further intervention by a human operator.” Ganz wie ein Roboter-Auto autonom den Hergang eines Unfalls optimiert, indem es sein Ziel auswählt. Die Forschung zu autonomen Waffen wurden 2012 mit der „directive 3000.09“ US Department of Defense, für 10 Jahre ausgesetzt.7
Parallel zu automatisierten Arten der Steuerung werden Autos auch zu Medien-Plattformen - vergleichbar zu Smart Phones - entwickelt und entsprechend personalisierbar. Autos zu hacken wird viele einsichtige Gründe haben: vom Auffrisieren bis zum Unterbinden lästiger Sicherheitselemente, vom banalen Diebstahl über den automatisierten Flashmob bis hin zur Verwendung als Waffe8.
Sharing, Arbeitsplätze, Mehrwert, Öffentlicher Raum
Autonome Autos werden, nicht nur auf den Verkehrsraum, sondern den öffentlichen Raum im Allgemeinen Wirkungen haben, die weit über die Verantwortbarkeit und Möglichkeiten der Industrie hinausgehen. Sie betreffen alle öffentlich-rechtlichen Angelegenheiten des öffentlichen Raums und der Entwicklung der Transportsysteme, bis in die grundlegenden Fragen der Raumordnung. Diese Technologie hat das Potential, alle positiven wie negativen Wirkungen der Automobilität enorm zu steigern und zusätzlich neue Wirkungen zu evozieren. Die automobilarmen öffentlichen Räume werden Vergangenheit bleiben.
Ein mögliches Szenario wäre der komplette Verzicht auf den Individualbesitz von Autos, diese wären zu mieten oder zu sharen. Simulationen zeigen, dass so 90% der Autos und der komplette öffentliche Verkehr verschwinden würden. Das kann nicht im Sinn der Autoindustrie sein. Aber diesbezüglich besteht ohnehin keine Gefahr9.
Roboter-Autos sind vor allem für das Ersetzen der menschlichen Arbeitskraft interessant. Deshalb werden autonome Autos für alle Arten von Transportdienstleistungen entwickelt. Dies wird Arbeitsplätze zerstören, die mit einer Verzögerung von 5-8 Jahren dann hoffentlich irgendwo anders wieder zur Verfügung stehen. Die nötige Zwischenfinanzierung der Arbeitskräfte übernehmen die Kommunen. Wer aber erntet den Mehrwert der Technologie? Die Schere zwischen Produktivität und Einkommen geht in der westlichen Welt zunehmend weiter auf, sodass technologische Innovation nicht mehr zur Steigerung des Wohlstandes für alle führt.
Das bleibt solange sekundär, als genügend Menschen verführt oder gezwungen werden, Autos zu kaufen. So ist eher zu erwarten, dass die Mehrzahl der AutofahrerInnen, im Speckgürtel des Planeten, sich für den individuellen Besitz eines Roboter-Autos entscheiden wird. Aber Achtung, man wird in der autonom-automobilen Zukunft nicht mehr von AutofahrerInnen sprechen – denn ein Führerschein wird nicht mehr nötig sein. Vollautomatisierung macht völlig neue Kundenschichten zugänglich, von denen die Industrie zuvor nicht zu träumen gewagt hätte: Menschen mit besonderen Bedürfnissen, wie etwa Blinde, können dann selbstständig unterwegs sein – aber natürlich auch jede VolksschülerIn, Teenager und jede SeniorIn aus wohlhabendem Haus.
Tatsächlich ist bei vielen Konzepten zum autonomen Fahren das Eliminieren des öffentlichen Verkehrs Programm. Autonome Autos kann man auch nutzen, um lästige Erledigungen aller Art zu delegieren. Eines der frühen Roboter-Autos wurde zum Pizza Abholen entwickelt – nicht zum Liefern. Das hat Google inspiriert, in den Industriezweig einzusteigen. Drive-In Märkte für alle Branchen würden das Problem des Auslieferns auf den Kopf stellen: Das Päckchen der Post, der Wocheneinkauf, die schnelle Flasche Sekt und die Materialien für die Wochenendbastelei, alles wird vom Auto autonom erledigt.
Wenn das Auto so schön selbstständig ist, wozu Parkplatz suchen? Beim Meeting im Innenstadtcafe, beim Shoppen im Vorstadt-Outlet – immer ist der Parkplatz zu weit weg. Während man mit Wichtigerem beschäftig ist, kann das autonome Auto alleine durch die Gegend streuen. Wenn man es wieder braucht, ruft man es mit dem Smartphone zurück10. Im Bundesstaat Nevada wurde schon 2012 das erste Roboter-Auto zugelassen. Dort hat man sich ein spezielles Symbol für die Nummerntafeln ausgedacht, dass auf die Autonomie des Autos hinweisen soll – das Unendlichkeitssymbol.
Wird die Post City Platz haben für autonome Menschen?
Die Ars Electronica hilft mit, uns mit der neuen Technologie vertraut zu machen und latentes Begehren zu wecken11. Die urbanistischen Ziele der Automobilindustrie sind durchaus brauchbar – aber seit den 1930er Jahren nicht erreicht worden – denn letztlich sind sie Wachstumsmotoren. Für die Industrie sind heute Ziele wichtiger, die noch mehr Wachstum versprechen: Erhöhung der Kapazitäten von Verkehrs- und Parkraum durch Beschleunigen und Verdichten von Verkehr, Einsparung von Arbeitsplätzen, die automatisierte Erhebung von Marketingdaten und das Erschließen von neuen Kundengruppen. Zerstörung von Natur, Wirtschafts- und Gesellschaftsstrukturen wird allerdings neue Dimensionen annehmen12.
Wo ist die Forschung an automobiler Energieautonomie, wo sind die geräuschlosen und die schrumpfbaren Autos und wo die öffentlichen Verkehrssysteme, die weniger dichte Regionen flächendeckend versorgen können?
Raum und Autonomie stehen in beklemmend engem Verhältnis: Wie kommuniziert ein solches Roboter-Vehikel mit Nicht-Robotern, wie etwa dem Menschen? Der eingangs besprochene Luxusschlitten hat dafür eine besondere Funktion, die am Sujetbild unsichtbar bleibt. Dort, wo früher die Kurbel zum Starten des Autos angebracht wurde, befindet sich heute ein Beamer, der einen Zebrastreifen auf die Fahrbahn projiziert. Am Sujetbild wartet der sitzende Mann wohl auf die Projektion dieses Zebrastreifens und versucht die Beameroptik zu reinigen, damit er endlich weitergehen kann. Ist das nicht schön, wenn man so wohlbehütet im öffentlichen Raum unterwegs sein kann? Nein! Sicherheit wird nur für diese speziell markierten Korridore gewährleistet sein. Damit haben Roboter-Autos das Potential, die Idee vom öffentlichen Raum zum Konzept für die Sicherheitszone von Autos zu machen. Denn alle anderen Verkehrsteilnehmer werden zu Sicherheitsrisiken abgestempelt. Der öffentliche Raum steht in Gefahr, in Sicherheit-Korridore zu zerfallen, die streunende Roboter willkürlich freigeben. Bei der Ars Electronica könnte man jetzt schon beginnen, mobile Schutzzonen für autonome Menschen zu entwickeln.
Viele Fragen stellen sich dem Menschen nun, als potentiellem Ziel der Ethik eines Zielalgorithmus: Ist es nötig, eine digitale Präsenz im Verkehrsnetzwerk zu haben? Wenn ja, habe ich als Fußgänger eine höhere Sicherheit mit einer Repräsentation als Mensch, als Kinderwagen oder als 100t-Laster? Und, wenn man in der Post City der Zukunft keinen Führerschein mehr braucht, wird dann der Waffenschein gefordert werden?
Literatur
Klaus Mainzer, Leben als Maschine? Von der Systembiologie zur Robotik und Künstlichen Intelligenz. ISBN 3897857146.
Mona Singer (Hg.) Technik & Politik. Technikphilosophie von Benjamin und Deleuze bis Latour und Haraway. ISBN 978-3-85409-721-1.
Oliver Schürer, Automatismen und Architektur; Medien, Obsessionen, Technologien. Springer, ISBN: 978-3-99043-217-4.
Links
Ethik:
http://www.wired.com/2014/05/the-robot-car-of-tomorrow-might-just-be-programmed-to-hit-you/
http://phys.org/news/2015-06-self-driving-car.html
Autonome Waffen:
http://www.theverge.com/2014/1/28/5339246/war-machines-ethics-of-robots-on-the-battlefield
http://futureoflife.org/AI/open_letter_autonomous_weapons
10 Jahre Bann autonomer Waffen, directive 3000.09: http://www.dtic.mil/whs/directives/corres/pdf/300009p.pdf
Neue Formen Verkehr:
http://www.citylab.com/commute/2014/04/will-world-driverless-cars-be-heaven-or-hell/8784/
https://medium.com/the-ferenstein-wire/futuristic-simulation-finds-self-driving-taxibots-will-eliminate-90-of-cars-open-acres-of-618a8aeff01
1Damit ist die Benutzung von Autos für viele unumgänglich gemacht und als „natürlich“ akzeptiert. Gleich vorweg: Keines dieser Probleme ist Thema der Entwicklung von selbstfahrenden Autos.
2 Genauso wie „Internet“ eine Worthülse für die Automation bestimmter Arten von Kommunikation in Ökonomie, Politik, Berufs- und Privatleben bedeutet, ist digitale Steuerung eine Bezeichnung für die Automation der Optimierung und Logistik der Infrastrukturen der zeitgenössischen Gesellschaften.
3 Diese Gegenwart der Selbststeuerung ist längst Alltag und sie kommt so quasi-natürlich mit jeder neuen Auto-Saison, dass wir sie kaum wahrnehmen.
4 Wieder einmal in der Geschichte der Entwicklung menschlicher Technologien wird behauptet, die menschlichen Fähigkeiten können mit den technologischen nicht mehr mithalten. Das ist die seit der Antike gepflegte, alte europäisch-anthropologische Trope vom Menschen als Mangelwesen. Bitte um eine Schweigeminute für die gebeutelte Spezies. Ein möglicher Lösungsansatz für das behauptete Problem ist noch mehr Technologie.
5 Die drei berühmten Robotergesetze von Isaak Asimovs sind für Spekulationen im Weltraum ok, aber viel zu einfach für die automobilisierte Wirklichkeit.
6 Das Problem mit ethischen Problemen ist, dass man niemals den Umfang der möglichen Fälle im Voraus feststellen kann.Nicht entscheidbare ethische Dilemmata kann man auch ins Absurde führen.
7Autos betrifft der Bann natürlich nicht.
8 Welche Art von Autonomie diese selbstfahrenden Roboter bekommen, wird sehr unterschiedliche kulturelle und soziale Wirkungen zeigen. Um ethisch Entscheidungen autonom fällen zu können, müssten Roboter und andere autonome Maschinen, eine Eigenwahrnehmung in dem Sinn aufweisen, als dass eine Maschine sich als bewusste Entität in einer bestimmten Umgebung beobachten kann. Roboter, die lediglich elaborierte Auftrags-Schemata ohne Eigenwahrnehmung abarbeiten, würden Kaskadeneffekte erzeugen, die ihren eigentlichen Auftrag ins Groteske steigern und dabei sehr gefährliche soziale und ökonomische Situationen erzeugen würden.
9 Sharing meint nicht teilen, sondern ist ein mit Social Media in Mode gekommener Marketing-Begriff, der auch für die Nutzung von autonomen Autos intensiv diskutiert wird. In den USA hat car sharing in den meisten Gebieten wenige Chancen. Die Benzinpreise sind zu niedrig und die Besiedlungen zu wenig dicht. Außerdem macht das die Arbeitskraft teuer, die beruflich Vehikel steuert.
10 Sollten sich Spritpreis und Parkpreis weiter negativ verschieben, könnte das auch noch neben der bequemeren die billigere Alternative zum Parkplatzsuchen sein. Endlich kann mein Auto Tag und Nacht für mich unterwegs sein!
11 Dabei werden Begriffe wie Automat, Roboter und künstliche Intelligenz von den Betreibern der Technologie vermieden. Ein viel besseres Image haben Begriffe wie Autonomie, Selbstfahren und Maschinenlernen (ein Subgebiet der künstlichen Intelligenz Forschung.
12 Die Autonomie von Autos betrifft lediglich Steuerung und nicht löst kein einziges Problem, das Autos verursacht haben. Neben einigen wenigen Vorteilen werden sie die bestehenden Probleme mit Autos potenzieren.
