Die Magie der Ethikbremse

Auf Google Plus entstehen immer wieder nette Diskussionen auf dem Niveau derer des Usenet damals, was wahrscheinlich daran liegt, dass meine Filterblase hauptsächlich aus alten Usenet-Veteranen besteht. Diese Diskussionen sind also nicht zwangsläufig nett, sondern eher zwangsläufig nerdig. Zum Google-Auto gab es eine große Medienkritik, und wie zu jeder Diskussion um autonome Autos stellte sofort jemand die Frage nach der „Ethikbremse„, wie sie Kristian Köhntopp nannte. Normal intelligente Menschen gehen statistisch bemerkenswert gehäuft davon aus, dass ein Autonomobil moralische Entscheidungen treffen kann, wird, ja: muss. Diesen Sachverhalt legte ich wie versprochen bei Daimlers zweiter Diskussionsrunde „Future Talk“ Experten vor, bei der es um Mensch-Maschine-Kommunikation im Kontext „autonome Fahrzeuge“ ging.

Die vorherrschende erste Reaktion war Unverständnis. Wer sich in der Praxis mit Unfallhergängen beschäftigt, sieht aus den Daten, wie klein das Zeitfenster ist. Entscheidungen in diesen Zeitfenstern sind sehr schlicht, weil sie sehr schnell passieren müssen. Meistens geht es primär darum, so viel Energie abzubauen wie noch möglich. Das ist eine einfache Entscheidung, die auf absehbare Zeit, teilweise schon heute eine Maschine schneller und damit besser umsetzen kann als ein Mensch. Eine Bewertung der Lebenswertigkeit von Menschen kann nicht einmal ein Mensch mit aller Zeit der Welt vornehmen. Ein automatisches System versucht es deshalb erst gar nicht. Beispiele von Ethikbremsen verwenden daher gerne Mengen, weil die einfacher sind. Ein voller Schulbus versus ein einzelner Mensch in einem Kleinwagen. Sowas.

Der Glaube kann Berge versichern

Diese Situationen sind allerdings auch nur so lange leicht, wie sie theoretisch bleiben. Im konkreten Fall kann es durchaus sein, dass der Schulbus die Variante ohne Opfer werden würde, während der Kleinwagen-Insasse durch die Art des Aufprallwinkels in Verbindung mit seinem Griff zum Kaffee verstirbt. Andere Denkschulen der Ethikbremse glauben, dass Autos dann Versicherungspolicen nachschlagen, um den billigsten Unfall zu wählen. Das operative Wort hier ist „glauben“, denn in den ersten zehn Generationen solcher Autos sehe ich die Zeit nicht, schnell noch Tarife nachzuschlagen. Schon die rein mechanisch-hydraulische Reaktionszeit einer Bremsanlage liegt bei einigen Dutzend ms.

Wie weit letztendlich ethische Überlegungen in der Auslegung der Roboterautos in ferner Zukunft gehen, ist von heute aus nicht zu extrapolieren. Was mich an der ganzen Diskussion stört, ist die Ebene, auf der sie stattfindet, denn das ist die Ebene des Einzelfalls. Es ist letztendlich nämlich unwichtig, wie das Beispiel mit dem Schulbus und dem Kleinwagen ausgeht, denn je konstruierter das Beispiel, umso unwahrscheinlicher ist die Realität ihres Eintreffens. Ein Autonomobil muss sich nicht am Stauende hinter einer Autobahnkurve zwischen verschieden besetzten Fahrzeugen entscheiden, denn es weiß lange vorher, dass sich dort ein Stau gebildet hat. Es kann Kilometer vorher bremsen oder die Autobahn verlassen. Und bei in Zehntelsekunden eintretenden Unfällen gibt es eh praktisch keine Entscheidungsoptionen. In der Realität ist die Ethikbremse irrelevant. Sie existiert nur in weitestgehend ziellosen Diskussionen. Relevant ist nur, ob autonome Autos unser Leben insgesamt besser machen.

Fassadenverpixler, die Facebook-Lebensereignisse nachtragen

Die Ebene, auf der die Diskussion sinnvoll wird, ist deshalb die der Gesellschaft: Wird unsere Lebensqualität mit autonomen Autos höher als ohne? Fast alle Datenpunkte sprechen dafür. Wir erhalten mehr Sicherheit, mehr Vorhersehbarkeit, mehr Effizienz und vor allem mehr Bequemlichkeit, diesen größten Treiber jeden Fortschritts. Wir bezahlen das hauptsächlich durch noch mehr Datenerhebung, aber wenn ich sehe, wie selbst Fassadenverpixler ihre „Lebensereignisse“ auf Facebook aufwendig von Hand nachtragen, fällt es mir schwer, darin einen echten Dämpfer der Entwicklung zu sehen.

Die Frage, die ich daher in der Folge spannend fand: „Wieso ist die Ethikbremse so zentral in der Diskussion um das autonome Auto?“ Die Antwort der Experten aus der Forschung und Entwicklung bei Daimler waren drei Mal prinzipiell gleich: Weil die meisten Leute nicht verstehen, worum es geht. Am eloquentesten hat es Alexander Mankowsky formuliert, wahrscheinlich, weil er so viel und gern redet: „Die meisten Menschen verstehen Technik nicht, vor allem verstehen sie keine Algorithmen. Aus diesem Unverständnis sprechen sie Maschinen magische Eigenschaften fernab der Realität zu, wie zum Beispiel die Fähigkeit, in Millisekunden den Wert von Menschen und den zukünftigen Verlauf des Unfalls zu errechnen. Das autonome Auto wird dadurch in der Vorstellung regelrecht dämonisch.“

Für Neugierige gibt es deshalb einen einfachen Weg, die Ethikbremse zu lösen: Information. Jede Maschine verliert ihre dämonische Aura im selben Maße, wie das Verständnis über sie steigt. Neugierige müssen sich jedoch damit abfinden, dass die Mehrzahl der Menschen nicht besonders neugierig ist. Aber das ist egal, denn bequem sind wir alle, und Bequemlichkeit wird letztendlich dafür sorgen, dass Roboter in alle Lebensbereiche vordringen, nach der Industrie jetzt in den Verkehr. Ich selber möchte auch die Bequemlichkeit bemühen und mich hiermit aus den stets ziellosen Ethikbremsen-Diskussion zurückziehen. Liebe Mitbequemen: Wir sprechen uns wieder, wenn dich dein Auto bei Wein und guter Literatur sanft, zügig und sicherer als jemals nach Hause bringt. Das kann uns als Gesellschaft die eine oder andere von Maschinen getötete Busladung Kinder wert sein, denn sind wir mal ehrlich: Ohne Maschinen töten wir viel mehr.

Bilder: Daimler