Schwarmintelligenz im Straßenverkehr

Seit Jahren wird an autonomen Autos geforscht, ständig gehen mehr oder weniger plausible Vorhersagen durch die Medien. Das Auto von morgen werde vollautonom sein, Verkehrssituationen mindestens so gut wie menschliche Fahrer einschätzen, die technischen Möglichkeiten der jeweiligen Fahrzeuge besser ausnutzen, keine Fahrfehler machen. So ziemlich alles werde automatisiert geschehen, sogar Werkstatttermine könnte so eine Wundermaschine selbständig organisieren.

Das Auto von morgen wird natürlich voll vernetzt und allezeit online sein. Es wird ständig mit anderen Verkehrsteilnehmern kommunizieren, und die Flotte wird so den Verkehrsfluss nach vorher festgelegten Kriterien optimieren, sei es nach Energieverbrauch, Geschwindigkeit, Verkehrsfluss, Sicherheit nicht vernetzter Fußgänger, was weiß ich.

Und es kommt ganz bald, nicht in 15, nicht in 10, sondern ganz speziell nur für Sie heute schon in 5 Jahren lassen wir uns alle locker und entspannt in preiswerten, überall reichlich verfügbaren, großzügig ausgestatteten autonomen Fahrzeugen jederzeit über sonnendurchflutete fast leere Straßen überall hin kutschieren, wahlweise im eigenen Privatfahrzeug oder im Rahmen großangelegter plattformübergreifender Mobilitätskonzepte. Gebucht, gesteuert und abgerechnet wird das ganz einfach über eine intuitiv zu bedienende App im Smartphone.

Mal ganz von datenschutzrechtlichen Fragestellungen abgesehen – will ich, dass jede meiner automobilen Bewegungen aufgezeichnet und für wer weiß wen auswertbar sein wird, will ich zum „gläsernen Bürger“ werden? – und ebenfalls abgesehen von allgemeinen sicherheitstechnischen Überlegungen – kann mein Fahrzeug gehackt und gegen meinen Willen von außen gesteuert werden, was dann interessante Erpressungsfälle denkbar macht – „Zahlen Sie jetzt, sonst fahren Sie gegen die Wand!“ – wirft das noch eine interessante Frage auf.

Die Autos werden für manche Aufgaben sicher mit künstlicher Intelligenz ausgestattet sein, es werden vermutlich auch Maschinenlernkonzepte eingesetzt, neuronale Netzwerke aufgesetzt. Von denen weiß letztlich niemand, wie sie funktionieren bzw. wie sie das lernen, was sie lernen, oder warum sie entscheiden wie sie entscheiden. Es sind Black Boxes, deren Entscheidungswege in der Regel nicht nachvollziehbar sind.

Wenn sich nun viele solcher Black Boxes zu Schwärmen zusammenschalten und gemeinsam den Verkehr steuern, entsteht dabei eine Art Super-Black-Box, deren Verhalten noch weniger vorhersagbar sein dürfte als das der für sich genommen ja schon undurchsichtigen einzelnen Boxes.

Dabei ist es sicher nicht undenkbar, dass diese blackboxgesteuerte Flotte bestimmte Aufgaben anders lösen würde als das vorher gedacht war (in diesem Artikel finden sich ein paar Beispiele dafür). Ab einem bestimmten Niveau könnte es auch zu einer Art Value Drift kommen (dass künstliche Intelligenz „mogelt“, ist schon vorgekommen, und auch wenn das eher ein Problem unpräzise formulierter Aufgabenstellung als maschineller Böswilligkeit war, können solche Effekte ganz unerwartet auftreten und u.U. beträchtliches Schadpotenzial entfalten). Das könnte dann zu unvorhergesehenen Verhaltensweisen einzelner Fahrzeuge oder der Flotte als ganzes führen. Wie verhindert man das, und wie geht man damit um, wenn es doch passiert? Gäbe es eine Art Notaus-Schalter? Eine Art „sicheren Modus“ wie bei Windows nach bestimmten Sorten von Absturz?

Wie ein Schwarm insgesamt schlauer sein kann als seine Mitglieder, kann man in Wiktor Pelewins Generation P nachlesen (sowieso lesenswert als Momentaufnahme Russlands in den frühen 90er Jahren, als eine realsozialistisch sozialisierte Bevölkerung am tiefen Ende ins kapitalistische Aquarium gekippt worden war).

Und zweitens wäre es denkbar, dass man die Flotte hacken kann, indem man einzelne Fahrzeuge durch geschickte Ausnutzung der einprogrammierten Regelwerke zu bestimmten Verhaltensweisen zwingt, die dann – wie Stauwellen auf der Autobahn – andere Fahrzeuge in der Nähe ebenfalls beeinflussen und dann unvorhergesehene und unerwünschte Folgen haben? Diese Art Bugs und Hacks hat Terry Pratchett am Beispiel der Klacks-Türme in Ab die Post (Going Postal) anschaulich beschrieben. Mit wachsender Komplexität der beteiligten Systeme dürfte es mehr entsprechende Möglichkeiten geben. Leute, die solche Schwachstellen finden und ausnutzen bzw. an den Meistbietenden verkaufen, gibt es auch mehr als genug.

Also, mir wäre unwohl dabei, unter diesen Bedingungen das Steuer an eine völlig undurchschaubare Maschine mit nicht absehbaren Schwachstellen abzugeben…