Schwarmintelligenz im Straßenverkehr

Seit Jahren wird an autonomen Autos geforscht, ständig gehen mehr oder weniger plausible Vorhersagen durch die Medien. Das Auto von morgen werde vollautonom sein, Verkehrssituationen mindestens so gut wie menschliche Fahrer einschätzen, die technischen Möglcihkeiten der jeweiligen Fahrzeuge besser ausnutzen, keine Fahrfehler machen. So ziemlich alles werde automatisiert geschehen, sogar Werkstatttermine könnte so eine Wundermaschine selbständig organisieren.

Das Auto von morgen wird natürlich voll vernetzt und allezeit online sein. Es wird ständig mit anderen Verkehrsteilnehmern kommunizieren, und die Flotte wird so den Verkehrsfluss nach vorher festgelegten Kriterien optimieren, sei es nach Energieverbrauch, Geschwindigkeit, Verkehrsfluss, Sicherheit nicht vernetzter Fußgänger, was weiß ich.

Und es kommt ganz bald, nicht in 15, nicht in 10, sondern ganz speziell nur für Sie heute schon in 5 Jahren lassen wir uns alle locker und entspannt in preiswerten, überall reichlich verfügbaren, großzügig ausgestatteten autonomen Fahrzeugen jederzeit über sonnendurchflutete fast leere Straßen überall hin kutschieren, wahlweise im eigenen Privatfahrzeug oder im Rahmen großangelegter plattformübergreifender Mobilitätskonzepte. Gebucht, gesteuert und abgerechnet wird das ganz einfach über eine intuitiv zu bedienende App im Smartphone.

Mal ganz von datenschutzrechtlichen Fragestellungen abgesehen – will ich, dass jede meiner automobilen Bewegungen aufgezeichnet und für wer weiß wen auswertbar sein wird, will ich zum „gläsernen Bürger“ werden? – und ebenfalls abgesehen von allgemeinen sicherheitstechnischen Überlegungen – kann mein Fahrzeug gehackt und gegen meinen Willen von außen gesteuert werden, was dann interessante Erpressungsfälle denkbar macht – „Zahlen Sie jetzt, sonst fahren Sie gegen die Wand!“ – wirft das noch eine interessante Frage auf.

Die Autos werden für manche Aufgaben sicher mit künstlicher Intelligenz ausgestattet sein, es werden vermutlich auch Maschinenlernkonzepte eingesetzt, neuronale Netzwerke aufgesetzt. Von denen weiß letztlich niemand, wie sie funktionieren bzw. wie sie das lernen, was sie lernen, oder warum sie entscheiden wie sie entscheiden. Es sind Black Boxes, deren Entscheidungswege in der Regel nicht nachvollziehbar sind.

Wenn sich nun viele solcher Black Boxes zu Schwärmen zusammenschalten und gemeinsam den Verkehr steuern, entsteht dabei eine Art Super-Black-Box, deren Verhalten noch weniger vorhersagbar sein dürfte als das der für sich genommen ja schon undurchsichtigen einzelnen Boxes.

Dabei ist es sicher nicht undenkbar, dass diese blackboxgesteuerte Flotte bestimmte Aufgaben anders lösen würde als das vorher gedacht war (in diesem Artikel finden sich ein paar Beispiele dafür). Ab einem bestimmten Niveau könnte es auch zu einer Art Value Drift kommen (dass künstliche Intelligenz „mogelt“, ist schon vorgekommen, und auch wenn das eher ein Problem unpräzise formulierter Aufgabenstellung als maschineller Böswilligkeit war, können solche Effekte ganz unerwartet auftreten und u.U. beträchtliches Schadpotenzial entfalten). Das könnte dann zu unvorhergesehenen Verhaltensweisen einzelner Fahrzeuge oder der Flotte als ganzes führen. Wie verhindert man das, und wie geht man damit um, wenn es doch passiert? Gäbe es eine Art Notaus-Schalter? Eine Art „sicheren Modus“ wie bei Windows nach bestimmten Sorten von Absturz?

Wie ein Schwarm insgesamt schlauer sein kann als seine Mitglieder, kann man in Wiktor Pelewins Generation P nachlesen (sowieso lesenswert als Momentaufnahme Russlands in den frühen 90er Jahren, als eine realsozialistisch sozialisierte Bevölkerung am tiefen Ende ins kapitalistische Aquarium gekippt worden war).

Und zweitens wäre es denkbar, dass man die Flotte hacken kann, indem man einzelne Fahrzeuge durch geschickte Ausnutzung der einprogrammierten Regelwerke zu bestimmten Verhaltensweisen zwingt, die dann – wie Stauwellen auf der Autobahn – andere Fahrzeuge in der Nähe ebenfalls beeinflussen und dann unvorhergesehene und unerwünschte Folgen haben? Diese Art Bugs und Hacks hat Terry Pratchett am Beispiel der Klacks-Türme in Ab die Post (Going Postal) anschaulich beschrieben. Mit wachsender Komplexität der beteiligten Systeme dürfte es mehr entsprechende Möglichkeiten geben. Leute, die solche Schwachstellen finden und ausnutzen bzw. an den Meistbietenden verkaufen, gibt es auch mehr als genug.

Also, mir wäre unwohl dabei, unter diesen Bedingungen das Steuer an eine völlig undurchschaubare Maschine mit nicht absehbaren Schwachstellen abzugeben…


12 Kommentare on “Schwarmintelligenz im Straßenverkehr”

  1. Yadgar sagt:

    Und, vor allem, wäre in einem solchen Straßenverkehr überhaupt noch Platz für herkömmliche Verkehrsteilnehmer? Oder dürften dann nur noch selbstfahrende Fahrräder unterwegs sein und Fußgänger, die nicht mehr selbst gehen, sondern von einem elektronisch gesteuerten Exoskelett gegangen werden? Manchmal sehne ich ihn mir schon herbei, den umfassenden Zivilisations-Crash, der ein für alle Mal Schluss macht mit solchen Hightech-Dystopien…

    Liken

  2. gnaddrig sagt:

    Ja, die Einbindung nicht vernetzter Verkehrsteilnehmer ist auch so ein Ding. Obwohl – wo wir’s hier schon von Dystopien haben – nicht vernetzte Verkehrsteilnehmer sollte es ja im zeitalter des IoT mit 5G sowieso nicht mehr geben. Irgendwann hat noch jede KiK-Jeans einen Chip für irgendwelche IoT-Spielereien, und man kann jeden Menschen überall orten und identifizieren…

    Liken

  3. aurorula a. sagt:

    Das Kopfkino spielt dazu die ca. zehn Jahre alte Verfilmung von I, Robot; und zwar die Szene am Anfang mit dem Verkehrsunfall.

    Gefällt 1 Person

  4. gnaddrig sagt:

    Kannte ich noch nicht. Passt aber genau hier her. Gruselig…

    Gefällt 1 Person

  5. Yadgar sagt:

    Ich denke da eher an die rollatorfahrenden aufgedunsenen Riesenbabies in der Raumkolonie aus „Wall-E“… und wer kein rollatorfahrendes Riesenbaby mit Feelgood-Chip im Hirn sein will, der wird als kinderschändender dschihadistischer Anarchofaschist verunglimpft, bis er entweder kapituliert oder sich per Suizid aus dieser Horrorwelt verabschiedet… aber wahrscheinlich wird sogar Sterben strafbar sein!

    Gefällt 1 Person

  6. gnaddrig sagt:

    Das wird in The Circle von Dave Eggers abgehandelt.

    Liken

  7. Stefan R. sagt:

    Puh, es wird nicht wirklich aufzuhalten sein, aber ich habe ja schon ein Problem mit Streamen, weil ich altmodischerweise finde, es ginge keinen was an, welchen Film/welche Serie ich wann wie lange geschaut habe, wann ich ‚Pause‘ gedrückt habe, weil ich aufs Klo musste etc.
    Über die ganzen Möglichkeiten, vernetzte/selbstfahrende Autos zu hacken, mag ich gar nicht nachdenken.

    Gefällt 1 Person

  8. gnaddrig sagt:

    So ungefähr geht es mir auch.

    Liken

  9. Achim sagt:

    An dem Tag, wo mein Auto obligatorisch „im Internet“ ist, höre ich wahrscheinlich ganz auf, es zu benutzen (und damit meine ich nicht die Notfallbox, die im Bedarfsfall von sich aus um Hilfe ruft und dabei den Standort übermittelt). Wir brauchen vor der nächsten Heizperiode eine neue Heizung, und der Installateur hat als Kriterium schon genannt bekommen, dass GSM-Modul bzw. WLAN-Modul abschaltbar sein müssen.
    Obwohl – dein Thema war ja eher die Unbeherrschbarkeit der mit zu viel IT aufgemotzten Geräte. Trifft auf moderne Heizungen aber genauso zu. Die neue wird fällig, weil der Installateur bei der alten den Fehler nicht findet – Komplexitätsfalle.

    Gefällt 1 Person

  10. Yadgar sagt:

    @Achim:
    Stichworte zur Bewältigung dieses Problems: off-grid, Blockhütte, Sibirien. Nordöstlich von Jerbogatschon soll noch viel Platz sein… und Luchse (Lynx lynx wrangeli) gibt es da auch! Nur mit biokybernetisch ermöglichter Unsterblichkeit wird es dann nichts… da muss dann wohl Taiga-Messias Sergej „Vissarion“ Torop weiterhelfen!

    Liken

  11. Yadgar sagt:

    @Stefan R.
    „aber ich habe ja schon ein Problem mit Streamen“

    …und um das zu vermeiden, klappere ich immer mal wieder die „Zu verschenken“-Rubrik von eBay-Kleinanzeigen nach DVDs ab… da ist mir schon einiges ins Netz gegangen (leider noch nicht der erste Teil vom „Herrn der Ringe“…)!

    Liken

  12. gnaddrig sagt:

    Liken


In den Wald hineinrufen

Trage deine Daten unten ein oder klicke ein Icon um dich einzuloggen:

WordPress.com-Logo

Du kommentierst mit Deinem WordPress.com-Konto. Abmelden /  Ändern )

Google Foto

Du kommentierst mit Deinem Google-Konto. Abmelden /  Ändern )

Twitter-Bild

Du kommentierst mit Deinem Twitter-Konto. Abmelden /  Ändern )

Facebook-Foto

Du kommentierst mit Deinem Facebook-Konto. Abmelden /  Ändern )

Verbinde mit %s

This site uses Akismet to reduce spam. Learn how your comment data is processed.