Von den Tücken der smarten Technik

Auf eine vereinfachende Formel gebracht, lässt sich die Geschichte der Technik in drei Stadien einteilen: subschlau, schlau, superschlau. Bis vor etwa fünfzig Jahren stand die Entwicklung auf der subschlauen Stufe: Die Maschinen führten dumm, stumm und stur ihre vom Menschen vorgegebenen Aufgaben und Funktionen aus. Das hat sich rasant geändert. Der Computer repräsentierte das schlaue Stadium. Aber die Entwicklung geht weiter. Wir statten technische Artefakte mit immer komplexeren Algorithmen aus und verleihen ihnen dadurch einen Grad an Eigenregie, der sie befähigt, auf ihre Nutzer und auf Situationen «intelligent» einzugehen.

Das heute wohl prätentiöseste Projekt findet sich in der sogenannten «Ambient Intelligence» – der Umweltintelligenz, auch als «Internet der Dinge» bekannt. Damit ist eine Vision gemeint, in der unsere alltäglichen Umgebungen – Wohnung, Arbeitsort, Verkehr – total mit benutzerfreundlichen smarten Objekten bestückt sind. Wände «hören» z.B. dank Sensoren auf meine Stimme und wenn sie sie «erkannt» haben, setzen sie bestimmte Geräte in Betrieb, schalten z.B. das Licht oder die Heizung ein, senden ein Signal an die HiFi-Anlage, mein gegenwärtig bevorzugtes Jazzstück zu spielen, geben auf ein Stichwort den Auftrag an den Kühlschrank, auf seinem Display die Zutaten zum Risotto anzuzeigen, den ich heute kochen möchte usw.

Schlauer Weinkeller

Die Techno-Avangarde sieht es nur als eine Frage der Zeit, bis unsere Wohnungen bis in die letzten Ritzen und Winkel mit smarten Dingen ausgestattet sind, die auf unsere Bedürfnisse und Intentionen mit nie dagewesener Sensibilität reagieren werden. Was geschieht dabei mit uns? Es ist typisch für die «menschenvergessenen» technischen Zukunftsvisionen, dass sie diese Frage und deren Tragweite gern ausblenden. Betrachten wir also einmal kurz zwei Szenarien.

Szenario 1: Ich habe in meinem Weinkeller «WineSense» eingerichtet, ein (fiktives) smartes System mit vernetzten Sensoren, Kameras und Interfaces, das nicht nur meinen Weinbestand sorgfältig kontrolliert, sondern auch meinen Weinkonsum, meine Vorlieben, meine Urteile peinlich genau beobachtet und registriert. Mein schlauer Weinkeller rät mir nun aufgrund der gespeicherten Daten, meines Bedürfnisprofils und der aktuellen Angebotslage, hundert Flaschen weissen Bordeaux beim Weinhändler Soundso zu bestellen. Ich muss mich allerdings innerhalb kürzester Zeit dazu entscheiden. Das bringt mich in eine Zwickmühle. Wieso soll ich den Wein kaufen, wo ich doch gerade erst die gleiche Traubensorte viel günstiger bei einem andern Händler gefunden habe? Zudem hat sich mein Geschmack in jüngster Zeit zugunsten einer anderen Traubensorte verändert. Weiss das mein Weinkeller nicht? Oder kenne ich vielleicht meine eigenen Präferenzen, Absichten und Bedürfnisse gar nicht so gut, wie ich meinte?

Natürlich höre ich in solchen Zweifelsfällen auf mein eigenes Urteil und nicht auf den Rat meines Weinkellers. Das entspricht auch einem bisher normalen und «gesunden» Vertrauen in die Geräte. Mit der subschlauen Technik war die Welt noch in Ordnung. Denn es ist durchaus beruhigend zu wissen, dass all unsere Geräte einen IQ besitzen, der weit unter dem unsrigen liegt. Wir fühlen uns bestärkt in der Meinung, alles unter Kontrolle zu haben. Die Lage wird unbehaglicher, wenn die Gesamtheit all der smarten Dinge, vom Closomat bis zur Kreditkarte, einen IQ aufzuweisen beginnt, der unseren übersteigt. Dann haben wir es mit einem typischen Fall von Tücke der Technik zu tun: Was ursprünglich zur Erleichterung unseres Lebens konzipiert wurde, verkehrt sich nun in eine Last, wenn nicht gar in eine Bedrohung. Man kann das Problem so pointieren: Je schlauer die Geräte, desto weniger schlau werden wir aus ihnen. Mit der Raffinesse der Technologie entwickelt sich auch ihre Tücke.

Das «sorgende» Auto

Vertrauen ist das eine Problem, Verantwortung das andere. Dazu Szenario 2: Schon lange produzieren die Autohersteller nicht einfach mehr Fahrzeuge, sondern «intelligente» mobile Kokons für den Fahrer. Ein wesentlicher Teil der Forschung und Entwicklung zielt darauf, das Fahrzeug in ein «sensibles» Quasi-Organ mit künstlichem Zentralnervensystem zu verwandeln. Kameras, Radar, Laser-Distanzmesser nehmen dem Fahrer Koordinations- und Navigationsaufgaben ab, sie «sagen» ihm, verbunden mit Datenzentren, wo er sich befindet, ob er zu schnell fährt oder Sicherheitsvorschriften übersieht. Eigentlich läuft die ganze Entwicklung darauf hinaus, dass nicht der Mensch das Auto fährt, sondern es ihn.

Damit heimsen wir uns freilich ein Problem ein. Bisher brauchte man das Auto primär zum Fahren, wofür man auch die Verantwortung trug. Was aber, wenn wir die Fahraufgaben und -verantwortlichkeiten immer mehr dem Fahrzeug übertragen; wenn jemand z.B. simsend durch eine Schulzone fährt, im vollen Vertrauen auf das Geschick seines Vehikels? Auf amerikanischen GPS-Geräten steht die Warnung: «Fehlende Aufmerksamkeit beim Fahren Ihres Wagens kann zum Tod, zu ernsthaften Verletzungen oder Sachschaden führen. Sie übernehmen die volle Verantwortung und das Risiko für die Benützung dieses Geräts.»

Das hat etwas Heuchlerisches. Einerseits verführen die Designer neuer Gadgets den Nutzer immer mehr dazu, Verantwortung und Aufmerksamkeit an die Geräte zu delegieren, was im Endeffekt oft bedeutet, selber unverantwortlicher und unaufmerksamer zu agieren. Andererseits wird bei Fehlverhalten die Verantwortung wieder auf den Nutzer abgewälzt. «Benutz das Ding richtig, Dummkopf!» tönt es dann vonseiten der Hersteller und Versicherer. Die Technik kann nichts dafür, wenn sie missbraucht wird.

Genau das ist der fundamentale Irrtum. Ein Gerät wird nie bloss gebraucht. Es «gebraucht» auch mich. Es wird zur Gewohnheit, zur Lebensform, zum Lifestyle. Auto, TV, Handy, Internet – längst schon handelt es sich hier nicht mehr um Technologie, die wir nach Gebrauch abstellen, vielmehr infiltriert sie unser soziales Leben, sinkt sie ein in unsere Psyche, modelt uns von Grund auf um. Wir leben in Techno-Symbiose. Und diese Symbiose hat ein Entwicklungsstadium erreicht, wo die Benutzerfreundlichkeit der smarten Objekte in Paternalismus umzukippen droht: Sie übernehmen die Kontrolle. Sie werden regulatorisch. Sie «erziehen» uns. Das Auto piept massregelnd, wenn wir die Sicherheitsgurte nicht anlegen. Es piept auch dann, wenn ich es nur ein paar Meter weit in die Garage zurücksetzen will und mich nicht anschnalle. Der Autohersteller Saab entwickelte «Alcokey», einen Autoschlüssel, der den Motor automatisch sperrt, wenn Sensoren bei einer Atemprobe einen zu hohen Wert anzeigen.

Technologisches Gutmeinertum

Das sind erst Anfänge. Zunehmend «entlastet» uns eine Automatik vor Eigenverantwortung, verbietet mir dies, schreibt mir das vor. Dabei ist das Diktat der Dinge absolut. Sie «wissen» es besser, nur zu meinem Besten. Keine Ausnahmeregelung, keine Kasuistik, kein Ermessensspielraum – genau das also, was uns Menschen auszeichnet. Wenn der Alkoholspiegel zu hoch ist, dann sagt die Maschine: Nicht fahren! Auch nicht in Notfällen. «Code is Law», so prägte der amerikanische Verfassungsrechtler Lawrence Lessig diese versteckte Normgebung durch die Technik: Was im smarten Objekt eincodiert ist, gilt als Gesetz, zwingt uns zu nicht verhandelbarer Technik-Konformität. Maschinen verhandeln nicht. Sie sind eben unmenschlich, das heisst logisch.

Ich misstraue also dem Gutmeinertum der Designer immer komplexerer Technologien. Ich wittere dahinter jenen «grössten denkbaren» Despotismus, den schon Kant an Regierungen kritisierte, die sich anmassen zu wissen, was nützlich und schädlich für das Volk sei. Ambient Intelligence markiert mit andern Worten eine politische Schwelle in der Technikentwicklung zum «Despotischen», bei der wir unsere Aufmerksamkeit folgerichtig von den Artefakten weg zum Menschen hin richten sollten: Was kann er, was will er eigentlich noch können? Wo hört die Automatisierung auf und beginnt der verantwortliche Wille des Nutzers?

Automagische Artefakte

Dazu gehört auch, dass wir uns vom grassierenden Techno-Neusprech der Branche nicht verführen lassen. Wider anders lautenden Verkündungen «erkennen» nämlich Maschinen unsere Bedürfnisse und Wünsche nicht; sie «gehen» auch nicht auf uns «ein»; sie «entwickeln» keine quasi-humane Beziehung zu uns, selbst wenn wir sie «Androide» nennen.

Die Anthropologen belehren uns, dass wir die – je nach Perspektive fatale oder segensreiche – Tendenz haben, alles Nichtmenschliche und Nichtlebendige zu vermenschlichen. Unter Technikdesignern kursiert ein Terminus: «Automagie», Automatismus und Magie. Es gilt deshalb in Erinnerung zu behalten: Geräte sind intelligent, aber sie sind es auf andere Weise als der Mensch. Mensch und Maschine gehören zwei grundverschiedenen Spezies an. Wenn wir dies einsehen, gelingt uns womöglich ein gelassenerer Umgang mit der Technik, einer, der nicht ständig von übertriebenen Verhängnissen und Verheissungen belastet sein wird. Wir haben sehr viel Intelligenz in Geräte gesteckt. Nun brauchen wir noch mehr Intelligenz, um unsere eigenen Fähigkeiten (auch dank Technik) wieder zu entdecken. Denn die Ko-Evolution von Mensch und Maschine könnte ihren Ausgang nicht bloss in superschlauen Maschinen finden, sondern auch in subschlauen Menschen. Und die Wahrscheinlichkeit für die zweite Entwicklung ist nicht gleich Null.