Abgehängt: Wo bleibt der Mensch, wenn Computer entscheiden?
Date: 2014-09-29T13:24:31+00:00
Keywords: Political Economy; Political Science
Description: Lange Zeit haben Maschinen die Menschen entlastet, die unter harter Arbeit ächzten. Doch inzwischen verrichten Computer und computergesteuerte Maschinen nicht mehr nur stupide Arbeiten, sondern werden für hochkomplexe Tätigkeiten eingesetzt: Sie steuern Flugzeuge, führen Operationen durch, analysieren das Börsengeschehen. Was macht das mit uns Menschen? Ohne Navi irren wir hilflos durch den Städtedschungel, wir setzen Social Media an die Stelle echter Begegnungen und verlassen uns blind auf Empfehlungen im Internet. Nicholas Carr zeigt, wie sich Wirtschaft und Gesellschaft durch diese Entwickl
Publisher: Carl Hanser Verlag GmbH Co KG

Nicholas Carr

Abgehängt

Wo bleibt der Mensch,
wenn Computer entscheiden?

Aus dem Amerikanischen von Karin Miedler und Sigrid Schmid

Titel der Originalausgabe:

The Glass Cage. Automation and Us

New York, London, W. W. Norton & Company 2014

Bibliografische Information der Deutschen Nationalbibliothek

Die Deutsche Nationalbibliothek verzeichnet diese Publikation in der Deutschen Nationalbibliografie; detaillierte bibliografische Daten sind im Internet über http://dnb.d-nb.de abrufbar.

Dieses Werk ist urheberrechtlich geschützt.

Alle Rechte, auch die der Übersetzung, des Nachdruckes und der Vervielfältigung des Buches oder von Teilen daraus, vorbehalten. Kein Teil des Werkes darf ohne schriftliche Genehmigung des Verlages in irgendeiner Form (Fotokopie, Mikrofilm oder ein anderes Verfahren), auch nicht für Zwecke der Unterrichtsgestaltung – mit Ausnahme der in den §§ 53, 54 URG genannten Sonderfälle –, reproduziert oder unter Verwendung elektronischer Systeme verarbeitet, vervielfältigt oder verbreitet werden.

Copyright © 2014 by Nicholas Carr

Alle Rechte der deutschen Ausgabe:

© 2014 Carl Hanser Verlag München

Internet: http://www.hanser-literaturverlage.de

Lektorat: Martin Janik

Herstellung: Andrea Reffke

Umschlaggestaltung und Motiv: Hauptmann & Kompanie Werbeagentur, Zürich

Datenkonvertierung E-Book: Kösel, Krugzell

ISBN 978-3-446-44032-6

E-Book-ISBN 978-3-446-44060-9

Für Ann

INHALT

EINFÜHRUNG

WARNUNG AN PILOTEN

KAPITEL EINS

PASSAGIERE

KAPITEL ZWEI

DER ROBOTER AM TOR

KAPITEL DREI

AUF AUTOPILOT

KAPITEL VIER

DER DEGENERATIONSEFFEKT

KAPITEL FÜNF

COMPUTER IN DER ARZTPRAXIS

KAPITEL SECHS

WELT UND BILDSCHIRM

KAPITEL SIEBEN

AUTOMATISIERUNG FÜR DAS VOLK

KAPITEL ACHT

DIE DROHNE IN DIR

KAPITEL NEUN

LIEBE, DIE IN REIHEN LEGT DIE AU

DANK

ANMERKUNGEN

Keiner da, es
wahrzunehmen
und zu richten, keiner da, den Wagen zu fahren.

William Carlos Williams 1

EINFÜHRUNG

WARNUNG AN PILOTEN

Am 4. Januar 2013, dem ersten Freitag im neuen Jahr, an dem normalerweise Flaute bei den Nachrichten herrscht, gab die FAA, die Bundesluftfahrtbehörde der USA, eine einseitige Meldung heraus. Sie hatte keinen Titel. Sie war lediglich als »Sicherheitshinweis für Piloten«, kurz SAFO, bezeichnet. Die Formulierungen waren knapp und kryptisch. Sie wurde auf der Website der FAA veröffentlicht und an alle US-amerikanischen sowie weitere kommerzielle Fluggesellschaften geschickt. »Diese SAFO«, hieß es in dem Dokument, »regt an, dass Fluggesellschaften sich für den manuellen Flug einsetzen, wo immer das möglich ist«. Der FAA lagen Hinweise aus Untersuchungen nach Abstürzen, aus Berichten über Zwischenfälle und aus Cockpit-Studien vor, dass Piloten zu stark vom Autopiloten und anderen computergesteuerten Systemen abhängig geworden sind. Der übermäßige Einsatz des Autopiloten, so warnte die Behörde, könnte zu einer »Verschlechterung der Fähigkeit von Piloten führen, das Flugzeug schnell aus einem unerwünschten Zustand zu führen«. Deutlicher: Ein Flugzeug und die Passagiere könnten in Gefahr geraten. Die Warnung schloss mit der Empfehlung an Fluggesellschaften, eine betriebliche Anweisung an Piloten auszugeben, weniger Zeit im Autopiloten und mehr von Hand zu fliegen.2

Dies ist ein Buch über Automatisierung, über den Einsatz von Computern und Software für Aufgaben, die wir selbst zu erledigen pflegten. Es geht nicht um die Technologie oder die wirtschaftlichen Aspekte der Automatisierung und auch nicht um die Zukunft von Robotern und Cyborgs und technische Spielereien, obwohl das alles damit zusammenhängt. Es geht um die menschlichen Folgen der Automatisierung. Piloten sind nur an vorderster Front der Welle, die jetzt über uns schwappt. Computer übernehmen immer mehr Aufgaben für uns, im Arbeitsleben und in der Freizeit, und begleiten uns bei immer mehr alltäglichen Aufgaben. Wenn wir heute etwas erledigen wollen, dann geschieht das am häufigsten vor einem Monitor, Laptop oder mit einem Smartphone, oder wir befestigen ein neu erworbenes Accessoire mit Netzanschluss an unserer Stirn oder unserem Handgelenk. Wir benutzen Apps. Wir konsultieren Bildschirme. Wir nehmen Ratschläge von digital erzeugten Stimmen an. Wir verlassen uns auf die Weisheit von Algorithmen.

Die Computer-Automatisierung macht unser Leben leichter, unsere Pflichten weniger beschwerlich. Oft können wir in weniger Zeit mehr erledigen – oder einfach etwas tun, was wir vorher nicht tun konnten. Doch die Automatisierung hat noch weitreichendere Auswirkungen, die nicht sofort erkennbar sind. Wie die Flugzeugführer erfahren haben, sind nicht alle davon vorteilhaft. Die Automatisierung kann unserer Arbeit, unseren Fähigkeiten und unserem Leben Schaden zufügen. Sie kann unsere Perspektive einengen und unsere Wahlmöglichkeiten einschränken. Sie kann uns überwachbar und manipulierbar machen. Da Computer unsere ständigen Begleiter werden, unsere vertrauten, diensteifrigen Helfer, scheint es angeraten, uns genauer anzusehen, wie genau sie Einfluss darauf nehmen, was wir tun und wer wir sind.

KAPITEL EINS

PASSAGIERE

Zu den Peinlichkeiten meiner Teenagerzeit gehört eine eher »psychomechanische«: mein öffentlich gut verfolgbarer Kampf mit dem Schaltgetriebe eines Autos. Ich bekam meinen Führerschein Anfang 1975, kurz nach meinem 16. Geburtstag. Im Herbst davor hatte ich mit Klassenkameraden meiner Highschool Fahrstunden genommen. Der Oldsmobile unseres Fahrlehrers, der für unsere praktischen Fahrstunden und auch für die gefürchtete Fahrprüfung bei der Kraftfahrzeug-Zulassungsstelle zur Verfügung stand, besaß ein automatisches Getriebe. Man trat auf das Gaspedal, drehte am Lenkrad und trat auf die Bremse. Es gab ein paar heikle Manöver ... eine Drei-Punkt-Wende, gerade zurücksetzen, rückwärts einparken – doch mit etwas Übung zwischen den Pylonen auf dem Schulparkplatz wurde auch das zur Routine.

Mit dem Führerschein in der Hand durfte ich fahren. Es gab nur noch ein letztes Hindernis. Das einzige für mich zu Hause verfügbare Auto war ein Subaru Sedan mit Handschaltung. Mein Vater, der nicht gerade viel Zeit hatte, gewährte mir eine einzige Übungsstunde. An einem Samstagmorgen ging er mit mir in die Garage, ließ sich hinter das Steuer fallen und ließ mich auf dem Beifahrersitz Platz nehmen. Er legte meine linke Hand auf den Schaltknüppel und führte sie durch die Gänge: »Das ist der Erste.« Kurze Pause. »Der Zweite.« Kurze Pause. »Der Dritte.« Kurze Pause. »Der Vierte.« »Hier drüben« – der Schmerz schoss durch mein Handgelenk, als es in diese unnatürliche Position gedreht wurde – »ist der Rückwärtsgang«. Er blickte zu mir, damit ich bestätigte, dass ich alles verstanden hatte. Ich nickte hilflos. »Und das« – er wackelte mit meiner Hand hin und her –, »das ist der Leerlauf«. Er gab mir einige Tipps, über Drehzahlbereiche und die vier Vorwärtsgänge. Dann deutete er auf das Kupplungspedal unter seinem Halbschuh. »Das musst du immer gedrückt halten, während du schaltest.«

Ich wurde zum Gespött auf den Straßen der Stadt in Neuengland, in der wir lebten. Das Auto bockte, wenn ich versuchte, den richtigen Gang zu finden, machte dann einen Sprung nach vorn, wenn ich die Kupplung zum falschen Zeitpunkt losließ. Ich würgte den Motor an jeder roten Ampel ab und dann noch einmal, wenn ich die Kreuzung halb überquert hatte. Berge waren ein Horror für mich. Ich ließ die Kupplung zu früh oder zu spät los, und das Auto rollte rückwärts, bis es an der Stoßstange des Wagens hinter mir zum Stehen kam. Man hupte, fluchte und zeigte mir den Stinkefinger. Was die Sache noch unerträglicher machte, war die gelbe Farbe des Subaru – gelb wie ein Kinderregenmantel oder ein paarungsbereites Goldzeisigmännchen. Das Auto war ein Blickfang, und ein jeder sah, wie ich mich abmühte.

Von meinen vermeintlichen Freunden erhielt ich kein Mitleid. Für sie war mein Kampf eine Quelle endloser Belustigung: »Ein Pfund Hackfleisch«, rief einer immer freudig vom Rücksitz aus, wenn ich beim Schalten pfuschte und die Zahnräder metallisch knirschten. »Reibungsloser Übergang«, kicherte ein anderer, wenn ich den Motor abwürgte. Das Wort »Spasti« wurde häufig in meine Richtung fallengelassen – damals sprach man noch nicht von Political Correctness. Ich hatte den Verdacht, dass sich meine Kumpel hinter meinem Rücken über meine Inkompetenz am Schalthebel lustig machten. Die metaphorische Komponente entging mir dabei nicht. Ich fühlte mich in meiner Männlichkeit, wie sie eben im Alter von 16 Jahren war, abgewertet.

Aber ich gab nicht auf – welche Wahl hatte ich denn? –, und nach einer oder zwei Wochen hatte ich den Dreh allmählich raus. Die Gangschaltung entspannte sich und wurde toleranter. Meine Arme und Beine arbeiteten nicht mehr gegeneinander, sondern miteinander. Bald schaltete ich, ohne darüber nachzudenken. Es geschah einfach. Das Auto blieb nicht mehr stehen und machte keine Sprünge mehr nach vorn. Ich fürchtete keine Berge oder Kreuzungen mehr. Die Gangschaltung und ich waren ein Team geworden. Wir arbeiteten harmonisch zusammen. Insgeheim war ich stolz auf meine Leistung.

Trotzdem wünschte ich mir ein Auto mit Automatikgetriebe. Zwar waren Handschaltungen damals in den Vereinigten Staaten üblich, zumindest bei den Sparversionen von Auto und den Schrottkarren, die junge Leute damals fuhren, doch sie hatten schon etwas Rückständiges, Gebrauchtes an sich. Sie wirkten veraltet und ein bisschen gestrig. Wer wollte von Hand schalten, wenn es »automatik« gab? Es war wie der Unterschied zwischen Spülen von Hand und mit der Spülmaschine. Ich musste nicht lange warten, bis sich mein Wunsch erfüllte. Zwei Jahre, nachdem ich meinen Führerschein erhalten hatte, gelang es mir, den Subaru bei einem nächtlichen Unfall zu Schrott zu fahren, und nicht lange darauf übernahm ich die Verantwortung für einen gebrauchten, cremefarbenen zweitürigen Ford Pinto. Das Auto war Mist – manche betrachten den Pinto heute als Tiefpunkt der amerikanischen Automobilproduktion im 20. Jahrhundert –, doch für mich war er durch sein Automatikgetriebe rehabilitiert.

Ich war ein neuer Mensch. Mein linker Fuß, nun befreit von den Anforderungen der Kupplung, wurde ein müßiges Anhängsel. Beim Fahren klopfte er manchmal unbeschwert zu den Rhythmen von Charlie Watts oder dem dumpfen Dröhnen von John Bonham – der Pinto besaß auch ein 8-Spur-Kassettendeck, ein weiterer Anflug von Modernität –, doch die meiste Zeit lag er nur in seiner kleinen Ecke links unter dem Armaturenbrett und schlief. Meine rechte Hand wurde zum Getränkehalter. Ich fühlte mich nicht nur erneuert und up to date. Ich fühlte mich befreit.

Doch das war nicht von Dauer. Das Vergnügen, weniger zu tun zu haben, war real, aber es schwand allmählich. Ein neues Gefühl stellte sich ein: Langeweile. Ich gab das nie offen zu und gestand es mir kaum selbst ein, aber ich vermisste den Schalthebel und das Kupplungspedal. Ich vermisste das Gefühl von Kontrolle und Beteiligtsein, das sie mir vermittelt hatten – die Möglichkeit, den Motor so hochzudrehen, wie ich wollte, das Gefühl, wenn ich die Kupplung losließ und die Gänge griffen, der kleine Nervenkitzel beim Herunterschalten aus hoher Geschwindigkeit. Mit dem Automatikgetriebe fühlte ich mich weniger als Fahrer und ein bisschen mehr als Passagier. Am Ende bereute ich es.

DER UNSCHARFE BEREICH

35 Jahre später, am Morgen des 9. Oktober 2010. Einer der Entwickler bei Google, der in Deutschland geborene Sebastian Thrun, macht in einem Blogbeitrag eine außerordentliche Ankündigung. Das Unternehmen hat »Autos entwickelt, die selbst fahren«. Das sind keine unbeholfenen Schrauber-Prototypen, die auf dem Googleplex-Firmenparkplatz herumstottern. Das sind regelrechte, für den Straßenverkehr zugelassene Autos – auf der Basis des Toyota Prius –, und Thrun enthüllt, dass sie bereits mehr als 100 000 Meilen auf den Straßen und Autobahnen in Kalifornien und Nevada zurückgelegt haben. Sie sind auf dem Hollywood Boulevard und der Pacific Coast Highway gefahren, hin und zurück über die Golden Gate Bridge und um den Lake Tahoe. Sie haben sich in den Autobahnverkehr eingeordnet, belebte Kreuzungen überquert und sich zentimeterweise durch Rushhour-Staus gearbeitet. Sie sind anderen Autos ausgewichen, um Kollisionen zu vermeiden. Das alles haben sie selbständig gemacht. Ohne menschliche Hilfe. »Wir denken, das ist ein Novum in der Roboterforschung«, schreibt Thrun in aller Bescheidenheit.1

Ein Auto zu bauen, das von selbst fährt, ist keine große Sache. Ingenieure und Bastler bauen zumindest seit den 1980er Jahren roboter- und ferngesteuerte Autos. Doch meistens handelte es sich dabei um wenig ausgereifte Klapperkisten. Ihr Einsatz war auf Testfahrten auf abgesperrten Strecken oder auf Rennen und Ralleys in Wüsten und anderen abgelegenen Gebieten beschränkt, weit entfernt von Fußgängern und Polizei. Das Google-Mobil war anders, das machte Thruns Ankündigung deutlich. Was es zum Durchbruch macht sowohl in der Geschichte der Transportmittel als auch der Automatisierung ist seine Fähigkeit, in der realen Welt mit ihrer chaotischen, turbulenten Komplexität zu navigieren. Es ist mit großen Laser-Entfernungsmessern, Radar- und Ultraschall-Sendern, Bewegungsmeldern, Videokameras und GPS-Empfängern ausgestattet und kann so seine Umgebung bis ins kleinste Detail wahrnehmen. Es kann sehen, wohin es fährt. Und durch die sofortige Verarbeitung all dieser eingehenden Informationen – »in Echtzeit« – sind die eingebauten Computer in der Lage, mit der für das Fahren auf echten Straßen erforderlichen Geschwindigkeit und Sensibilität Gas zu geben, zu lenken und zu bremsen sowie zügig auf unerwartete Ereignisse zu reagieren, die dem Fahrer immer begegnen können. Die Flotte selbstfahrender Autos von Google hat nun fast eine Million Kilometer auf den Straßen zurückgelegt, und die Fahrzeuge haben nur einen schweren Unfall verursacht, eine Massenkarambolage mit fünf Autos in der Nähe der Firmenzentrale in Silicon Valley im Jahr 2011. Doch dieser Unfall zählt nicht wirklich. Er ereignete sich, wie Google schnell verlauten ließ, »als jemand das Auto von Hand steuerte«.2

Autonome Automobile haben noch einen langen Weg vor sich, ehe sie uns zur Arbeit oder unsere Kinder zum Fußballspielen fahren. Zwar geht man bei Google davon aus, dass kommerzielle Versionen bis zum Ende des Jahrzehnts im Handel sein werden, doch das ist wahrscheinlich Wunschdenken. Die Sensorsysteme des Fahrzeugs bleiben unerschwinglich, allein der auf dem Dach montierte Laserapparat kostet 80 000 Dollar. Viele technische Aufgaben müssen noch gelöst werden, zum Beispiel das Fahren auf schneebedeckten oder mit Blättern bedeckten Straßen, der Umgang mit unerwarteten Umleitungen und das Interpretieren von Handsignalen von Verkehrspolizisten und Straßenarbeitern. Selbst die leistungsfähigsten Computer haben immer noch Probleme, ein harmloses Stück Abfall (zum Beispiel einen flachgelegten Pappkarton) von einem gefährlichen Hindernis (einem Stück Sperrholz mit Nägeln) zu unterscheiden. Am abschreckendsten sind immer noch die vielen rechtlichen, kulturellen und ethischen Hürden für ein fahrerloses Auto. Wo liegen zum Beispiel die Schuld und die Haftung, wenn ein solches vom Computer gefahrenes Auto einen Unfall verursacht, bei dem Personen getötet oder verletzt werden? Beim Eigentümer des Autos? Oder bei den Software-Programmierern? Ehe solche heiklen Fragen nicht geklärt sind, werden beim Autohändler kaum vollautomatische Autos im Schaufenster stehen.

Der Fortschritt wird trotzdem schnell voranschreiten. Ein Großteil der Hardware und Software aus den Testwagen von Google wird in zukünftige Generationen von Personenkraftwagen und Lastkraftwagen eingebaut werden. Seit das Unternehmen mit seinem autonomen Fahrzeug an die Öffentlichkeit ging, haben die meisten größeren Automobilhersteller der Welt verlauten lassen, dass sie ähnliche Pläne verfolgen. Das Ziel ist im Augenblick nicht so sehr die Schaffung eines perfekten Roboters auf Rädern, sondern die kontinuierliche Entwicklung und Verfeinerung automatischer Komponenten, die die Sicherheit und Bequemlichkeit so erhöhen, dass die Kunden neue Autos kaufen wollen. Seit ich das erste Mal den Zündschlüssel in meinem Subaru drehte, hat sich in der Automatisierung des Fahrens viel getan. Die heutigen Autos sind voller elektronischer Spielereien. Microchips und Sensoren steuern den Tempostat, das Antiblockiersystem, die Systeme für Fahrstabilität und Traktion, und in Modellen der Extraklasse gibt es Stufenschaltgetriebe, Einparkhilfen, Kollisionswarnsysteme, Kurvenlicht und Displays auf dem Armaturenbrett. Die Software stellt bereits einen Puffer zwischen uns und der Straße dar. Wir steuern weniger unsere Autos, sondern senden vielmehr elektronische Impulse an die Computer, die sie steuern.

In den kommenden Jahren werden wir erleben, dass die Verantwortung für zahlreiche weitere Aspekte des Fahrens vom Menschen auf Software übertragen werden wird. Infiniti, Mercedes und Volvo bieten Modelle mit radargestütztem anpassungsfähigem Tempostat, der sogar im Stop-and-go-Verkehr funktioniert; Computer-Steuerungssystemen, die das Auto in der Spur halten; Bremsen, die sich im Notfall selbst betätigen. Andere Hersteller beeilen sich, noch weiterentwickelte Steuerungssysteme einzuführen. Tesla Motors, der Pionier für elektrische Autos, entwickelt einen Autopiloten für Kraftfahrzeuge, der »in der Lage sein sollte, 90 Prozent der gefahrenen Kilometer zu bewältigen«, so der CEO des Unternehmens, Elon Musk.3

Die Ankunft des selbstfahrenden Autos von Google erschüttert mehr als nur unsere Vorstellung vom Fahren. Es zwingt uns, neu darüber nachzudenken, was Computer und Roboter können und was nicht. Bis zu jenem schicksalhaften Oktobertag ging man davon aus, dass viele wichtige Fähigkeiten jenseits der Möglichkeiten der Automatisierung lagen. Computer konnten vieles, doch sie konnten nicht alles. In einem einflussreichen Buch, The New Division of Labor: How Computers Are Creating the Next Job Market, legten die Wirtschaftsexperten Frank Levy und Richard Murnane überzeugend dar, dass den Software-Programmierern praktische Grenzen gesetzt sind, wenn es darum geht, menschliche Fähigkeiten zu imitieren, insbesondere wenn es um Sinneswahrnehmungen, Mustererkennung und konzeptionelles Wissen geht. Sie bezogen sich speziell auf das Beispiel Fahren auf freier Straße, eine Tätigkeit, die die sofortige Interpretation einer Vielzahl von visuellen Signalen verlangt sowie die Fähigkeit, nahtlos auf sich verändernde und oft unvorhergesehene Situationen zu reagieren. Wir wissen kaum selbst, wie wir solche Leistungen abrufen, doch die Vorstellung, dass Programmierer all die Feinheiten, das nicht Greifbare und das Unvorhergesehene beim Fahren auf eine Folge von Anweisungen, auf Zeilen von Softwarecodes reduzieren könnte, schien lächerlich. »Die Ausführung einer Linksabbiegung durch den entgegenkommenden Verkehr«, schrieben Levy und Murnane, »beinhaltet so viele Faktoren, dass man sich kaum eine Reihe von Regeln vorstellen kann, die das Verhalten des Fahrers wiedergibt«. Für sie und für fast alle anderen schien sicher, dass das Steuer fest in menschlicher Hand bleiben würde.4

Geht es um die Einschätzung der Fähigkeiten von Computern, ziehen Wirtschaftsexperten und Psychologen schon lange eine Trennungslinie zwischen zweierlei Arten von Wissen: stillschweigendem und explizitem. Stillschweigendes Wissen, das auch als prozedurales Wissen bezeichnet wird, bezieht sich auf alles, was wir tun, ohne bewusst darüber nachzudenken: Fahrrad fahren, einen Ball fangen, ein Buch lesen, Auto fahren. Das sind keine angeborenen Fähigkeiten – wir müssen sie erlernen, und manche sind darin besser als andere –, doch man kann sie nicht in einer einfachen Anweisung erfassen, in einer Folge genau definierter Schritte. Neurologische Untersuchungen haben gezeigt, wenn man mit dem Auto auf einer belebten Kreuzung abbiegt, sind viele Gehirnregionen aktiv, verarbeiten Sinnesreize, schätzen Zeit und Entfernung ein und koordinieren Arme und Beine.5 Wird man aber aufgefordert, alles zu dokumentieren, was für die Ausführung dieser Abbiegung notwendig ist, wäre man dazu nicht in der Lage, zumindest nicht, ohne auf Verallgemeinerungen und Abstraktionen zurückzugreifen. Diese Fähigkeit lagert in den Tiefen des Gehirns, außerhalb der Reichweite des Bewusstseins. Die psychischen Prozesse laufen ohne das Bewusstsein ab.

Unsere Fähigkeit, Situationen einzuschätzen und schnell Entscheidungen zu treffen, stammt größtenteils aus dem unscharfen Bereich des impliziten Wissens. Dort sind auch die meisten kreativen und künstlerischen Fähigkeiten angesiedelt. Das explizite Wissen oder deklarative Wissen ist das, was tatsächlich schriftlich fixiert werden kann: Wie man einen Reifen wechselt, wie man einen Origami-Kranich faltet, wie man eine quadratische Gleichung löst. Diese Vorgänge können in genau definierte Schritte aufgegliedert werden: Eine Person kann einer anderen dafür genaue schriftliche oder mündliche Anweisungen geben: Tu dies, dann das, dann das.

Weil ein Software-Programm im Wesentlichen aus einer Reihe genauer schriftlicher Anweisungen besteht – tu dies, dann das, dann das –, gehen wir davon aus, dass Computer zwar Fertigkeiten besitzen können, bei denen es auf explizites Wissen ankommt, bei Fähigkeiten aus implizitem Wissen dagegen weniger gut abschneiden. Wie überträgt man das nicht Beschreibbare in Zeilen von Computercode, in Schritt-für-Schritt-Anweisungen eines Algorithmus? Die Grenze zwischen dem Expliziten und dem Impliziten ist immer schon unscharf – viele unserer Fähigkeiten liegen nahe an dieser Linie – doch damit ließ sich die Begrenzung der Automatisierung bequem beschreiben, ebenso die ausschließlich dem Menschen vorbehaltenen Bereiche. Die anspruchsvollen Aufgaben, die nach Levys und Murnanes Definition jenseits der Fähigkeiten von Computern liegen – neben dem Autofahren nannten sie noch das Unterrichten und die medizinische Diagnose –, bestanden aus einer Mischung geistiger und manueller Fertigkeiten, setzten jedoch alle stillschweigendes Wissen voraus.

Das Google-Auto definiert die Grenze zwischen Mensch und Computer neu, und zwar drastischer und entschiedener als frühere Durchbrüche im Programmieren. Es sagt uns, dass unsere Vorstellung von den Begrenzungen der Automatisierung immer schon eine Fiktion war. Wir sind nicht so etwas Besonderes, wie wir meinen. Während die Unterscheidung zwischen implizitem und explizitem Wissen im Bereich der menschlichen Psychologie hilfreich bleibt, hat sie in der Diskussion um die Automatisierung viel von ihrer Relevanz verloren.

ZUKUNFTSLAND

Das bedeutet nicht, dass Computer jetzt über implizites Wissen verfügen, dass sie nun so denken wie wir oder dass sie bald alles können, was Menschen können. Das ist nicht der Fall, das tun sie nicht, und das werden sie auch in der Zukunft nicht. Künstliche Intelligenz ist nicht menschliche Intelligenz. Menschen sind beseelt; Computer sind seelenlos. Doch wenn es um die Ausführung anspruchsvoller Aufgaben geht, sei es mit dem Kopf oder mit dem Körper, dann können Computer unsere Ziele erreichen, aber nicht mit unseren Mitteln. Wenn ein fahrerloses Auto im Verkehr links abbiegt, dann greift es nicht auf eine Quelle der Intuition oder Geschicklichkeit zurück; es folgt einem Programm. Doch während die Strategien grundlegend verschieden sind, sind die praktischen Ergebnisse dieselben. Weil Computer mit übermenschlicher Geschwindigkeit Anweisungen befolgen, Wahrscheinlichkeiten berechnen und Daten erhalten und versenden können, können sie mithilfe expliziten Wissens viele komplizierte Aufgaben ausführen, die wir mit implizitem Wissen lösen. In manchen Fällen können Computer mit ihren einzigartigen Stärken von uns als implizit bezeichnete Fähigkeiten besser ausführen als wir selbst. In einer Welt mit computergesteuerten Autos wären keine Ampeln oder Stoppschilder nötig. Durch den ständigen superschnellen Austausch von Daten würden Fahrzeuge ihren Weg nahtlos sogar durch die belebtesten Kreuzungen koordinieren – so wie heute Computer den Fluss unermesslicher Mengen von Datenpaketen auf den Highways und Nebenstrecken des Internets koordinieren. Was in unserem Kopf nicht beschreibbar ist, wird machbar in den Schaltkreisen eines Microchips.

Das bedeutet auch, dass viele als einzigartig menschlich betrachtete kognitive Fähigkeiten gar nicht so einzigartig sind. Sobald Computer schnell genug sind, können sie unsere Fähigkeit, Muster zu erkennen, Entscheidungen zu treffen und aus Erfahrung zu lernen, reproduzieren. Das erfuhren wir erstmals im Jahr 1997, als Deep Blue, der schachspielende Supercomputer von IBM, der alle fünf Sekunden eine Milliarde möglicher Züge auswerten konnte, den Weltmeister Garry Kasparow schlug. Mit dem intelligenten Auto von Google, das innerhalb einer Sekunde eine Million Messwerte aus der Umgebung verarbeiten kann, erfahren wir das wieder. Viele sehr intelligente Tätigkeiten von Menschen erfordern eigentlich gar kein Gehirn. Die intellektuellen Fähigkeiten hoch ausgebildeter Experten sind nicht mehr vor der Automatisierung geschützt als das Linksabbiegen eines Fahrers. Beweise dafür sehen wir überall. Kreative und analytische Aufgaben aller Art werden von Software ausgeführt. Ärzte nutzen Computer für die Diagnose. Architekten nutzen sie für die Gestaltung von Gebäuden. Anwälte nutzen sie für die Auswertung von Beweisen. Musiker simulieren mit dem Computer Instrumente und korrigieren schlampig geschriebene Noten. Lehrer nutzen ihn für den Unterricht und zur Korrektur von Arbeiten. Computer übernehmen diese Tätigkeiten nicht vollständig, doch sie bearbeiten zahlreiche Aspekte. Und sicher verändern sie die Art, wie Arbeit ausgeführt wird.

Nicht nur die Berufe werden computerisiert, auch die Freizeit. Durch die Verbreitung von Smartphones, Tablets und anderen kleinen, erschwinglichen und sogar am Körper tragbaren Computern nutzen wir heute Software für zahlreiche alltägliche Aufgaben und Freizeitbeschäftigungen. Wir starten Apps, die uns beim Einkaufen, Kochen und Sport unterstützen, und sogar bei der Partnersuche und Kindererziehung. Wir folgen GPS-Befehlen in detaillierten Wegbeschreibungen, um von einem Ort zum nächsten zu gelangen. Mit sozialen Netzwerken pflegen wir Freundschaften und teilen unsere Gefühle mit. Wir suchen Rat bei Empfehlungsdiensten, was wir im Fernsehen ansehen, was wir lesen, was wir hören sollen. Wir suchen bei Google oder Apple Siri Antwort auf unsere Fragen und Lösungen für unsere Probleme. Der Computer wird unser Allzweckwerkzeug für Navigation, Manipulation und für unser Verständnis der Welt, sowohl in ihrer physischen wie auch in ihrer sozialen Ausprägung. Man denke nur daran, was heute geschieht, wenn man sein Smartphone verlegt oder keinen Netzzugang hat. Ohne die digitalen Assistenten fühlt man sich hilflos. Katherine Hayles, Professorin für Geisteswissenschaften an der Duke University beschreibt das in ihrem Buch How We Think aus dem Jahr 2012: »Wenn mein Computer abstürzt oder meine Internetverbindung zusammenbricht, fühle ich mich verloren, desorientiert, und ich bin unfähig zu arbeiten – ich fühle mich, als wären mir die Hände amputiert.«6

Unsere Abhängigkeit von Computern mag manchmal beunruhigen, doch im Allgemeinen ist sie uns willkommen. Wir preisen die Vorzüge unserer raffinierten neuen Spielereien und Apps an und geben gern damit an, was sie alles können – und das nicht nur, weil sie so nützlich und schick sind. Es liegt etwas Magisches in der Computer-Automatisierung. Wenn ein iPhone ein unbekanntes Lied identifiziert, das in einer Bar über die Musikanlage abgespielt wird, das ist etwas, was in keiner Generation vor uns denkbar gewesen wäre. Wenn man sieht, wie eine Gruppe bunter Fabrikroboter mühelos einen Sonnenkollektor oder einen Düsenmotor zusammenbaut, das ist wie ein herrliches Heavy-Metal-Ballett, bei dem jeder Augenblick bis in Millimeter- und Sekundenbruchteile choreografiert ist. Wer mit dem Google-Auto gefahren ist, berichtet von fast überirdischem Nervenkitzel, das erdgebundene Gehirn habe Schwierigkeiten, das Erlebnis zu verarbeiten. Heute scheinen wir wirklich in eine schöne neue Welt einzutreten, ein Zukunftsland, in dem Computer und Automaten uns zu Diensten stehen, uns unsere Lasten abnehmen, unsere Wünsche erfüllen und uns manchmal einfach nur Gesellschaft leisten. Sehr bald, so versichern uns unsere Zauberer aus Silicon Valley, werden wir Roboter-Dienstmädchen und Roboter-Chauffeure haben. Alles Mögliche wird von 3-D-Druckern fabriziert und uns von Drohnen ins Haus geliefert werden. Die Welt der Jetsons oder zumindest des Knight Rider lässt grüßen.

Es fällt schwer, sich nicht von Ehrfurcht ergreifen zu lassen. Es fällt auch schwer, nicht besorgt zu sein. Ein Automatikgetriebe mag dürftig erscheinen neben dem ausgeklügelten, wie von Zauberhand gesteuerten Prius, doch Ersteres war Vorläufer des Letzteren, ein kleiner Schritt auf dem Weg zur totalen Automatisierung, und unwillkürlich erinnere ich mich an die Enttäuschung, die ich empfand, nachdem mir der Schalthebel aus der Hand genommen war – oder vielmehr, nachdem ich darum gebeten hatte, dass mir der Schalthebel genommen wird, um die Schuld nicht auf andere zu schieben. Wenn die Annehmlichkeit eines Automatikgetriebes mir ein kleines Gefühl von Verlust, von Unausgelastetsein vermittelte, wie ein Arbeitsökonom sagen würde, wie wird es sich erst anfühlen, wenn ich Fahrgast im eigenen Auto werde?

DAS FALSCHE WÜNSCHEN

Problematisch an der Automatisierung ist: Häufig gibt sie uns etwas, was wir nicht brauchen, und nimmt uns, was wir tun. Um zu verstehen, warum das so ist und warum wir den Tausch so begierig annehmen, müssen wir uns verschiedene kognitive Verzerrungen – Fehler in unserem Denken – anschauen, die unsere Wahrnehmung verfälschen können. Wenn es darum geht, den Wert von Arbeit und Freizeit einzuschätzen, sieht das geistige Auge nicht klar.

Mihaly Csikszentmihalyi, Psychologieprofessor und Autor des bekannten Buchs Flow aus dem Jahr 1990, beschrieb ein Phänomen, das er als »Paradox der Arbeit« bezeichnet. Erstmals beobachtete er es in einer Studie aus den 1980er Jahren gemeinsam mit seiner Kollegin an der University of Chicago, Judith LeFevre. Sie suchten hundert Arbeitskräfte, Arbeiter und Angestellte, Gelernte und Ungelernte von fünf Unternehmen in Chicago. Jeder bekam einen elektronischen Pager (zu der Zeit waren Handys noch Luxusgüter), der so programmiert war, dass er täglich siebenmal an einem beliebigen Zeitpunkt piepste, an jedem Tag in der Woche. Bei jedem Piepsen mussten die Probanden einen kurzen Fragebogen ausfüllen. Sie beschrieben die Tätigkeit, die sie gerade ausführten, ihre Herausforderungen, die Fähigkeiten, die sie einsetzten, und ihren psychologischen Zustand, der durch Gefühle der Motivation, Befriedigung, Engagement, Kreativität und so weiter beschrieben wurde. Die Absicht dieses »experience sampling«, wie Mihaly Csikszentmihalyi die Methode nannte, sollte erkennen lassen, wie Menschen ihre Zeit bei der Arbeit und in der Freizeit verbringen und wie ihre Aktivitäten die »Qualität des Erlebens« beeinflussten.

Die Ergebnisse überraschten. Die Menschen waren glücklicher und fühlten sich ausgefüllter durch ihre Tätigkeit am Arbeitsplatz als in der Freizeit. In der Freizeit waren sie eher gelangweilt und ängstlich. Und sie waren nicht gern bei der Arbeit. Wenn sie bei der Arbeit waren, äußerten sie den dringenden Wunsch, frei zu haben, und wenn sie frei hatten, wollten sie auf keinen Fall zurück zur Arbeit. »Wir haben«, berichteten Csikszentmihalyi und LeFevre »die paradoxe Situation, dass die Menschen viel mehr positive Gefühle bei der Arbeit erleben als in der Freizeit. Sie sagen jedoch, sie würden lieber etwas anderes tun, wenn sie bei der Arbeit sind, nicht jedoch während ihrer Freizeit.«7 Das Experiment ergab: Wir sind schrecklich, wenn es darum geht, vorherzusehen, welche Aktivitäten uns befriedigen werden und welche uns unzufrieden machen. Sogar wenn wir mitten in einer Beschäftigung stecken, scheinen wir nicht in der Lage, ihre psychischen Folgen genau einzuschätzen.

Das sind Symptome einer allgemeineren Schwierigkeit, die die Psychologen mit dem poetischen Namen Miswanting, etwa »falsches Wünschen« oder »Fehl-Wünschen«, belegt haben. Wir neigen dazu, uns Dinge zu wünschen, die wir nicht mögen, und Dinge zu mögen, die wir nicht wünschen. »Wenn das, was wir uns wünschen, unser Glück nicht vermehrt und wenn das, was nicht geschehen soll, unser Glück vermehrt«, sagen die Kognitionspsychologen Daniel Gilbert und Timothy Wilson, »dann kann man sagen, wir haben schlecht gewünscht.«8 Und zahlreiche entsprechende Studien zeigen, dass wir immer schlecht wünschen. Es gibt auch eine soziale Komponente in dieser Tendenz zur Fehleinschätzung von Arbeit und Freizeit. Wie Csikszentmihalyi und LeFevre in ihren Untersuchungen herausfanden und wie wir meist aus unserer eigenen Erfahrung wissen, lassen sich Menschen von Konventionen leiten – in diesem Fall von der tief verwurzelten Vorstellung, dass »in der Freizeit« sein wünschenswerter und höher anzusiedeln ist als »bei der Arbeit« sein – anstatt von ihren Gefühlen. »Man muss nicht extra betonen«, sagen die Forscher, »dass eine solche Blindheit gegenüber der Realität ungünstige Folgen sowohl für das Wohlbefinden des Einzelnen als auch für die Gesundheit der Gesellschaft haben muss.« Da die Menschen nach ihrer verzerrten Wahrnehmung handeln, werden sie »versuchen, mehr dieser Aktivitäten auszuführen, die die wenigsten positiven Erlebnisse verschaffen, und die Aktivitäten meiden, die die Quelle ihrer positivsten und intensivsten Gefühle sind.«9 Das ist kaum ein Rezept für ein gutes Leben.

Es ist nicht so, dass die Arbeit, die wir für Geld erledigen, den Aktivitäten, die wir in der Freizeit zur Zerstreuung oder Unterhaltung tun, überlegen wäre. Im Gegenteil. Viele Arbeiten sind langweilig und sogar erniedrigend, und viele Hobbys und Freizeitbeschäftigungen sind anregend und erfüllend. Doch eine Arbeit verleiht unserer Zeit eine Struktur, die wir verlieren, wenn wir uns selbst überlassen sind. Bei der Arbeit werden wir zu Aktivitäten gedrängt, die Menschen am meisten befriedigen. Wir sind am glücklichsten, wenn wir mit einer schwierigen Aufgabe beschäftigt sind, einer Aufgabe, die ein klares Ziel hat und die uns nicht nur herausfordert, unsere Fähigkeiten einzusetzen, sondern sie auch zu erweitern. Wir tauchen so in den »Flow«, den Fluss unserer Arbeit ein, um Csikszentmihalyis Ausdruck zu verwenden, dass wir Ablenkungen ausblenden und die Ängste und Sorgen unseres Alltags überwinden. Unsere sonst so wechselhafte Aufmerksamkeit richtet sich auf das, was wir tun. »Jede Handlung, jede Bewegung und jeder Gedanke folgt zwangsläufig aus dem vorherigen«, erklärt Csikszentmihalyi. »Dein ganzes Sein ist involviert, und du schöpfst deine Fähigkeiten voll aus.«10 Ein solcher Zustand tiefer Versunkenheit kann durch verschiedene Anstrengungen entstehen, vom Fliesenlegen bis zum Singen in einem Chor oder einem Moto-Cross-Rennen. Man muss kein Geld dafür bekommen, um in den Genuss von Flow zu kommen.

Doch meist lässt unsere Disziplin nach, und unsere Gedanken wandern, wenn wir nicht bei der Arbeit sind. Wir sehnen uns vielleicht nach dem Ende des Arbeitstages, damit wir unser Geld ausgeben und uns amüsieren können, doch die meisten vertrödeln ihre freien Stunden. Wir meiden harte Arbeit und legen uns nur selten anspruchsvolle Hobbys zu. Stattdessen sehen wir fern, gehen ins Einkaufszentrum oder loggen uns in Facebook ein. Wir werden faul. Und dann wird uns langweilig, und wir werden unruhig. Losgelöst und weit entfernt von jedem äußeren Schwerpunkt wenden wir unsere Aufmerksamkeit nach innen und enden schließlich eingeschlossen in dem von Emerson so genannten Gefängnis des Rückbezugs auf sich selbst. Arbeit, selbst schlechte, »ist tatsächlich leichter zu genießen als freie Zeit«, sagt Csikszentmihalyi, denn sie besitzt ein »eingebautes Ziel« und Aufgaben, die »uns auffordern, uns in die Arbeit einzubringen, sich zu konzentrieren und sich darin zu verlieren«.11 Doch unser betrügerisches Gehirn will nicht, dass wir das glauben. Sobald sich die Gelegenheit ergibt, werden wir uns bereitwillig von den Mühen der Arbeit befreien. Wir verurteilen uns zur Untätigkeit.

DIE WÜRFEL SIND GEFALLEN

Verwundert es da, dass wir in die Automatisierung verliebt sind? Durch das Angebot, die Menge der zu erledigenden Arbeit zu reduzieren, durch das Versprechen, unserem Leben mehr Leichtigkeit, Komfort und Bequemlichkeit zu verleihen, sprechen Computer und andere arbeitssparende Technologien unseren sehnlichen, aber fehlgeleiteten Wunsch an, uns von dem zu befreien, was wir als mühevolle Arbeit ansehen. Am Arbeitsplatz liegt der Schwerpunkt der Automatisierung auf Beschleunigung und gesteigerter Effizienz – ein Schwerpunkt, der eher vom Profit diktiert ist als von einer Sorge um das Wohlergehen der Menschen –, und das nimmt häufig der Arbeit ihre Komplexität, verkleinert die Aufgabe und verringert so den geforderten Einsatz. Die Automatisierung kann den Verantwortungsbereich der Menschen so weit reduzieren, dass ihre Arbeit größtenteils nur noch daraus besteht, einen Computerbildschirm zu überwachen oder Daten in vorgegebene Felder einzugeben. Sogar gut ausgebildete Analysten und andere sogenannte Wissensarbeiter erleben es, dass ihre Arbeit durch Entscheidungsunterstützungssysteme eingeschränkt ist, die aus der Entscheidungsfindung einen Datenverarbeitungsprozess machen. Apps und andere Programme, die wir privat benutzen, haben ähnliche Auswirkungen. Indem sie uns schwierige, zeitaufwendige Aufgaben abnehmen oder diese Aufgaben einfach weniger beschwerlich machen, macht es die Software noch weniger wahrscheinlich, dass wir Anstrengungen unternehmen, die unsere Fähigkeiten fordern und uns das Gefühl der Befriedigung geben sowie das Gefühl, etwas geleistet zu haben. Nur allzu oft befreit uns die Automatisierung von dem, was uns das Gefühl von Freiheit verleiht.

Automatisierung ist nicht schlecht. Automatisierung und ihr Vorläufer, die Mechanisierung, schreiten seit Jahrhunderten voran, und im Großen und Ganzen haben sich unsere Lebensumstände dadurch entscheidend verbessert, zumindest was das Materielle angeht. Weise eingesetzt kann die Automatisierung uns von stumpfsinniger Plackerei befreien und uns zu anspruchsvolleren und erfüllenderen Bemühungen anspornen. Doch es gelingt uns nicht, die Automatisierung rational zu betrachten oder ihre Folgen zu beurteilen. Wir wissen nicht, wann wir »genug« sagen müssen oder auch nur »einen Moment, bitte«. Wirtschaftlich und emotional sind die Würfel schon gefallen – zugunsten der Automatisierung. Welche Vorteile es hat, die Arbeit von Menschen auf Maschinen und Computer zu übertragen ist leicht zu erkennen und zu bemessen. Die Unternehmen können die Zahlen zu Kapitalinvestitionen und den Nutzen der Automatisierung in harter Währung berechnen: niedrigere Arbeitskosten, gesteigerte Produktivität, schnellerer Durchsatz, kürzere Umschlagszeit und höhere Profite. Im Privatleben sparen wir mit Computern häufig Zeit und Mühe. Und dank unserer Voreingenommenheit für Freizeit gegenüber der Arbeit, der Bequemlichkeit vor der Mühe überschätzen wir den Nutzen der Automatisierung.

Welchen Preis wir dafür zahlen, das lässt sich schwerer bestimmen. Wir wissen, dass Computer bestimmte Arbeiten überflüssig machen und manchen Menschen den Arbeitsplatz wegnehmen, doch die Geschichte zeigt, und die meisten Wirtschaftsexperten nehmen das an, dass jeder Rückgang in der Beschäftigung nur von begrenzter Dauer ist und dass auf lange Sicht die produktivitätssteigernde Technologie neue Chancen schafft und den Lebensstandard steigern wird. Der persönliche Preis ist noch weniger klar zu bestimmen. Wie misst man die Kosten, wenn Leistung und Einsatz ausgehöhlt werden oder wenn Tätigkeit und Autonomie schwinden oder wenn sich die Fähigkeiten etwas verschlechtern? Das kann man nicht messen. Das sind die schattenhaften, immateriellen Dinge, die wir kaum schätzen, ehe sie verschwunden sind, und selbst dann fällt es uns wahrscheinlich schwer, den Verlust konkret in Worte zu fassen. Doch der Preis ist real. Die Entscheidungen, die wir treffen oder eben nicht treffen, welche Aufgaben wir Computern überlassen und welche wir selbst behalten, sind nicht einfach praktische oder wirtschaftliche Entscheidungen. Es sind moralische Entscheidungen. Sie formen unser Leben und den Ort, den wir uns in der Welt bereiten. Die Automatisierung konfrontiert uns mit der wichtigsten aller Fragen: Was bedeutet es, ein Mensch zu sein?

Noch etwas entdeckten Csikszentmihalyi und LeFevre in ihrer Untersuchung alltäglicher Abläufe im Leben: Das Autofahren war die Freizeitaktivität, die bei ihren Probanden das stärkste Gefühl von Flow hervorrief.

KAPITEL ZWEI

DER ROBOTER AM TOR

Anfang der 1950er Jahre zeichnete der beliebte Karikaturist beim britischen Satiremagazin Punch, Leslie Illingworth, ein Bild düsterer Vorahnung: In der Dämmerung eines offensichtlich stürmischen Herbsttages lugt ein Arbeiter ängstlich aus dem Eingang einer anonymen Fabrikanlage. Mit einer Hand hält er ein kleines Werkzeug umfasst, die andere ist zu einer Faust geballt. Er blickt über den trüben Fabrikhof zum Haupteingang. Dort steht neben einem großen Schild mit der Aufschrift »Hilfskräfte gesucht« ein riesiger breitschultriger Roboter. Auf seiner Brust prangt in Großbuchstaben das Wort »Automatisierung«.

Die Illustration war ein Zeichen der Zeit, sie reflektierte eine neue Angst in der westlichen Gesellschaft. 1956 wurde die Zeichnung erneut abgedruckt, auf dem Titel des schmalen, aber einflussreichen Buches Automation: Freund oder Feind? von Robert Hugh Macmillan, einem Professor für Maschinenbau an der Cambridge University. Auf der ersten Seite stellte Macmillan eine beunruhigende Frage: »Besteht die Gefahr, dass wir von unseren eigenen Geschöpfen zerstört werden?« Er meinte nicht die bekannten »Gefahren einer unbegrenzten Kriegführung ›auf Knopfdruck‹«. Er sprach von einer weniger diskutierten, aber noch tückischeren Gefahr: »der schnell wachsenden Rolle automatischer Geräte in der zivilen Industrie aller zivilisierten Länder«.1 So wie frühere Maschinen »die Muskeln des Menschen ersetzten«, schien es wahrscheinlich, dass diese neuen Geräte »sein Gehirn« ersetzen würden. Durch die Übernahme zahlreicher gut bezahlter Arbeiten drohte weitläufige Arbeitslosigkeit, die wiederum zu sozialen Konflikten und Aufruhr führen würde – wie es Karl Marx ein Jahrhundert zuvor vorausgesehen hatte.2

Doch so musste es nicht kommen, fuhr Macmillan fort. »Richtig eingesetzt« könnte die Automatisierung wirtschaftliche Stabilität bringen, den Wohlstand fördern und die menschliche Rasse von ihrer Mühsal erlösen. »Meine Hoffnung ist es, dass dieser neue Zweig der Technologie es uns schließlich ermöglicht, den Fluch von Adams Schultern zu nehmen, denn Maschinen könnten tatsächlich Sklaven des Menschen werden und nicht ihre Meister, jetzt, wo praktische Verfahren entwickelt wurden, um sie automatisch zu steuern.«3 Ganz gleich, ob die Technologien der Automatisierung sich letztendlich als Fluch oder Segen erwiesen, eine Sache war sicher: Sie würden eine immer größere Rolle in der Industrie und in der Gesellschaft spielen, warnte Macmillan. Die wirtschaftlichen Erfordernisse einer »stark wettbewerbsorientierten Welt« machten das unausweichlich.4 Wenn ein Roboter schneller, billiger oder besser war als sein menschliches Pendant, dann würde der Roboter die Arbeit bekommen.

SELTSAME VERWANDTE

»Wir sind Brüder und Schwestern unserer Maschinen«, sagte der Technikhistoriker George Dyson einmal.5 Geschwisterliche Bande sind meist belastet, so auch unsere Beziehung zu den technologischen Verwandten. Wir lieben unsere Maschinen – nicht nur, weil sie nützlich sind, sondern auch, weil wir sie unterhaltsam und sogar schön finden. In einer guten Maschine sehen wir manche unserer tiefsten Sehnsüchte verwirklicht: den Wunsch, die Welt und ihre Mechanismen zu verstehen, den Wunsch, die Kräfte der Natur unseren eigenen Zwecken zu unterwerfen, den Wunsch, dem Kosmos etwas Neues unserer eigenen Prägung hinzuzufügen, den Wunsch, mit Erstaunen und Ehrfurcht erfüllt zu werden. Eine raffinierte Maschine kann uns mit Staunen und Stolz erfüllen.

Doch Maschinen sind auch hässlich, und wir empfinden sie als Bedrohung für das, was uns lieb und teuer ist. Maschinen können Ausdruck menschlicher Macht sein, doch diese Macht liegt eher in der Hand von Industriellen und Financiers, die die Maschinen besitzen, und nicht bei den Menschen, die sie gegen Bezahlung bedienen. Maschinen sind kalt und unbeseelt, und in ihrem Gehorsam gegenüber vorgeschriebenen Abläufen sehen wir ein Abbild finsterer Möglichkeiten der Gesellschaft. Wenn Maschinen etwas Menschliches in den fremden Kosmos bringen, bringen sie auch etwas Fremdes in die menschliche Welt. Der Mathematiker und Philosoph Bertrand Russell fasste es in einem Essay aus dem Jahr 1924 lapidar zusammen: »Maschinen werden verehrt, weil sie schön sind, und geschätzt, weil sie Macht verleihen; man hasst sie, weil sie hinterhältig sind, und verabscheut sie, weil sie zur Sklaverei führen.«6

Wie Russels Kommentar nahelegt, hat die Spannung in R. H. Macmillans Ansicht über automatisierte Maschinen – sie vernichten oder erlösen uns, befreien oder versklaven uns – eine lange Geschichte. Dieselbe Spannung prägte immer die allgemeine Reaktion auf Maschinen in der Fabrik seit dem Beginn der industriellen Revolution vor mehr als zwei Jahrhunderten. Viele unserer Vorfahren begrüßten die mechanisierte Produktion und sahen darin ein Symbol für Fortschritt und einen Garanten für Wohlstand, andere befürchteten, die Maschinen könnten ihnen die Arbeit und sogar ihre Seele wegnehmen. Seitdem war die Geschichte der Technik von schnellem und oft verwirrendem Wandel geprägt. Dank der Genialität unserer Erfinder und Unternehmer verging kaum ein Jahrzehnt ohne die Entwicklung neuer raffinierterer und leistungsfähigerer Maschinen. Doch unsere Ambivalenz gegenüber diesen fantastischen Schöpfungen, Schöpfungen unserer eigenen Hände und unseres Verstandes, ist geblieben. Es ist fast, als sähen wir in diesen Maschinen, wenn auch nur undeutlich, etwas von uns selbst, dem wir nicht ganz trauen.

In seinem Meisterwerk aus dem Jahr 1776 Der Wohlstand der Nationen, dem grundlegenden Text zum freien Unternehmertum, pries Adam Smith die große Vielfalt der von den Produzenten installierten »schönen Maschinen«, »welche die Arbeit erleichtern und abkürzen«. Indem sie ermöglichten, dass ein Mensch »die Arbeit vieler« leistete, sagte er voraus, würde die Mechanisierung der industriellen Produktivität einen gewaltigen Aufschwung verschaffen.7 Fabrikbesitzer würden mehr Gewinne machen, die sie wieder in eine Ausweitung ihrer Geschäfte investieren würden – sie würden mehr Anlagen bauen, mehr Maschinen kaufen, mehr Arbeiter anstellen. Jede einzelne Maschine würde die Arbeit verringern und wäre keinesfalls schlecht für die Arbeiter, sondern würde langfristig den Bedarf an Arbeitskräften steigern.

Andere Denker teilten Smiths Einschätzung und erweiterten sie. Dank der höheren Produktivität durch die arbeitsersparende maschinelle Ausstattung würden sich die Arbeitsplätze vervielfältigen, sagten sie. Die Löhne würden steigen, und die Preise für die Waren würden sinken. Die Arbeiter hätten mehr Geld in den Taschen, mit dem sie Produkte der Hersteller kaufen würden, die sie beschäftigten. So wäre mehr Kapital für die industrielle Expansion vorhanden. Also würde die Mechanisierung einen Kreislauf in Gang setzen, der das wirtschaftliche Wachstum einer Gesellschaft beschleunigt, ihren Wohlstand vermehrt und verbreitet und seinen Menschen das bringen würde, was Smith als »Bequemlichkeit und Luxus« bezeichnete.8 Diese Auffassung von Technologie als wirtschaftlichem Zaubertrank schien glücklicherweise von der frühen Geschichte der Industrialisierung bestätigt und ist seither eine feste Größe in der Wirtschaftstheorie. Diese Vorstellung überzeugte nicht nur frühe Kapitalisten und ihre gelehrten Brüder. Viele Sozialreformer lobten die Mechanisierung und knüpften daran die Hoffnung, die städtischen Massen aus Armut und Knechtschaft zu führen.

Wirtschaftsexperten, Kapitalisten und Reformer konnten es sich leisten, die Sache auf lange Sicht zu betrachten. Die Arbeiter selbst konnten das nicht. Schon eine kurzfristige Verkürzung der Arbeit konnte ihre Lebensgrundlage real und sofort bedrohen. Die Aufstellung neuer Fabrikmaschinen machte zahlreiche Menschen arbeitslos und zwang andere, qualifizierte, interessante Arbeit gegen langweilige, eintönige Tätigkeiten wie das Drücken von Hebeln und Pedalen zu tauschen. In vielen Teilen Großbritanniens sabotierten gelernte Arbeiter im 18. und frühen 19. Jahrhundert die neuen Maschinen, um ihre Arbeit und ihren Berufsstand zu verteidigen. »Maschinenstürmer« wurden sie genannt, und dabei handelte es sich nicht einfach um einen Angriff auf den technischen Fortschritt. Es war ein konzertierter Versuch von Geschäftsleuten, ihren Lebensstil zu wahren, der sehr stark von dem von ihnen ausgeübten Handwerk abhing, und ihre wirtschaftliche und bürgerliche Autonomie zu wahren. »Wenn die Arbeiter etwas gegen bestimme Maschinen hatten«, schreibt der Historiker Malcolm Thomis, der zeitgenössische Berichte über die Aufstände auswertete, »dann dagegen, wie man sie einsetzte, nicht, weil es Maschinen waren oder weil es etwas Neues war«.9

Der Maschinensturm führte zum Luddismus, der in den industriellen Grafschaften in den Englischen Midlands von 1811 bis 1816 wütete. Weber und Stricker fürchteten die Zerstörung ihrer kleinen, lokal organisierten Heimindustrie und bildeten Guerillagruppen mit dem Ziel, die großen Textilfabriken davon abzuhalten, mechanische Webstühle und Strumpfwirkstühle einzurichten. Die Ludditen – Rebellen, die ihren inzwischen berüchtigten Namen von einem legendären Maschinenstürmer aus Leicestershire namens Ned Ludlam ableiteten – organisierten nächtliche Angriffe auf die Fabrikanlagen und zerstörten oft die neuen Maschinen. Tausende britischer Truppen mussten gegen die Rebellen eingesetzt werden, und die Soldaten schlugen den Aufstand mit brutaler Gewalt nieder, töteten und inhaftierten viele.

Zwar konnten die Ludditen und andere Maschinenstürmer vereinzelt Erfolge verzeichnen und das Tempo der Mechanisierung bremsen, doch sicherlich konnten sie sie nicht aufhalten. Maschinen standen bald in allen Fabriken. Sie waren von wesentlicher Bedeutung für die industrielle Produktion und den Wettbewerb, und ihre Ablehnung galt bald als vergebliche Mühe. Die Arbeiter ergaben sich der neuen technologischen Herrschaft, doch ihr Misstrauen gegenüber den Maschinen blieb.

DAS MASCHINENZEITALTER

Es war Marx, der einige Jahrzehnte nach der Niederlage der Ludditen der tiefen Spaltung der Gesellschaft hinsichtlich der Einschätzung der Mechanisierung den stärksten und wirkungsvollsten Ausdruck verlieh. In seinen Schriften schreibt Marx den Maschinen in den Fabriken oft einen dämonischen, parasitären Willen zu und bezeichnet sie als »tote Arbeit«, die »die lebendige Arbeitskraft beherrscht und austrocknet«. Der Arbeiter wird zum bloßen »lebendigen Anhängsel« des »leblosen Mechanismus«.10 In einer düsteren prophetischen Bemerkung in einer Rede im Jahr 1856 sagte er: »All unser Erfinden und unser ganzer Fortschritt scheinen darauf hinauszulaufen, dass sie materielle Kräfte mit geistigem Leben ausstatten und das menschliche Leben zu einer materiellen Kraft verdummen.«11 Doch Marx sprach nicht nur von den »teuflischen« Auswirkungen der Maschinen. Wie der Medienwissenschaftler Nick Dyer-Witheford erklärt, sah und lobte er auch ihr »emanzipatorisches Versprechen«.12 Die modernen Maschinen, so Marx in derselben Rede, sind »mit der wundervollen Kraft begabt«, »die menschliche Arbeit zu verringern und fruchtbarer zu machen«.13 Indem die Maschinen die Arbeiter von der engen Spezialisierung auf ihre Berufe befreien, erlauben sie ihnen, ihr Potential als vollständig entwickelte Individuen auszuleben, die zwischen verschiedenen »Kreisen der Tätigkeit« wechseln könnten und somit auch zwischen verschiedenen sozialen Funktionen.14 In den richtigen Händen – denen der Arbeiter und nicht der Kapitalisten – wäre die Technologie nicht mehr das Joch der Unterdrückung. Sie würde zum Werkzeug der Selbstverwirklichung.

Die Vorstellung von Maschinen als Befreiern setzte sich in der westlichen Kultur mit dem nahenden 20. Jahrhundert zunehmend durch. In einem Artikel aus dem Jahr 1897, der die Mechanisierung der amerikanischen Industrie preist, zählte der französische Ökonom Émile Levasseur die Wohltaten auf, die die neue Technologie den arbeitenden Klassen gebracht hatte. Sie hatte die Löhne der Arbeiter erhöht, die Preise für Nahrungsmittel gesenkt und ihnen so größeren materiellen Wohlstand gebracht. Sie hatte zu einer Neugestaltung von Fabriken geführt, zu saubereren, besser beleuchteten und generell menschenfreundlicheren Arbeitsplätzen als die »dark satanic mills«, die dunklen, teuflischen Fabriken, die typisch für die frühen Jahre der industriellen Revolution waren. Vor allem hatten sie die Art der zu verrichtenden Arbeiten in der Fabrik verbessert. »Ihre Aufgaben sind weniger schwer. Die Maschinen tun alles, was große Kraft erfordert; der Arbeiter setzt nicht seine Muskelkraft ein, sondern ist zum Inspektor geworden und gebraucht seine Intelligenz.« Levasseur räumte ein, dass die Arbeiter immer noch grollten, weil sie Maschinen bedienen mussten. »Sie werfen der Maschine vor, sie verlangte ständige Aufmerksamkeit, die sie schwächt«, schrieb er, und sie beschuldigen sie, »den Menschen zu degradieren, indem sie ihn in eine Maschine verwandeln, die eine Bewegung ausführen kann, und immer die gleiche«. Solche Klagen wies er jedoch zurück und sagte, die Arbeiter mit ihren Scheuklappen verstünden einfach nicht, wie gut sie es hätten.15

Manche Künstler und Intellektuelle, die glaubten, die erfindungsreiche Arbeit des Geistes sei der produktiven körperlichen Arbeit überlegen, sahen ein technologisches Utopia entstehen. Oscar Wilde sah in einem Aufsatz, der zur gleichen Zeit veröffentlicht wurde wie der von Levasseur, jedoch an ein ganz anderes Publikum gewandt war, einen Tag voraus, an dem alle Maschinen die Arbeit nicht nur erleichtern, sondern eliminieren würden: »Jede rein mechanische, jede eintönige und dumpfe Arbeit, jede Arbeit, die mit widerlichen Dingen zu tun hat und den Menschen in abstoßende Situationen zwingt, muss von der Maschine getan werden«, schrieb er. »Von mechanischen Sklaven, von der Sklaverei der Maschine hängt die Zukunft der Welt ab«. Dass Maschinen die Rolle von Sklaven einnehmen würden, schien für Wilde eine ausgemachte Sache: »Es ist durchaus kein Zweifel, dass das die Zukunft der Maschine ist, und ebenso wie die Bäume wachsen, während der Landwirt schläft, so wird die Maschine, während die Menschheit sich der Freude oder edler Muße hingibt – Muße, nicht Arbeit, ist das Ziel des Menschen – oder schöne Dinge schafft oder schöne Dinge liest, oder einfach die Welt mit bewundernden und genießenden Blicken umfängt, alle notwendige und unangenehme Arbeit verrichten.«16

Die Depression in den 1930er Jahren versetzte solchem Enthusiasmus einen Dämpfer. Der wirtschaftliche Zusammenbruch führte zu einem Protestschrei gegen das in den wilden Zwanzigern so genannte und gefeierte »Maschinenzeitalter«. Gewerkschaften und religiöse Gruppierungen, Kolumnenschreiber auf dem Kreuzzug und verzweifelte Bürger – alle wüteten gegen die Arbeitsplätze zerstörenden Maschinen und die gierigen Geschäftsleute, die sie besaßen. »Maschinen haben das Phänomen Arbeitslosigkeit nicht eingeführt«, schrieb der Autor eines Bestsellers mit dem Titel Men and Machines, »doch sie beförderten es von einer kleinen Störung zu einem der Hauptübel für die Menschheit«. Von jetzt an galt anscheinend, fuhr er fort: »Je besser wir produzieren können, desto schlechter wird es uns gehen.«17 Der Bürgermeister von Palo Alto in Kalifornien schrieb einen Brief an Präsident Herbert Hoover und bat ihn, etwas gegen das »Frankenstein-Monster« der industriellen Technologie zu unternehmen, das »unsere Zivilisation verschlingt«.18 Manchmal schürte die Regierung selbst die Befürchtungen der Öffentlichkeit. Ein Bericht einer Bundesbehörde bezeichnete die Fabrikmaschine als »gefährliches wildes Tier«. Die unkontrollierte Beschleunigung des Fortschritts, schrieb der Autor, hätte dazu geführt, dass die Gesellschaft für den Umgang mit den Folgen immer wieder nicht vorbereitet ist.19

Doch die Wirtschaftskrise löschte Wildes Traum vom Maschinenparadies nicht vollständig aus. In gewisser Weise machte sie die utopische Vision des Fortschritts lebendiger und notwendiger. Je mehr wir Maschinen als unsere Feinde betrachteten, desto mehr sehnten wir uns danach, ihre Freunde zu sein. »Wir sind«, schrieb der britische Ökonom John Maynard Keynes im Jahr 1930, »von einer neuen Krankheit befallen, deren Namen manche Leser vielleicht noch nicht kennen, von der sie in den kommenden Jahren jedoch viel hören werden – nämlich technologische Arbeitslosigkeit.« Die Fähigkeit von Maschinen, Arbeiten zu übernehmen, hatte die Fähigkeit der Wirtschaft, neue wertvolle Arbeitsplätze für Menschen zu schaffen, überholt. Doch das Problem, so versicherte Keynes seinen Lesern, war lediglich ein Symptom für Wachstum, und der Wohlstand würde zurückkehren. Die Prokopfeinkommen würden steigen. Und bald würden wir uns, dank der Erfindungsgabe und Effizienz unserer mechanischen Sklaven, überhaupt keine Sorge mehr um Arbeitsplätze machen müssen. Keynes hielt es tatsächlich für möglich, dass in hundert Jahren, im Jahr 2030, technischer Fortschritt die Menschheit vom Kampf um den Lebensunterhalt befreit haben würde und uns zu unserer Bestimmung, der »wirtschaftlichen Seligkeit«, gebracht haben würde. Maschinen würden noch mehr Arbeit für uns erledigen, doch das wäre kein Grund mehr für Sorge oder Verzweiflung für uns. Bis dahin hätten wir herausgefunden, wie man den Wohlstand auf alle verteilt. Unser Problem wäre, was wir mit unseren endlosen Stunden der Freizeit anfangen sollten – zu lernen, wie man genießt, anstatt »zu streben«.20

Wir streben immer noch, und es scheint sicher, dass bis 2030 wirtschaftliche Glückseligkeit nicht über den Planeten gekommen sein wird. Doch wenn Keynes sich in den düsteren Tagen um 1930 von seinen Hoffnungen überwältigen ließ, hatte er doch prinzipiell recht mit den wirtschaftlichen Aussichten. Die Wirtschaftskrise erwies sich als zeitlich begrenzt. Das Wachstum kehrte zurück, die Arbeitsplätze kehrten zurück, die Einkommen stiegen, und die Unternehmen kauften immer mehr und bessere Maschinen. Das wirtschaftliche Gleichgewicht, so unvollkommen und fragil wie immer, hatte sich wieder eingefunden. Adam Smiths Kreislauf war wieder in Gang gekommen.

1962 konnte Präsident John F. Kennedy in einer Rede in West Virginia verkünden: »Wir glauben, wenn die Menschen die Fähigkeit besitzen, neue Maschinen zu erfinden, die den Menschen die Arbeit nehmen, dann besitzen sie auch die Fähigkeit, diesen Menschen wieder Arbeit zu verschaffen.«21 Vom Anfang »wir glauben« klingt der Satz »kennedyesk«. Die einfachen Worte werden klangvoll durch die Wiederholung: Menschen, Fähigkeit, Menschen, Arbeit, Fähigkeit, Menschen, Arbeit. Der trommelähnliche Rhythmus marschiert vorwärts und zum Abschluss – »zurück zur Arbeit« – mit einem Hauch von Unvermeidlichkeit. Für die Zuhörer müssen sich die Worte angehört haben wie das Ende der Geschichte. Sie waren das Ende eines Kapitels, und ein neues hatte bereits begonnen.

DIE AUSHÖHLUNG

Sorgen wegen technologisch bedingter Arbeitslosigkeit macht man sich zunehmend wieder, vor allem in den Vereinigten Staaten. Die Rezession Anfang der 1990er Jahre, die bedeutende US-Firmen wie General Motors, IBM und Boeing veranlasste, zehntausende Arbeiter aufgrund massiver »Umstrukturierungen« zu entlassen, weckte Befürchtungen, dass neue Technologien, insbesondere billige Computer und clevere Software dabei waren, die Arbeitsstellen des Mittelstands auszulöschen. 1994 veröffentlichten die Soziologen Stanley Aronowitz und William DiFazio das Buch The Jobless Future, ein Buch, das im Trend zu »schlecht bezahlten, zeitlich begrenzten Arbeiter- und Angestellten-Arbeitsplätzen ohne Sozialleistungen und zu weniger regulären, dauerhaften Fabrik- und Büroarbeitsplätzen« einen »arbeitsplatzvernichtenden technologischen Wandel« sah.22 Im folgenden Jahr erschien Jeremy Rifkins beunruhigendes Werk Das Ende der Arbeit. »Die Verbreitung der Computerautomation hatte eine dritte industrielle Revolution bewirkt«, so Rifkin. »In den kommenden Jahren werden neue, ausgereiftere Software-Technologien die Zivilisation einer fast arbeiterlosen Welt näher bringen.« Die Gesellschaft habe einen Wendepunkt erreicht, schrieb er, Computer könnten zu »massiver Arbeitslosigkeit und weltweiter Wirtschaftskrise führen«, doch sie könnten uns ebenso »frei machen für ein Leben mit zunehmender Freizeit«, wenn wir die Ziele des gegenwärtigen Kapitalismus neu formulieren wollten.23 Diese beiden Bücher und ähnliche fanden große Beachtung, aber wieder einmal schwanden die Befürchtungen einer Arbeitslosigkeit durch Technologie schnell wieder. Das Erstarken des wirtschaftlichen Wachstums Mitte und Ende der 1990er Jahre, das im aufgeregten Dotcom-Boom gipfelte, lenkte die Aufmerksamkeit weg von den apokalyptischen Ankündigungen der Massenarbeitslosigkeit.

Zehn Jahre später, nach der Finanzkrise von 2008, kehrten die Befürchtungen zurück, schlimmer denn je. Mitte 2009 expandierte die amerikanische Wirtschaft wieder und erholte sich allmählich vom wirtschaftlichen Zusammenbruch. Die Gewinne der Unternehmen stiegen schnell wieder. Ebenso erreichten die Kapitalinvestitionen der Unternehmen wieder das Niveau, das sie vor der Krise hatten. Der Aktienmarkt zog kräftig an. Doch die Neueinstellungen stiegen nicht. Es ist zwar nicht unüblich, dass Unternehmen erst abwarten, ob sich eine Erholung stabilisiert, ehe sie neue Mitarbeiter einstellen, doch diesmal schien die Verspätung endlos. Das Arbeitsplatzangebot blieb ungewöhnlich verhalten, die Arbeitslosenzahl blieb hartnäckig hoch. Auf der Suche nach einer Erklärung und einem Sündenbock landete man bei den üblichen Verdächtigen: arbeitssparende Technologien.

Ende 2011 veröffentlichten zwei angesehene Wissenschaftler des MIT Erik Brynjolfsson und Andrew McAfee ein kurzes E-Book mit dem Titel Race against the Machine, in dem sie Ökonomen und Politiker sanft rügten, weil sie die Möglichkeit leugneten, dass Technologie am Arbeitsplatz den Bedarf an neuen Arbeitskräften substantiell reduzierte. Die »empirische Tatsache«, dass Maschinen seit Jahrhunderten die Beschäftigung unterstützten, »verbirgt ein schmutziges Geheimnis«, schrieben sie. »Es gibt kein ökonomisches Gesetz, das besagt, dass alle oder die meisten automatisch vom technischen Fortschritt profitieren.« Brynjolfsson und McAfee waren keineswegs technophob – sie blieben weiterhin optimistisch, dass Computer und Roboter auf lange Sicht die Produktivität steigern und das Leben der Menschen verbessern könnten –, doch sie betonten, dass die technologische Arbeitslosigkeit real sei, dass sie allgegenwärtig sei und dass sie wahrscheinlich noch stark zunehmen würde. Menschliche Wesen verloren das Rennen gegen die Maschine, warnten sie.24

Ihr E-Book war wie ein brennendes Streichholz, das in ein trockenes Feld geworfen wurde. Es löste eine lebhafte und zuweilen auch scharfe Debatte unter Wirtschaftsexperten aus, eine Debatte, die bald auch die Aufmerksamkeit der Journalisten auf sich zog. Der Begriff »technologische Arbeitslosigkeit«, der nach der Wirtschaftskrise kaum mehr im Gebrauch war, rückte wieder ins öffentliche Bewusstsein. Anfang des Jahres 2013 brachte die Nachrichtensendung 60 Minutes einen Beitrag mit dem Titel »Der Marsch der Maschinen«, in dem untersucht wird, wie Unternehmen in Warenlagern, Krankenhäusern, Anwaltskanzleien und Produktionsanlagen neue Technologien anstelle von Arbeitern einsetzen. Der Korrespondent Steve Kroft beklagte »eine massive Hightech-Industrie, die enorme Produktivität und Wohlstand in die amerikanische Wirtschaft eingebracht hat, aber erstaunlich wenig zur Beschäftigung beiträgt«.25 Kurz nach der Ausstrahlung brachte ein Autorenteam von Associated Press eine dreiteilige Reportage über die andauernde hohe Arbeitslosigkeit. Ihre düstere Schlussfolgerung: Arbeitsplätze werden durch Technologie vernichtet. Schon lange warnten Science-Fiction-Autoren vor einer Zukunft, »in der wir für unsere eigene Überalterung sorgen und durch unsere Maschinen ersetzt werden«, bemerkten sie. »Die Zukunft ist da«,26 erklärten die AP-Reporter. Sie zitierten die Vorhersage eines Analysten, die Arbeitslosigkeit werde bis zum Ende des Jahrhunderts 75 Prozent erreichen.27

Solche Voraussagen lassen sich leicht abtun. Seit dem 18. Jahrhundert waren solche unheilverkündenden Ansagen immer wieder zu hören. Aus jeder Rezession erhebt sich ein Arbeitsplatz verschlingendes Frankenstein-Monster. Und wenn der Wirtschaftszyklus aus der Talsohle kommt und es wieder Arbeit gibt, dann geht das Monster zurück in seinen Käfig, und die Sorgen schwinden. Doch diesmal verhält sich die Wirtschaft nicht so. Es mehren sich die Hinweise, dass eine besorgniserregende neue Dynamik am Werk ist. Verschiedene bekannte Wirtschaftsexperten schließen sich Brynjolfsson und McAfee an und hinterfragen die bei ihrem Berufsstand so beliebte Annahme, dass die Gewinne aus der durch die Technologie verbesserten Produktivität die Zahl der Arbeitsplätze und die Einkommen wachsen lassen werden. Sie weisen darauf hin, dass die Produktivität in den Vereinigten Staaten in den letzten zehn Jahren schneller stieg als in den vorangegangenen dreißig Jahren, dass die Gewinne der Unternehmen hoch waren, so hoch wie seit einem halben Jahrhundert nicht mehr, und dass die Investitionen der Unternehmen in neue Maschinen enorm gestiegen sind. Aus dieser Kombination sollte sich eine stabile Zunahme an Arbeitsplätzen ergeben. Und doch ist die Gesamtzahl an Arbeitsplätzen im Land kaum verändert. Wachstum und Beschäftigung »laufen auseinander in den fortgeschrittenen Ländern«, sagt der Wirtschaftsexperte und Nobelpreisträger Michael Spence, und der Hauptgrund dafür ist die Technologie. »Dass Maschinen und Roboter alltägliche Arbeiten von Hand zunehmend ersetzen, ist ein starker Trend in der Produktion und in der Logistik, der sich fortsetzt und vielleicht noch beschleunigen wird. Computernetzwerke dagegen werden die Weiße-Kragen-Arbeit in der Datenverarbeitung ersetzen«.28

Manche hohen Investitionen in Roboter und andere Automationstechnologien in den letzten Jahren mögen vorübergehende wirtschaftliche Bedingungen widerspiegeln, besonders die laufenden Bestrebungen von Politikern und Zentralbanken zur Wachstumsförderung. Niedrige Zinsen und starke steuerliche Anreize von Seiten der Regierung mögen Unternehmen ebenfalls angeregt haben, arbeitssparende Maschinen und Software anzuschaffen, die sie andernfalls nicht erworben hätten.29 Doch es scheint sich um tiefer liegende und langfristigere Tendenzen zu handeln. Alan Krüger, Ökonom aus Princeton, der von 2011 bis 2013 den Vorsitz in Barack Obamas Council of Economic Advisers (Rat der Wirtschaftsberater) hatte, weist darauf hin, dass die US-Wirtschaft auch vor der Rezession »nicht genügend Arbeitsplätze schuf, speziell nicht für die Mittelschicht, und dass in der Produktion Arbeitsplätze in besorgniserregender Anzahl verlorengingen.«30 Seitdem verdüsterte sich das Bild nur. Man könnte annehmen, dass zumindest in der Produktion die Arbeitsplätze nicht verschwinden, sondern einfach in Länder mit niedrigen Löhnen abwandern. So ist es nicht. Die Gesamtzahl der Arbeitsplätze in der Produktion fällt weltweit seit Jahren, sogar in Zentren industrieller Macht wie China, während der Gesamtausstoß deutlich gestiegen ist.31 Maschinen ersetzen Fabrikarbeiter schneller als die wirtschaftliche Expansion neue Arbeitsplätze in der Produktion schaffen kann. Industrieroboter werden immer billiger und können immer mehr, also wird sich die Schere zwischen verlorengegangenen und neu geschaffenen Arbeitsplätzen ziemlich sicher weiter öffnen. Selbst die Nachricht, dass GE und Apple einige Fertigungsarbeiten wieder in die Vereinigten Staaten verlegen, ist kein Anlass zu reiner Freude. Ein Grund für die Rückkehr der Arbeitsplätze ist der, dass die Arbeit größtenteils ohne Menschen verrichtet werden kann. »Fabriken sind heutzutage fast menschenleer, weil von Software gesteuerte Maschinen die meiste Arbeit tun«, berichtet der Professor für Wirtschaftswissenschaften Tyler Cowen.32 Ein Unternehmen muss sich nicht um Arbeitskosten sorgen, wenn es keine Arbeiter beschäftigt.

Die Industriewirtschaft – die Wirtschaft der Maschinen – ist ein noch junges Phänomen. Es gibt sie seit zweieinhalb Jahrhunderten, das ist ein Tick des Sekundenzeigers der Geschichte. Vielleicht war es vorschnell, aus einem so beschränkten Erfahrungsbereich bestimmte Schlussfolgerungen über die Beziehung zwischen Technologie und Beschäftigung zu ziehen. Sinn und Zweck des Kapitalismus, im Licht des wissenschaftlichen und technischen Fortschritts gesehen, scheint die schlussendliche Entfernung der Arbeit aus dem Prozess der Produktion zu sein. Maschinen verlangen im Gegensatz zu Arbeitern keinen Anteil aus den Erlösen der Kapitalinvestitionen. Sie werden nicht krank und erwarten weder bezahlten Urlaub noch jährliche Gehaltserhöhungen. Für den Kapitalgeber ist die Arbeit ein Problem, das der Fortschritt löst. Die Angst, dass die Technologie die Beschäftigung beseitigen wird, ist keineswegs irrational, sondern wird sich »auf sehr lange Sicht« bewahrheiten, sagt der bekannte Wirtschaftshistoriker Robert Skidelsky: »Früher oder später werden uns die Arbeitsplätze ausgehen.«33

Wie lange ist »auf sehr lange Sicht«? Das wissen wir nicht, doch Skidelsky warnt, für manche Länder ist die Frist unangenehm kurz.34 Kurzfristig werden die Auswirkungen moderner Technologie mehr in der Verteilung von Arbeit als in den Gesamt-Beschäftigungszahlen abzulesen sein. Die Mechanisierung der Handarbeit in der industriellen Revolution beseitigte einige gute Arbeitsstellen, führte aber zur Schaffung einer ganzen Palette neuer Beschäftigungsmöglichkeiten für die Mittelschicht. Die Unternehmen wuchsen, weiteten ihre Aktivitäten aus und stellten Heere von Aufsehern, Buchhaltern, Designern und Marketingspezialisten ein. Der Bedarf an Lehrern, Ärzten, Juristen, Bibliothekaren, Piloten und allerlei anderen Berufsständen stieg ebenfalls. Der Arbeitsmarkt ist nie statisch. Er verändert sich in Reaktion auf technische und gesellschaftliche Trends. Doch es gibt keine Garantie dafür, dass die Veränderungen immer zum Wohle der Arbeiter oder der Mittelschicht ausfallen. Nachdem Computer so programmiert sind, dass sie Weiße-Kragen-Aufgaben übernehmen können, werden viele Experten in schlechter bezahlte Arbeitsplätze abgedrängt oder tauschen Vollzeit- gegen Teilzeitarbeitsplätze ein.

Während die meisten Arbeitsplätze in der letzten Krise in gut bezahlten Branchen verlorengingen, sind fast drei Viertel der seit der Krise neu geschaffenen Arbeitsplätze im Niedriglohnsektor angesiedelt. David Autor, Ökonom am MIT, untersuchte die Ursachen des »unglaublich blutleeren Beschäftigungswachstums« in den Vereinigten Staaten seit 2000 und kommt zu dem Schluss, dass die Informationstechnologie die Verteilung der Beschäftigung wirklich verändert hat und eine wachsende Ungleichheit in Einkommen und Wohlstand schafft. »Es gibt Arbeit im Überfluss in der Gastronomie, und es gibt Arbeit im Überfluss in der Finanzbranche, doch es gibt weniger Arbeit im Bereich der mittleren Einkommen.«35 Wenn neue Computertechnologien weiter die Gewinne aus der Wirtschaft in noch weniger Hände fließen lassen, wird sich diese Tendenz noch beschleunigen, und die mittleren Einkommensklassen werden weiter ausgehöhlt, und auch unter den bestbezahlten Fachleuten wird es zu wachsenden Arbeitsplatzverlusten kommen. »Kluge Maschinen ermöglichen ein höheres Bruttoinlandsprodukt«, merkt Paul Krugman, ein weiterer Ökonom und Nobelpreisträger an, »doch sie reduzieren auch die Nachfrage nach Menschen, auch nach klugen Menschen. Also könnte es sein, dass wir auf eine Gesellschaft zusteuern, die immer reicher wird, in der alle Gewinne aber an diejenigen gehen, denen die Roboter gehören.«36

Ganz so schlecht sieht es nicht aus. Als die US-amerikanische Wirtschaft Ende 2013 und Anfang 2014 anzog, stieg die Nachfrage nach Arbeitskräften in mehreren Sektoren, darunter in der Baubranche und im Gesundheitswesen, und es gab vielversprechende Zuwächse in einigen besser bezahlten Berufen. Die Nachfrage nach Arbeitern bleibt an den Wirtschaftszyklus gebunden, wenn auch weniger eng als in der Vergangenheit. Der zunehmende Einsatz von Computern und Software hat einige sehr attraktive neue Arbeitsplätze sowie unternehmerische Chancen geschaffen. Im historischen Vergleich ist die Zahl der in der Computerbranche und in verwandten Bereichen Beschäftigten jedoch bescheiden. Insgesamt schafft der Privatsektor neue, gut bezahlte Jobs nicht in dem Ausmaß, dass alle, die ihre Arbeit mit mittlerem Einkommen verloren haben, wieder eine Beschäftigung finden. Wir können nicht alle Software-Programmierer und Roboteringenieure werden. Wir können nicht alle nach Silicon Valley gehen und vom Schreiben schicker Smartphone-Apps leben.37 Die Durchschnittslöhne stagnieren, und die Gewinne der Unternehmen steigen weiter, und so scheinen die guten Gaben der Wirtschaft weiter in die Hände weniger zu fließen. Und die ermutigenden Worte von JFK klingen immer suspekter.

Warum könnte es diesmal anders sein? Was genau hat sich verändert und kappt die alte Verbindung zwischen neuen Technologien und neuen Arbeitsplätzen? Um dieser Frage nachzugehen, müssen wir zurück zu dem Riesenroboter, der in der Karikatur von Leslie Illingworth am Tor steht – zum Roboter mit dem Namen Automatisierung.

KONTROLLE AUF KNOPFDRUCK

Das Wort Automatisierung kam erst vor kurzem in unsere Sprache. Soweit wir es sagen können, wurde Automation im Englischen erstmals 1946 genannt, als die Ingenieure der Ford Motor Company es nötig fanden, einen Begriff für die neuesten Gerätschaften zu prägen, die an den Fließbändern des Unternehmens installiert wurden. »Wir brauchen mehr von diesem Automatischen«, soll ein Vice President von Ford bei einem Treffen gesagt haben, »mehr von dieser – dieser ›Automatisierung‹.«38 Die Ford-Fabriken waren schon hervorragend mechanisiert. Es gab komplizierte Maschinen, die jede Aufgabe in der Fertigung rationalisierten. Doch Fabrikarbeiter mussten immer noch die Teile und Baugruppen von Hand von einer Maschine zur nächsten tragen. Daher gaben die Arbeiter die Geschwindigkeit in der Produktion vor. Die 1946 eingerichteten Maschinen änderten das. Maschinen übernahmen Materialverarbeitung und -transport, sodass der gesamte Montageprozess automatisch voranschritt. Die Veränderung im Arbeitsablauf mag den Arbeitern in der Fabrik nicht gleich so folgenschwer erschienen sein. Doch sie war bedeutend. Die Kontrolle eines komplexen industriellen Prozesses war vom Arbeiter auf eine Maschine übergegangen.

Das neue Wort verbreitete sich schnell. Zwei Jahre später definierte ein Autor in der Zeitschrift American Machinist in einem Bericht über die Maschinen bei Ford den Begriff Automatisierung als: »die Kunst, mechanische Geräte zur Bearbeitung von Werkstücken einzusetzen ... zeitlich abgestimmt mit den Produktionsgeräten, sodass das Band an strategisch wichtigen Stationen vollständig oder teilweise auf Knopfdruck kontrollierbar ist.«39 Als sich die Automatisierung in andere Branchen und Produktionsprozesse ausbreitete und in der Kultur auch metaphorische Bedeutung gewann, wurde die Definition schwammiger. »Wenige Worte wurden in den letzten Jahren so verdreht, um einer Vielzahl von Absichten und Ängsten Ausdruck zu verleihen, wie dieses neue Wort Automatisierung«, schimpfte ein Wirtschaftsprofessor aus Harvard im Jahr 1958. »Es wurde als technisches Schlagwort, als Produktionsziel, als Herausforderung für den Maschinenbau, als Werbeslogan, als Schlagwort für Arbeiterkampagnen und als Symbol für einen ominösen technologischen Fortschritt gebraucht.« Dann bot er seine eigene, höchst pragmatische Definition: »Automatisierung bedeutet einfach, etwas deutlich mehr automatisch zu fertigen, als es zuvor in der Anlage, Branche oder an dem Standort geschah.«40 Die Automatisierung war weniger ein Ding oder eine Technik, sondern vielmehr eine Kraft. Sie war mehr eine Manifestation des Fortschritts als eine Verfahrensweise. Jeder Versuch, ihre Folgen zu erklären oder vorherzusagen, wäre notwendigerweise vorläufig. Wie viele technische Trends wäre die Automatisierung immer sowohl alt als auch neu und würde in jedem Stadium des Fortschritts immer wieder eine Neubewertung erfordern.

Dass die automatischen Anlagen bei Ford kurz nach dem Ende des Zweiten Weltkriegs eingerichtet wurden, war kein Zufall. Während des Krieges nahm die moderne Technik Gestalt an. Als die Nationalsozialisten 1940 die Luftangriffe gegen Großbritannien flogen, standen englische und amerikanische Wissenschaftler vor einer ebenso beängstigenden wie drängenden Aufgabe: Wie holt man in großer Höhe fliegende, sich schnell bewegende Bomber mit schwerfälligen Flugabwehrgeschützen vom Himmel, die vom Boden aus abgefeuert werden? Die erforderlichen Leistungen im Kopfrechnen und die physischen Manöver, um mit dem Geschütz exakt zu zielen – nicht auf die gegenwärtige Position des Flugzeugs, sondern auf seine wahrscheinliche zukünftige Position –, waren viel zu kompliziert, als dass ein Soldat sie mit der notwendigen Geschwindigkeit hätte durchführen können, um einen Schuss abzufeuern, solange das Flugzeug noch in Reichweite war. Das war keine Aufgabe für Sterbliche. Die Flugbahn des Geschosses, das sahen die Wissenschaftler, musste von einer Rechenmaschine berechnet werden, die eingehende Daten vom Radarschirm sowie statistische Projektionen über den Kurs eines Flugzeugs verwendet, und dann mussten die Berechnungen automatisch in den Zielmechanismus des Geschützes eingespeist werden, um die Schussabgabe zu steuern. Darüber musste das Ziel des Geschützes laufend automatisch eingestellt werden, und die Treffer oder Misserfolge der vorherigen Schüsse mussten mit einbezogen werden.

Für die Männer an den Geschützen veränderte sich die Arbeit mit der neuen Generation automatischer Waffen. Bald saßen die Artilleristen vor Bildschirmen in abgedunkelten Fahrzeugen und wählten Ziele auf dem Radarschirm aus. Ihre Identität wandelte sich mit ihren Aufgaben. »Sie waren keine Soldaten mehr«, schreibt ein Historiker, »sondern eher Techniker, die Darstellungen der Welt ablasen und manipulierten.«41

In den Flugabwehrgeschützen, die die Wissenschaftler der Alliierten entwickelten, sehen wir alle Elemente, die ein automatisiertes System ausmachen. Im Zentrum des Systems befindet sich eine Maschine, die sehr schnell Rechenoperationen ausführen kann – ein Computer. Zweitens gibt es einen Abtastmechanismus (in diesem Fall den Radar), der die äußere Umgebung, die reale Welt, überwacht und wesentliche Daten darüber an den Computer weitergibt. Drittens gibt es eine Verbindung, mit der der Computer die Bewegungen des physikalischen Apparats überwachen kann, der die eigentliche Aufgabe erfüllt, mit oder ohne menschliche Hilfe. Und schließlich gibt es eine Feedback-Methode – einen Weg, wie der Computer Informationen über die Resultate seiner Befehle erhält, damit er seine Berechnungen anpassen, Fehler korrigieren und Veränderungen in der Umgebung mit einbeziehen kann. Sinnesorgane, ein rechnendes Gehirn und ein Strom von Botschaften, der die physikalischen Bewegungen kontrolliert, dazu eine Feedback-Schleife für das Lernen: das ist das Wesentliche der Automatisierung, die Essenz eines Roboters. Und das ist auch das Wesentliche am Nervensystem eines Lebewesens. Die Ähnlichkeit ist kein Zufall. Um einen Menschen zu ersetzen, muss ein automatisches System einen Menschen oder zumindest einen Aspekt menschlicher Fähigkeiten zuerst einmal reproduzieren.

Automatische Maschinen gab es bereits vor dem Zweiten Weltkrieg. Die Dampfmaschine von James Watt, die treibende Kraft für die industrielle Revolution, enthielt ein geniales Feedback-Gerät – den Fliehkraftregler, mit dem die Maschine ihre eigene Funktion regelte. Wurde die Maschine schneller, brachte sie ein paar Metallkugeln zur Rotation. Das schuf eine Zentrifugalkraft, die über einen Regler ein Dampfventil schloss und so verhinderte, dass der Motor zu schnell lief. Der Jacquard-Webstuhl, der um 1800 in Frankreich erfunden wurde, arbeitete mit Metall-Lochkarten, um die Bewegungen von Spulen mit verschiedenfarbigen Fäden zu steuern. Damit konnten komplizierte Muster automatisch gewoben werden. 1866 ließ ein britischer Maschinenbauer mit dem Namen J. Macfarlane Gray einen Steuermechanismus für ein Dampfschiff patentieren, der die Bewegung des Schiffsruders erfassen und durch ein Rückkoppelungssystem den Winkel des Ruders anpassen konnte, damit ein eingestellter Kurs gehalten werden konnte.42 Doch die Entwicklung schneller Computer und weiterer elektronischer Sensorsysteme öffnete ein neues Kapitel in der Geschichte der Maschinen. Die Möglichkeiten der Automatisierung wurden gewaltig erweitert. Der Mathematiker Norbert Wiener, der an den Vorhersage-Algorithmen für das automatische Flugabwehrgeschütz der Alliierten mitarbeitete, erklärte in seinem 1950 erschienenen Buch Mensch und Menschmaschine, die Fortschritte der 1940er Jahre ermöglichten Erfindern und Ingenieuren, über die sporadische Entwicklung einzelner automatischer Mechanismen hinauszugehen. Die neuen Technologien wurden zwar mit der Waffentechnik im Hinterkopf entwickelt, doch sie förderten allgemein »den Bau automatischer Mechanismen unterschiedlichster Art«. Sie bereiteten den Weg für »das neue Zeitalter der Automatisierung.43

Neben dem Streben nach Fortschritt und Produktivität gab es einen weiteren Impetus für das Automatenzeitalter: die Politik. Die Nachkriegsjahre waren von intensiven Arbeitskämpfen gekennzeichnet. In den meisten amerikanischen Produktionssektoren kämpften Führungskräfte und Gewerkschaften, und am stärksten waren die Spannungen oft in den Branchen, die für die militärische Aufrüstung im Kalten Krieg für die Regierung von zentraler Bedeutung waren. Streiks, Arbeitsniederlegungen und Bummelstreiks waren an der Tagesordnung. Allein im Jahr 1950 gab es in einer einzigen Fabrik von Westinghouse in Pittsburgh acht Arbeitsniederlegungen. In vielen Fabriken hatten die Gewerkschaftsvertreter mehr Macht über den Betrieb als die Betriebsleitung – die Arbeiter hatten das Sagen. Militärische und industrielle Planer sahen in der Automatisierung eine Möglichkeit, das Gleichgewicht der Macht wieder herzustellen. Elektronisch gesteuerte Maschinen würden sich als »dem menschlichen Mechanismus enorm überlegen erweisen«, erklärte die Zeitschrift Fortune in einer Titelgeschichte mit dem Titel »Machines without Men« (dt.: Maschinen ohne Menschen), nicht zuletzt, weil Maschinen »immer mit den Arbeitsbedingungen zufrieden sind und nie höhere Löhne verlangen«.44 Eine Führungskraft von Arthur D. Little, einer führenden Unternehmensberatung für Betriebsführung und Technologie, schrieb, die Zunahme der Automatisierung sei ein Vorbote der »Emanzipation der Geschäftswelt von menschlicher Arbeitskraft«.45

Neben dem reduzierten Bedarf an Arbeitern, besonders gelernten, verschafften die automatisierten Maschinen den Unternehmenseigentümern und Führungskräften die technischen Mittel, um die Geschwindigkeit und den Fluss der Produktion durch die Programmierung einzelner Maschinen und ganzer Fließbänder zu steuern. Als in den Fabriken von Ford die Herrschaft über die Geschwindigkeit auf die neuen automatischen Maschinen überging, verloren die Arbeiter einen großen Teil ihrer Autonomie. Mitte der 1950er Jahre hatte sich der Einfluss der Gewerkschaften auf die Betriebsabläufe stark verringert.46 Das war eine wichtige Lehre: In einem automatisierten System konzentriert sich die Macht bei denen, die die Programmierung steuern.

Wiener sah mit frappierender Klarheit die nächsten Entwicklungen voraus. Die Technologien der Automatisierung würden weitaus schneller weiterentwickelt, als man sich das vorstellen konnte. Computer würden schneller und kleiner. Geschwindigkeit und Kapazität elektronischer Kommunikations- und Speichermöglichkeiten würden exponentiell steigen. Sensoren würden mit immer größerer Empfindlichkeit sehen, hören und fühlen. Robotermechanismen würden »die Funktion der menschlichen Hand gemeinsam mit dem menschlichen Auge noch naturgetreuer nachahmen«. Die Kosten für die Herstellung all der neuen Geräte und Systeme würden sinken. Der Einsatz der Automatisierung würde in immer mehr Bereichen möglich und wirtschaftlich werden. Und seit Computer so programmiert werden konnten, dass sie logische Funktionen ausführten, würde die Automatisierung über die Bereiche der Handarbeit hinaus auch in geistige Arbeitsfelder vorstoßen – den Bereich von Analyse, Beurteilung und Entscheidungsfindung. Die Aktion einer computerisierten Maschine musste nicht in der Manipulation von Materiellem wie Waffen bestehen. Sie konnte durch die Manipulation von Information agieren. »Von diesem Stadium an kann alles von Maschinen erledigt werden«, schrieb Wiener. »Der Maschine ist es egal, ob sie Handarbeit oder Weiße-Kragen-Arbeit verrichtet.« Für ihn war klar, dass die Automatisierung früher oder später zu einer Situation der Arbeitslosigkeit führen würde, »angesichts derer die Schwierigkeiten der Wirtschaftskrise wie ein netter Witz erscheinen«.47

Mensch und Menschmaschine war ein Bestseller, ebenso Wieners früheres und mehr technisches Traktat Kybernetik. Regelung und Nachrichtenübertragung in Lebewesen und Maschine. Die beunruhigenden Ansichten des Mathematikers über die Zukunft der Technologie gehörten zum intellektuellen Gedankengut der 1950er Jahre. Sie waren Ausgangspunkt zahlreicher Bücher und Artikel über die Automatisierung, die in diesem Jahrzehnt erschienen, nicht zuletzt von Robert Hugh Macmillans schmalem Band. Ein alternder Bertrand Russell schrieb in seinem Essay »Sind menschliche Wesen notwendig?« aus dem Jahr 1951, Wieners Arbeiten hätte klargemacht, »dass wir einige grundlegende Annahmen ändern müssen, auf denen die Welt seit Beginn der Zivilisation gründet.«48 Wiener erscheint sogar kurz als vergessener Prophet in Kurt Vonneguts erstem Roman Das höllische System aus dem Jahr 1952, eine dystopische Satire um die Rebellion eines jungen Ingenieurs gegen eine automatisierte Welt, die mit einer monumentalen Episode des Maschinensturms endet.

ROBOTER ÜBERALL

Die Vorstellung einer Roboterinvasion mag einer Öffentlichkeit, die schon durch die Atombombe erschüttert worden war, bedrohlich erschienen sein, wenn nicht gar apokalyptisch. Doch die Technologien zur Automatisierung befanden sich in den 1950ern noch in den Kinderschuhen. Die letztendlichen Konsequenzen konnte man sich in spekulativen Abhandlungen und in Science-Fiction-Phantasien ausmalen, doch diese lagen damals noch in weiter Ferne. In den 1960er Jahren sahen die meisten automatisierten Maschinen immer noch aus wie die primitiven Transportroboter an den Fließbändern bei Ford in der Nachkriegszeit. Sie waren groß, teuer und nicht allzu clever. Viele konnten nur eine einzige Tätigkeit wiederholen und ihre Bewegungen auf einige wenige grundlegende Kommandos hin anpassen: Geschwindigkeit erhöhen, langsamer werden; Bewegung nach links, Bewegung nach rechts; greifen, loslassen. Die Maschinen arbeiteten außerordentlich genau, besaßen sonst jedoch wenig Talente. Sie arbeiteten anonym in Fabriken, oft von Käfigen umgeben, damit Vorübergehende vor ihren seelenlosen Drehungen und Wendungen geschützt waren. Es hatte nicht den Anschein, als würden sie gleich die Weltherrschaft übernehmen. Sie schienen kaum mehr als brave, gut koordinierte Lasttiere.

Doch Roboter und andere automatisierte Systeme hatten einen großen Vorteil vor den rein mechanischen Geräten, die ihre Vorgänger waren. Weil sie von Software gesteuert waren, profitierten sie von Moores Gesetz. Ihnen kamen all die schnellen Neuerungen zugute – in der Prozessorgeschwindigkeit, bei den Programmierungsalgorithmen, bei Speicher- und Netzwerkkapazität, in der Entwicklung von Schnittstellen und der zunehmenden Verkleinerung – sie wurden schließlich typisch für den Fortschritt der Computer selbst. Es kam, wie Wiener vorausgesehen hatte. Die Sinne der Roboter wurden schärfer; ihre Gehirne schneller und beweglicher; ihre Sprache wurde flüssiger; ihre Lernfähigkeit vergrößerte sich. Anfang der 1970er Jahre übernahmen sie die Arbeiten in der Produktion, die Flexibilität und Geschicklichkeit erforderten – Schneiden, Schweißen, Zusammenbauen. Am Ende des Jahrzehnts bauten sie Flugzeuge zusammen und flogen sie auch. Und dann, befreit von ihrer physikalischen Ausführung und in reinen Logikcode verwandelt, verbreiteten sie sich in der Geschäftswelt in einer Vielzahl spezialisierter Software-Anwendungen. Sie drangen in die Branchen der Weiße-Kragen-Arbeiter ein, manchmal ersetzten sie sie, weitaus öfter übernahmen sie die Rolle eines Assistenten.

Vielleicht standen die Roboter in den 50er Jahren des 20. Jahrhunderts vor den Fabriktoren, doch erst vor kurzem marschierten sie, auf unseren Befehl, in Büros, Geschäfte und Privathaushalte. Heute bewegt sich die Software der Art, die Wiener als »Entscheidungs-Ersatz-Software« bezeichnet, vom Schreibtisch in unsere Taschen, und wir erfahren schließlich das wahre Potential, wie Automatisierung das verändert, was wir tun und wie wir es tun. Alles wird automatisiert. Oder, wie es der Netscape-Gründer und Silicon Valley-Grande Marc Andreessen formuliert: »Die Software frisst die Welt.«49

Das könnte die wichtigste Lehre aus Wieners Arbeit sein, und auch aus der langen bewegten Geschichte der arbeitsersparenden Maschinen. Die Technologie verändert sich, und sie verändert sich schneller als die Menschen. Wo die Computer mit der Geschwindigkeit des Moore’schen Gesetzes voranpreschen, kriechen unsere eigenen angeborenen Fähigkeiten im Schildkrötentempo von Darwins Gesetz voran. Wo Roboter in einer Vielzahl von Formen gebaut werden können und alles nachahmen können: von Schlangen, die sich in der Erde vergraben, über Greifvögel, die durch die Lüfte schießen, bis hin zu Fischen, die im Meer schwimmen, bleiben wir in unseren alten Körpern mit Händen und Fingern gefangen. Das bedeutet nicht, dass unsere Maschinen uns evolutionär überholen werden. Auch der leistungsfähigste Supercomputer besitzt nicht mehr Bewusstsein als ein Hammer. Das bedeutet, unsere Software und unsere Computer werden unter unserer Führung immer neue Wege finden, uns zu übertrumpfen – schneller, billiger und besser arbeiten. Und wie die Flugabwehrschützen im Zweiten Weltkrieg werden wir gezwungen sein, unsere Arbeit, unser Verhalten und unsere Fähigkeiten den Möglichkeiten und Abläufen der Maschinen anzupassen, auf die wir angewiesen sind.

KAPITEL DREI

AUF AUTOPILOT

Am Abend des 12. Februar 2009 kämpfte sich ein Linienflug von Continental Connection zwischen Newark, New Jersey, und Buffalo, New York, durch einen Sturm. Wie bei den meisten Linienflügen heutzutage hatten die beiden Piloten bei dem einstündigen Flug kaum etwas zu tun. Der 47-jährige Pilot, ein liebenswürdiger Mann aus Florida namens Marvin Renslow, steuerte das Flugzeug während des Starts, lenkte die Bombardier Q400 Turboprop in die Luft und schaltete dann auf Autopilot. Er und seine Kopilotin, die frisch verheiratete 24-jährige Rebecca Shaw aus Seattle, behielten die Anzeigen im Blick, die auf den fünf großen LCD-Bildschirmen im Cockpit aufleuchteten. Sie sprachen ein paarmal per Funk mit Fluglotsen, und sie gingen einige Routine-Checklisten durch. Die meiste Zeit über jedoch unterhielten sie sich einfach nur – über Familie, Karriere, Kollegen, Geld –, während die Turboprop auf 5000 Metern Höhe Richtung Nordwesten flog.1

Beim Landeanflug auf den Flughafen von Buffalo – das Fahrwerk und die Landeklappen waren bereits ausgefahren – begann die Steuerung des Piloten plötzlich laut zu rattern. Der »Stickshaker« des Flugzeugs war angesprungen, ein Zeichen dafür, dass die Turboprop an Auftrieb verlor und ein Strömungsabriss drohte. Wie in einem solchen Fall vorgesehen, schaltete sich der Autopilot aus, und der Pilot übernahm die Steuerung. Er reagierte schnell, tat aber genau das Falsche. Er zog die Steuersäule nach hinten, sodass die Nase des Flugzeugs sich hob und es langsamer wurde, statt die Säule nach vorn zu drücken, damit sich das Flugzeug senkte und Geschwindigkeit zulegte. Das automatische Notfallsystem des Flugzeugs bei Strömungsabriss sprang an und zog die Steuersäule nach vorn, aber der Pilot zog einfach nur noch stärker nach hinten. Renslow verursachte den Strömungsabriss, statt ihn zu verhindern. Die Q400 geriet außer Kontrolle und stürzte ab. »Wir stürzen ab«, schrie der Pilot. Einen Augenblick später krachte das Flugzeug in ein Haus in einem Vorort von Buffalo.

Der Absturz, bei dem alle 49 Menschen an Bord und ein Mensch am Boden starben, hätte nicht passieren dürfen. Eine Untersuchung des National Transportation Safety Board ergab keinerlei Hinweise auf ein mechanisches Problem bei der Q400. Auf dem Flugzeug hatte sich etwas Eis gebildet, aber das war nicht ungewöhnlich für einen Flug im Winter. Die Enteisungsanlage, wie auch alle anderen Systeme des Flugzeugs, hatte ordnungsgemäß funktioniert. Renslow hatte in den vorangegangenen beiden Tagen einen ziemlich anstrengenden Flugplan absolviert, und Shaw kämpfte mit einer Erkältung. Aber im Cockpit wirkten beide wach und aufmerksam. Sie waren gut ausgebildet, und obwohl der Stickshaker sie überrascht hatte, hatten sie genug Zeit und Luftraum gehabt, um einen Strömungsabriss zu vermeiden. Das NTSB stellte einen Pilotenfehler als Unfallursache fest. Weder Renslow noch Shaw hatten »eindeutige Hinweise« auf einen unmittelbar bevorstehenden Strömungsabriss bemerkt, ein Fehler, der auf eine »erhebliche Vernachlässigung ihrer Überwachungsaufgaben« hindeutete. Ein Ermittler berichtete, die Reaktion des Piloten auf das Warnsignal »hätte automatisch erfolgen müssen, seine unangemessene Flugsteuerung widersprach seinem Training«, doch er habe vielmehr »Schreck und Verwirrung« bewiesen. Ein Sprecher der regionalen Fluggesellschaft Colgan Air, die den Flug für Continental durchgeführt hatte, räumte ein, der Pilot habe in dieser Notlage mangelhaftes »Situationsbewusstsein« gezeigt.2 Hätte die Crew angemessen reagiert, wäre das Flugzeug sicher gelandet.

Der Absturz in Buffalo war kein Einzelfall. Nur wenige Monate später ereignete sich eine beunruhigend ähnliche Katastrophe mit sehr viel mehr Todesopfern. In der Nacht zum 31. Mai startete ein Airbus A330 der Air France von Rio de Janeiro mit Ziel Paris.3 Der Jet geriet etwa drei Stunden nach dem Start über dem Atlantik in einen Sturm. Die Fluggeschwindigkeitssensoren waren mit Eis überzogen und lieferten falsche Daten. Daraufhin schaltete sich der Autopilot ab. Völlig verwirrt zog der Kopilot Pierre-Cédric Bonin, der das Flugzeug steuerte, die Steuersäule zurück. Der A330 stieg auf, und ein lautes Signal warnte vor einem Strömungsabriss. Doch Bonin zog weiterhin die Steuersäule zurück. Das Flugzeug stieg steil in die Höhe und verlor dabei an Geschwindigkeit. Zu diesem Zeitpunkt arbeiteten die Geschwindigkeitsmesser wieder korrekt und lieferten der Besatzung korrekte Zahlen. Jetzt hätte der Crew klar sein müssen, dass der Jet zu langsam war. Doch Bonin zog weiterhin an der Steuersäule, und das Flugzeug wurde immer langsamer, bis die Strömung abriss und der Jet fiel. Wenn Bonin die Steuersäule einfach losgelassen hätte, hätte sich der A330 wahrscheinlich selbst wieder ausgerichtet. Aber er tat es nicht. Französische Ermittler bezeichneten das Verhalten der Flugbesatzung später als einen »völligen kognitiven Kontrollverlust über die Situation«.4 Nach einigen quälend langen Sekunden übernahm ein anderer Pilot, David Robert, die Steuerung, doch es war bereits zu spät. Das Flugzeug fiel in drei Minuten mehr als 9000 Meter tief.

»Das ist unmöglich«, meinte Robert.

»Was geschieht hier eigentlich?«, entgegnete der immer noch verwirrte Bonin.

Drei Sekunden später prallte der Jet auf der Meeresoberfläche auf. Alle 228 Besatzungsmitglieder und Passagiere starben.

EIN SICH SELBST STEUERNDES FLUGZEUG

Wenn man die menschlichen Konsequenzen der Automatisierung begreifen will, sollte man den Blick zunächst einmal nach oben richten. Fluglinien und Flugzeughersteller waren besonders offensiv und erfindungsreich, wenn es darum ging, die Arbeitslast von Menschen auf Maschinen zu verlagern. Verschiedene Einrichtungen von Regierung und Militär, die FAA, die NASA und die Air Force, taten es ihnen gleich. Was Autobauer heute mit Computern erledigen, machten Flugzeugbauer schon vor Jahrzehnten. Schon ein kleiner Fehler bei einem Cockpit kann Hunderte Leben und viele Millionen Dollar kosten, daher wurde die Erforschung der psychologischen und verhaltenspsychologischen Auswirkungen der Automatisierung mit viel privaten und öffentlichen Fördergeldern finanziert. Seit Jahrzehnten schon untersuchen Wissenschaftler und Ingenieure, wie die Automatisierung die Kenntnisse, Wahrnehmung, Gedanken und Handlungen von Piloten beeinflusst. Ein Großteil der Erkenntnisse über die Vorgänge bei der Zusammenarbeit von Menschen mit Computern stammt aus diesen Forschungen.

Die Geschichte der Flugautomatisierung begann vor einhundert Jahren, am 18. Juni 1914 in Paris. Es war ein sonniger, freundlicher Tag. Der blaue Himmel bildete den perfekten Hintergrund für ein ungewöhnliches Schauspiel. An den Ufern der Seine, bei der Brücke von Argenteuil am Nordwestrand der Stadt, hatte sich eine große Menschenmenge versammelt anlässlich des Concours de la Sécurité en Aéroplane, einem Flugwettbewerb, bei dem die neuesten Fortschritte in der Flugsicherheit demonstriert wurden.5 Fast 60 Flugzeuge und Piloten nahmen daran teil und führten eine beeindruckende Palette neuer Techniken und Ausrüstungen vor. Letzter Starter an jenem Tag war der gutaussehende amerikanische Pilot Lawrence Sperry mit einem Curtiss C-2 Doppeldecker. Im offenen Cockpit der C-2 neben ihm saß sein französischer Mechaniker, Emil Cachin. Beim Vorbeiflug an den Zuschauerrängen und der Jurorentribüne ließ Sperry die Steuerung des Flugzeugs los und hob die Hände. Die Menge schrie überrascht auf. Das Flugzeug steuerte sich selbst!

Doch das war nur der Anfang. Sperry wendete das Flugzeug und flog ein weiteres Mal an den Juroren vorbei, wieder freihändig. Doch dieses Mal kletterte Cachin aus dem Cockpit und ging die rechte untere Tragfläche entlang. Dabei hielt er sich an den Stützstreben zwischen den Tragflächen fest. Das Flugzeug neigte sich unter dem Gewicht des Franzosen einen Moment lang nach steuerbord, dann stabilisierte es sich von selbst, ohne dass Sperry eingriff. Die Menge jubelte noch lauter. Sperry flog eine weitere Runde. Beim dritten Vorbeiflug des Flugzeugs stand nicht nur Cachin auf der rechten Tragfläche, sondern Sperry selbst war auf die linke Tragfläche hinausgeklettert. Die C-2 flog stabil und ruhig, doch es saß niemand im Cockpit. Die Menge und die Juroren waren sprachlos. Sperry gewann den Hauptpreis – 50 000 Francs –, und am nächsten Tag prangte sein Gesicht auf den Titelseiten der Zeitungen in ganz Europa.

In der Curtiss C-2 befand sich der erste Autopilot der Welt. Sperry und sein Vater, der berühmte amerikanische Ingenieur und Industrielle Elmer A. Sperry, hatten zwei Jahre zuvor den »gyroskopischen Stabilisierungs-Apparat« erfunden. Er bestand aus zwei Gyroskopen, von denen das eine horizontal, das andere vertikal unter dem Pilotensitz angebracht war, beide wurden durch einen Windkraftgenerator hinter dem Propeller angetrieben. Bei mehreren Tausend Umdrehungen pro Minute erkannten die Gyroskope mit erstaunlicher Präzision die Lage des Flugzeugs auf seinen drei Rotationsachsen – der Hoch- oder Gier-Achse, der Längs- oder Roll-Achse und der Quer- oder Nick-Achse. Sobald das Flugzeug von der vorgesehenen Höhe abwich, berührten an den Gyroskopen angebrachte elektrisch geladene Metallbürsten den Rahmen des Flugzeugs und schlossen den Stromkreis. Strom floss in die Hauptsteuerung des Flugzeugs – die Querruder an den Flügeln und die Höhen- und Seitenruder am Rumpf –, welche die Position des Flugzeugs automatisch anpasste und so das Problem löste. Das horizontale Gyroskop hielt die Tragflächen und den Kiel gerade, während das vertikale Gyroskop die Lenkung übernahm.

Erst nach fast zwanzig Jahren mit weiteren Tests und Verbesserungen, die zum Großteil unter der Aufsicht des US-Militärs durchgeführt wurden, kam der gyroskopische Autopilot in der kommerziellen Luftfahrt erstmals zum Einsatz. Doch selbst da wirkte die Technologie noch wie ein Wunder. Im Jahr 1930 berichtete die Zeitschrift Popular Science aufgeregt von einem dreistündigen Flug mit einem Flugzeug – »eine große dreimotorige Ford« –, das über Autopilot verfügte und so »ohne menschliche Hilfe« von Dayton, Ohio, nach Washington, D. C., flog. »Vier Männer lehnten sich in der Passagierkabine entspannt zurück«, schrieb der Reporter. »Der Pilotensitz war leer. Ein metallener Pilot, kaum größer als eine Autobatterie, hielt die Steuersäule.«6 Drei Jahre später gelang dem wagemutigen amerikanischen Piloten Wiley Post der erste Alleinflug um die Welt mithilfe eines Sperry-Autopiloten, den er »Mechanischer Mike« getauft hatte. Die Presse verkündete daraufhin, eine neue Ära der Luftfahrt sei angebrochen. »Die Zeiten, als ein Flieger allein durch Können und einen vogelähnlichen Orientierungssinn über viele Stunden in einer sternlosen Nacht den Kurs halten musste, sind vorüber«, berichtete die New York Times. »Die Zukunft der kommerziellen Luftfahrt ist automatisch.«7

Nach der Einführung des gyroskopischen Autopiloten nahm die Bedeutung der Luftfahrt für Kriegsführung und Transport zu. Das Gerät übernahm viele manuelle Tätigkeiten, die notwendig waren, um ein Flugzeug stabil und auf Kurs zu halten, und den Piloten blieb der kraftraubende Kampf mit Hebeln und Pedalen, Kabeln und Seilzügen erspart. So sparten Flugzeugführer bei langen Flügen Kraft und hatten außerdem auch noch Hände, Augen und vor allem den Kopf frei für andere Aufgaben. Sie konnten mehr Instrumente ablesen, Berechnungen durchführen, Probleme lösen und gingen grundsätzlich analytischer und kreativer an ihre Arbeit heran. Sie konnten höher und weiter fliegen bei geringerem Absturzrisiko. Sie konnten bei Wetterbedingungen starten, bei denen sie vorher hätten am Boden bleiben müssen. Und sie konnten komplizierte Manöver durchführen, die vorher waghalsig oder auch schlicht unmöglich gewesen wären. Mit Unterstützung des Autopiloten beim Fliegen wurden die Piloten bedeutend vielseitiger einsetzbar und wertvoller, sie konnten ebenso gut Passagiere transportieren wie Bomben abwerfen. Auch die Flugzeuge veränderten sich: Sie wurden größer, schneller und deutlich komplizierter.

Die automatischen Lenk- und Stabilisierungssysteme entwickelten sich in den 1930er Jahren rasch weiter. Es gab große Fortschritte in der aerodynamischen Forschung, und die Ingenieure integrierten Luftdruckprüfer, pneumatische Steuerungen, Stoßdämpfer und andere Raffinessen in die Autopiloten. Zum größten Durchbruch kam es im Jahr 1940 mit der Einführung des ersten elektronischen Autopiloten, des A-5, durch die Sperry Corporation. Die Gyroskopsignale wurden beim A-5 durch Vakuumröhren verstärkt, wodurch der Autopilot schneller wurde, die Anpassungen und Korrekturen genauer. Auch Veränderungen bei Geschwindigkeit und Beschleunigung des Flugzeugs wurden registriert und berücksichtigt. In Verbindung mit den technischen Fortschritten bei den Bombenzielgeräten erwies sich der elektronische Autopilot bei den Luftangriffen der Alliierten im Zweiten Weltkrieg als besonders nützlich.

Kurz nach Kriegsende, an einem Septemberabend im Jahr 1947, führte die U. S. Air Force Testflüge durch, welche die Leistungsfähigkeit moderner Autopiloten bewiesen. Captain Thomas J. Wells, ein Testpilot des Militärs, rollte mit einem C-54 Skymaster-Transportflugzeug mit sieben Mann Besatzung auf eine abgelegene Startbahn in Neufundland. Dann ließ er die Steuersäule los, aktivierte per Knopfdruck den Autopiloten und, so beschrieb es ein Kollege im Cockpit später, »lehnte sich zurück und legte die Hände in den Schoß.«8 Das Flugzeug hob selbständig ab, stellte automatisch die Landeklappen und die Kraftstoffzufuhr ein und fuhr das Fahrwerk ein, sobald es in der Luft war. Das Flugzeug flog eigenständig über den Atlantik. Dabei folgte es einer Reihe von »Sequenzen«, die zuvor in sein »mechanisches Gehirn«, wie die Crew es nannte, einprogrammiert worden war. Die Männer im Flugzeug kannten weder Flugroute noch Ziel; das Flugzeug richtete den Kurs anhand von Signalen von Funkstationen am Boden und Schiffen auf See aus. Bei Tagesanbruch erreichte die C-54 die englische Küste. Sie begann den Landeanflug immer noch unter Kontrolle des Autopiloten, fuhr das Fahrwerk aus, flog die Rollbahn eines Stützpunktes der Royal Air Force in Oxfordshire an und führte eine perfekte Landung durch. Captain Wells nahm daraufhin seine Hände aus dem Schoß und parkte das Flugzeug.

Wenige Wochen nach dem großen Flug der Skymaster erörterte ein Journalist im britischen Fliegermagazin Flight die Auswirkungen des Fluges. Es sei unvermeidlich, schrieb er, dass die neue Generation der Autopiloten »der Anwesenheit von Navigatoren, Funkern und Technikern an Bord eines Fluges ein Ende setzt«. Die Geräte machten diese Arbeitsplätze überflüssig. Piloten jedoch, räumte er ein, seien nicht so leicht zu ersetzen. Sie würden, zumindest in absehbarer Zukunft, auch weiterhin im Cockpit gebraucht, und sei es nur, »um die verschiedenen Anzeigen zu überwachen und sicherzustellen, dass alles zufriedenstellend funktioniert«.9

DAS GLÄSERNE COCKPIT

Im Jahr 1988, vierzig Jahre nach der Atlantiküberquerung der C-54, führte der europäische Luftfahrtkonzern Airbus Industrie den neuen A320-Passagierjet ein. Der 150-Sitzer war eine kleinere Version des A300-Modells, aber im Gegensatz zum konventionellen und etwas langweiligen Vorgänger war der A320 ein Wunderwerk der Technik. Er war das erste wirklich computergesteuerte kommerzielle Flugzeug und ein Vorbote zukünftiger Entwicklungen im Flugzeugbau. Wiley Post oder Lawrence Sperry hätten das Cockpit nicht als solches erkannt. Verschwunden waren die Reihen mit analogen Anzeigen und Instrumenten, die lange Zeit das Aussehen von Flugzeugcockpits bestimmt hatten. An ihrer Stelle prangten sechs leuchtende Kathodenstrahlröhrenbildschirme in ordentlichen Reihen unter der Frontscheibe. Die Anzeigen lieferten den Piloten die aktuellen Daten und Werte vom Bordcomputer des Flugzeugs.

Doch neben dem monitorbestückten Cockpit – das Piloten als »gläsernes Cockpit« bezeichnen – wies das Flugzeug ein noch bemerkenswerteres Merkmal auf. Bereits zehn Jahre zuvor hatten Ingenieure im Langley Research Center der NASA erstmals Kathodenstrahlröhrenbildschirme zur Anzeige von Fluginformationen eingesetzt, und ab Ende der 1970er Jahre hatten Flugzeughersteller die Bildschirme in Passagierflugzeuge eingebaut.10 Wirklich einzigartig am A320 war das Fly-by-Wire-System, die digitale Flugsteuerung. Der amerikanische Autor und Pilot William Langewiesche schrieb, das System mache den A320 zum »gewagtesten Zivilflugzeug seit dem Flyer der Gebrüder Wright«.11 Vor dem A320 funktionierten kommerzielle Flugzeuge immer noch nach dem mechanischen Prinzip. Der Rumpf und die Tragflächen waren vollgestopft mit Kabeln, Seilzügen und Schaltungen sowie einem Netzwerk aus Hydraulikleitungen, Pumpen und Ventilen. Die Bedienelemente, die Piloten zur Verfügung standen – Steuersäule, Schubregelung und Ruderpedale –, waren mechanisch mit den beweglichen Teilen verbunden, welche die Ausrichtung und die Geschwindigkeit des Flugzeugs bestimmten. Das Flugzeug reagierte auf jede Aktion des Piloten.

Wenn man ein Fahrrad anhalten will, zieht man einen Hebel, der über eine Bremsleitung die Kolben eines Bremssattels mit den Bremsbelägen gegen die Felge drückt. Man schickt damit praktisch einen Befehl – ein Signal zum Anhalten – mit der Hand an den Bremsmechanismus, der die manuelle Kraft dieses Befehls auf das Rad überträgt. Die Hand erhält daraufhin die Bestätigung, dass der Befehl angekommen ist: Man spürt über den Bremshebel den Widerstand des Bremssattels, den Druck der Bremsbeläge gegen die Felge, das Rutschen des Rades auf der Straße. Ebenso ging es Piloten beim Flug in einem mechanisch gesteuerten Flugzeug, nur im größeren Maßstab. Sie wurden Teil der Maschine, ihre Körper spürten die Vorgänge in der Maschine, fühlten ihre Reaktionen, und die Maschine wurde zum Übertragungsweg für den Willen der Piloten. Diese tiefe Verbindung zwischen Mensch und Mechanik trug entscheidend zum Nervenkitzel beim Fliegen bei. Der berühmte Dichter und Pilot Antoine de Saint-Exupéry dachte wohl daran, als er in seinen Erinnerungen an seine Einsätze als Postpilot in den 1920er Jahren schrieb: »Die Maschine scheint uns von der Natur zu entfernen. Und gerade sie unterwirft uns mit ganz besonderer Strenge den ewigen Naturgesetzen.«12

Das Fly-by-Wire-System unterbrach diese taktile Verbindung zwischen Pilot und Flugzeug. Es schaltete einen digitalen Computer zwischen den menschlichen Befehl und die Antwort der Maschine. Wenn ein Pilot im Airbus-Cockpit einen Hebel zog, an einem Regler drehte oder einen Knopf drückte, wurde die Anweisung des Piloten über einen Energiewandler in ein elektrisches Signal umgewandelt, das über eine Leitung an einen Computer weitergeleitet wurde. Der Computer berechnete dann anhand ausführlicher Algorithmen in der einprogrammierten Software die verschiedenen mechanischen Anpassungen, die notwendig waren, um den Wunsch des Piloten auszuführen. Diese Instruktionen schickte der Computer daraufhin an den digitalen Prozessor, der die beweglichen Teile des Flugzeugs steuerte. Der Ersatz mechanischer Bewegungen durch digitale Signale führte auch zu einer völligen Umstrukturierung der Steuerung im Cockpit. Die klobige Steuersäule, die mit beiden Händen gegriffen wurde, die an Kabeln zog und Hydraulikflüssigkeit zusammenpresste, wurde im A320 durch einen kleinen »Sidestick« neben dem Sitz des Piloten ersetzt, der mit einer Hand gegriffen wurde. An der Frontkonsole waren Regler mit kleinen, numerischen LED-Anzeigen angebracht, über die der Pilot Vorgaben zu Fluggeschwindigkeit, Flughöhe und Kurs in den Computer des Jets eingeben konnte.

Nach der Einführung des A320 verliefen die Entwicklungen von Flugzeugen und Computern parallel. Jeder Fortschritt bei Hard- und Software, bei elektronischen Sensoren und Steuerungen oder bei der Anzeigetechnik wirkte sich auf den Bau kommerzieller Flugzeuge aus. Hersteller und Fluglinien reizten die Möglichkeiten der Automatisierung voll aus. Bei heutigen Jetlinern ist der Autopilot, der das Flugzeug stabil und auf Kurs hält, nur eines von vielen computergesteuerten Systemen. Die automatische Schubregelung steuert die Motorleistung. Flight-Management-Systeme beziehen Positionsdaten von GPS-Empfängern und anderen Sensoren und legen anhand dieser Informationen die Flugroute fest oder passen sie an. Kollisionswarnsysteme scannen den Himmel nach Flugzeugen in der Nähe ab. Electronic Flight Bags speichern Flugkarten und andere Unterlagen, die Piloten früher an Bord schleppten, in digitaler Form. Andere Computer fahren das Fahrwerk ein und aus, bedienen die Bremsen, passen den Kabinendruck an und führen zahlreiche weitere Tätigkeiten aus, die früher von der Besatzung erledigt wurden. Heute programmieren Piloten Computer und überwachen die graphischen Ausgabedaten von elektronischen Fluginstrumenten auf großen, bunten Flachbildschirmen. Außerdem stehen ihnen verschiedene Tastaturen, Tastenfelder, Scrollräder und andere Eingabegeräte zur Verfügung. Don Harris, Professor für Luftfahrt und Ergonomie-Experte, zufolge sind Computer in modernen Flugzeugen »allgegenwärtig«. Das Cockpit »gleicht einer riesigen, fliegenden Computerschnittstelle«.13

Und die modernen Flieger und Fliegerinnen, die in ihren Hightech-Glascockpits neben den Geistern von Sperry, Post und Saint-Exupéry durch die Lüfte rasen? Natürlich hat die Arbeit des Berufspiloten viel an Romantik und Abenteuer eingebüßt. Der Abenteurer der Lüfte, der nach Gespür fliegt, gehört heute weitgehend dem Reich der Legenden an. Bei einem typischen Passagierflug steuert der Pilot heute insgesamt drei Minuten lang selbst – ein oder zwei Minuten beim Start und weitere ein oder zwei Minuten bei der Landung. Die meiste Zeit verbringen Piloten mit der Überwachung von Bildschirmanzeigen und der Eingabe von Daten. Bill Voss, Präsident der Flight Safety Foundation, bemerkte: »Wir haben heute einen Punkt erreicht, an dem die Automatisierung nicht mehr länger nur ein Werkzeug ist, das den Piloten die Arbeit erleichtert. Heute ist das primäre Flugkontrollsystem in einem Flugzeug automatisch.«14 Der Forscher und Berater der FAA Hemant Bhana schreibt: »Je ausgeklügelter die automatischen Systeme wurden, umso mehr Zeit verbrachten Piloten mit der Überwachung und Beaufsichtigung der automatischen Systeme.«15 Aus dem Berufspiloten wurde ein Computerbediener. Und genau darin sehen viele Flug- und Automatisierungsexperten inzwischen ein Problem.

EINE NEUE ART VON UNFÄLLEN

Lawrence Sperry starb 1923 bei einem Flugzeugabsturz über dem Ärmelkanal. Wiley Post starb 1935 bei einem Flugzeugabsturz in Alaska. Das Flugzeug von Antoine de Saint-Exupéry verschwand 1944 über dem Mittelmeer spurlos. Ein früher Tod gehörte für Piloten in der Frühzeit der Fliegerei zum Berufsrisiko; Romantik und Abenteuer hatten einen hohen Preis. Auch Passagiere starben beunruhigend oft. In der Gründerzeit der Luftfahrtindustrie in den 1920er Jahren forderte eine US-amerikanische Fachzeitschrift von der Regierung eine Verbesserung der Flugsicherheit mit dem Hinweis, dass »jeden Tag Menschen bei zahlreichen tödlichen Unfällen sterben, weil sie von unerfahrenen Piloten geflogen werden.«16

Glücklicherweise sind die Zeiten, in denen Flugreisen Lebensgefahr bedeuteten, vorüber. Fliegen ist heute sicher, und die meisten Luftfahrtexperten halten die Automatisierung für mitverantwortlich an dieser Entwicklung. Neben Verbesserungen beim Flugzeugbau, bei den Sicherheitsvorschriften der Fluggesellschaften, bei der Ausbildung der Crew und bei der Flugüberwachung trugen der vermehrte Einsatz von Automatik und Computern dazu bei, dass die Anzahl der Unfälle und Todesopfer im Lauf der Jahrzehnte stark und konstant abnahm. In den Vereinigten Staaten und anderen westlichen Ländern sind tödliche Flugzeugunfälle inzwischen äußerst selten. Von mehr als sieben Milliarden Menschen, die in den zehn Jahren zwischen 2002 und 2011 in ein US-amerikanisches Linienflugzeug stiegen, starben nur 153 bei einem Flugzeugunglück. Das entspricht zwei Todesopfern pro einer Million Passagiere. Im Vergleich dazu starben in den zehn Jahren zwischen 1962 und 1971 von 1,3 Milliarden Flugpassagieren 1696. Das entspricht 133 Todesopfern pro einer Million Passagiere.17

Doch diese Erfolgsgeschichte hat auch eine Schattenseite. Insgesamt nimmt die Anzahl der Flugzeugabstürze zwar ab, doch tritt inzwischen ein »völlig neuer Unfalltyp« auf, sagt Raja Parasuraman, Professor für Psychologie an der George Mason University und eine führende Autorität im Bereich Automatisierung.18 Wenn Bordcomputer nicht ordnungsgemäß funktionieren oder unerwartete Probleme bei einem Flug auftreten, müssen die Piloten das Flugzeug manuell steuern. Sie sind das inzwischen nicht mehr gewohnt und machen daher in dieser Situation häufig Fehler, mit möglicherweise katastrophalen Folgen, wie die Abstürze der Continental-Connection- und Air-France-Maschine gezeigt haben. In den vergangenen dreißig Jahren untersuchten Psychologen, Techniker und Forscher im Bereich Ergonomie oder »Humanfaktoren« die Vor- und Nachteile der Arbeitsteilung zwischen Pilot und Software. Sie fanden heraus, dass die Fachkenntnisse, Reflexe und Aufmerksamkeit der Piloten abnehmen können, wenn sie sich zu sehr auf die automatischen Computersysteme verlassen. Jan Noyes, ein Experte für Humanfaktoren an der britischen University of Bristol, bezeichnet diesen Effekt als »Dequalifizierung der Flugbesatzung«.19

Bedenken wegen unerwünschter Nebenwirkungen der Flugautomatisierung gibt es schon lange, mindestens seit der Einführung des gläsernen Cockpits und der Fly-by-Wire-Steuerung. In einem Bericht des Ames Research Center der NASA von 1989 stand zu lesen, dass sich in den vorangegangenen Jahrzehnten die Anzahl der Computer in Flugzeugen vervielfacht habe und dass Wissenschaftler in Industrie und öffentlicher Verwaltung »zunehmend befürchteten, die Cockpits könnten inzwischen zu automatisiert sein, und die zunehmende Übernahme menschlicher Aufgaben durch Instrumente könne auch Nachteile haben«. Computergestütztes Fliegen stößt zwar grundsätzlich auf Begeisterung, aber in der Luftfahrtindustrie ist auch die Sorge verbreitet, dass »Piloten zu abhängig von den automatischen Systemen werden, dass ihre manuellen Flugfähigkeiten und ihr Situationsbewusstsein nachlassen könnten«.20

Zwischenzeitlich fand man bei Studien Zusammenhänge zwischen zahlreichen Unfällen und Beinaheunfällen und dem Zusammenbruch automatischer Systeme oder »durch Automatisierung ausgelöste Fehler« der Flugbesatzung.21 Im Jahr 2010 veröffentlichte die Federal Aviation Administration (FAA), die US-amerikanische Luftfahrtbehörde, vorläufige Ergebnisse einer großangelegten Studie von Linienflügen in den vorangegangenen zehn Jahren, die zeigten, dass fast zwei Drittel aller Flugzeugabstürze durch Pilotenfehler verursacht wurden. Nach Aussage der FAA-Wissenschaftlerin Kathy Abbott legten die Forschungsergebnisse weiterhin nahe, dass die Automatisierung derartige Fehler wahrscheinlicher macht. Wenn Piloten sich mit dem Bordcomputer beschäftigen, sind sie oft abgelenkt, sagt Abbott, und sie könnten »zu viel Verantwortung an das automatische System abgeben«.22 Ein ausführlicher Regierungsbericht aus dem Jahr 2013 über die Cockpit-Automatisierung, den ein Expertengremium auf Basis derselben FAA-Daten erstellte, sah die Ursache für mehr als die Hälfte der aktuellen Unfälle in Problemen im Zusammenhang mit Automatisierung, mangelndem Situationsbewusstsein und schlechten manuellen Flugfertigkeiten.23

Die Einzelberichte, in Form von Unfallberichten und Untersuchungen, wurden durch empirische Ergebnisse aus einer gründlichen Studie von Matthew Ebbatson bestätigt, einem Experten für Humanfaktoren an der Cranfield University, einer angesehenen Ingenieurschule in Großbritannien.24 Der Mangel an objektiven Daten über, wie er es ausdrückte, »den Verlust der Flugkompetenz bei Piloten von hochautomatisierten Verkehrsflugzeugen«, ärgerte ihn, und er machte sich daran, diese Wissenslücke zu füllen. Er rekrutierte 66 erfahrene Piloten einer britischen Fluggesellschaft und ließ sie in einem Flugsimulator ein anspruchsvolles Manöver durchführen – die Landung einer Boeing 737 mit Motorschaden bei schlechtem Wetter. Der Simulator deaktivierte die automatischen Systeme des Flugzeugs, sodass die Piloten manuell fliegen mussten. Manche Piloten schnitten bei dem Test außergewöhnlich gut ab, berichtete Ebbatson, aber viele zeigten schlechte Leistungen, die gerade noch »die Grenze des Akzeptablen« erreichten. Danach verglich Ebbatson detaillierte Messwerte von jedem Pilotentest im Simulator – wie viel Druck auf die Steuersäule ausgeübt wurde, wie stabil die Fluggeschwindigkeit war, wie stark der Kurs abwich – mit früheren Flugdaten der Piloten. Er fand eine direkte Korrelation zwischen der Leistung eines Piloten bei der Flugsteuerung und der Zeit, die ein Pilot mit Fliegen ohne automatische Unterstützung verbracht hatte. Der Zusammenhang war besonders ausgeprägt in Bezug auf die manuellen Flugzeiten in den vorangegangenen zwei Monaten. Die Analyse zeigte, dass »manuelle Flugfertigkeiten ohne relativ häufige Anwendung schnell auf gerade noch ›tolerables‹ Niveau sinken«. Ein besonders niedriges »Verfallsdatum«, bemerkte Ebbatson, hatte bei den Piloten die »Kontrolle der Fluggeschwindigkeit« – eine unverzichtbare Fähigkeit, um Strömungsabrisse und andere Gefahrensituationen zu erkennen, zu vermeiden und zu korrigieren.

Warum die Automatisierung die Leistung der Piloten verschlechtert, ist leicht nachvollziehbar. Wie bei vielen anspruchsvollen Tätigkeiten braucht man auch zum Steuern eines Flugzeugs eine Kombination aus psychomotorischen und kognitiven Fähigkeiten – überlegten Handlungen und aktivem Denken. Ein Pilot muss gleichzeitig Geräte und Instrumente präzise bedienen und im Kopf schnell richtige Berechnungen ausführen, Vorhersagen treffen und Einschätzungen vornehmen. Neben diesen komplexen mentalen und physischen Manövern muss er noch wachsam und aufmerksam für die Vorgänge um sich herum bleiben und wichtige Signale von unwichtigen unterscheiden. Er kann sich mangelnde Konzentration oder einen Tunnelblick nicht leisten. Diese Mischung aus vielfältigen Fertigkeiten beherrscht man nur durch konsequentes Üben. Ein junger Pilot bedient die Steuerung meist unbeholfen, er drückt und zieht die Steuersäule mit mehr Kraft als notwendig. Er muss oft innehalten und nachdenken, was als Nächstes zu tun ist, geht im Kopf die einzelnen Schritte eines Vorgangs durch. Er kann meist nicht übergangslos zwischen manuellen und kognitiven Aufgaben umschalten. In einer Stresssituation ist ein junger Pilot leicht überfordert oder unaufmerksam, oder er übersieht eine entscheidende Veränderung der Umstände.

Mit der Zeit, und viel Übung, bekommt der Anfänger Selbstvertrauen. Er erledigt seine Arbeit flüssiger, präziser und effizienter. Mit zunehmender Erfahrung entstehen in seinem Gehirn sogenannte mentale Modelle – spezielle Verknüpfungen von Neuronen –, die ihm die Erkennung von Mustern in seiner Umgebung ermöglichen. Durch diese Modelle kann ein Pilot intuitiv Reize deuten und auf sie reagieren, ohne langwierige, bewusste Analyse. Irgendwann verschmelzen Gedanke und Handlung miteinander. Das Fliegen geht dem Piloten in Fleisch und Blut über. Lange bevor Wissenschaftler die Vorgänge im Gehirn der Piloten erkannten, beschrieb Wiley Post das Flugerleben eines erfahrenen Fliegers in einfachen, präzisen Worten. Im Jahr 1935 erzählte er, er sei »ohne mentale Anstrengung geflogen, meine Handlungen wurden allein von meinem Unterbewusstsein kontrolliert«.25 Diese Fähigkeit war nicht angeboren, sondern durch harte Arbeit erworben.

Sobald Computer ins Spiel kommen, verändert sich die Art, wie man arbeitet, und auch die Lernvorgänge bei der Arbeit verändern sich. Die Software, die die Kontrolle über das Flugzeug Stück für Stück übernimmt, nimmt dem Piloten, wie bereits gezeigt, viel manuelle Arbeit ab. Die Umverteilung von Verantwortung kann große Vorteile bringen. Die Arbeitslast des Piloten wird reduziert, und so kann er sich auf die kognitiven Aspekte der Fliegerei konzentrieren. Aber das hat einen Preis. Psychomotorische Fähigkeiten rosten ein. In den seltenen, aber kritischen Momenten, wenn der Pilot die Steuerung übernehmen muss, kann das hinderlich sein. Es gibt zunehmend Hinweise, dass die aktuelle Ausweitung der Automatisierung die kognitiven Fähigkeiten gefährdet. Wenn leistungsfähigere Computer auch Planungs- und Analyseaufgaben übernehmen, das Aufstellen und Anpassen einer Flugroute etwa, dann ist der Pilot nicht nur physisch, sondern auch mental immer weniger gefordert. Da Präzision und Geschwindigkeit bei der Mustererkennung anscheinend von regelmäßiger Übung abhängen, wird der Pilot möglicherweise geistig unbeweglicher, wenn er sich schnell verändernde Situationen interpretieren und auf sie reagieren muss. Er könnte einen »Skill fade« erleiden, wie Ebbatson es nennt, einen Schwund an mentalen und motorischen Fähigkeiten.

Piloten kennen den Preis, den sie für die Automatisierung zahlen. Sie waren immer vorsichtig, wenn sie Verantwortung an eine Maschine abgeben sollten. Im Ersten Weltkrieg waren die Piloten zu Recht stolz darauf, wie gut sie ihre Flugzeuge bei Nahkämpfen steuerten, und sie wollten von den schicken Sperry-Autopiloten nichts wissen.26 Im Jahr 1959 wehrten sich die ersten Astronauten des Mercury-Programms gegen Pläne der NASA, die manuelle Steuerung aus dem Raumschiff zu entfernen.27 Heute haben die Piloten noch größere Bedenken. Sie schätzen die enormen Fortschritte in der Luftfahrttechnik und anerkennen die Vorteile für Sicherheit und Effizienz, aber gleichzeitig sorgen sie sich um den Verlust ihrer Talente. Im Rahmen seiner Forschungen befragte Ebbatson Berufspiloten, ob »sie das Gefühl haben, ihre manuellen Flugfähigkeiten seien von der Arbeit in einem hochautomatisierten Flugzeug beeinflusst worden«. Mehr als drei Viertel der Befragten gaben an, »ihre Fähigkeiten hätten nachgelassen«; nur wenige glaubten, ihre Fähigkeiten hätten sich verbessert.28 Eine Umfrage der Europäischen Agentur für Flugsicherheit unter Piloten aus dem Jahr 2012 lieferte ähnliche Ergebnisse. Danach gaben 95 Prozent der Piloten an, die Automatisierung habe ihren »grundlegenden manuellen und kognitiven Flugfähigkeiten« geschadet.29 Rory Kay, ein erfahrener Pilot bei United Airlines und bis vor kurzem oberster Sicherheitsbeauftragter der Air Line Pilots Association, befürchtet, die Luftfahrtindustrie leide an einer »Automatisierungssucht«. In einem Interview aus dem Jahr 2011 mit Associate Press drückte er das Problem in deutlichen Worten aus: »Wir verlernen das Fliegen.«30

DIE HELDEN DER NATION

Zyniker sehen die Gründe für derartige Befürchtungen schnell in reinem Eigeninteresse. Piloten, so sagen sie, schimpften nur über die Automatisierung, weil sie Angst um ihre Jobs oder vor Gehaltskürzungen haben. Und bis zu einem gewissen Grad haben die Zyniker sogar Recht. Wie in der Zeitschrift Flight aus dem Jahr 1947 vorhergesagt, ist die Flugbesatzung durch die Automatisierung deutlich geschrumpft. Vor 60 Jahren gab es im Cockpit eines Linienflugs meist Sitzplätze für fünf qualifizierte und gut bezahlte Fachleute: einen Navigator, einen Funker, einen Bordtechniker und zwei Piloten. Der Funker verlor seinen Platz in den 1950er Jahren, als die Kommunikationssysteme zuverlässiger und einfacher zu bedienen wurden. Der Navigator flog in den 1960er Jahren aus dem Cockpit. Seine Aufgaben übernahm das Trägheitsnavigationssystem. Aufgabe des Bordtechnikers war die Überwachung einer Reihe von Instrumenten im Flugzeug und die Weitergabe wichtiger Informationen an die Piloten. Er behielt seinen Platz bis zur Einführung des gläsernen Cockpits Ende der 1970er Jahre. Nach der Deregulierung der Flugreisen im Jahr 1978 suchten die amerikanischen Fluglinien nach Möglichkeiten, ihre Ausgaben zu reduzieren, und setzten alles daran, um den Techniker loszuwerden und nur noch mit einem Piloten und Kopiloten zu fliegen. Die Pilotenvereinigung marschierte auf, um die Bordtechnikerjobs zu retten, und es kam zu einer erbitterten Auseinandersetzung. Sie endete erst im Jahr 1981 mit der Verkündung einer Präsidialkommission, Bordtechniker seien für die sichere Durchführung von Passagierflügen nicht mehr notwendig. Seither ist die Zwei-Mann-Besatzung im Cockpit die Norm – zumindest vorerst. Einige Experten weisen auf den erfolgreichen Einsatz militärischer Drohnen hin und deuten bereits an, dass zwei Piloten letztendlich zwei Piloten zu viel sein könnten.31 »Der unbemannte Linienflug wird kommen«, verkündete James Albaugh, Top-Manager bei Boeing, bei einer Luftfahrtkonferenz im Jahr 2011. »Es ist nur eine Frage der Zeit.«32

Die Verbreitung der automatischen Systeme ging mit einem stetigen Rückgang bei den Gehältern der Berufspiloten einher. Altgediente Jetliner-Piloten verdienen zum Teil immer noch bis zu 200 000 US-Dollar pro Jahr, aber Berufsanfänger bekommen nur noch 20 000 US-Dollar, oder noch weniger. Das durchschnittliche Anfangsgehalt für erfahrene Piloten bei einer großen Airline liegt um 36 000 US-Dollar, »verdammt wenig für Fachleute mit Berufserfahrung«, wie ein Reporter des Wall Street Journal bemerkte.33 Doch trotz der schlechten Bezahlung gelten Piloten allgemein immer noch als überbezahlt. In einem Artikel auf der Website salary.com werden Piloten von Linienjets als die »überbezahltesten« Berufstätigen in der heutigen Wirtschaft bezeichnet, weil »viele ihrer Aufgaben automatisiert sind« und ihre Arbeit »ein bisschen langweilig« geworden sei.34

Doch das Eigeninteresse der Piloten, wenn es um Automatisierung geht, umfasst mehr als Arbeitsplatzsicherheit und Bezahlung oder auch ihre eigene Sicherheit. Mit jedem technischen Fortschritt verändern sich die Arbeit und die Rolle der Piloten. Dadurch wiederum verändern sich ihr Selbstbild und das Bild, das andere von Piloten haben. Ihr sozialer Status und sogar ihre Selbstwahrnehmung stehen auf dem Spiel. Automatisierung ist für Piloten daher kein rein technisches Thema, sondern auch ein autobiographisches. Bin ich Herr über die Maschine oder ihr Diener? Handle ich aktiv in der Welt, oder beobachte ich nur? Bin ich Akteur oder Objekt? Der Technikhistoriker David Mindell vom MIT schreibt in seinem Buch Digital Apollo: »Bei der Debatte über Kontrolle und Automatisierung in Flugzeugen geht es im Kern um die relative Bedeutung von Mensch und Maschine.« Bei der Luftfahrt, wie auf jedem anderen Gebiet, wo Menschen mit Werkzeugen arbeiten, »sind technischer und sozialer Wandel untrennbar miteinander verbunden«.35

Piloten definierten sich schon immer über ihre Beziehung zu ihrem Flugzeug. Wilbur Wright schrieb im Jahr 1900 in einem Brief an Octave Chanute, einem weiteren Pionier der Luftfahrt, über die Rolle des Piloten: »Können ist wichtiger als Maschinen.«36 Das war kein Allgemeinplatz. Er bezog sich damit auf die wichtige Spannung zwischen den technischen Möglichkeiten des Flugzeugs und den Fähigkeiten eines Piloten, die bereits in der Frühzeit der Fliegerei zutage trat. Die Flugzeugbauer diskutierten bereits bei den ersten Flugzeugen, wie hoch die Flugstabilität eines Flugzeugs sein sollte – wie stark es also dazu tendiert, unter jedweden Bedingungen gleichmäßig und geradeaus weiterzufliegen. Nun könnte man glauben, bei einer Flugmaschine gelte, je stabiler je besser, aber das ist nicht der Fall. Man muss einen Kompromiss finden zwischen Stabilität und Manövrierfähigkeit. Je größer die Stabilität eines Flugzeugs ist, umso schwieriger ist seine Steuerung. Mindell schreibt dazu: »Je stabiler ein Flugzeug ist, umso anstrengender ist es, es aus dem Gleichgewichtspunkt zu bringen. Dadurch wird es schlechter kontrollierbar. Das funktioniert auch in die andere Richtung – je kontrollierbarer oder manipulierbarer ein Flugzeug ist, umso weniger stabil ist es.«37 Der Autor eines Buches über Luftfahrttechnik aus dem Jahr 1910 schrieb, die Frage des Gleichgewichts habe »die Flieger in zwei Parteien gespalten«. Auf der einen Seite standen jene, die meinten, das Gleichgewicht solle »in hohem Maße automatisiert werden« –, es solle also in die Flugzeuge eingebaut werden. Auf der anderen Seite standen jene, die glaubten, das Gleichgewicht solle »allein dem Können des Piloten« obliegen.38

Wilbur und Orville Wright gehörten zur letzteren Gruppe. Sie glaubten, ein Flugzeug solle grundsätzlich instabil sein, wie ein Fahrrad oder, wie Wilbur einmal vorschlug, »ein temperamentvolles Pferd«.39 Auf diese Weise hatte ein Pilot ein Maximum an Autonomie und Freiheit. Die Brüder folgten beim Bau ihrer Flugzeuge dieser Philosophie und gaben der Manipulierbarkeit Vorzug vor der Stabilität. Mindell schrieb, die Wrights hätten zu Beginn des 20. Jahrhunderts »nicht einfach nur ein Flugzeug erfunden, sondern die grundsätzliche Vorstellung von einem Flugzeug als dynamische Maschine unter der Kontrolle eines menschlichen Piloten«.40 Vor der technischen stand eine ethische Entscheidung: Der Apparat sollte dem Menschen dienen, der ihn kontrollierte, er sollte menschliches Können und menschlichen Willen ausdrücken. Doch die Freiheit und Virtuosität des Piloten wurde zur Nebensache, sobald Passagiere und andere wertvolle Fracht über lange Strecken per Flugzeug transportiert wurden. Zentral wichtig waren nun Sicherheit und Effizienz, und um diese zu erhöhen, das wurde schnell klar, mussten der Handlungsspielraum des Piloten begrenzt und der Maschine mehr Befugnisse übertragen werden. Der Kontrollverlust der Piloten geschah allmählich, aber jedes Mal, wenn die Technik etwas mehr Macht bekam, verloren die Piloten ein Stück von sich selbst. Der Top-Kampfjet-Testpilot J. O. Roberts wehrte sich in einem überschwenglichen Artikel aus dem Jahr 1957 gegen die weitere Automatisierung der Fliegerei und ärgerte sich, dass der Mann im Cockpit zu kaum mehr als »Übergepäck mit wenigen Überwachungsaufgaben« degradiert werde. Roberts schrieb, jeder Pilot müsse sich fragen, »ob er sein Geld noch wert war«.41

Aber all die gyroskopischen, elektromechanischen, instrumentellen und hydraulischen Erfindungen waren nur ein Vorgeschmack auf das, was die Digitalisierung brachte. Der Computer veränderte nicht nur die Fliegerei von Grund auf, sondern auch die Automatisierung. Er schränkte die Rolle des Piloten so weit ein, dass allein die Vorstellung von »manueller Steuerung« inzwischen fast anachronistisch wirkt. Wenn der Job eines Piloten aus kaum mehr besteht als dem Senden von digitalen Eingaben an Computer und der Überwachung der digitalen Ausgaben des Computers – während der Computer die beweglichen Teile und den Kurs des Flugzeugs steuert –, wo genau kommt da die manuelle Steuerung ins Spiel? Selbst wenn die Piloten in einem computergesteuerten Flugzeug an der Steuersäule oder am Sidestick ziehen, führen sie dabei nur eine Simulation des manuellen Fliegens durch. Jede Aktion wird durch Mikroprozessoren weitergeleitet und gefiltert. Das bedeutet nicht, dass bestimmte Kompetenzen nicht mehr wichtig sind. Sie sind es. Doch es sind inzwischen andere Fähigkeiten gefragt, und sie werden nicht mehr unmittelbar angewendet, sondern von jenseits eines Vorhangs aus Software. In vielen modernen Verkehrsflugzeugen kann die Flugsoftware sogar die Eingaben der Piloten bei extremen Manövern außer Kraft setzen. Der Computer hat die oberste Kontrolle. »Er flog das Flugzeug nicht nur«, sagte ein Pilotenkollege einst über Wiley Post, »er zog es an«.42 Heute tragen Piloten ihre Flugzeuge nicht mehr wie Kleidungsstücke. Sie tragen die Bordcomputer – oder vielleicht tragen die Bordcomputer auch die Piloten.

Die Transformation der Luftfahrt in den vergangenen Jahrzehnten – der Wechsel vom mechanischen zum digitalen System, die Verbreitung von Software und Bildschirmen, die Automatisierung mentaler und manueller Arbeit, der Wandel im Berufsbild des Piloten – bietet einen Ausblick auf den Wandel, den die heutige Gesellschaft als Ganzes durchläuft. Don Harris bezeichnete das gläserne Cockpit als Prototypen einer Welt, in der »Computer allgegenwärtig sind«.43 Die Erfahrung der Piloten zeigt außerdem die subtilen, aber oft starken Zusammenhänge zwischen der Konstruktionsweise automatischer Systeme und der Funktionsweise von Körper und Denken der Menschen, die diese Systeme benutzen. Die immer zahlreicheren Hinweise darauf, dass Fähigkeiten abnehmen, Wahrnehmung schwächer und Reaktionen langsamer werden, sollten uns allen zu denken geben. Wir leben zunehmend in einem gläsernen Cockpit, und wir werden dabei wohl herausfinden, was Piloten bereits wissen: Ein gläsernes Cockpit kann auch zum gläsernen Käfig werden.

KAPITEL VIER

DER DEGENERATIONSEFFEKT

Vor einhundert Jahren schrieb der britische Philosoph Alfred North Whitehead in seinem Buch Eine Einführung in die Mathematik: »Die Zivilisation schreitet vorwärts, indem sie die Zahl der wichtigen Operationen, die wir ohne zu denken ausführen können, erhöht.« Er meinte damit keine Maschinen. Er schrieb über den Einsatz mathematischer Symbole, um Ideen und logische Prozesse auszudrücken – ein frühes Beispiel für die Kodierung intellektueller Arbeit. Doch seine Bemerkung war allgemein gemeint. Er schrieb, die verbreitete Auffassung, »daß wir die Denkgewöhnung bei allem, was wir tun, pflegen müssen«, sei »völlig irrig«. Je mehr wir unser Denken von Routineaufgaben entlasten und die Arbeiten technischen Hilfen überlassen, umso mehr Geisteskraft steht uns für komplexes Denken und kreative Schlussfolgerungen zur Verfügung. »Denkvorgänge sind wie Kavallerieattacken in der Schlacht – sie sind zahlenmäßig genau begrenzt, verlangen frische Pferde und dürfen nur in entscheidenden Augenblicken vorgetragen werden.«1

Der Glaube an die Automatisierung als Stütze des Fortschritts lässt sich kaum prägnanter oder zuversichtlicher ausdrücken. In Whiteheads Worten schwingt außerdem der Glaube an eine Hierarchie menschlicher Handlung mit. Jedes Mal, wenn wir eine Arbeit an ein Werkzeug oder eine Maschine übertragen, an ein Symbol oder einen Software-Algorithmus, schaffen wir uns den Freiraum für lohnendere Beschäftigungen, die mehr Geschick, mehr Intelligenz oder mehr Überblick verlangen. Möglich, dass wir mit jedem Schritt nach vorn etwas verlieren, aber letztendlich gewinnen wir sehr viel mehr. Im Extremfall wird aus Whiteheads Sicht der Automatisierung als Befreiung der Techno-Utopismus von Wilde und Keynes oder Marx in seinen hellen Momenten – der Traum, dass Maschinen uns von unseren irdischen Mühen befreien und in ein Eden geruhsamer Freuden zurückführen. Aber Whitehead baute kein Wolkenkuckucksheim. Er zeigte ganz pragmatisch auf, wie die Menschheit ihre Zeit und ihre Energie einsetzen sollte. In einer Veröffentlichung aus den 1970er Jahren fasste das US-Arbeitsministerium die Tätigkeit von Sekretärinnen mit den Worten zusammen, sie »entlasten ihre Arbeitgeber von Routineaufgaben, sodass diese sich wichtigeren Arbeiten zuwenden können«.2 Nach Whiteheads Sicht erfüllen Software und andere Automatisierungstechnologien eine entsprechende Funktion.

Die Geschichte liefert viele Argumente für Whiteheads Sicht. Seit der Erfindung des Hebels, des Rades und der Abzählperlen haben Menschen immer wieder Arbeiten, körperliche und geistige, an Werkzeuge übertragen. Indem wir Arbeiten abgaben, konnten wir uns komplexeren Herausforderungen stellen und größere Erfolge erzielen, auf den Bauernhöfen ebenso wie in der Fabrik, im Labor oder zu Hause. Dennoch ist Whiteheads Bemerkung keine allgemeingültige Wahrheit. Er schrieb zu einer Zeit, als die Automatisierung sich auf einzelne, klar definierte eintönige Aufgaben beschränkte – das Stoffeweben mit einem Dampfwebstuhl, die Getreideernte mit einem Mähdrescher, das Multiplizieren von Zahlen mit einem Rechenschieber. Das ist heute anders. Heute können Computer komplizierte Tätigkeiten ausführen oder unterstützen, bei denen durch die Auswertung vieler Variablen eine Abfolge eng aufeinander abgestimmter Aufgaben ausgeführt wird. Bei automatischen Systemen übernimmt der Computer inzwischen oft geistige Aufgaben – er beobachtet und misst, analysiert und beurteilt, trifft sogar Entscheidungen –, die bis vor kurzem als alleinige Domäne der Menschen galten. Der Mensch am Computer ist nur noch ein Hightech-Sekretär, der Daten eingibt, Ausgaben überwacht und auf Ausfälle achtet. Software dehnt die Grenzen des Denkens und der Handlungen für ihre menschlichen Betreiber keineswegs aus, sie verengt sogar den Blickwinkel. Wir tauschen feine, spezialisierte Talente gegen weniger ausgeprägte Routinefähigkeiten ein.

Die meisten Menschen glauben, wie Whitehead, Automatisierung sei etwas Gutes, sie ermögliche uns, einer höheren Berufung zu folgen, habe aber ansonsten keinerlei Einfluss auf unser Verhalten oder Denken. Das ist ein Trugschluss und Ausdruck des »Substitutionsmythos«, ein Begriff aus der Automatisierungsforschung. Ein arbeitssparendes Gerät erfüllt nicht nur ersatzweise einen Teil einer Aufgabe. Es verändert die Aufgabe an sich, einschließlich aller Funktionen, Einstellungen und Fähigkeiten der Menschen, die daran mitarbeiten. Raja Parasuraman erklärte in einem Zeitschriftenartikel im Jahr 2000: »Automatisierung ersetzt die menschliche Handlung nicht nur, sondern sie verändert sie, oft in einer Weise, die von den Entwicklern weder beabsichtigt noch vorausgesehen wurde.«3 Die Automatisierung beeinflusst sowohl die Arbeit als auch die Arbeiter.

VERTRAUEN IN DIE MASCHINE

Bei der Arbeit mit Computern tappen Menschen häufig in zwei Denkfallen: Automation Complacency und Automation Bias. Beide Fallen drohen, wenn man der Whitehead-Methode folgt und wichtige Vorgänge ausführt, ohne darüber nachzudenken.

Bei der Automation Complacency lässt man sich vom Computer ein falsches Gefühl der Sicherheit vorgaukeln. Wir vertrauen so sehr darauf, dass die Maschine fehlerfrei funktioniert und jede Herausforderung meistert, dass wir unsere Aufmerksamkeit abschweifen lassen. Wir lösen uns gedanklich von unserer Arbeit, oder zumindest von dem Teil davon, den die Software übernimmt, und übersehen dadurch möglicherweise Fehlersignale. Die meisten Menschen haben so etwas am Computer schon einmal erlebt. Wenn man eine E-Mail- oder Textverarbeitungssoftware mit Rechtschreibprüfung benutzt, achtet man selbst weniger auf Schreibfehler.4 Dieses triviale Beispiel führt im schlimmsten Fall zu einem peinlichen Moment. Aber die tragischen Erfahrungen in der Luftfahrt haben gezeigt, dass Automation Complacency tödliche Folgen haben kann. Im schlimmsten Fall vertrauen Menschen der Technik so sehr, dass sie den Vorgängen um sich herum keinerlei Aufmerksamkeit mehr schenken. Sie schalten ab. Taucht dann plötzlich ein Problem auf, handeln sie möglicherweise verwirrt, und es vergehen wertvolle Momente nutzlos, in denen sie versuchen sich zu orientieren.

Automation Complacency kam schon in vielen hochriskanten Situationen vor, auf Schlachtfeldern ebenso wie in Kontrollräumen von Fabriken oder auf den Kommandobrücken von Schiffen und U-Booten. Bei einem klassischen Fall war der 1500-Betten-Ozeandampfer Royal Majesty im Frühjahr 1995 auf dem letzten Teil einer einwöchigen Kreuzfahrt von den Bermudas nach Boston unterwegs. Das Schiff war mit einem hochmodernen automatischen Navigationssystem ausgestattet, das den Dampfer mittels GPS-Signal auf Kurs hielt. Nach einer Stunde auf See löste sich ein Kabel von der GPS-Antenne, und das Navigationssystem verlor die Orientierung. Es lieferte weiterhin Daten, aber die waren falsch. Mehr als dreißig Stunden lang folgte das Schiff einem falschen Kurs. Der Kapitän und die Besatzung erkannten das Problem nicht, obwohl es deutliche Anzeichen für einen Systemfehler gab. Ein wachhabender Offizier fand eine wichtige Orientierungsboje nicht, die das Schiff hätte passieren müssen. Doch er erstattete darüber keinen Bericht. Sein Vertrauen in das Navigationssystem war so umfassend, dass er annahm, die Boje sei da und er habe sie nur einfach nicht gesehen. Das Schiff fuhr schließlich auf eine Sandbank bei der Insel Nantucket auf Grund, fast 20 Meilen ab vom Kurs. Glücklicherweise wurde niemand verletzt, doch für das Kreuzfahrtunternehmen entstand ein Schaden in Millionenhöhe. Die Untersuchungskommission der Regierung stellte Automation Complacency als Unfallursache fest. Die Schiffsoffiziere hätten sich zu sehr auf das automatische System verlassen und dafür andere »Navigationshilfen [und] visuelle Informationen« ignoriert, die auf ein gefährliches Abweichen vom Kurs hindeuteten. Automatisierung »führte dazu, dass die Seeleute keine echte Kontrolle mehr über das Schiff hatten und auch nicht mehr aktiv am Schiffsbetrieb teilnahmen«.5

Complacency betrifft Büroangestellte ebenso wie Menschen, die auf Flug- oder Seerouten navigieren. Die Soziologin Sherry Turkle vom MIT untersuchte den Einfluss von Konstruktionssoftware auf die Bauindustrie und entdeckte dabei Beweise, dass sich die Aufmerksamkeit der Architekten fürs Detail veränderte. Bei handgezeichneten Plänen überprüften die Architekten mehrfach und sorgfältig alle Maße, bevor sie die Pläne an die Baufirmen übergaben. Die Architekten wussten, dass sie Fehler machten, dass ihnen gelegentlich ein blöder Schnitzer unterlief, und folgten daher einem alten Arbeitsprinzip der Zimmerleute: Zweimal messen, einmal schneiden. Bei computergenerierten Plänen sind sie bei der Überprüfung der Maße weniger sorgfältig. Die augenscheinliche Präzision der Computerrenderings und -ausdrucke lässt sie davon ausgehen, dass die Zahlen korrekt sind. »Es scheint vermessen, sie zu überprüfen«, begründete ein Architekt. »Ich meine, wer könnte es besser machen als ein Computer? Ein Computer rechnet bis zu einem Hundertstel Inch genau.« Diese Art der Complacency bei Ingenieuren und Bauunternehmern führte bereits zu kostspieligen Planungs- und Konstruktionsfehlern. Computer machen keine blöden Fehler, reden wir uns ein, obwohl wir wissen, dass die Ausgaben der Computer nur so gut sind wie die Eingaben. »Je schicker ein Computersystem ist«, bemerkte einer von Turkles Studenten, »umso mehr geht man davon aus, dass es Fehler korrigiert, und umso mehr glaubt man, dass das, was aus der Maschine rauskommt, fehlerfrei ist. Das ist eine Bauchsache.«6

Der Automation Bias ist ein enger Verwandter der Automation Complacency. Er schleicht sich ein, wenn Menschen den Informationen auf den Bildschirmen zu große Bedeutung beimessen. Sie glauben diesen Informationen, selbst wenn sie falsch oder irreführend sind. Ihr Vertrauen in die Software wird so groß, dass sie andere Informationsquellen ignorieren oder unberücksichtigt lassen, selbst ihre eigenen Sinneswahrnehmungen. Wer jemals penibel falschen oder veralteten Anweisungen eines GPS-Geräts oder anderer digitaler Karten gefolgt ist und sich dabei verirrt hat oder im Kreis ging, kennt die Auswirkungen des Automation Bias. Selbst Berufsfahrer beweisen manchmal einen überraschenden Mangel an gesundem Menschenverstand, wenn sie sich auf Satellitennavigation verlassen. Sie ignorieren Straßenschilder und andere Hinweise in der Landschaft, fahren so gefährliche Routen und krachen dann in niedrige Brücken oder bleiben in den engen Straßen einer Kleinstadt stecken. Im Jahr 2008 fuhr in Seattle der Fahrer eines dreieinhalb Meter hohen Busses, in dem die Sportmannschaft einer Highschool saß, in eine Betonbrücke mit 2,70 Metern Durchfahrtshöhe. Das Dach des Busses wurde abgerissen, und 21 Schüler mussten mit Verletzungen ins Krankenhaus gebracht werden. Der Fahrer sagte bei der Polizei aus, er sei GPS-Anweisungen gefolgt und habe die Schilder und Warnlichter vor der niedrigen Brücke »nicht gesehen«.7

Besonders gefährlich ist der Automation Bias für Menschen, die Analysen oder Diagnosen mit Software-Tools zur Entscheidungsunterstützung durchführen. Seit den späten 1990er Jahren setzen Radiologen computergestützte Bildauswertungsprogramme ein, die verdächtige Bereiche in Mammographien oder anderen Röntgenaufnahmen hervorheben. Ein Bild wird eingescannt und von einer Mustererkennungssoftware überprüft, und die Regionen, die der Arzt näher untersuchen sollte, werden markiert. In manchen Fällen helfen diese Markierungen bei der Diagnose von Krankheiten, weil sie den Radiologen auf mögliche Tumore hinweisen, die er sonst womöglich übersehen hätte. Doch verschiedene Studien ergaben, dass diese Markierungen auch den gegenteiligen Effekt haben können. Wenn sich ein Arzt zu sehr auf die Vorschläge der Software verlässt, widmet er möglicherweise den nicht hervorgehobenen Regionen eines Bildes weniger Aufmerksamkeit und übersieht womöglich einen Tumor im frühen Stadium oder eine andere Auffälligkeit. Die Markierungen erhöhen außerdem die Wahrscheinlichkeit einer falsch-positiven Diagnose, wenn ein Radiologe nachträglich eine unnötige Biopsie an einem Patienten durchführen lässt.

Eine aktuelle Review von Mammographiedaten eines Forscherteams von der City University London zeigte, dass Radiologen und andere Bildauswerter stärker von Automation Bias beeinflusst werden, als bisher angenommen. Die Forscher fanden heraus, dass computergestützte Bildauswertungsprogramme zwar die Trefferquote von »weniger aufmerksamen Auswertern« bei »vergleichsweise einfachen Fällen« erhöhten, dass sie jedoch die Leistung erfahrener Auswerter bei der Diagnose komplizierter Fälle zum Teil verschlechterten. Wenn die Experten sich auf die Software verlassen, steigt die Wahrscheinlichkeit, dass sie bestimmte Krebsarten übersehen.8 Die verzerrte Wahrnehmung beim Einsatz computergestützter Entscheidungshilfen könnte sogar »fester Bestandteil der menschlichen kognitiven Vorgänge bei der Verarbeitung von Signalen und Alarmzeichen« sein.9 Die Hilfen steuern unseren Blick und verzerren so unsere Wahrnehmung.

Sowohl Complacency als auch Bias haben mit den Grenzen unserer Aufmerksamkeit zu tun. Der Hang zur Complacency zeigt, wie schnell Konzentration und Aufmerksamkeit abnehmen, wenn man nicht ständig mit seiner Umgebung interagieren muss. Die Neigung zum Bias bei der Auswertung und Bewertung von Informationen zeigt, dass wir uns immer nur auf bestimmte Punkte konzentrieren können und dass unser Fokus durch unangebrachtes Vertrauen oder scheinbar hilfreiche Markierungen fehlgeleitet werden kann. Sowohl Complacency als auch Bias nehmen mit zunehmender Qualität und Zuverlässigkeit eines automatischen Systems zu.10 Experimente haben gezeigt, dass die Benutzer hoch aufmerksam bleiben, wenn ein System häufig Fehler macht. Der Nutzer bleibt aufmerksam für seine Umgebung und zieht sorgfältig mehrere Informationsquellen in Betracht. Doch wenn ein System sehr zuverlässig arbeitet und nur selten abstürzt oder Fehler macht, werden wir faul. Wir vertrauen zunehmend in die Unfehlbarkeit des Systems.

Da automatische Systeme in der Regel gut funktionieren, auch wenn wir unaufmerksam werden oder unsere Objektivität verlieren, haben Complacency und Bias nur selten böse Folgen. So verstärken sich die Probleme noch, wie Parasuraman in einem Artikel aus dem Jahr 2010 erörterte, den er mit seinem deutschen Kollegen Dietrich Manzey verfasste. »Angesichts der üblicherweise sehr guten Zuverlässigkeit automatischer Systeme hat selbst ein stark von Complacency und Bias beeinflusstes Verhalten bei der Bedienung der Systeme nur selten offensichtliche Auswirkungen auf die Leistung«, schrieben die Forscher. Das fehlende negative Feedback führe mit der Zeit zu »einem kognitiven Prozess ähnlich der sogenannten ›gelernten Sorglosigkeit‹«.11 Ein Beispiel: Wenn man übermüdet Auto fährt, dabei einnickt und von der Fahrbahn abkommt, fährt man meist auf einen holprigen Randstreifen, einen Rüttelstreifen, oder man erntet ein Hupkonzert der anderen Autofahrer. Diese Signale wecken den Fahrer auf. Wenn man aber nun mit einem Auto fährt, das automatisch in der Spur bleibt, weil es die Fahrbahnmarkierung beachtet und die Lenkung anpasst, erhält man keine solche Warnung. Man wird daher einschlafen. Wenn dann etwas Unvorhergesehenes geschieht – wenn etwa ein Tier über die Straße läuft oder ein vorausfahrender Wagen plötzlich bremst –, ist die Wahrscheinlichkeit eines Unfalls deutlich erhöht. Die Automatisierung verhindert negatives Feedback und erschwert das Wach- und Aufmerksam-Bleiben. Wir schalten immer mehr ab.

DENKEN IM LEERLAUF

Unsere Anfälligkeit für Complacency und Bias erklärt, wie es zu Ausführungs- oder Unterlassungsfehlern (errors of commission and omission) kommen kann, wenn man sich zu sehr auf ein automatisches System verlässt. Wir akzeptieren und handeln aufgrund einer Information, die sich als falsch oder unvollständig erweist, oder wir übersehen etwas. Doch die Art und Weise, wie Vertrauen in Computer die Aufmerksamkeit und Achtsamkeit beeinflusst, deutet auf ein tückisches Problem hin. Automatisierung macht aus Akteuren Beobachter. Man bedient keine Steuersäule mehr, sondern schaut nur noch auf einen Bildschirm. Diese Veränderungen machen das Leben einfacher, aber sie können auch die Lernfähigkeit und den Kompetenzerwerb beeinträchtigen. Egal ob Automatisierung die Leistung bei einer bestimmten Aufgabe verbessert oder verschlechtert, langfristig kann sie zum Abbau bestehender Fähigkeiten führen oder verhindern, dass neue Fähigkeiten erworben werden.

Seit den späten 1970er Jahren stoßen Kognitionspsychologen immer wieder auf den sogenannten Erzeugungseffekt (generation effect). Er wurde erstmals in einer Wortschatz-Studie belegt, die ergab, dass Menschen sich viel besser an Wörter erinnern können, die sie aktiv abgerufen – also selbst erzeugt – hatten, als an Wörter, die sie nur gelesen hatten. In einem frühen und berühmten Experiment des Psychologen Norman Slamecka von der Universität Toronto lernten die Probanden Gegensatzpaare, wie heiß und kalt, mittels Vokabelkarten. Einige Probanden erhielten Karten, auf denen beide Worte vollständig ausgeschrieben standen:

HEISS : KALT

Andere benutzten Karten, auf denen nur der erste Buchstabe des zweiten Wortes stand:

HEISS : K

Bei einem nachfolgenden Test erinnerten sich die Probanden, die mit den unvollständigen Karten gelernt hatten, deutlich besser an die Wortpaare. Allein dadurch, dass sie in Gedanken die Lücke auffüllen mussten, also aktiv handelten, statt nur zu beobachten, wurden die Informationen besser gespeichert.12

Wie sich seither herausgestellt hat, beeinflusst der Erzeugungseffekt Erinnerungs- und Lernvermögen in vielen unterschiedlichen Kontexten. Bei Experimenten trat dieser Effekt nicht nur beim Lernen von Buchstaben oder Wörtern auf, sondern auch wenn es darum ging, sich Zahlen, Bilder oder Geräusche zu merken, Matheaufgaben zu lösen, Wissensfragen zu beantworten oder beim Leseverständnis. Neuere Studien haben außerdem die Vorteile des Erzeugungseffekts im höheren Bildungswesen aufgezeigt. In einem Artikel in der Zeitschrift Science aus dem Jahr 2011 wurde berichtet, dass Studenten, die eine komplizierte wissenschaftliche Aufgabe eine Stunde lang lasen und dann in einer zweiten Stunde, ohne Hilfestellung, sich an möglichst viel davon erinnern sollten, sich das Material besser merken konnten als Studenten, die dieselbe Aufgabenstellung innerhalb von vier Stunden wiederholt lasen.13 Die aktive Verwendung verbessert die Fähigkeit der Menschen, Tätigkeiten auszuführen, die, wie die Bildungsforscherin Britte Haugan Cheng schrieb, »konzeptionelles Denken und eine eingehende kognitive Verarbeitung voraussetzen«. Cheng schreibt, der Erzeugungseffekt verstärke sich, je komplexer das wiederzugebende Material sei.14

Psychologen und Neurowissenschaftler verstehen die Vorgänge im menschlichen Gehirn, die zum Erzeugungseffekt führen, immer noch nicht ganz. Doch offensichtlich sind tiefe Kognitions- und Gedächtnisvorgänge daran beteiligt. Wenn wir uns bei etwas anstrengen, wenn wir unsere Anstrengungen und unsere Aufmerksamkeit darauf konzentrieren, belohnt uns unser Gehirn mit größerer Erkenntnis. Wir merken uns mehr, und wir lernen mehr. Mit der Zeit erwerben wir Kompetenz, ein spezielles Talent für fließendes, fundiertes und zielgerichtetes Handeln. Das ist kaum überraschend, denn die meisten Menschen wissen, dass man nur gut in etwas wird, wenn man es tatsächlich tut. Informationen sind über einen Computerbildschirm – oder aus einem Buch – schnell gesammelt. Aber wahres Wissen, vor allem die Art von Wissen, die tief im Gedächtnis verankert wird und sich als Fähigkeit manifestiert, ist schwerer zu erwerben. Man muss dazu heftig und lange mit einer anspruchsvollen Aufgabe ringen.

Die australischen Psychologen Simon Farrell und Stephan Lewandowsky stellten in einem Artikel aus dem Jahr 2000 eine Verbindung her zwischen der Automatisierung und dem Erzeugungseffekt. Sie wiesen darauf hin, dass bei Slameckas Experiment die Vorgabe des zweiten Wortes im Gegensatzpaar, statt die Probanden das Wort selbst finden zu lassen, »als Beispiel von Automatisierung einer menschlichen Handlung – der Erzeugung des Wortes ›KALT‹ durch die Teilnehmer – gelten kann, da sie durch den gedruckten Stimulus verhindert wird«. Folglich »handelt es sich bei der Leistungsminderung, die auftritt, wenn aktive Verwendung durch Lesen ersetzt wird, um eine Manifestation von Complacency«.15 Das wirft ein deutliches Licht auf den kognitiven Preis der Automatisierung. Wenn wir eine Aufgabe oder eine Arbeit selbst ausführen, setzen wir anscheinend andere mentale Prozesse ein, als wenn wir uns auf die Unterstützung durch einen Computer verlassen. Wenn Software unsere Rolle bei der Arbeit einschränkt, vor allem, wenn wir nur noch als passiver Beobachter oder Überwacher fungieren, umgehen wir die tiefen kognitiven Prozesse, die den Erzeugungseffekt unterstützen. So verhindern wir, dass wir das umfassende Praxiswissen erwerben, das zu Kompetenz führt. Der Erzeugungseffekt setzt eine bestimmte Art von Anstrengung voraus, den uns die Automatisierung abnimmt.

Im Jahr 2004 startete Christof van Nimwegen, Kognitionspsychologe an der Universität Utrecht in den Niederlanden, eine Reihe einfacher, aber genialer Experimente, bei denen er die Auswirkungen von Software auf Gedächtnisbildung und Kompetenzerwerb untersuchte.16 Er ließ zwei Probandengruppen ein Computerspiel spielen, das auf dem klassischen Logikrätsel »Missionare und Kannibalen« basierte. Bei dem Spiel muss ein Spieler fünf Missionare und fünf Kannibalen (oder in Nimwegens Version fünf gelbe und fünf blaue Bälle) mit einem Boot über einen fiktiven Fluss transportieren. Im Boot haben aber nur drei Passagiere Platz. Das Problem dabei ist, dass nie mehr Kannibalen als Missionare an einem Ort sein dürfen, weder im Boot noch an den Flussufern. (Wenn die Kannibalen in der Überzahl sind, verspeisen sie wohl die Missionare zum Abendessen.) Die richtige Reihenfolge der Bootsfahrten für die Lösung des Rätsels findet man nur durch genaue Analyse und sorgfältige Planung.

Eine von Nimwegens Gruppen arbeitete bei der Aufgabe mit einer Software, welche die Probanden Schritt für Schritt auf dem Lösungsweg begleitete. Dabei wurden die möglichen Spielzüge auf dem Bildschirm unterschiedlich gekennzeichnet, je nachdem, ob sie erlaubt waren oder nicht. Die andere Gruppe benutzte ein rudimentäres Programm, das keinerlei Unterstützung anbot. Erwartungsgemäß kam die Gruppe mit der hilfreichen Software anfangs schneller voran. Sie folgten den Vorgaben und mussten so nicht vor jedem Spielzug lange nachdenken, um sich an die Regeln zu erinnern und herauszufinden, wie sie sich auf die neue Situation auswirkten. Doch im weiteren Verlauf des Spiels holten die Spieler mit der rudimentären Software auf, und am Ende war ihr Lösungsweg effizienter, und sie hatten deutlich weniger falsche Züge gemacht als ihre Gegner, die Unterstützung erhalten hatten. In seinem Versuchsbericht schloss Nimwegen, die Probanden mit der rudimentären Software hätten ein tieferes Verständnis der Aufgabe entwickelt. Es fiel ihnen leichter, vorauszudenken und eine erfolgreiche Strategie zu entwerfen. Im Gegensatz dazu ließen sich die Probanden, die sich auf die Hinweise der Software verließen, verwirren und »klickten planlos herum«.

Die negativen kognitiven Auswirkungen durch die Softwareunterstützung wurde acht Monate später sogar noch deutlicher, als van Nimwegen dieselben Probanden das Rätsel noch einmal lösen ließ. Jene, die beim ersten Mal die rudimentäre Software verwendet hatten, lösten das Rätsel fast zweimal so schnell wie ihre Gegner. Die Probanden mit dem einfachen Programm, schrieb er, zeigten »größere Konzentration« bei der Aufgabe und im Anschluss »eine bessere Wissensprägung«. Sie profitierten vom Erzeugungseffekt. Van Nimwegen und einige Kollegen aus Utrecht führten weitere Experimente mit realistischen Aufgaben durch, ließen mit einer Terminplaner-Software Meetings planen und mit einer Software für die Event-Planung Säle bei einer Konferenz mit Rednern belegen. Die Ergebnisse waren dieselben. Menschen, die sich auf die Software-Unterstützung verließen, dachten weniger strategisch, machten mehr überflüssige Schritte und hatten am Ende eine schlechtere Vorstellung von der Aufgabe. Jene mit dem weniger hilfreichen Programm planten besser, arbeiteten geschickter und lernten mehr.17

Nimwegens Beobachtungen im Labor – dass die Automatisierung von kognitiven Aufgaben, wie das Lösen eines Problems, die Fähigkeit des Gehirns, Informationen in Wissen umzuformen und Wissen in Kompetenz, beeinträchtigt – sind auch in der Praxis zu beobachten. In vielen Branchen verlassen sich Manager und andere Fachleute auf sogenannte Expertensysteme, um Informationen zu ordnen und zu analysieren und sich eine Vorgehensweise vorschlagen zu lassen. Wirtschaftsprüfer etwa setzen Software-Tools zur Entscheidungsunterstützung bei Unternehmensrevisionen ein. Die Anwendungen beschleunigen die Arbeit, aber es gibt Hinweise, dass die Wirtschaftsprüfer immer inkompetenter werden, je kompetenter die Software wird. Eine Gruppe australischer Professoren untersuchte die Auswirkungen der Expertensysteme bei drei internationalen Steuerberatungsfirmen. Zwei dieser Firmen setzten hochentwickelte Software ein, die einige grundsätzliche Daten über den Klienten abfragte und dann, je nach den Antworten des Wirtschaftsprüfers, für die Prüfdatei des Klienten relevante Geschäftsrisiken empfahl. Die dritte Firma benutzte eine einfachere Software, die eine Liste potentieller Risiken ausgab. Doch der Wirtschaftsprüfer musste diese Liste noch überprüfen und von Hand die relevanten Punkte für die Datei auswählen. Die Forscher unterzogen Angestellte aller Firmen einem Test, bei dem sie deren Kenntnisse der Risiken von Branchen abfragten, für die der jeweilige Mitarbeiter bereits Revisionen durchgeführt hatte. Die Mitarbeiter der Firma mit der weniger hilfreichen Software zeigten ein signifikant größeres Verständnis der verschiedenen Risikoarten als die Mitarbeiter der anderen beiden Firmen. Der Wissensverfall im Zusammenhang mit hochentwickelter Software betraf sogar erfahrene Wirtschaftsprüfer, die mehr als fünf Jahre bei demselben Arbeitgeber gearbeitet hatten.18

Andere Studien zu Expertensystemen zeigten ähnliche Ergebnisse. Forschungen haben gezeigt, dass Software-Tools zur Entscheidungsunterstützung jungen Analysten kurzfristig helfen können, gute Entscheidungen zu treffen, aber die Tools können sie auch geistig träge machen. Die Software reduziert die Denktiefe und damit die Fähigkeit der Analysten, Informationen im Gedächtnis zu enkodieren, was dazu führt, dass sie seltener umfassendes implizites Wissen, also echte Kompetenz, erwerben.19 Die Nachteile automatisierter Entscheidungen können sehr unauffällig sein, aber sie haben praktische Konsequenzen, vor allem in Bereichen, in denen Analysefehler weitreichende Folgen haben. Fehleinschätzungen von Risiken, noch verstärkt durch computergestützte Hochgeschwindigkeits-Handelsprogramme, spielten eine bedeutende Rolle bei dem Beinahe-Zusammenbruch des Weltfinanzsystems im Jahr 2008. Der Professor für Management an der Tufts University, Amar Bhidé, meinte, »Robotermethoden« bei der Entscheidungsfindung hätten zu einem verbreiteten »Mangel an Urteilsvermögen« bei Bankern und anderen Fachleuten an der Wall Street geführt.20 Es dürfte kaum festzustellen sein, wie groß der tatsächliche Anteil der Automatisierung an dieser Katastrophe oder nachfolgenden Fiaskos wie dem »Flash Crash« an US-Aktienbörsen im Jahr 2010 war, doch man sollte jeden Hinweis, dass eine verbreitet eingesetzte Technologie möglicherweise das Wissen von Menschen an wichtigen Stellen abbaut oder ihr Urteilsvermögen einschränkt, ernst nehmen. Im Jahr 2013 warnten die Informatiker Gordon Baxter und John Cartlidge in einem Artikel, dass Fähigkeiten und Kenntnisse von Finanzprofis bei zu großer Abhängigkeit von automatischen Systemen litten, während das Computerhandelssystem gleichzeitig die Risiken an den Finanzmärkten erhöhte.21

Manche Software-Entwickler befürchten, die Bemühungen ihrer Branche, die Denkarbeit zu erleichtern, könnten sich auch auf ihre eigenen Fähigkeiten auswirken. Programmierer nutzen inzwischen häufig sogenannte integrierte Entwicklungsumgebungen, oder IDEs (integrated development environements), bei ihrer Arbeit. Bei diesen Anwendungen sind viele fehleranfällige und zeitaufwendige Aufgaben automatisiert. Sie bieten üblicherweise eine Autovervollständigungsfunktion, Fehlerkorrektur und einen Debugger. Die höher entwickelten Anwendungen beurteilen und überarbeiten die Struktur eines Programms mit sogenannten Refactoring-Assistenten. Doch je mehr Programmierarbeit die Anwendungen übernehmen, umso weniger Gelegenheit haben die Programmierer, ihr Handwerk auszuüben und ihre Fähigkeiten zu verbessern. »Moderne IDEs bieten so viel ›Unterstützung‹, dass ich mich manchmal eher wie ein IDE-Anwender fühle statt als Programmierer«, schreibt Vivek Haldar, ein erfahrener Software-Entwickler bei Google. »Mit diesen Tools lernt man nicht ›denk genau über den Code nach und schreibe ihn dann sorgfältig‹, sondern ›schreib einfach eine schlechte erste Version deines Codes, und dann werden die Tools dir zeigen, was damit nicht stimmt und wie du es besser machen kannst‹.« Sein Urteil: »Scharfe Tools, stumpfer Verstand.«22

Google gibt zu, dass man dort einen Verdummungseffekt in der breiten Bevölkerung beobachtet hat, je entgegenkommender die Suchmaschine wurde, je besser sie voraussagte, wonach die Menschen suchten. Google korrigiert nicht nur Schreibfehler; es schlägt beim Eintippen Suchbegriffe vor, löst Mehrdeutigkeiten bei Suchanfragen auf und sieht unsere Wünsche voraus, basierend auf unserem Standort und unserem Verhalten in der Vergangenheit. Nun könnte man glauben, dass wir uns ein Beispiel an Google nehmen, je besser es unsere Suche präzisiert, würden unsere Suchbegriffe sorgfältiger formulieren und unsere Online-Suchen anderweitig verfeinern. Doch nach Aussage des leitenden Suchmaschinenentwicklers des Unternehmens, Amit Singhal, ist das Gegenteil der Fall. Im Jahr 2013 führte ein Reporter der Zeitung The Observer in London ein Interview mit Singhal über die vielen Verbesserungen an der Google-Suchmaschine im Laufe der Jahre. »Wir sind wohl bei der Auswahl der Suchbegriffe präziser geworden, je mehr wir Google benutzt haben«, vermutete der Journalist. Singhal seufzte und widersprach dem Reporter »ziemlich resigniert«: »Leider ist es genau anders herum. Je präziser die Maschine wird, umso nachlässiger werden die Fragen.«23

Doch möglicherweise wird mehr als nur unsere Fähigkeit, gut durchdachte Anfragen zu formulieren, durch den Komfort der Suchmaschinen beeinträchtigt. Mehrere Experimente, über die in Science im Jahr 2011 berichtet wurde, deuten darauf hin, dass die einfache Verfügbarkeit von Informationen im Netz unser Wissensgedächtnis schwächt. Bei einem Experiment lasen Probanden ein paar Dutzend einfache, wahre Aussagen – »das Auge eines Straußes ist größer als sein Gehirn« etwa – und tippten sie dann in einen Computer. Der Hälfte der Testpersonen wurde gesagt, der Computer speichere, was sie tippten; die andere Hälfte glaubte, die Sätze würden gelöscht. Danach sollten die Teilnehmer alle Aussagen aufschreiben, an die sie sich erinnerten. Die Probanden, die geglaubt hatten, die Informationen würden gespeichert, erinnerten sich an signifikant weniger Fakten als jene, die davon ausgegangen waren, dass die Aussagen gelöscht würden. Allein das Wissen, dass Informationen in einer Datenbank verfügbar sind, verringert anscheinend die Wahrscheinlichkeit, dass unser Gehirn sich die Mühe macht, Erinnerungen zu bilden. »Suchmaschinen sind heute immer verfügbar, daher glauben wir häufig, wir müssten die Informationen nicht intern enkodieren«, schlossen die Forscher. »Wenn wir sie brauchen, schlagen wir sie nach.«24

Seit Jahrtausenden unterstützen Menschen ihr biologisches Gedächtnis mit Speichertechnologien, von Schriftrollen und Büchern bis zu Microfiche und Magnetbändern. Werkzeuge für die Speicherung und Weitergabe von Informationen sind Grundpfeiler unserer Zivilisation. Doch externe Speicherung und biologisches Gedächtnis sind nicht dasselbe. Wissen bedeutet mehr, als nur Dinge nachzuschlagen; man muss dazu Fakten und Erfahrungen im eigenen Gedächtnis speichern. Um etwas wirklich zu wissen, muss man es in die eigenen neuronalen Schaltkreise einbauen, es regelmäßig aus dem Gedächtnis abrufen und immer wieder einsetzen. Bei Suchmaschinen und anderen Online-Ressourcen sind die Speicherung und der Abruf von Informationen in bisher ungeahntem Ausmaß automatisiert. In mancherlei Hinsicht macht uns die Neigung unseres Gehirns, die Gedächtnisarbeit abzugeben oder zu externalisieren, zu effizienteren Denkern. Wir können Fakten, die uns entfallen sind, schnell abrufen. Doch eben diese Neigung kann krankhaft werden, wenn die Automatisierung von Denkarbeit es uns zu einfach macht, die Anstrengung, die zum Erinnern und Verstehen notwendig ist, zu vermeiden.

Google und andere Software-Unternehmen arbeiten natürlich daran, uns das Leben zu erleichtern. Das erwarten wir von ihnen, und dafür lieben wir sie. Doch je mehr ihre Programme für uns denken, umso mehr verlassen wir uns natürlich auf die Software und weniger auf unseren eigenen Verstand. Wir leisten immer weniger Erzeugungsarbeit. Wenn das geschieht, lernen wir immer weniger und wissen immer weniger. Wir werden unfähiger. Der Informatiker Mihai Nadin von der Universität Texas bemerkte in Bezug auf moderne Software: »Je mehr die Schnittstelle menschliche Arbeit ersetzt, umso schlechter kann sich der Nutzer an neue Situationen anpassen.«25 Die Automatisierung durch Computer führt zum Gegenteil des Erzeugungseffekts: dem Degenerationseffekt.

DENKEN IN AKTION

Noch einmal zurück zu dem unseligen, ölzeuggelben Subaru mit der Gangschaltung. Damals wurde nach nur wenigen Wochen Übung aus einem unfähigen Getriebe-Schinder ein ganz guter Fahrer mit Gangschaltung. Die Arm- und Beinbewegungen, die mein Dad mir flüchtig gezeigt hatte, führte ich nun fast instinktiv aus. Ich war kein Fahrprofi, aber ich kämpfte nicht mehr länger mit der Schaltung. Ich schaltete, ohne nachzudenken. Ich tat es, nun ja, automatisch.

Meine Erfahrung zeigt, wie Menschen komplizierte Fähigkeiten erwerben. Am Anfang steht oft eine kurze Einführung direkt von einem Lehrer oder Mentor oder indirekt über ein Buch, Handbuch oder YouTube-Video. So übertragen wir explizites Wissen über das Vorgehen bei einer Aufgabe in unser Bewusstsein: Tue dies, dann dies, dann dies. Genau das tat mein Vater, als er mir zeigte, wo die Gänge sind, und erklärte, wann ich die Kupplung treten musste. Ich fand schnell heraus, dass explizites Wissen nicht alles ist, vor allem nicht, wenn die Aufgabe neben einer kognitiven auch eine psychomotorische Komponente hat. Um Meisterschaft zu erlangen, muss man implizites Wissen entwickeln, das durch echte Erfahrungen entsteht – indem man eine Fähigkeit immer wieder trainiert. Je mehr man übt, umso weniger muss man nachdenken, was man tut. Das Bewusstsein, das oft langsam und stockend arbeitet, gibt die Verantwortung für die Arbeit an das Unterbewusstsein ab, das schnell und fließend funktioniert. So kann sich das Bewusstsein in dieser Zeit mit anderen, feineren Aspekten der Fähigkeit beschäftigen und, wenn diese ebenfalls in den Automatismus übergegangen sind, die nächste Stufe in Angriff nehmen. Man muss nur dran bleiben, sich immer weiter antreiben, und wird schließlich mit Kompetenz belohnt, vorausgesetzt, man hat grundsätzlich Talent.

Der Prozess der Kompetenzbildung, durch den eine Fähigkeit ohne bewusstes Nachdenken ausgeführt wird, wird als Automatisierung bezeichnet oder, noch unbeholfener, als Prozeduralisierung. Bei der Automatisierung werden tiefgreifende und weitreichende Anpassungen im Gehirn vorgenommen. Bestimmte Gehirnzellen, oder Neuronen, werden auf die vorliegende Aufgabe spezialisiert, und sie arbeiten über die elektrochemischen Synapsenverbindungen zusammen. Der Kognitionspsychologe Gary Marcus von der New York University liefert eine detaillierte Erklärung: »Auf neuraler Ebene besteht die Prozeduralisierung aus einer Vielzahl sorgfältig aufeinander abgestimmter Prozesse, die zu Veränderungen sowohl in der grauen Substanz (den Nervenzellköpern) als auch der weißen Hirnsubstanz (Axone und Dendrite, welche die Nervenzellen miteinander verbinden) führen. Bestehende Nervenverbindungen (Synapsen) müssen optimiert werden, neue Dendritenstämme gebildet und neues Protein synthetisiert werden.«26 Durch die neuralen Modifikationen der Automatisierung entwickelt das Gehirn Automatismen, die Fähigkeit für schnelle und unterbewusste Wahrnehmung, Interpretation und Aktion, die es Gehirn und Körper ermöglichen, augenblicklich Muster zu erkennen und auf sich verändernde Umstände zu reagieren.

Das Lesenlernen ist ein Beispiel für Automatisierung und die Entwicklung eines Automatismus, das wir alle erlebt haben. Wenn ein kleines Kind mit dem Lesen anfängt, bedeutet das eine enorme mentale Anstrengung. Das Kind muss jeden einzelnen Buchstaben anhand der Form identifizieren. Es muss herausfinden, wie mehrere Buchstaben eine Silbe bilden und wie mehrere Silben sich zu einem Wort verbinden. Bei unbekannten Wörtern muss es auch noch die Bedeutung erschließen oder lernen. Und dann muss das Kind, ein Wort nach dem anderen, die Bedeutung eines Satzes interpretieren und dabei oft sprachtypische Mehrdeutigkeiten auflösen. Das ist ein langsamer, mühsamer Vorgang und setzt die volle bewusste Aufmerksamkeit voraus. Doch irgendwann werden erst die Buchstaben und dann die Wörter in den Neuronen des visuellen Cortex – demjenigen Teil des Gehirns, der für das Sehen zuständig ist – enkodiert, und der junge Leser beginnt, sie ohne bewusstes Nachdenken zu erkennen. Durch eine Symphonie von Veränderungen im Gehirn wird das Lesen mühelos. Je stärker der Automatismus bei dem Kind wird, umso flüssiger und besser liest es.27

Wiley Post im Cockpit, Serena Williams auf dem Tennisplatz oder Magnus Carlsen am Schachbrett – all diese übermenschlichen Fähigkeiten der Virtuosen haben mit Automatismen zu tun. Was wie Instinkt aussieht, ist in Wirklichkeit hart erarbeitete Kompetenz. Passives Beobachten allein reicht nicht aus, um diese Veränderungen im Gehirn auszulösen. Sie entstehen durch wiederholte Konfrontation mit dem Unerwarteten. Sie setzen voraus, was der Philosoph Hubert Dreyfus als »Erfahrung in unterschiedlichen Situationen, die alle aus derselben Perspektive betrachtet werden, aber unterschiedliche taktische Entscheidungen verlangen«, bezeichnete.28 Ohne jede Menge Übung, viele Wiederholungen und das Ausprobieren einer Fähigkeit unter verschiedenen Umständen wird niemand, kein Gehirn, jemals etwas richtig gut können, höchstens die allereinfachsten Dinge. Ohne andauerndes Training rostet jede erlernte Fertigkeit ein.

Heute heißt es oft, man müsse nur genügend üben. Man muss nur 10 000 Stunden an einer Fertigkeit arbeiten, um Experte zu werden – der nächste Starkonditor oder Basketballstar. Leider ist das völlig übertrieben. Genetische Veranlagung, sowohl körperliche als auch geistige, spielt bei der Entwicklung eines Talents eine wichtige Rolle, vor allem wenn es um Spitzenleistungen geht. Die Natur hat da ein Wörtchen mitzureden. Auch unser Engagement beim Üben und unser Geschick haben eine genetische Komponente, schreibt Marcus: »Wie wir auf Erfahrungen reagieren und sogar die Art von Erfahrung, die wir suchen, wird zum Teil von den Genen bestimmt, mit denen wir geboren werden.«29 Doch selbst wenn die Gene unseren Möglichkeiten zumindest grobe Grenzen setzen, erreicht ein Mensch diese obere Grenze doch nur durch Übung und kann auch nur so sein oder ihr persönliche Potential ausschöpfen. Angeborene Fähigkeiten machen zwar einen großen Unterschied aus, schreiben die Psychologie-Professoren David Hambrick und Elizabeth Meinz, doch »Forschungsergebnisse lassen keinen Zweifel daran, dass die Art und Menge des Wissens der Menschen, das deklarative, prozedurale und strategische Wissen, das sie in vielen Jahren Training und Übung auf einem Gebiet angesammelt haben, bedeutenden Einfluss auf die jeweilige Leistung bei komplexen Aufgaben haben«.30

Automatismen sind eine Art verinnerlichte Automatisierung, wie der Name schon sagt. Mit ihrer Hilfe wird aus schwieriger, aber sich wiederholender Arbeit Routine. Physische Bewegungen und Vorgänge werden ins Muskelgedächtnis einprogrammiert; durch das unmittelbare Erkennen von Umgebungsmustern, die durch die Sinne wahrgenommen werden, werden Interpretationen und Einschätzungen vorgenommen. Schon vor langer Zeit entdeckten Wissenschaftler die erstaunlich engen Grenzen des Bewusstseins, seine begrenzte Kapazität bei Informationsaufnahme und -verarbeitung. Ohne Automatismen wäre unser Bewusstsein ständig überlastet. Selbst einfache Handlungen, wie das Lesen eines Satzes in einem Buch oder das Schneiden eines Steaks mit Messer und Gabel, würden unsere kognitiven Fähigkeiten belasten. Automatismen verschaffen uns mehr Kopffreiheit. Sie erhöhen, um mit den leicht abgewandelten Worten Alfred North Whiteheads zu sprechen, »die Anzahl wichtiger Operationen, die wir ausführen können, ohne darüber nachzudenken«.

Werkzeuge und andere Technologien machen, wie Whitehead feststellte, im besten Fall etwas Ähnliches. Doch auch die Kapazität des Gehirns für Automatismen hat ihre Grenzen. Unser Unterbewusstsein kann viele Aufgaben schnell und effizient ausführen, aber es kann nicht alles. Man kann vielleicht das Einmaleins bis 12 oder sogar 20 auswendig lernen, aber darüber hinaus wird es schwierig. Selbst wenn das Gehirn noch genug Speicherplatz frei hätte, würde es wahrscheinlich die Geduld verlieren. Mit einem einfachen Taschenrechner jedoch kann man selbst komplizierte mathematische Berechnungen automatisieren, die das Gehirn sonst belasten würden, und dem Bewusstsein so genug Freiraum verschaffen, um sich mit der Frage zu beschäftigen, was diese ganze Rechnerei eigentlich bedeutet. Doch das funktioniert nur, wenn man durch Lernen und Übung bereits ein grundsätzliches mathematisches Verständnis erworben hat. Wenn man den Taschenrechner benutzt, weil man nicht lernen will oder um Berechnungen auszuführen, die man noch nicht gelernt hat und nicht versteht, wird einem das Gerät keine neuen Horizonte eröffnen. Man erwirbt dadurch kein neues mathematisches Wissen und keine neuen Fähigkeiten. Das Gerät ist dann einfach nur eine Blackbox, ein geheimnisvoller Mechanismus, der Zahlen ausspuckt. Es verhindert höheres Denken, statt es zu fördern.

Bei der Automatisierung mit Computern geschieht heute oft genau das, und deswegen ist auch Whiteheads Aussage als Leitlinie für die Konsequenzen der Technologie irreführend. Automatisierung verhindert oft die Entstehung von Automatismen, statt die angeborene Kapazität des Gehirns für Automatismen zu erweitern. Sie nimmt uns viel sich wiederholende Denkarbeit ab, hindert uns aber gleichzeitig an tiefen Lernerfahrungen. Sowohl Complacency als auch Bias sind Anzeichen für einen unterforderten Geist, der nicht vollständig mit praktischen Übungen beschäftigt ist, durch die Wissen entsteht, die das Gedächtnis bereichern und Fähigkeiten bilden. Computersysteme schotten uns von direkten und unmittelbaren Rückmeldungen auf unsere Handlungen ab und verschärfen so das Problem weiter. Der Psychologe K. Anders Ericsson, ein Experte für Talententwicklung, betont, regelmäßige Rückmeldungen seien unverzichtbar für die Kompetenzbildung. Sie sorgen dafür, dass wir aus unseren Fehlern und unseren Erfolgen lernen. »Ohne angemessenes Feedback«, erläutert Ericsson, »ist effizientes Lernen unmöglich und Verbesserungen sehr schwer, selbst für hoch motivierte Menschen.«31

Automatismen, aktive Verwendung und Flow sind unterschiedliche mentale Phänomene, sie sind kompliziert, und ihre biologischen Grundlagen sind kaum bekannt. Doch sie sind alle miteinander verwandt, und sie sagen etwas Wichtiges über uns selbst aus. Die Art von Anstrengung, die zu Kompetenz führt – und sich durch anspruchsvolle Aufgaben, klare Ziele und direktes Feedback auszeichnet –, ähnelt stark derjenigen, die ein Flow-Gefühl auslöst. Diese Anstrengungen sind sehr eindringliche Erfahrungen. Dazu gehören auch die Arbeiten, die zur aktiven Verwendung von Wissen zwingen, statt nur passiv Informationen aufzunehmen. Die Verfeinerung unserer Fähigkeiten, das Erweitern unseres Verständnisses, das Erreichen persönlicher Befriedigung und Erfüllung gehören alle zusammen. Und sie alle setzen enge Verbindungen, körperlich und geistig, zwischen dem Einzelnen und der Welt voraus. In allen Fällen muss man, wie der amerikanische Philosoph Robert Talisse schrieb, »sich die Hände an der Welt dreckig machen und sich bestimmte Fußtritte von der Welt einfangen.«32 Automatismen sind die Inschriften, die die Welt in unserem aktiven Geist und unserem aktiven Selbst hinterlässt. Kompetenz ist der Beweis für die Fülle dieser Inschriften.

Von Felskletterern über Chirurgen bis zu Pianisten, erklärt Mihaly Csikszentmihalyi, bewiesen Menschen, die »regelmäßig Freude an Aktivität haben, dass gezielte Herausforderungen und entsprechende Fähigkeiten zu optimalen Erfahrungen führen«. Die Jobs oder Hobbys dieser Menschen böten »umfangreiche Gelegenheiten für Aktion«. Gleichzeitig ermöglichten ihnen die Fähigkeiten, die sie entwickelten, diese Gelegenheiten optimal zu nutzen. Die Fähigkeit, uns in der Welt zurechtzufinden, macht uns alle zu Künstlern. Die mühelose Versenkung, die ein geübter Künstler bei der Arbeit an einem schwierigen Projekt erlebt, setzt immer die Beherrschung einiger komplexer Fertigkeiten voraus.«33 Wenn die Automatisierung uns von unserer Arbeit entfernt, wenn sie sich zwischen uns und die Welt schiebt, verdrängt sie die Kunst aus unserem Leben.

Zwischenstück mit Tanzmäusen

»Seit 1903 beobachte ich ständig zwischen zwei und einhundert Tanzmäuse.« Das gestand der Harvard-Psychologe Robert M. Yerkes im ersten Kapitel seine Buches The Dancing Mouse aus dem Jahr 1907, einem 290-seitigen Lobgesang auf ein Nagetier. Aber nicht irgendein Nagetier. Die Tanzmaus, prophezeite Yerkes, werde sich als ebenso wichtig für Verhaltensforscher erweisen wie der Frosch für die Anatomen.

Yerkes war wenig beeindruckt, als ein in Cambridge ansässiger Arzt dem Harvard Psychological Laboratory ein Paar japanische Tanzmäuse schenkte. Er hielt es für »bedeutungslos für meine wissenschaftliche Arbeit«. Doch bald war er in die winzigen Wesen und ihre Angewohnheit, »sich mit unglaublicher Geschwindigkeit um sich selbst zu drehen«, vernarrt. Er züchtete sie zu Hunderten, gab ihnen jeweils eine Nummer und führte penible Aufzeichnungen über ihre Musterung, ihr Geschlecht, Geburtsdatum und ihren Stammbaum. Die Tanzmaus sei ein »wirklich großartiges Tier», schrieb er. Die Tanzmäuse waren kleiner und schwächer als normale Mäuse – sie konnten sich kaum aufrecht halten oder »sich an einem Objekt festhalten« –, doch sie erwiesen sich »als ideales Versuchsobjekt für die experimentelle Untersuchung von Tierverhalten«. Die Art war »einfach zu halten und zu zähmen, harmlos, unablässig aktiv und eignete sich für viele Versuchssituationen«.34

Zu jener Zeit war die psychologische Forschung mit Tieren noch neu. Iwan Pawlow hatte seine Experimente über die Speichelbildung bei Hunden erst in den 1890er Jahren begonnen, und erst im Jahr 1900 setzte ein amerikanischer Doktorand namens Willard Small eine Ratte in ein Labyrinth und beobachtete, wie sie herumirrte. Mit den Tanzmäusen erweiterte Yerkes das Spektrum der Tierstudien erheblich. In The Dancing Mouse beschreibt Yerkes, wie er die Nager als Testobjekte für Untersuchungen von Balance und Gleichgewicht, Sicht und Wahrnehmung, Lernen und Gedächtnis sowie der Vererbung von Verhaltensmustern und anderem benutzte. Die Mäuse seien »versuchsfördernd«, berichtete er. »Je länger ich sie beobachtete und mit ihnen experimentierte, umso mehr Fragen warfen die Tänzer auf, für die ich eine Antwort finden musste.«35

Anfang des Jahres 1906 begann Yerkes seine wichtigsten und einflussreichsten Experimente mit den Tänzern. Gemeinsam mit seinem Studenten John Dillingham Dodson setzte er 40 Mäuse, eine nach der anderen, in eine Holzkiste. Am anderen Ende der Kiste gab es zwei Ausgänge, einer war weiß bemalt, der andere schwarz. Wenn eine Maus in den schwarzen Durchgang lief, schrieben Yerkes und Dodson später, bekam sie »einen unangenehmen Elektroschock«, mit unterschiedlichen Stromstärken. Manche Mäuse bekamen einen schwachen Stromschlag, andere einen starken und wieder andere einen mittelstarken. Die Forscher wollten herausfinden, ob die Stärke des Reizes beeinflusste, wie schnell die Mäuse lernten, dass sie den schwarzen Durchgang vermeiden und durch den weißen gehen sollten. Das Ergebnis überraschte sie. Die Mäuse, die den schwachen Stromschlag erhielten, unterschieden nur langsam zwischen dem weißen und schwarzen Durchgang, wie erwartet. Aber die Mäuse, die den starken Stromschlag bekamen, lernten genauso langsam. Die Nager, die am schnellsten die Situation erfassten und ihr Verhalten anpassten, waren jene, die den mittelschweren Stromschlag bekamen. »Entgegen unseren Erwartungen«, berichteten die Wissenschaftler, »bewies diese Versuchsreihe nicht, dass die Geschwindigkeit, mit der Verhaltensmuster gebildet werden, sich mit der Stärke des elektrischen Reizes erhöht bis zu dem Punkt, an dem die Elektroschocks ein Verletzungsrisiko darstellen. Stattdessen erwies sich die mittlere Schockintensität als die vorteilhafteste bei der Herausbildung eines Verhaltensmusters.«36

Eine nachfolgende Versuchsreihe brachte eine weitere Überraschung. Die Wissenschaftler führten denselben Versuch mit neuen Mäusen noch einmal durch, aber dieses Mal verstärkten sie die Beleuchtung im weißen Durchgang und verringerten sie im schwarzen. So erhöhten sie den visuellen Kontrast zwischen den beiden. Unter diesen Bedingungen lernten die Mäuse, die den stärksten Elektroschock bekamen, am schnellsten, dass sie den schwarzen Durchgang vermeiden mussten. Die Lernkurve fiel diesmal, im Gegensatz zur ersten Versuchsreihe, nicht ab. Yerkes und Dodson führten die Verhaltensunterschiede bei den Nagern darauf zurück, dass der zweite Versuchsaufbau es den Tieren einfacher gemacht hatte. Dank des größeren visuellen Kontrastes mussten die Mäuse nicht mehr scharf nachdenken, um die Durchgänge voneinander zu unterscheiden und den Elektroschock mit dem dunklen Durchgang zu assoziieren. »Das Verhältnis zwischen der Stärke eines elektrischen Reizes und der Lerngeschwindigkeit oder Herausbildung von Verhaltensmustern hängt von der Komplexität des Verhaltens ab«, schlossen sie.37 Je schwieriger die Aufgabe, umso geringer ist die optimale Reizstärke. Oder anders ausgedrückt: Wenn die Mäuse vor einer richtig schweren Herausforderung standen, behinderten sowohl ungewöhnlich schwache als auch sehr starke Reize den Lernprozess. Durch eine Art Goldlöckchen-Effekt führte ein mittelstarker Reiz zur besten Leistung.

Der Artikel »The Relation of Strength of Stimulus to Rapidity of Habit-Formation«, in dem Yerkes und Dodson ihre Experimente beschrieben, gilt seit seiner Veröffentlichung im Jahr 1908 als historischer Meilenstein der Psychologie. Das sogenannte Yerkes-Dodson-Gesetz wurde in unterschiedlichen Varianten auch in ganz anderen Zusammenhängen beobachtet, die nichts mit Tanzmäusen und unterschiedlich bemalten Durchgängen zu tun hatten. Es gilt für Menschen ebenso wie für Nagetiere. Im Zusammenhang mit Menschen wird das Gesetz meist als Glockenkurve dargestellt, welche das Verhältnis der Leistung einer Person bei einer schwierigen Aufgabe zur geistigen Anregung oder Erregung abbildet, die die Person verspürt.

Bei sehr niedrigem Erregungsniveau ist die Person so unbeteiligt und uninspiriert, dass sie in Starre verfällt; die Leistung ist gleich null. Mit steigender Erregung nimmt auch die Leistung zu, auf der linken Seite der Glockenkurve als stetig steigende Kurve dargestellt, bis sie ihren Scheitelpunkt erreicht. Wenn dann die Erregung weiter zunimmt, fällt die Leistungskurve auf der rechten Seite der Glockenform wieder stetig ab. Bei maximaler Reizstärke ist die Person durch den Stress paralysiert, die Leistung liegt wieder bei null. Wie die Tanzmäuse lernen und arbeiten auch Menschen am besten, wenn sie am Scheitelpunkt der Yerkes-Dodson-Kurve stehen, wenn sie vor einer Herausforderung stehen, die sie aber nicht überfordert. An der Spitze der Glockenkurve tritt der Flowzustand ein.

Das Yerkes-Dodson-Gesetz hat für die Automatisierungsforschung erwiesenermaßen besondere Relevanz. Es erklärt viele unerwartete Konsequenzen der Einführung von Computern in Arbeitsplätze und -prozesse. In den Anfangsjahren der Automatisierung glaubte man, Software reduziere die Arbeitslast der Menschen und erhöhe ihre Leistungsfähigkeit, indem sie Routineaufgaben übernahm. Man dachte, Arbeitslast und Leistung stünden in umgekehrt proportionalem Verhältnis zueinander. Je mehr man eine Person geistig entlastet, umso geschickter und aufmerksamer wird sie bei der Arbeit. Doch die Wirklichkeit erwies sich als erheblich komplizierter. Manchmal erleichtern Computer einer Person die Arbeit derart, dass sie Topleistungen erbringt und ihre volle Aufmerksamkeit auf die dringlichsten Aufgaben richten kann. In anderen Fällen nimmt die Automatisierung zu viel Arbeit ab. Die Leistung der Arbeiter sinkt, und sie bewegen sich auf die linke Seite der Yerkes-Dodson-Kurve.

Wir alle kennen die negativen Auswirkungen der Informationsüberflutung. Offensichtlich ist ein Informationsmangel ebenso ungünstig. Egal wie gut es gemeint ist, wenn man es den Menschen zu einfach macht, kann das nach hinten losgehen. Mark Young und Neville Stanton forschen über Humanfaktoren und fanden Hinweise, dass die »Aufmerksamkeitskapazität« eines Menschen tatsächlich »mit sinkender mentaler Arbeitslast abnimmt«. Beim Einsatz von automatischen Systemen, behaupten sie, »ist eine Unterforderung womöglich ein größeres Problem [als eine Überforderung], weil sie schwerer festzustellen ist«.38 Forscher befürchten, dass Müdigkeit durch Unterforderung vor allem bei zukünftigen Generationen automatischer Systeme in Kraftfahrzeugen zu einer Gefahr werden könnte. Wenn die Software den Großteil des Lenkens und Bremsens übernimmt, hat der Mensch hinter dem Steuer nicht mehr genug zu tun und schaltet ab. Vor allem aber werden die Fahrer wahrscheinlich kaum etwas über den Einsatz und die Risiken automatischer Systeme wissen. Manche Routineunfälle werden vielleicht vermieden werden, aber es wird mehr schlechte Autofahrer auf den Straßen geben.

Im schlimmsten Fall stellt die Automatisierung zusätzliche und unerwartete Anforderungen an die Nutzer, belastet sie mit zusätzlicher Arbeit und zieht sie auf die rechte Seite der Yerkes-Dodson-Kurve. Wissenschaftler bezeichnen dies als das »Automatisierungsparadoxon«. Mark Scerbo, Experte für Humanfaktoren an der Old Dominion University in Virginia, erklärt: »Ironischerweise deuten immer mehr Forschungsergebnisse darauf hin, dass automatische Systeme häufig die Arbeitslast erhöhen und zu unsicheren Arbeitsbedingungen führen.«39 Wenn ein Arbeiter in einer hochautomatisierten Chemiefabrik in eine sich rasant verschärfende Notfallsituation gerät, ist er möglicherweise überfordert, weil er Anzeigen überwachen und verschiedene Computer bedienen muss, gleichzeitig aber auch Checklisten beachten, auf Warn- und Alarmmeldungen reagieren und weitere Notfallmaßnahmen einleiten muss. Statt ihn von Ablenkungen und Stress zu entlasten, muss er wegen der Computerisierung noch alle möglichen zusätzlichen Aufgaben ausführen und Reize verarbeiten. Bei Notfällen im Cockpit eines Flugzeugs treten ähnliche Probleme auf. Dort müssen Piloten Daten in den Bordcomputer eingeben, Informationen von Displays ablesen und gleichzeitig das Flugzeug manuell steuern. Wer jemals vom Weg abkam, weil er den Anweisungen einer Karten-App folgte, weiß aus erster Hand, dass Computer zu plötzlichen Arbeitsspitzen führen können. Es ist gar nicht so einfach, beim Autofahren ein Smartphone zu bedienen.

Automatische Systeme haben also die manchmal tragische Angewohnheit, einen Job im schlimmstmöglichen Moment, wenn die Arbeiter bereits überfordert sind, noch komplizierter zu machen. Der Computer wurde als Hilfestellung eingeführt, um die Wahrscheinlichkeit menschlicher Fehler zu reduzieren, doch er erhöht die Wahrscheinlichkeit, dass Menschen, wie geschockte Mäuse, das Falsche tun.

KAPITEL FÜNF

COMPUTER IN DER ARZTPRAXIS

Im Spätsommer 2005 trafen Forscher von der ehrwürdigen RAND Corporation in Kalifornien eine spannende Vorhersage zur Zukunft der US-amerikanischen Medizin. Sie hatten nach eigener Aussage gerade »die detaillierteste Analyse der potentiellen Vorzüge elektronischer Krankenakten aller Zeiten« durchgeführt und verkündeten, das US-amerikanische Gesundheitssystem »kann mehr als 81 Milliarden Dollar pro Jahr sparen und die Qualität der Gesundheitsversorgung verbessern«, wenn Krankenhäuser und niedergelassene Ärzte ihre Aufzeichnungen automatisierten. Die Einsparungen und anderen Vorteile, die RAND »mithilfe von Computersimulationen« berechnet hatte, bedeuteten nach Aussage eines führenden Wissenschaftlers der Denkfabrik, dass »die Regierung und andere Finanziers des Gesundheitssystems jetzt aufgefordert sind, Informationstechnologie im Gesundheitswesen zu fördern«.1 Der letzte Satz in einem späteren Bericht über Forschungsdetails unterstrich die Dringlichkeit des Themas: »Jetzt muss gehandelt werden.«2

Bei Erscheinen der RAND-Studie herrschte bereits große Aufregung um die Computerisierung der Medizin. Zu Beginn des Jahres 2004 hatte US-Präsident George W. Bush die »Health Information Technology Adoption«-Initiative gestartet mit dem Ziel, den Großteil der medizinischen Behandlungsunterlagen in den Vereinigten Staaten innerhalb von zehn Jahren zu digitalisieren. Am Jahresende 2004 vergab die Bundesregierung Zuschüsse von mehreren Millionen US-Dollar an Ärzte und Krankenhäuser für den Ankauf automatischer Systeme. Im Juni 2005 richtete das US-Gesundheits- und Sozialministerium eine Taskforce aus Regierungsvertretern und Führungskräften der Industrie zusammen, die American Health Information Community, um die Einführung der elektronischen Krankenakten voranzutreiben. Die RAND-Forschungsergebnisse lieferten die harten und scheinbar objektiven Zahlen für die zu erwartenden Vorteile der elektronischen Datenspeicherung und heizten dadurch sowohl die Aufregung als auch die Ausgaben an. Die New York Times berichtete später, die Studie »unterstützte das explosive Wachstum bei den Herstellern elektronischer Aufzeichnungssysteme und ermutigte die Bundesregierung, Krankenhäusern und Ärzten mehrere Milliarden Dollar finanzielle Anreize für die Einrichtung der Systeme anzubieten«.3 Kurz nach der Amtseinführung im Jahr 2009 begründete Barack Obama seine Pläne, die Einführung der elektronischen Datenspeicherung im Gesundheitswesen (engl. electronic medical record system, EMR) mit weiteren 30 Milliarden US-Dollar zu unterstützen, mit den Zahlen von RAND. Daraufhin setzte ein Investitionsrausch ein. Etwa 300 000 Ärzte und 4000 Krankenhäuser nutzten die Großzügigkeit Washingtons.4

Im Jahr 2013, zum Beginn der zweiten Amtszeit Obamas, veröffentlichte RAND einen neuen Bericht, in dem die Aussichten der Informationstechnik im Gesundheitswesen völlig anders beurteilt wurden. Er klang gar nicht mehr überschwenglich, sondern nachdenklich und rechtfertigend. »Trotz des vermehrten Einsatzes von IT im Gesundheitswesen«, schrieben die Autoren, »hat sich die Qualität und die Effizienz der Patientenversorgung kaum verbessert. Untersuchungen über die Effektivität von IT im Gesundheitswesen kamen zu zwiespältigen Ergebnissen. Vor allem aber haben sich die jährlichen Ausgaben im Gesundheitswesen in den Vereinigten Staaten von etwa zwei Billionen US-Dollar im Jahr 2005 auf aktuell knapp 2,8 Billionen US-Dollar erhöht.« Am schlimmsten war jedoch, dass die EMR-Systeme, welche die Ärzte in aller Eile mit Steuergeldern installiert hatten, unter mangelnder »Interoperabilität« litten. Einer der Hauptgründe für die Einführung von IT-Systemen im Gesundheitswesen war schon immer das Versprechen, das auch die RAND-Autoren anführten, dass sie »einem Patienten oder Versorger überall und jederzeit den Zugriff auf benötigte Gesundheitsinformationen« ermöglichten. Doch die aktuellen EMR-Anwendungen arbeiteten mit markengeschützten Formaten und Konventionen und zwangen den Anwendern daher nur »Markenloyalität zu einem bestimmten System« auf. RAND blickte zwar weiterhin hoffnungsvoll in die Zukunft, aber man gab bei der Denkfabrik inzwischen zu, dass die »rosige Zukunft«, die man im ersten Bericht in Aussicht gestellt hatte, nicht eingetreten war.5

Andere Studien bestätigten die neuesten Ergebnisse von RAND. EMR-Systeme sind in den Vereinigten Staaten zwar zunehmend verbreitet, und in anderen Ländern, Großbritannien oder Australien etwa, sind sie schon seit Jahren im Einsatz, dennoch gibt es immer noch keine schlüssigen Beweise für ihren Nutzen. In einer umfangreichen Übersichtsstudie berücksichtigten Forscher des staatlichen Gesundheitswesens in Großbritannien im Jahr 2011 mehr als einhundert aktuelle Studien über computergestützte medizinische Systeme. Sie kamen zu dem Schluss, es klaffe im Hinblick auf Patientenversorgung und Sicherheit »eine riesige Lücke zwischen dem theoretischen und dem empirisch belegbaren Nutzen«. Die Wissenschaftler befanden, die Forschungsergebnisse, mit denen für die Einführung des Systems geworben wurde, seien »schwach und widersprüchlich«, und es gebe »kaum belastbare Beweise für die Kosteneffektivität dieser Technologie«. Insbesondere bei den elektronischen Patientenakten seien die verfügbaren Forschungsergebnisse widersprüchlich und lieferten »nur Einzelbelege für die erwarteten wesentlichen Vorzüge und Risiken«.6 Andere Wissenschaftler gaben optimistischere Einschätzungen ab. Eine weitere Literaturauswertung von Mitarbeitern des US-Gesundheits- und Sozialministeriums aus dem Jahr 2011 stellte fest, dass »die Mehrheit der aktuellen Studien messbare Verbesserungen durch die Einführung der Informationstechnik im Gesundheitswesen zeigt«. Allerdings wiesen sie auch auf die Grenzen existierender Forschungen hin und schlossen, es gäbe »nur schwache Hinweise auf einen größeren Nutzen von fortschrittlicheren Systemen oder speziellen IT-Komponenten für das Gesundheitswesen«.7 Bis heute gibt es keine eindeutigen empirischen Beweise für die Behauptung, automatische Patientenakten führten zu umfangreichen Kosteneinsparungen im Gesundheitswesen oder zu bedeutenden Verbesserungen für die Patientengesundheit.

Aber auch wenn die rasante Einführung der automatischen Patientenakten nur wenige Vorteile für Ärzte und Patienten brachte, haben doch zumindest die Systemanbieter davon profitiert. Der Jahresumsatz der Cerner Corporation, einem Ausrüster für medizinische Software, verdreifachte sich zwischen 2005 und 2013 von einer Milliarde US-Dollar auf drei Milliarden US-Dollar. Zufällig war Cerner eine von fünf Firmen, welche die erste RAND-Studie von 2005 finanziert hatten. Die anderen Sponsoren, unter ihnen General Electric und Hewlett Packard, hatten ebenfalls ein erhebliches geschäftliches Interesse an der Automatisierung des Gesundheitswesens. Wenn zukünftig die heutigen fehlerhaften Systeme ersetzt oder aktualisiert werden, um unter anderem das Problem mit der Interoperabilität zu lösen, werden IT-Firmen weitere erhebliche Gewinne einstreichen.

NEBENWIRKUNGEN

An dieser Geschichte ist nichts Ungewöhnliches. Die überstürzte Einführung neuer und ungetesteter Computersysteme, vor allem wenn sie von großartigen Versprechungen von Technologieunternehmen und Analysten befeuert werden, führt fast zwangsläufig zu großer Ernüchterung bei den Käufern und großen Gewinnen für die Verkäufer. Das bedeutet jedoch nicht, dass die Systeme von vornherein zum Scheitern verurteilt sind. Wenn Fehler korrigiert, Funktionalitäten verbessert und die Preise gesenkt werden, können sogar gehypte Systeme Firmen letztendlich viel Geld sparen, vor allem, indem sie die Anzahl der Lohn- und Gehaltsempfänger reduzieren. (Natürlich sind die Chancen, dass sich diese Investitionen auszahlen, deutlich höher, wenn die Unternehmen Steuergelder ausgeben statt eigener Mittel.) Bei EMR-Anwendungen und entsprechenden Systemen wiederholt sich dieses bewährte Muster. Ärzte und Krankenhäuser stellen ihre Datenhaltung weiter auf Computer um – die staatlichen Zuschüsse fließen weiterhin –, und vielleicht kommt es in einigen Bereichen noch zu Effizienzsteigerungen. Auch die Qualität der Versorgung mag sich für manche Patienten verbessern, vor allem, wenn diese Versorgung den koordinierten Einsatz mehrerer Spezialisten bedingt. Die Fragmentierung und Abschottung von Patientendaten sind ein echtes Problem in der Medizin, das sorgfältig geplante, standardisierte Informationssysteme lösen könnten.

Der ursprüngliche RAND-Bericht ist ein abschreckendes Beispiel für überstürzte Investitionen in ungetestete Software, aber man kann noch weitere Lehren aus dem Bericht und den Reaktionen ziehen. Zum einen sollte man Vorhersagen von »Computermodellen« immer mit Skepsis betrachten. Simulationen sind immer auch Vereinfachungen; sie bilden die reale Welt nur unvollständig ab, und ihre Ergebnisse sind oft von den Erwartungen ihrer Schöpfer geprägt. Vor allem aber zeigten der Bericht und seine Folgen, wie tief der Substitutionsmythos in der Wahrnehmung und Bewertung der Automatisierung in unserer Gesellschaft verwurzelt ist. Die RAND-Forscher gingen davon aus, dass der Übergang von schriftlichen Patientenakten auf Papier zu digitalen Patientenakten unkompliziert sein würde, abgesehen von den offensichtlichen technischen Herausforderungen bei der Installation der Systeme und den notwendigen Schulungen. Ärzte, Krankenschwestern und anderes Pflegepersonal würden eine manuelle Methode durch eine automatisierte ersetzen, aber das würde kaum etwas daran ändern, wie sie ihren Beruf ausüben. Tatsächlich könnten Computer »Workflow-Prozesse in der Patientenversorgung grundsätzlich verändern«, verkündeten mehrere Ärzte und Akademiker in der Zeitschrift Pediatrics im Jahr 2006. »Die Computerisierung soll zwar die Patientenversorgung sicherer und effizienter gestalten, aber die negativen Effekte und unbeabsichtigten Folgen bei einer Störung der Arbeitsabläufe verschärfen die Situation möglicherweise deutlich.« 8

Die RAND-Forscher fielen dem Substitutionsmythos zum Opfer und berücksichtigten daher die Möglichkeit, dass elektronische Daten nicht nur positive, sondern auch negative Folgen haben könnten, nicht ausreichend. Dieses Problem betrifft viele Vorhersagen über die Folgen der Automatisierung. Die übertrieben optimistische Analyse führte zu einer übertrieben optimistischen Vorgehensweise. In einer vernichtenden Kritik an der Zuschusspolitik der Obama-Regierung schrieben die Ärzte und Medizinprofessoren Jerome Groopman und Pamela Hartzband, der RAND-Bericht von 2005 »ignoriert praktisch die Nachteile elektronischer Patientenakten« und habe auch frühere Untersuchungen, bei denen keinerlei Nutzen eines Wechsels von Papier zu digitaler Datenspeicherung gefunden wurden, unberücksichtigt gelassen.9 Die Annahme von RAND, Automatisierung werde manuelle Arbeit ersetzen, erwies sich als falsch, wie Experten im Bereich Humanfaktoren vorausgesagt hatten. Doch die Steuergelder waren bereits ausgegeben und die Fehlinstallationen der Software ausgeführt.

EMR-Systeme werden nicht nur genutzt, um Notizen zu machen und miteinander zu teilen. In den meisten Systemen sind Software-Tools zur Entscheidungsunterstützung enthalten, die über Checklisten und Hinweise auf dem Bildschirm den Ärzten im Verlauf von Beratungsgesprächen und Untersuchungen Hilfestellungen und Vorschläge anbieten. Die Informationen, die der Arzt eingibt, werden an das Datenverwaltungssystem der Arztpraxis oder des Krankenhauses übertragen, das automatisch Rechnungen, Arzneimittelrezepte, Testanforderungen und andere Formulare und Dokumente erstellt. Überraschenderweise berechnen Ärzte den Patienten inzwischen mehr kostspielige Dienstleistungen, als sie es vor der Installation der Software taten. Wenn ein Arzt während einer Untersuchung ein Computerformular ausfüllt, schlägt das System automatisch Behandlungsmöglichkeiten vor – eine Augenuntersuchung bei einem Diabetespatienten etwa. Mit einem Häkchen im Kontrollkästchen bestätigt der Arzt nicht nur die Durchführung der Behandlung für die Patientenakte, sondern setzt damit gleichzeitig auch einen neuen Posten auf die Rechnung im automatischen Buchungssystem. Die Hinweise sind manchmal nützliche Gedankenstützen und können, in seltenen Fällen, verhindern, dass ein Arzt einen wichtigen Teil einer Untersuchung vergisst. Aber sie können auch die Arztrechnungen aufblähen – eine Tatsache, mit der Systemanbieter ganz offen werben.10

Früher, bevor eine Software sie dazu aufforderte, rechneten Ärzte kleinere Behandlungen nur selten extra ab. Die einzelnen Behandlungen wurden zu allgemeineren Abrechnungsposten zusammengefasst – einen Arztbesuch oder eine Jahresuntersuchung. Die Software setzt die einzeln angeklickten Behandlungen automatisch auf die Rechnung. Das System macht einen Vorgang ein wenig einfacher und ein bisschen mehr zur Routine. Sie greift zwar nur wenig in das Verhalten des Arztes ein, aber mit bedeutenden Folgen. Die zusätzlichen Einnahmen des Arztes, wenn er den Vorschlägen der Software folgt, bieten einen weiteren Anreiz, dem System die Beurteilung zu überlassen. Manche Experten befürchten, der monetäre Anreiz könne ein wenig zu stark sein. Als Reaktion auf Presseberichte über einen unerwarteten Anstieg bei den medizinischen Kosten durch die elektronische Datenspeicherung startete die US-Bundesregierung im Oktober 2012 eine Untersuchung, die feststellen sollte, ob das neue System ungerechtfertigten Abrechnungen oder auch echtem Betrug im Medicare-Programm Vorschub leistete. In einem Bericht der Generalinspektion aus dem Jahr 2014 wurde gewarnt, dass »Leistungserbringer mit bestimmten Funktionen der [EMR-]Software den Bearbeiter einer Patientenakte maskieren, so die Aufzeichnungen manipulieren und die Behandlungskosten in die Höhe treiben können«.11

Außerdem gibt es Hinweise, dass die elektronische Datenspeicherung Ärzte zu unnötigen Tests verleitet, welche die Behandlungskosten ebenfalls eher erhöhen als reduzieren. Eine Studie, die im Jahr 2012 in der Zeitschrift Health Affairs erschien, zeigte, dass Ärzte eher neue Röntgenaufnahmen anordnen, wenn sie ältere Röntgenaufnahmen und anderes diagnostisches Bildmaterial einfach mit dem Computer abrufen können, als wenn sie keinen direkten Zugriff auf die älteren Bilder haben. Insgesamt ordneten Ärzte mit Computersystemen in 18 Prozent der Patientenbesuche neue Bilddiagnostik an. Bei jenen ohne das System waren es nur 13 Prozent der Besuche. Allgemein wird angenommen, dass elektronische Patientenakten die Häufigkeit diagnostischer Untersuchungen reduzieren, weil sie einfachen und unmittelbaren Zugriff auf ältere Testresultate ermöglichen. Doch die genannte Studie weist, in den Worten der Autoren, darauf hin, dass »möglicherweise das Gegenteil der Fall ist«. Weil automatische Systeme den Empfang und die Überprüfung der Testergebnisse so einfach machen, »ermutigen sie Ärzte zur Anforderung weiterer Bilddiagnostik«, argumentieren die Forscher. »Die manchmal zeitraubende Anforderung von Testergebnissen von einem Bilddiagnostiklabor wird dann gern durch ein paar wenige Tastatureingaben ersetzt, mit denen eine neue Aufnahme angeordnet wird.«12 Dies ist ein weiteres Beispiel dafür, wie die Automatisierung das Verhalten der Menschen und ihre Arbeitsweise auf nahezu nicht vorhersehbare Weise verändert – und manchmal auch entgegen den Erwartungen.

CUT AND PASTE

Die Einführung der Automatisierung in die Medizin hatte, wie in der Luftfahrt und anderen Branchen, neben Effizienz und Kosten noch weitere Auswirkungen. Wie bereits gezeigt, verändern die software-generierten Hervorhebungen in Mammographien die Art, wie Radiologen die Bilder lesen. Manchmal führt das zu besseren Ergebnissen, manchmal zu schlechteren. Die Ärzte verlassen sich bei immer mehr Aspekten ihrer täglichen Arbeit auf Computer, und die Technologie beeinflusst ihre Art zu lernen, Entscheidungen zu treffen und sogar ihren Umgang mit Patienten.

Eine Studie von Timothy Hoff, Professor an der School of Public Health der Universität in Albany (State University of New York), über Hausärzte, die elektronische Patientenakten eingeführt hatten, liefert Beweise für »Dequalifizierungserscheinungen«, einschließlich »nachlassendem klinischem Wissen« und »zunehmender Stereotypisierung von Patienten«. In den Jahren 2007 und 2008 interviewte Hoff 78 Hausärzte mit unterschiedlich großen Einzugsgebieten in New York. Drei Viertel dieser Ärzte setzten routinemäßig EMR-Systeme ein, und die meisten von ihnen befürchteten, die Computerisierung könne zu einer weniger gründlichen, unpersönlicheren Patientenversorgung führen. Die Ärzte, die Computer einsetzten, berichteten Hoff, sie würden regelmäßig standardisierte Textbausteine in ihre Berichte über Patientenbesuche hineinkopieren. Wenn sie ihre Notizen jedoch diktierten oder von Hand schrieben, »achteten sie mehr auf die Qualität und die Einzigartigkeit der Informationen in ihren Berichten«. Tatsächlich berichteten Ärzte, der Vorgang des Schreibens und Diktierens diene als »Warnsignal«, das sie zwang, langsamer zu arbeiten und »darüber nachzudenken, was sie sagen wollten«.13 Die Ärzte beklagten, die einheitlichen Texte elektronischer Aufzeichnungen reduziere ihre Erkenntnisse über die Patienten und erschwere »informierte Entscheidungen zu Diagnose und Behandlung«.

Die zunehmende Abhängigkeit der Ärzte von recycelten oder »geklonten« Texten ist eine natürliche Folge der Einführung elektronischer Patientenakten. EMR-Systeme verändern das Aufzeichnungsverhalten von Ärzten wie die Einführung von Textverarbeitungsprogrammen vor Jahren das Schreibverhalten von Autoren und die Editiergewohnheiten von Lektoren veränderte. Im Vergleich mit der Leichtigkeit und Geschwindigkeit von Cut-and-Paste, Drag-and-Drop und Point-and-Click wirkten die herkömmlichen Praktiken des Diktierens und der Textkomposition, unabhängig von ihren Vorzügen, langsam und schwerfällig. Für Stephen Levinson, Arzt und Autor eines Standard-Lehrbuchs über medizinische Datenhaltung und Abrechnung, ist offensichtlich, dass alte Texte routinemäßig in neuen Aufzeichnungen wiederverwendet werden. Bei den Patientenaufzeichnungen von Ärzten per Computer »sind die Berichte über Patientengespräche oft nahezu identisch, abgesehen von kleinen Abweichungen, die sich aber fast ausschließlich auf die Hauptleiden beziehen«. Derartige »geklonte Aufzeichnungen« machen zwar »medizinisch keinen Sinn« und »befriedigen auch die Bedürfnisse der Patienten nicht«, doch sie sind zunehmend Standard, weil sie einfacher und effizienter sind – und, nicht zuletzt, weil in geklonten Texten oft Listen von Behandlungsmethoden enthalten sind, die automatisch auf die Arztrechnungen gesetzt werden.14

Das Klonen eliminiert die Feinheiten. Fast der gesamte Inhalt einer typischen elektronischen Patientenakte »besteht aus Textbausteinen«, gab ein Internist zu. »Da steht nichts mehr drin, in meinen Aufzeichnungen nicht, und auch in den Aufzeichnungen anderer Ärzte nicht.« Der Preis für die verringerte Spezifität und Präzision steigt weiter, wenn geklonte Patientenakten von einem Arzt zum anderen weitergereicht werden. Die Ärzte verlieren ihre beste Chance auf Weiterbildung am Arbeitsplatz. Die diktierten oder handschriftlichen Aufzeichnungen von Spezialisten waren lange Zeit wichtig für die Weiterbildung von Hausärzten, weil diese Ärzte so nicht nur mehr über einzelne Patienten erfuhren, sondern über alles Mögliche von »Behandlungsmöglichkeiten von Krankheiten und ihrer Wirksamkeit bis zu neuen Diagnosemethoden«, schreibt Hoff. Wenn diese Berichte nun zunehmend aus recycelten Textbausteinen bestehen, verlieren sie an Feinheit und Originalität und haben kaum noch einen Wert als Ausbildungsmittel.15

Danielle Ofri, Internistin am Bellevue Hospital in New York City und Autorin mehrerer Bücher über die medizinische Praxis, sieht noch weitere Verluste durch den Übergang von Papier zu elektronischen Patientenakten. Das Durchblättern von herkömmlichen Behandlungsakten mag heute überholt und ineffizient erscheinen, aber ein Arzt kann sich so schnell einen guten Überblick über die viele Jahre dauernde Krankengeschichte eines Patienten verschaffen. Die Darstellung von Informationen am Computer ist weniger flexibel und verhindert daher oft einen Blick auf die ganze Vorgeschichte. Ofri schreibt: »Im Computer sehen alle Arztbesuche gleich aus, sodass man unmöglich sagen kann, welche Arztgespräche gründlich und mit ausführlicher Auswertung durchgeführt wurden und bei welchen es sich nur um einen kurzen Besuch zur Nachbestellung von Medikamenten handelte.« Angesichts der relativ unflexiblen Computerschnittstelle sähen sich Ärzte in der Patientenakte oft »nur noch die letzten zwei oder drei Kontakte an; alle Arztbesuche davor sind nur noch elektronische Staubfänger«.16

Eine aktuelle Studie zum Übergang von Papier zu elektronischen Patientenakten am Lehrkrankenhaus der Universität von Washington liefert weitere Beweise dafür, wie die Datenformate elektronischer Akten den Ärzten die Navigation durch eine Patientenakte auf der Suche nach »relevanten« Aufzeichnungen erschweren. Bei Papierakten konnten sich die Ärzte an der »charakteristischen Handschrift« verschiedener Spezialisten orientieren, um wichtige Informationen schnell aufzuspüren. Bei elektronischen Daten fehlen diese Merkmale.17 Abgesehen von dem Orientierungsproblem befürchtet Ofri zudem, dass die Organisation elektronischer Patientenakten die Denkweise der Ärzte verändern könnte: »Das System fördert fragmentierte Dokumentation, bei der verschiedene Aspekte des Gesundheitszustandes eines Patienten in verschiedene Gebiete aufgeteilt werden, die nichts miteinander zu tun haben. So wird es sehr viel schwieriger, sich ein umfassendes Bild vom Patienten zu machen.«18

Durch die Automatisierung der Aufzeichnungen betritt außerdem ein »Dritter« den Untersuchungsraum, schreibt die Professorin Beth Lown von der Harvard Medical School. In einem aufschlussreichen Artikel aus dem Jahr 2012, den sie mit ihrem Studenten Dayron Rodriguez verfasste, beklagt Lown, dass der Computer »mit dem Patienten um die Aufmerksamkeit des Arztes wetteifert, die Fähigkeit des Arztes zur vollständigen Präsenz beeinträchtigt und die Kommunikation, die Beziehungen und die Professionalität der Ärzte verändert«.19 Wer schon einmal von einem Arzt untersucht wurde, der nebenher auf der Computertastatur herumtippte, hat das, was Lown beschreibt, zumindest teilweise schon einmal selbst erlebt, und Forschungen haben tatsächlich ergeben, dass Computer die Interaktionen zwischen Arzt und Patient stark beeinflussen. In einer Studie aus einer Klinik der Veterans Administration berichteten Patienten, die von einem Arzt untersucht wurden, der elektronische Notizen machte, »der Computer verringerte die Zeit, in der der Arzt mit den Patienten sprach, sie ansah und sie untersuchte«, und diese Arztbesuche »fühlten sich weniger persönlich an«.20 Die Ärzte in der Klinik stimmten den Einschätzungen der Patienten grundsätzlich zu. In einer anderen Studie einer großen Gesundheitsorganisation in Israel, wo EMR-Systeme verbreiteter sind als in den Vereinigten Staaten, stellten die Forscher fest, dass Hausärzte bei Patientengesprächen zwischen 25 und 55 Prozent der Zeit auf den Computerbildschirm starrten. Mehr als 90 Prozent der israelischen Ärzte, die für diese Studie interviewt wurden, berichteten, die elektronische Datenhaltung »störte die Kommunikation mit ihren Patienten«.21 Ein derartiger Aufmerksamkeitsverlust stimmt mit den Erkenntnissen von Psychologen über die Ablenkung durch die Bedienung eines Computers bei der Ausführung einer anderen Aufgabe überein. »Man muss Multitasking betreiben, wenn man gleichzeitig dem Computer und dem Patienten Aufmerksamkeit schenken will«, stellt Lown fest und fügt hinzu, Multitasking »ist das Gegenteil von wacher Präsenz«.22

Durch die Dominanz des Computers entsteht ein weiteres, ausführlich dokumentiertes Problem. EMR und verwandte Systeme geben Warnmeldungen für Ärzte auf dem Bildschirm aus. Diese Funktionalität kann hilfreich sein, um gefährliche Versehen oder Fehler zu vermeiden. Wenn etwa ein Arzt mehrere Medikamente verschreibt, bei denen Wechselwirkungen auftreten könnten, macht die Software auf dieses Risiko aufmerksam. Die meisten Warnmeldungen erweisen sich jedoch als unnötig. Sie sind irrelevant, überflüssig oder einfach nur falsch. Sie sollen wohl weniger den Patienten vor Schaden schützen als den Software-Anbieter vor Rechtsklagen. (Mit dem Dritten bringt der Computer zusätzlich die wirtschaftlichen und rechtlichen Interessen dieses Beteiligten in den Untersuchungsraum.) Verschiedene Studien haben gezeigt, dass Hausärzte in der Regel neun von zehn Alarmmeldungen unbeachtet lassen. Das führt zur sogenannten „Alarmmüdigkeit“. Wenn die Ärzte davon ausgehen, dass die Software falschen Alarm schlägt, werden sie irgendwann alle Alarmmeldungen ausblenden. Sie klicken sie so schnell wieder weg, dass auch die gelegentliche berechtigte Warnung unbeachtet bleibt. Die Alarmmeldungen stören also nicht nur die Arzt-Patient-Beziehung; die Art, wie sie präsentiert werden, macht sie teilweise wertlos.23

Eine medizinische Untersuchung oder Beratung ist eine außergewöhnlich komplizierte und intime Form persönlicher Kommunikation. Der Arzt muss dabei einfühlsam zuhören, die Körpersprache beachten und eine rationale Analyse der vorhandenen Informationen vornehmen. Um ein kompliziertes medizinisches Problem oder Leiden zu entschlüsseln, muss ein Arzt den Erzählungen eines Patienten aufmerksam zuhören und gleichzeitig diese Erzählung anhand etablierter diagnostischer Schemata führen und filtern. Entscheidend ist hierbei, im richtigen Maß die persönliche Situation des Patienten zu erfassen und dennoch die typischen Muster und Wahrscheinlichkeiten zu erkennen, die man aus Lektüre und Erfahrung kennt. Checklisten und andere Entscheidungshilfen können diesen Prozess bedeutend unterstützen. Sie bringen Ordnung in die komplizierten und manchmal chaotischen Begleitumstände. Doch wie der Chirurg und New Yorker-Journalist Atul Gawande in seinem Buch Checklist-Strategie erklärt, besteht trotz der »Vorzüge der Reglementierung« auch weiterhin die Notwendigkeit von »Mut, Geistesgegenwärtigkeit und Improvisationsgabe«. Die besten Kliniker werden sich immer durch ihre »fachliche Kühnheit« auszeichnen.24 Wenn man von einem Arzt verlangt, sich sklavisch nach Vorlagen und Aufforderungen zu richten, kann die Automatisierung mit Computern das Arzt-Patient-Verhältnis grundlegend stören. Sie kann Patientengespräche straffen und nützliche Informationen beitragen, aber sie kann ebenfalls, wie Lown schreibt, »den Blickwinkel der Untersuchung vorzeitig einschränken« und sogar zu Fehldiagnosen führen, weil sie zu Automation Bias führt, sodass dem Bildschirm mehr Bedeutung zugemessen wird als dem Patienten. Es kann geschehen, dass Ärzte »bei der Informationsbeschaffung ein ›Bildschirm-gesteuertes‹ Verhalten an den Tag legen, scrollen und Fragen erst stellen, wenn sie auf dem Bildschirm erscheinen, statt dem Erzählfaden des Patienten zu folgen«.25

Vor allem junge Ärzte sind in Gefahr, sich eher nach dem Bildschirm als dem Patienten zu richten, argumentiert Lown, weil sie keine Gelegenheit haben, die besonders feinen und menschlichen Aspekte der ärztlichen Kunst kennenzulernen – das implizite Wissen, das man nicht aus Büchern oder per Software erwerben kann. Auf lange Sicht könnte das auch verhindern, dass Ärzte die Intuition entwickeln, die es ihnen ermöglicht, auf Notfälle und andere unerwartete Ereignisse zu reagieren, in denen in wenigen Minuten über das Leben eines Patienten entschieden wird. In solchen Momenten kann ein Arzt nicht methodisch vorgehen oder abwägen; er hat keine Zeit, um Informationen zu sammeln und zu analysieren oder irgendwelche Schemata durchzuarbeiten. Ein Computer nützt da nicht viel. Manchmal müssen Ärzte augenblicklich über Diagnose und Behandlung entscheiden. Sie müssen handeln. Kognitionswissenschaftler, die Gedankenprozesse von Ärzten untersuchten, behaupten, erfahrene Kliniker würden in Notfällen nicht nach bewusstem Denken oder formellen Regeln handeln. Aufgrund ihres Wissens und ihrer Erfahrung »sehen« sie einfach, was nicht stimmt – so stellen sie in wenigen Sekunden eine vorläufige Diagnose –, und tun dann, was nötig ist. »Die wichtigsten Hinweise auf den Zustand eines Patienten«, erläutert Jerome Groopman in seinem Buch Wie Ärzte ticken, »fügen sich zu einem Muster zusammen, das der Arzt als eine bestimmte Krankheit oder einen bestimmten Zustand erkennt«. Dies ist eine äußerst wichtige Gabe, bei der, so Groopman, »das Denken nicht vom Handeln zu trennen ist«.26 Ein Bildschirm zwischen Arzt und Patient vergrößert den Abstand zwischen den beiden. So wird die Entwicklung von Automatismen und Intuition deutlich erschwert.

EINE FRAGE DER QUALIFIKATION

Die schlimmsten Befürchtungen der Ludditen wurden bereits kurz nach der Niederschlagung ihres Aufstandes Wirklichkeit. Die Textilproduktion vollzog den Übergang vom Handwerk zur Industrie in wenigen Jahren, ebenso wie die Herstellung vieler anderer Waren. Die Produktionsorte wurden von den Wohnhäusern und dörflichen Werkstätten in große Fabriken verlegt, die meist in Großstädten errichtet wurden, weil man dort sicher sein konnte, genügend Arbeitskräfte, Rohstoffe und Kunden zu finden. Die Handwerker folgten den Arbeitsplätzen und entwurzelten dabei ihre Familien in einer großen Urbanisierungswelle, die sich durch den Verlust von Arbeitsplätzen im Landbau durch Erntemaschinen und andere landwirtschaftliche Geräte noch verstärkte. In den neuen Fabriken wurden immer effizientere und leistungsfähigere Maschinen aufgestellt, die die Produktivität steigerten, aber gleichzeitig die Verantwortung und Autonomie jener beschränkte, die sie bedienten. Statt ausgebildeten Handwerkern wurden nun ungelernte Fabrikarbeiter gebraucht.

Adam Smith hatte erkannt, dass die Spezialisierung bei der Fabrikarbeit zur Dequalifizierung der Arbeiter führen würde. »Ein Mensch, der sein ganzes Leben damit hinbringt, ein paar einfache Handlungen zu vollziehen, deren Erfolg vielleicht immer derselbe oder wenigstens ein ziemlich ähnlicher ist, hat keine Gelegenheit, seinen Verstand zu üben oder seine Erfindungskraft anzustrengen, um Hilfsmittel gegen Schwierigkeiten aufzusuchen, die ihm niemals begegnen«, schrieb Smith in Der Wohlstand der Nationen. »Er verliert also natürlich die Fähigkeit zu solchen Übungen und wird am Ende so unwissend und dumm, als es nur immer ein menschliches Wesen werden kann.«27 Smith betrachtete den Verlust an fachlichem Können als bedauernswerten, aber unvermeidbaren Nebeneffekt effizienter Fabrikproduktion. Bei seinem berühmten Beispiel mit der Arbeitsteilung in einer Stecknadelfabrik wird der Handwerker, der einstmals mühsam jede einzelne Stecknadel von Hand herstellte, von einer Schwadron ungelernter Arbeiter ersetzt, die jeweils eine enggesteckte Aufgabe übernehmen: »Der eine zieht den Draht, ein anderer streckt ihn, ein dritter schneidet ihn ab, ein vierter spitzt ihn zu, ein fünfter schleift ihn am oberen Ende, wo der Kopf angesetzt wird; die Herstellung des Kopfes erfordert zwei oder drei verschiedene Tätigkeiten; das Ansetzen desselben ist eine besondere Tätigkeit, das Weißglühen der Nadeln eine andere; ja sogar das Einlegen der Nadeln in Papier bildet ein Gewerbe für sich. So ist das wichtige Geschäft der Stecknadelfabrikation in ungefähr achtzehn verschiedene Verrichtungen geteilt [...].«28 Kein einzelner Arbeiter weiß, wie man eine ganze Stecknadel herstellt, aber wenn sie zusammenarbeiten und jeder seine spezielle Aufgabe ausführt, produzieren sie sehr viel mehr Nadeln, als dieselbe Anzahl erfahrener Handwerker es in Einzelarbeit könnte. Diese Arbeiter brauchen kaum Talent oder Ausbildung, und so kann der Fabrikant aus einem riesigen Angebot an Arbeitskräften auswählen und muss keine Lohnzuschläge für Fachkenntnisse bezahlen.

Smith schätzte an der Arbeitsteilung außerdem, dass sie den Weg für die Mechanisierung ebnete, die noch weniger Kenntnisse bei den Arbeitern voraussetzte. Sobald ein Fabrikant einen komplizierten Herstellungsprozess in eine Reihe getrennter »einfacher Arbeitsgänge« aufgeteilt hatte, war der Bau von Maschinen für die einzelnen Arbeitsgänge relativ unkompliziert. Die Arbeitsteilung in der Fabrik diente als Spezifikation für die Maschinen. Anfang des 20. Jahrhunderts war die Dequalifizierung der Fabrikarbeiter, dank der »wissenschaftlichen Betriebsführung« von Frederick Winslow Taylor, ein erklärtes Ziel der Industrie geworden. Er folgte Smith in der Annahme, »die größte dauernde Prosperität des Arbeiters und des Arbeitgebers [kann] nur dadurch herbeigeführt werden, daß die zu leistende Arbeit mit dem geringsten Aufwande an menschlicher Arbeitskraft [...] geleistet wird«. Taylor riet Fabrikbesitzern, strenge Arbeitsanweisungen für den Umgang mit den Maschinen für jeden Arbeiter auszugeben, jede einzelne Bewegung in Körper und Geist des Arbeiters vorzuschreiben.29 Der größte Fehler bei herkömmlichen Arbeitsweisen, so glaubte Taylor, sei, dass sie dem Einzelnen zu viel Eigeninitiative und Spielraum gestatteten. Optimale Effizienz könne nur erreicht werden, wenn die Arbeit standardisiert werde, was man mithilfe von »Regeln, Gesetzen und Formeln« durchsetzte, die sich sogar auf die Konstruktion der Maschinen auswirkten.30

Als Gesamtsystem betrachtet, war die mechanisierte Fabrik, in der Arbeiter und Maschine zu einer streng kontrollierten, perfekten Produktionseinheit verschmolzen, ein Triumph von Ingenieurskunst und Effizienz. Die Menschen, die zu Maschinenteilen degradiert wurden, verloren, wie die Ludditen vorausgesehen hatten, nicht nur ihre Fähigkeiten, sondern auch ihre Unabhängigkeit. Der Verlust ging weit über wirtschaftliche Aspekte hinaus. Es ging dabei um existenzielle Dinge, wie Hannah Arendt in ihrem Buch Vita activa aus dem Jahr 1958 betonte: »Ungleich dem Werkzeug, das in jedem einzelnen Augenblick des Herstellungsprozesses der Hand Untertan bleibt und ihr als Mittel dient, fordert die Maschine von dem Arbeiter, daß er sie bediene und den natürlichen Körperrhythmus der mechanischen Bewegung angleiche.«31 Durch technische Fortschritte – wenn man sie denn als solche bezeichnen kann – waren aus einfachen Werkzeugen, die dem Arbeiter größeren Freiraum verschafften, komplexe Maschinen geworden, die ihn einschränkten.

In der zweiten Hälfte des vergangenen Jahrhunderts verkomplizierte sich die Beziehung zwischen Arbeiter und Maschine. Unternehmen expandierten, der technische Fortschritt beschleunigte sich, die Konsumausgaben explodierten und neue Formen der Beschäftigung entstanden. Manager- und Verwaltungsjobs entstanden zuhauf, ebenso wie Arbeitsplätze im Dienstleistungsbereich. Auch Maschinen gab es bald in zahlreichen Formen, und die Leute setzten sie für alles Mögliche ein, bei der Arbeit und in der Freizeit. Der Taylor-Grundsatz, nach dem Effizienz durch eine Standardisierung der Arbeitsvorgänge erzielt wird, hatte immer noch enormen Einfluss auf den Geschäftsbetrieb, aber manche Firmen wollten sich auch den Einfallsreichtum und die Kreativität ihrer Mitarbeiter zunutze machen. Der Angestellte als Zahnrädchen im Getriebe entsprach nicht mehr dem Ideal. In dieser Situation übernahm der Computer bald eine Doppelrolle. Zum einen überwachten, erfassten und kontrollierten Computer die Arbeit der Menschen; Firmen entdeckten Software-Anwendungen als leistungsstarke Werkzeuge, um Prozesse zu standardisieren und Abweichungen zu vermeiden. Doch als PC wurde der Computer zusätzlich zu einem flexiblen, persönlichen Werkzeug, das dem Einzelnen größere Eigeninitiative und Autonomie ermöglichte. Der Computer war sowohl Vollstrecker als auch Befreier.

Während sich die Einsatzmöglichkeiten der Automatisierung vervielfachten und aus der Fabrik in die Büros ausbreiteten, wurde unter Soziologen und Ökonomen der Zusammenhang zwischen technischem Fortschritt und Dequalifizierung von Arbeitskräften heftig diskutiert. Im Jahr 1974 veröffentlichte Harry Braverman, Gesellschaftstheoretiker und ehemaliger Kupferschmied, ein leidenschaftliches Buch mit dem drögen Titel: Die Arbeit im modernen Produktionsprozess. Damit erreichte die Kontroverse ihren Höhepunkt. Braverman bot einen Überblick über die neuesten Entwicklungen auf dem Arbeitsmarkt und am Arbeitsplatz eingesetzte Technologien. Er behauptete, die meisten Arbeiter bekämen nur Routinejobs, die wenig Verantwortung, kaum Herausforderungen und nur wenige Gelegenheiten boten, sich irgendwelche wichtigen Kompetenzen anzueignen. Häufig fungierten sie als Zubehör zu Maschinen und Computern. »Mit der Entwicklung der kapitalistischen Produktionsweise«, schrieb er, »wird zugleich mit der Degradierung der Arbeit der Begriff des beruflichen Könnens selbst degradiert, und der Maßstab, mit dem es gemessen wird, schrumpft derart, daß man heute meint, eine Arbeitskraft besäße ›berufliches Können‹, wenn ihre Tätigkeit eine Ausbildung von ein paar Tagen oder Wochen benötigt; eine Ausbildung von mehreren Monaten wird als ungewöhnlich anspruchsvoll angesehen, und eine Arbeit, die eine Lernzeit von sechs Monaten oder einem Jahr erfordert – wie beispielsweise das Programmieren von Computern –, löst ehrfürchtiges Schaudern aus.«32 Im Vergleich dazu habe die Lehrzeit im Handwerk üblicherweise vier bis sieben Jahre gedauert. Bravermans wasserdichte, sorgfältig konstruierte Abhandlung wurde verbreitet gelesen. Seine marxistische Sichtweise passte zur radikalen Atmosphäre der 1960er und frühen 1970er Jahre wie eine Feder in die Nut.

Doch nicht alle ließen sich von Bravermans Argument überzeugen.33 Kritiker seiner Arbeit – und von denen gab es viele – warfen ihm vor, er überbewerte die Bedeutung traditioneller Handwerker, die selbst im 18. und 19. Jahrhundert nur einen relativ kleinen Teil der Arbeitskräfte ausgemacht hätten. Außerdem messe er den handwerklichen Fertigkeiten bei den Produktionsjobs in der Fabrik eine zu große Bedeutung zu auf Kosten der zwischenmenschlichen und analytischen Fähigkeiten, die bei vielen Arbeiten im Büro und im Dienstleistungsbereich zum Tragen kämen. Mit dem letzteren Kritikpunkt wiesen sie auf ein bedeutendes Problem hin, das die Diagnose und Interpretation von umfassenden Veränderungen beim Qualifikationsniveau in allen Wirtschaftsbereichen erschwert: Qualifikation ist ein vager Begriff. Es gibt viele Arten von Begabungen, und es existiert keine gute, objektive Methode, um sie zu messen oder zu vergleichen. Ist ein Schuhmacher aus dem 18. Jahrhundert, der in seiner Werkstatt ein Paar Schuhe herstellt, mehr oder weniger qualifiziert als eine Marketingfachfrau im 21. Jahrhundert, die am Computer eine Werbestrategie für ein Produkt entwickelt? Ist ein Gipser mehr oder weniger qualifiziert als eine Friseurin? Wenn ein Schlosser seinen Job in der Schiffswerft verliert und nach einer Umschulung Computer repariert, ist er dann mehr oder weniger qualifiziert als vorher? Bisher existieren die notwendigen Kriterien noch nicht, um sinnvolle Antworten auf diese Fragen zu finden. Daher verkommen Debatten über Dequalifizierung, ganz zu schweigen von Weiterbildung, Umschulung und anderen Formen der Qualifizierung, häufig zu Streitereien über Werturteile.

Doch auch wenn die allgemeinen Theorien von Braverman und anderen über Veränderungen beim Qualifikationsniveau immer umstritten bleiben werden, bietet sich ein klareres Bild, wenn man einzelne Branchen und Berufe betrachtet. Je anspruchsvollere Arbeiten Maschinen erledigen, umso weniger anspruchsvoll ist die Arbeit, die für die Menschen übrigbleibt. Dafür gibt es zahlreiche Beispiele. Der Professor an der Harvard Business School James Bright führte in den 1950er Jahren eine gründliche Untersuchung über die Auswirkungen der Automatisierung auf die Qualifikation durch, die heute weitgehend in Vergessenheit geraten ist. Er untersuchte detailliert die Auswirkungen der Automatisierung auf Arbeiter in 13 unterschiedlichen Arbeitsfeldern, von einer Motorenfabrik über eine Bäckerei bis zu einer Futtermittelfabrik. Aus diesen Fallstudien leitete er eine sorgfältig konzipierte Hierarchie der Automatisierung ab. Auf der untersten Stufe steht der Einsatz einfacher Handwerkzeuge, und sie führt über 17 Ebenen bis zum Einsatz komplexer Maschinen, die darauf programmiert sind, ihren eigenen Betrieb über Sensoren, Rückkoppelungsschleifen und elektronische Steuerelemente zu regulieren. Bright analysierte, wie sich verschiedene Qualifikationsanforderungen – körperliche Anstrengung, geistige Anstrengung, Fingerfertigkeit, Begriffsvermögen usw. – durch den Einsatz vollständig automatisierter Maschinen veränderten. Er stellte fest, dass nur in den frühesten Anfangsphasen der Automatisierung, bei der Einführung von elektrischem Handwerkzeug, der Qualifikationsbedarf ansteigt. Sobald komplexe Maschinen eingesetzt werden, sinkt der Qualifikationsbedarf und fällt schließlich steil ab, wenn die Arbeiter die ersten hochautomatisierten, selbststeuernden Maschinen bedienen. »Anscheinend«, schrieb Bright in seinem Buch Automation and Management im Jahr 1958, »hat der Bediener immer weniger zu tun, je automatischer die Maschine funktioniert.«34

Bright führt das Beispiel eines Metallarbeiters an, um zu zeigen, wie die Dequalifizierung voranschreitet. Wenn der Arbeiter einfache Handwerkzeuge einsetzt, Feilen und Scheren etwa, benötigt er vor allem fachliche Kenntnisse, Wissen über die Eigenschaften und Einsatzmöglichkeiten von Metall und handwerkliches Geschick. Mit der Einführung elektrischer Handwerkzeuge wird die Arbeit komplizierter, und Fehler werden um ein Vielfaches teurer. Der Arbeiter muss daher »sehr viel mehr Geschicklichkeit und Entscheidungsfähigkeit beweisen« neben größerer Aufmerksamkeit. Er wird »Maschinist«. Doch wenn die Handwerkzeuge durch Mechanismen ersetzt werden, die eine Reihe von Arbeitsgängen ausführen, etwa Fräsmaschinen, die Metallblöcke in präzise dreidimensionale Formen schneiden und fräsen, »wird das geforderte Maß an Aufmerksamkeit, der zu treffenden Entscheidungen und der Kontrolle über die Maschine eingeschränkt oder weitestgehend reduziert«, und »das vorausgesetzte technische Wissen über Funktionen und Einstellungen der Maschine ist drastisch reduziert«. Aus dem Maschinisten wird ein »Maschinenbediener«. Wenn die Mechanisierung zur echten Automatisierung wird – wenn die Maschinen sich selbst kontrollieren –, »trägt der Arbeiter nur noch wenig körperliche oder geistige Leistung zum Produktionsvorgang bei, wenn überhaupt noch«. Er braucht auch nur noch wenig fachliche Kenntnisse, weil dieses Wissen bereits in die Maschine eingebaut oder einprogrammiert wurde. Seine Arbeit, wenn sie überhaupt noch gebraucht wird, beschränkt sich auf »Kontrollgänge«. Aus dem Metallarbeiter wird »ein Wachmann, ein Überwacher, ein Helfer«. Man könnte ihn als »einen Verbindungsmann zwischen Maschine und operativer Geschäftsführung« bezeichnen. Bright schließt daraus, dass insgesamt »der Fortschritt durch Automatisierung darin besteht, dem Bediener zunächst die manuelle Arbeit abzunehmen und dann von der Notwendigkeit ständiger geistiger Anstrengung zu befreien.«35

Als Bright mit seiner Studie begann, herrschte bei Unternehmern, Politikern und Akademikern die Ansicht vor, automatisierte Maschinen würden eine höhere Qualifikation und bessere Ausbildung der Arbeiter verlangen. Bright fand zu seiner Überraschung heraus, dass häufig das Gegenteil der Fall war: »Ich war verblüfft, als ich herausfand, dass der Aufstiegseffekt nicht einmal annähernd im erwarteten Ausmaß stattgefunden hatte. Ganz im Gegenteil. Es gab mehr Hinweise darauf, dass sich die Qualifikationsanforderungen an die Arbeitskräfte durch die Automatisierung reduziert hatten.« In einem Bericht aus dem Jahr 1966 für die US-amerikanische Regierung über Automatisierung und Beschäftigung ging Bright noch einmal auf seine ursprünglichen Forschungen ein und beschrieb die technischen Entwicklungen, die in den Folgejahren stattgefunden hatten. Die Automatisierung, stellte er fest, sei zügig vorangeschritten, angetrieben von den raschen Entwicklungen bei Großrechnern in Wirtschaft und Produktion. Erste Hinweise legten nahe, dass die verbreitete Einführung von Computern der Dequalifizierung eher noch Vorschub leistete, statt sie rückgängig zu machen. »Langsam sollte klar werden«, schrieb er, »was wir daraus lernen sollten – hochkomplexe Ausrüstung setzt nicht notwendigerweise qualifizierte Bedienung voraus. Die ›Qualifikation‹ kann auch in die Maschine eingebaut werden.«36

DIE LOGISCHEN FOLGEN

Ein Fabrikarbeiter, der eine lärmende Maschine bedient, hat mit einem hochgebildeten Experten, der in einem ruhigen Büro geheimnisvolle Informationen per Touchscreen oder Tastatur eingibt, scheinbar nur wenig gemeinsam. Aber in beiden Fällen teilt sich ein Mensch die Arbeit mit einem automatischen System – mit einem Dritten. Brights Arbeit und nachfolgende Studien über Automatisierung verdeutlichten, dass vom Entwicklungsgrad des Systems, mechanisch oder digital, abhängt, wie die Aufgaben und Verantwortlichkeiten aufgeteilt sind, und damit auch, welche Qualifikationen die Beteiligten für die Arbeit brauchen. Je mehr Fähigkeiten in die Maschine eingebaut werden, umso mehr übernimmt sie die Kontrolle über die Arbeit, und der Arbeiter hat immer weniger Gelegenheit, natürliche Talente einzusetzen und zu entwickeln, wie sie etwa bei Auswertungen und Einschätzungen benötigt werden. Bei maximalem Automatisierungsgrad, wenn die Maschine das Kommando bei einem Job völlig übernimmt, kann es mit der Qualifikation des Arbeiters nur noch abwärts gehen. Das unmittelbare Produkt der Zusammenarbeit Mensch-Maschine, das muss man betonen, ist in Bezug auf Effizienz und sogar Qualität möglicherweise überlegen, aber dennoch werden Verantwortung und Handlungsspielraum des menschlichen Partners beschnitten. »Was ist, wenn der Preis für denkende Maschinen nicht mehr denkende Menschen ist?« fragte der Technikhistoriker George Dyson im Jahr 2008.37 Diese Frage wird immer dringlicher, je mehr Verantwortung für Analysen und Entscheidungen wir an Computer abgeben.

Der zunehmende Einfluss von Systemen zur Entscheidungsunterstützung auf die Denkvorgänge der Ärzte und die Tatsache, dass sie die Kontrolle über gewisse Aspekte medizinischer Entscheidungen übernehmen, sind Ausdruck von aktuellen und dramatischen Entwicklungen im Computerbereich. Wenn Ärzte eine Diagnose stellen, stützen sie sich dabei auf ihre umfangreichen Kenntnisse von Fachinformationen, die sie in jahrelanger Ausbildung und durch Praktika sowie ständige Weiterbildung durch medizinische Fachzeitschriften und andere relevante Literatur erworben haben. Bis vor kurzem konnten Computer dieses fundierte, spezialisierte und oft intuitive Wissen nur schwer nachahmen, wenn überhaupt. Aber die unaufhaltsamen Fortschritte bei der Rechengeschwindigkeit, die steil sinken Kosten für Datenspeicherung und Netzwerke sowie die Durchbrüche bei den Verfahren mit künstlicher Intelligenz, der maschinellen Sprachverarbeitung und Mustererkennung haben die Vorzeichen geändert. Computer sind inzwischen sehr viel geschickter bei der Durchsicht und Interpretation großer Mengen an Text und anderer Informationen. Computer finden unter Umständen Korrelationen in den Daten – Merkmale oder Phänomene, die häufig gemeinsam, gleichzeitig oder hintereinander, auftreten – und können so oft genaue Vorhersagen treffen. Sie können dann berechnen, mit welcher Wahrscheinlichkeit ein Patient mit bestimmten Symptomen eine bestimmte Krankheit hat oder haben wird oder wie gut die Chancen stehen, dass ein Patient mit einer bestimmten Krankheit gut auf ein Medikament oder eine Therapie reagiert.

Durch maschinelle Lernverfahren wie Entscheidungsbäume und neuronale Netzwerke, dynamische Modelle komplexer statistischer Beziehungen zwischen Phänomenen, verfeinern Computer ihre Vorhersagemethoden, indem sie Daten und Rückmeldungen zur Genauigkeit früherer Vorhersagen empfangen und verarbeiten.38 Moderne Computer werden durch Erfahrung klug, wie wir Menschen. Neue »neuromorphe« Microchips, bei denen Protokolle zum maschinellen Lernen bereits in die Schaltkreise integriert werden, werden nach Ansicht von Informatikern die Lernfähigkeit von Computern in den nächsten Jahren noch deutlich steigern. Die Maschinen werden kritischer werden. Vielen stellen sich bei der Vorstellung von »klugen« oder »intelligenten« Computern wahrscheinlich die Nackenhaare auf, doch Tatsache ist, dass Computer viele Entscheidungsprozesse von Ärzten mithilfe statistischer Analysen und großer Mengen digitaler Informationen – den sogenannten »Big Data« – nachahmen können, auch wenn ihnen Verständnis, Einfühlungsvermögen und Erkenntnisfähigkeit menschlicher Ärzte fehlen mögen. Die schiere Rechenleistung moderner Datenverarbeitungsanlagen machen viele alte Debatten gegenstandslos.

Computer werden immer bessere diagnostische Fähigkeiten bekommen. Je mehr Daten über die einzelnen Patienten gesammelt und gespeichert werden, in Form von elektronischen Aufzeichnungen, digitalisierten Bildaufnahmen und Testergebnissen, Medikamentenbelegen und, in nicht allzu ferner Zukunft, Messwerten von persönlichen biologischen Sensoren und Apps zur Gesundheitsüberwachung, umso besser werden Computer Korrelationen aufspüren und Wahrscheinlichkeiten mit immer größerer Detailgenauigkeit berechnen können. Schemata und Leitlinien werden umfassender und ausführlicher werden. Bei dem derzeitigen Schwerpunkt auf Effizienzerhöhung in der Gesundheitsversorgung werden sich die Taylor-Grundsätze von Optimierung und Standardisierung bald im gesamten medizinischen Fachgebiet durchgesetzt haben. Heute wird die persönliche klinische Beurteilung immer häufiger durch die statistischen Ergebnisse sogenannter evidenzbasierter Medizin ersetzt, und diese Entwicklung wird sich noch verstärken. Ärzte werden zunehmend unter Druck geraten, wenn nicht sogar direkte Anordnungen der Verwaltung bekommen, die Kontrolle über Diagnosen und Behandlungen immer mehr an Software abzugeben.

Oder um es mit unsensiblen, aber treffenden Worten auszudrücken: Viele Ärzte werden bald zu menschlichen Sensoren degradiert werden, die Informationen für einen Computer sammeln, der dann die Entscheidungen trifft. Der Arzt wird den Patienten untersuchen und die Daten in elektronischer Form eingeben, aber der Computer wird das letzte Wort bei Diagnose- und Therapievorschlägen haben. Dank der kontinuierlichen Ausbreitung der Automatisierungssysteme aufgrund von Brights Hierarchie wird bei Ärzten wahrscheinlich, zumindest in Teilbereichen ihrer Tätigkeit, derselbe Dequalifizierungseffekt eintreten, den es einst nur bei Fabrikarbeitern gab.

Und sie werden nicht die Einzigen sein. Überall dringen Computer in spezialisierte Fachbereiche vor. Wie bereits gezeigt, wird das Denken von Steuerberatern durch Expertensysteme geprägt, die Vorhersagen über Risiken und andere Variablen abgeben. Andere Finanzfachleute, von Kreditreferenten bis Investmentmanagern, verlassen sich bei ihren Entscheidungen ebenfalls auf Computermodelle, und inzwischen haben nach Korrelationen schnüffelnde Computer und die Quants, die sie programmieren, Wall Street weitgehend unter ihre Kontrolle gebracht. Die Anzahl der Wertpapierhändler sank in New York City zwischen den Jahren 2000 und 2013 um ein Drittel, von 150 000 auf 100 000, obwohl die Wall-Street-Firmen meist Rekordgewinne meldeten. Das übergeordnete Ziel von Maklerfirmen und Investmentbanken besteht darin, »das System zu automatisieren und die Händler loszuwerden«, erklärte ein Finanzanalyst gegenüber einem Bloomberg-Reporter. Die verbliebenen Händler »klicken den ganzen Tag nur noch auf Buttons auf Computerbildschirmen«.39

Davon ist nicht nur der Handel mit einfachen Aktien und Wertpapieren betroffen, sondern die Zusammenstellung von und der Handel mit komplexen Finanzprodukten. Ashwin Parameswaran, ein IT-Berater und ehemaliger Investmentbanker, weist darauf hin, dass »Banken erhebliche Anstrengungen unternommen haben, um den Bedarf an Qualifikation und Kompetenz bei der Bewertung von und beim Handel mit Finanzderivaten zu verringern. Handelssysteme wurden so angepasst, dass möglichst viel Wissen in der Software integriert ist.«40 Vorhersage-Algorithmen dringen sogar in die erhabenen Gefilde des Risikokapitals vor, wo Top-Investoren sich lange Zeit mit ihrem guten Riecher für Geschäfte und Innovationen brüsteten. Bekannte Risikokapitalfirmen, wie die Ironstone Group und Google Ventures, suchen inzwischen mit Computern nach Mustern in Aufzeichnungen über unternehmerische Erfolge und platzieren ihre Einsätze entsprechend.

Bei Juristen gibt es inzwischen ähnliche Entwicklungen. Seit Jahren setzen Rechtsanwälte bei der Durchsuchung juristischer Datenbanken und beim Aufsetzen von Dokumenten Computer ein. In jüngerer Zeit übernahm Software zunehmend eine zentrale Rolle in den Anwaltskanzleien. Der kritische Prozess der Aufschließung von Dokumenten (document discovery), bei der sich meist unerfahrene Rechtsanwälte und Rechtanwaltsgehilfen auf der Suche nach Beweisen durch Berge von Briefen, E-Mails und Aufzeichnungen wühlen, ist inzwischen weitgehend automatisiert. Computer können in wenigen Sekunden Tausende Seiten digitalisierte Dokumente durchsuchen. Die Maschinen benutzen E-Discovery-Software mit Sprachanalyse-Algorithmen und spüren so nicht nur relevante Wörter und Wendungen auf, sondern erfassen außerdem Ereignisabläufe, Beziehungen zwischen Personen und sogar persönliche Gefühle und Motive. Ein einziger Computer übernimmt die Arbeit von Dutzenden gutbezahlten Fachleuten. Auch bei der Software für die Dokumentenerstellung gab es Fortschritte. Ein Rechtsanwalt kann durch das Ausfüllen einer einfachen Checkliste in ein oder zwei Stunden einen komplizierten Vertrag aufsetzen – früher dauerte das mehrere Tage.

Weitere umfassende Veränderungen sind bereits absehbar. Hersteller juristischer Software haben erste statistische Vorhersage-Algorithmen entwickelt, die auf Basis der Analyse Tausender alter Fälle Prozessstrategien vorschlagen, etwa bei der Wahl des Gerichtsstands oder bei den Bedingungen für ein Vergleichsangebot, die große Erfolgschancen haben. Bald wird man mit Software auch die Art von Einschätzungen vornehmen können, die bisher die Berufserfahrung und das Wissen erfahrener Prozessvertreter voraussetzen.41 Lex Machina, ein im Jahr 2010 von Jura-Professoren und Informatikern in Stanford gegründetes Unternehmen, bietet einen Blick in die Zukunft. Die Firma verfügt über eine Datenbank von gut 150 000 Urheberrechtsfällen. Computer analysieren diese Fälle, um die Erfolgschancen einer Patentklage unter verschiedenen Bedingungen vorherzusagen, und berücksichtigen dabei das zuständige Gericht, den vorsitzenden Richter und die teilnehmenden Rechtsanwälte, die Ergebnisse bei ähnlichen Fällen und weitere Faktoren.

Vorhersage-Algorithmen kontrollieren auch zunehmend Entscheidungen von Managern in der Wirtschaft. Unternehmen geben mehrere Milliarden US-Dollar pro Jahr für »People Analytics«-Software aus, die Entscheidungen über Einstellungen, Bezahlung und Beförderungen automatisiert. Xerox wählt zukünftige Mitarbeiter für die 50 000 Callcenter-Jobs des Unternehmens nur noch per Computer aus. Die Bewerber absolvieren am Computer einen halbstündigen Persönlichkeitstest, und die Bewerbungssoftware gibt sofort eine Bewertung ab, in der sich die Wahrscheinlichkeit widerspiegelt, dass ein Bewerber gute Leistung erbringen, pünktlich zur Arbeit erscheinen und auch im Job bleiben wird. Das Unternehmen bietet dann den Bewerbern mit der höchsten Bewertung Stellen an und schickt diejenigen mit weniger Punkten weg.42 UPS legt die täglichen Routen für die Fahrer mithilfe von Vorhersage-Algorithmen fest. Einzelhändler bestimmen so die optimale Produktanordnung in den Ladenregalen. Marketingfachleute und Werbeagenturen bestimmen mithilfe von Vorhersage-Algorithmen, wo und wann Werbespots geschaltet und Werbebotschaften in sozialen Netzwerken verbreitet werden. Manager müssen sich zunehmend der Software unterordnen. Sie überprüfen nur noch von Computern erstellte Pläne und Entscheidungen und segnen sie ab.

Das hat schon etwas Ironisches. Computer verschoben den Schwerpunkt der Wirtschaft von greifbaren Gütern zu Datenströmen, was in den letzten Jahrzehnten des 20. Jahrhunderts zu einem neuen Status und Wohlstand für Information Worker führte. Menschen, die ihr Geld mit dem Hantieren mit Zeichen und Symbolen auf Bildschirmen verdienen, wurden die Helden der New Economy, während gleichzeitig die Fabrikjobs, die lange Zeit die Basis der Mittelschicht bildeten, nach Übersee ausgelagert oder an Roboter vergeben wurden. Die Dotcom-Blase der späten 1990er Jahre, durch die in wenigen euphorischen Jahren Reichtümer aus den Computernetzwerken auf die Konten der Börsenmakler flossen, läutete scheinbar ein goldenes Zeitalter unbegrenzter ökonomischer Chancen ein. IT-Enthusiasten erkannten darin einen »langfristigen Boom«, doch die rosigen Zeiten erwiesen sich als kurzlebig. Heute wird klar, dass die Automatisierung, wie Norbert Wiener es vorhersagte, niemanden bevorzugt. Computer analysieren Symbole und parsen und verwalten Informationen ebenso gut, wie sie Produktionsroboter lenken. Selbst Bediener komplexer Computersysteme verlieren ihre Jobs an Software, weil Datencenter ebenso wie Fabriken zunehmend automatisiert werden. Die riesigen Serverfarmen von Google, Amazon und Apple betreiben sich praktisch selbst. Dank der Virtualisierung, einem technischen Verfahren, bei dem Funktionen von Hardware-Komponenten, wie Servern, durch Software nachgebildet werden, werden die Anlagen mit Algorithmen überwacht und kontrolliert. Netzwerkprobleme und Programmfehler werden oft in wenigen Sekunden entdeckt und automatisch korrigiert. Vielleicht stellt sich irgendwann heraus, dass die »Intellektualisierung der Arbeit«, wie der italienische Medienwissenschaftler Franco Berardi es nannte,43 im späten 20. Jahrhundert nur die Vorstufe für eine Automatisierung des Intellekts im frühen 21. Jahrhundert war.

Spekulationen, in welchem Umfang Computer die Erkenntnis- und Urteilsfähigkeit der Menschen in Zukunft werden nachahmen können, sind immer riskant. Hochrechnungen auf der Basis aktueller Trends in der Computertechnik erweisen sich immer wieder als reine Phantasieprodukte. Doch selbst wenn man davon ausgeht, dass, entgegen der extravaganten Versprechungen der Big-Data-Prediger, die Anwendungsmöglichkeiten und der Nutzen korrelationsbasierter Vorhersagen und anderer statistischer Analysen begrenzt sind, haben Computer diese Grenzen offensichtlich noch lange nicht erreicht. Der Sieg des IBM-Supercomputers bei der Quizshow Jeopardy! Anfang 2011 lieferte einen Vorgeschmack auf die analytischen Fähigkeiten zukünftiger Computer. Watsons Fähigkeiten bei der Entschlüsselung der Hinweise war erstaunlich, doch verglichen mit dem aktuellen Stand bei der Programmierung künstlicher Intelligenz leistete der Computer nichts Außergewöhnliches. Im Grunde durchsuchte er nur riesige Datenbanken mit Dokumenten nach möglichen Antworten, arbeitete sich gleichzeitig durch mehrere Vorhersageroutinen und bestimmte so schließlich, welche Antwort mit der höchsten Wahrscheinlichkeit die richtige war. Doch Watson führte diese Aufgabe so schnell aus, dass er ungewöhnlich clevere Menschen bei einem kniffligen Test, bei dem es um Bagatellwissen, Wortspiele und Erinnerungsvermögen ging, übertrumpfte.

Watson steht für die Blüte einer neuen, pragmatischen Form der künstlichen Intelligenz. In den 1950er und 1960er Jahren, als Computer noch eine Neuheit waren, gelangten viele Mathematiker und Ingenieure sowie einige Psychologen und Philosophen zu der Überzeugung, das menschliche Gehirn müsse wie eine digitale Rechenmaschine funktionieren. Sie sahen im Computer eine Metapher und ein Modell des menschlichen Gehirns. Daraus folgte, dass die Erschaffung künstlicher Intelligenz eine simple Angelegenheit sein musste: Man musste nur die Algorithmen finden, die in unseren Köpfen abliefen, und diese Programme dann in Softwarecodes übersetzen. Es funktionierte nicht. Der ursprüngliche Plan zur künstlichen Intelligenz scheiterte kläglich. Es stellte sich heraus, dass, was immer in unseren Köpfen vorgeht, nicht auf Computerberechnungen reduziert werden kann.44 Die heutige Herangehensweise von Informatikern an künstliche Intelligenz ist eine gänzlich andere. Sie ist weniger ehrgeizig, aber gleichzeitig effektiver. Das Ziel ist nicht länger die Nachahmung menschlicher Gedankenprozesse – das liegt immer noch außerhalb unserer Möglichkeiten –, sondern die Imitation ihrer Ergebnisse. Diese Wissenschaftler betrachten ein bestimmtes Gedankenprodukt – die Entscheidung, eine Arbeitskraft einzustellen etwa, oder die Antwort auf eine Quizfrage – und programmieren dann einen Computer so, dass er auf seine eigene geistlose Weise zum selben Ergebnis kommt. Die Abläufe in Watsons Schaltkreisen erinnern kaum noch an die Denkvorgänge eines Menschen, der Jeopardy! spielt, aber Watson erzielte trotzdem mehr Punkte.

In den 1930er Jahren hatte der britische Mathematiker und Computerpionier Alan Turing bei der Arbeit an seiner Doktorarbeit die Idee einer »Wundermaschine«. Es handelte sich dabei um einen Computer, der durch die Anwendung expliziter Regeln auf gespeicherte Daten »irgendwie« Fragen beantworten konnte, die normalerweise implizites menschliches Wissen voraussetzten. Turing wollte herausfinden, »wie weit man Intuition ausschalten kann, sodass nur noch reine Denkleistung übrigbleibt«. Bei diesem Gedankenexperiment ging er davon aus, dass die Maschine über grenzenlose Rechenfähigkeiten verfügte, dass es also keine Obergrenze bei der Rechengeschwindigkeit oder bei der Datenmenge gab, die verarbeitet werden konnte. »Uns ist egal, wie viel Denkleistung notwendig ist«, schrieb er, »und daher gehen wir davon aus, dass sie in unendlicher Menge zur Verfügung steht.«45 Wieder einmal war Turing seiner Zeit voraus. Er erkannte besser als die meisten seiner Zeitgenossen die latente Intelligenz von Algorithmen, und er sah voraus, wie diese Intelligenz durch schnelle Berechnungen freigesetzt werden würde. Für Computer und Datenbanken wird es immer Grenzen geben, aber Computer wie Watson sind die ersten Beweise für funktionsfähige Wundermaschinen. Heute bauen Ingenieure, wovon Turing nur träumen konnte. Denkleistung ersetzt Intuition.

Watsons Fähigkeiten bei der Datenanalyse werden in der Praxis als Diagnosehilfe für Onkologen und andere Ärzte eingesetzt, und IBM sieht weitere zukünftige Einsatzmöglichkeiten in Recht, Finanzen und Bildung. Nachrichtendienste wie die CIA und die NSA sollen das System ebenfalls testen. Das fahrerlose Auto von Google bewies die neuentdeckten Fähigkeiten von Computern bei der Nachahmung unserer psychomotorischen Fähigkeiten, durch die sie in der realen Welt die gleichen oder bessere Navigationsfähigkeiten erreichen wie wir. Watson führt uns die neugewonnenen Fähigkeiten der Computer bei der Nachahmung unserer kognitiven Fähigkeiten vor, durch die sie auch in der Welt der Symbole und Vorstellungen die gleichen oder bessere Navigationsfähigkeiten erreichen wie wir.

KEINE ATMOSPHÄRE

Doch die Nachahmung der Ergebnisse von Denkvorgängen ist nicht dasselbe wie Denken. Turing selbst betonte, Algorithmen würden die Intuition niemals vollständig ersetzen. Es werde immer Raum geben für »spontane Einschätzungen, die nicht das Ergebnis bewusster Denkvorgänge sind«.46 Nicht unsere Fähigkeit, Fakten aus Dokumenten zu ziehen oder statistische Muster aus Datenreihen zu erschließen, macht unsere Intelligenz aus. Das macht unsere Fähigkeit, Dingen Sinn zu verleihen – wir formen ein reichhaltiges und flexibles Weltbild aus dem Wissen, das wir durch Beobachtung und Erfahrung erwerben, indem wir leben, und das wir auf jede Aufgabe oder Herausforderung anwenden können. Diese Beweglichkeit des Geistes, die sowohl bewusstes als auch unbewusstes Denken, Vernunft und Inspiration umfasst, erlaubt uns Menschen begriffliches, kritisches, metaphorisches, spekulatives und geistreiches Denken – sie schafft uns die Freiheit für Logik und Phantasie.

Hector Levesque, Informatiker und Roboteringenieur an der Universität von Toronto, gibt ein Beispiel für eine einfache Frage, die Menschen ohne Probleme beantworten können, mit der Computer jedoch Probleme haben:

Der große Ball durchschlug den Tisch,
weil er aus Styropor bestand.

Was bestand aus Styropor, der große Ball oder der Tisch?

Uns fällt die Antwort nicht schwer, weil wir wissen, was Styropor ist, was geschieht, wenn man etwas auf einen Tisch fallen lässt, wie Tische normalerweise sind und was mit dem Adjektiv groß gemeint ist. Wir verstehen den Kontext, sowohl was die Situation als auch was die benutzten Wörter angeht. Ein Computer hat keinerlei echtes Weltwissen. Für ihn ist diese Frage unauflösbar zweideutig. Er bleibt in seinen Algorithmen stecken. Wenn man Intelligenz auf die statistische Analyse großer Datenmengen reduziert, so meint Levesque, »führt uns das möglicherweise zu Systemen, die Beeindruckendes leisten, aber dennoch Idiot-Savants sind«. Sie sind vielleicht großartig beim Schach oder bei Jeopardy!, bei der Gesichtserkennung oder bei eng abgegrenzten gedanklichen Übungen, aber »außerhalb ihres Fachgebietes sind sie völlig nutzlos«.47 Ihre Präzision ist bemerkenswert, doch oft ist sie nur Ausdruck der Begrenztheit ihrer Wahrnehmung.

Selbst bei Fragen, die mithilfe von Wahrscheinlichkeiten beantwortet werden können, funktioniert die Computeranalyse nicht fehlerlos. Die Geschwindigkeit und augenscheinliche Exaktheit der Computerberechnungen verschleiern Grenzen und Verzerrungen der zugrunde liegenden Daten, ganz zu schweigen von möglichen Fehlern in den Data-Mining-Algorithmen selbst. Jede größere Datenmenge enthält neben den relevanten Korrelationen auch zahlreiche Scheinkorrelationen.48 Allzu schnell lässt man sich von reinen Zufällen in die Irre führen oder dazu verleiten, Zusammenhänge zu sehen, wo es keine gibt. Sobald ein bestimmter Datensatz zur Grundlage für wichtige Entscheidungen wird, werden diese Daten und ihre Analyse außerdem anfällig für Manipulationen. Immer wieder wird jemand bei dem Versuch, sich einen finanziellen, politischen oder gesellschaftlichen Vorteil zu verschaffen, das System austricksen wollen. Der Sozialwissenschaftler Donald T. Campbell erklärte in einer berühmten Abhandlung aus dem Jahr 1976: »Je mehr messbare gesellschaftliche Kenngrößen bei gesellschaftlichen Entscheidungen herangezogen werden, umso größer wird die Verlockung, sie zu manipulieren, und umso besser lassen sie sich dazu benutzen, die gesellschaftlichen Prozesse, die sie überwachen sollen, zu verzerren und zu manipulieren.«49

Fehlerhafte Daten und Algorithmen können bei Fachleuten, und bei jedem anderen, eine besonders bösartige Form des Automation Bias auslösen. »Die Gefahr besteht, dass wir uns gedankenlos den Ergebnissen unserer Analysen ausliefern, selbst wenn wir gute Gründe haben zu vermuten, dass etwas nicht stimmt«, warnten Viktor Mayer-Schönberger und Kenneth Cukier im Jahr 2013 in ihrem Buch Big Data. »Oder dass wir den Daten einen Wahrheitsgehalt zumessen, den sie nicht verdienen.«50 Ein besonderes Risiko bei Korrelationen berechnenden Algorithmen besteht darin, dass sie sich bei Vorhersagen für die Zukunft auf Daten über die Vergangenheit stützen. In den meisten Fällen verhält sich die Zukunft, wie wir es erwarten; sie folgt Präzedenzfällen. Aber bei jenen besonderen Gelegenheiten, wenn die Bedingungen von den bewährten Mustern abweichen, treffen Algorithmen unter Umständen völlig falsche Vorhersagen. Dieser Umstand bedeutete bereits den Untergang für einige stark computerisierte Hedgefonds und Maklerfirmen. Trotz aller Vorzüge beweisen Computer immer noch einen beängstigenden Mangel an gesundem Menschenverstand.

Je mehr wir uns dem »Datenfundamentalismus« zuwenden, wie die Microsoft-Forscherin Kate Crawford es nannte, 51 umso mehr werden wir versucht sein, die vielen Eigenschaften, die ein Computer nicht imitieren kann, geringzuschätzen, und so viel Kontrolle an die Software abzugeben, dass wir die Möglichkeiten der Menschen, das Knowhow einzusetzen, das aus echten Erfahrungen entsteht und oft zu kreativen, der Intuition widersprechenden Erkenntnissen führt, beschränken. Einige unvorhergesehene Folgen der elektronischen Patientenakten haben gezeigt, dass Schemata und Formen von Natur aus einschränkend wirken und schnell zu Zwangsjacken für das Denken werden können. Der Arzt und Medizinprofessor Lawrence Weed aus Vermont wirbt seit den 1960er Jahren engagiert und eloquent für den Einsatz von Computern als Hilfestellung für Ärzte, damit diese kluge und informierte Entscheidungen treffen können.52 Er wurde bereits als der Vater der elektronischen Patientenakten bezeichnet. Doch selbst er warnt davor, dass die derzeitige »fehlgeleitete Verwendung von statistischem Wissen« in der Medizin individualisiertes Wissen und für die Patientenversorgung essenzielle Daten systematisch ausschließt.53

Der Psychologe Gary Klein, der untersucht, wie Menschen Entscheidungen treffen, hat noch größere Bedenken. Er schreibt, wenn man Ärzte dazu zwingt, festen Regeln zu folgen, kann die evidenzbasierte Medizin (EBM) »den wissenschaftlichen Fortschritt behindern«. Wenn Krankenhäuser und Versicherungen »bestärkt durch drohende Rechtsklagen, wenn ein Abweichen von den bewährten Methoden zu negativen Ergebnissen führt, EBM zwingend vorschreiben, werden Ärzte zögern, alternative Behandlungsstrategien auszuprobieren, die noch nicht durch randomisierte kontrollierte Studien evaluiert sind. Der wissenschaftliche Fortschritt wird möglicherweise behindert, wenn führende Ärzte, die medizinisches Fachwissen mit Respekt für Forschungsergebnisse verbinden, an Forschungen und Entdeckungen gehindert werden.«54

Wenn wir nicht aufpassen, wird die Automatisierung der geistigen Arbeit die Natur und den Schwerpunkt intellektueller Unternehmungen verändern und am Ende einen Stützpfeiler unserer Kultur zerstören: Unser Verlangen, die Welt zu verstehen. Vorhersage-Algorithmen mögen beim Aufspüren von Korrelationen Übermenschliches leisten, aber ihnen sind die zugrunde liegenden Ursachen der Merkmale und Phänomene völlig gleichgültig. Doch gerade die Ursachenforschung – wenn man akribisch entwirrt, wie und warum etwas so funktioniert, wie es funktioniert – erweitert das menschliche Wissen und verleiht unserer Suche nach Erkenntnis Bedeutung. Wenn wir glauben, dass automatische Wahrscheinlichkeitsberechnungen für unsere beruflichen und gesellschaftlichen Zwecke ausreichen, riskieren wir damit den Verlust oder zumindest die Schwächung unseres Verlangens nach Erklärungen und unsere Motivation, danach zu suchen und uns den gewundenen Pfad entlangzubewegen, der zu Weisheit und Wundern führt. Warum sollten wir auch, wenn ein Computer »die Antwort« in ein oder zwei Millisekunden ausspuckt?

In seinem Aufsatz »Rationalism in Politics« aus dem Jahr 1947 lieferte der britische Philosoph Michael Oakeshott eine lebendige Beschreibung des modernen Rationalisten: »Sein Geist hat keine Atmosphäre, keine Jahreszeiten und keine Temperatur; seine Denkprozesse sind, so weit wie möglich, von allen äußeren Einflüssen abgeschottet und finden in vollkommener Leere statt.« Der Rationalist denkt nicht an Kultur oder Geschichte; er entwickelt keine persönliche Perspektive und stellt auch keine zur Schau. Sein Denken zeichnet sich nur aus durch »die Schnelligkeit, mit der es das Durcheinander und die vielfältigen Erfahrungen« auf »eine Formel reduziert«.55 Oakeshotts Worte sind eine perfekte Beschreibung für die Intelligenz von Computern: außerordentlich praktisch und produktiv und frei von jeglicher Neugier, Vorstellungskraft und Weltgewandtheit.

KAPITEL SECHS

WELT UND BILDSCHIRM

Die kleine Insel Igloolik vor der Küste der Melville-Halbinsel im Territorium Nunavut im Norden Kanadas ist im Winter ein verwirrender Ort. Die Durchschnittstemperatur schwankt um 20 Grad Celsius unter Null. Dicke Eisschollen bedecken das Meer um die Insel. Die Sonne ist nicht zu sehen. Doch die Inuit-Jäger trotzen diesen brutalen Bedingungen seit etwa 4000 Jahren. Sie verlassen ihre Häuser auf der Insel und überqueren viele Meilen weit Eis und Tundra auf der Suche nach Karibus und anderem Wild. Der englische Forscher William Edward Parry beschrieb im Jahr 1822 in seinem Tagebuch die »erstaunliche Präzision« der geographischen Kenntnisse seines Inuit-Führers.1 Seither hat die Fähigkeit der Jäger, sich in den riesigen, kahlen Weiten der Arktis, wo es nur wenige Orientierungspunkte gibt, die Schneeformationen sich ständig verändern und Spuren über Nacht verschwinden, zurechtzufinden, Reisende und Forscher fasziniert. Die außergewöhnlichen Orientierungsfähigkeiten der Inuit sind kein Produkt der Technik – sie lehnen Landkarten, Kompass und andere Instrumente ab –, sondern das Ergebnis fundierter Kenntnisse über Winde, Schneewehen und das Verhalten von Tieren, von Sternen, Gezeiten und Meeresströmungen. Die Inuit sind Meister der Wahrnehmung.

Oder zumindest waren sie das einmal. Mit der Jahrtausendwende veränderte sich die Inuit-Kultur. Im Jahr 2000 lockerte die US-Regierung viele Beschränkungen bei der zivilen Nutzung des Satelliten-Navigationssystems GPS. Trotz sinkender Preise verbesserte sich die Genauigkeit der GPS-Geräte weiter. Die Igloolik-Jäger die ihre Hundeschlitten bereits gegen Schneemobile eingetauscht hatten, verließen sich bei ihren Touren zunehmend auf computergenerierte Landkarten und Wegbeschreibungen. Junge Inuit waren besonders begeistert von dieser neuen Technologie. Früher musste ein junger Jäger eine lange und beschwerliche Ausbildungszeit bei älteren Jägern durchlaufen, um seine Orientierungsfähigkeiten im Laufe vieler Jahre zu entwickeln. Durch die Anschaffung eines billigen GPS-Empfängers konnte er das Training überspringen und die Verantwortung für die Navigation einem Gerät übergeben. Außerdem konnte er bei Wetterbedingungen unterwegs sein, etwa bei dichtem Nebel, bei denen früher ein Jagdausflug unmöglich gewesen wäre. Im Vergleich mit der Leichtigkeit, Bequemlichkeit und Präzision automatischer Navigation wirkten die traditionellen Inuit-Techniken veraltet und mühselig.

Doch mit dem vermehrten Einsatz von GPS-Geräten bei den Igloolik mehrten sich auch die Berichte von schweren Jagdunfällen, die zu Verletzungen oder sogar Todesfällen führten. Als Ursache stellte sich häufig blindes Vertrauen in die Satelliten heraus. Wenn ein Empfänger kaputtgeht oder die Batterien einfrieren, verirrt sich ein Jäger ohne starke Orientierungsfähigkeiten leicht in den leeren Weiten und erfriert. Doch selbst wenn die Geräte ordnungsgemäß funktionieren, können sie zur Gefahr werden. Die akribisch auf Satellitenkarten dargestellten Routen können bei Jägern zu einem Tunnelblick führen. Im Vertrauen auf die GPS-Anweisungen rasen sie über gefährlich dünnes Eis oder Klippen oder in andere umweltbedingte Gefahren, die ein erfahrener Navigator mit Vernunft und Voraussicht vermieden hätte. Einige dieser Probleme lassen sich durch Weiterentwicklungen der Navigationsgeräte oder bessere Einweisungen in ihren Gebrauch entschärfen. Für den Verlust »der Weisheit und des Wissens der Inuit«, wie ein Stammesältester es beschrieb, gilt dies jedoch nicht.2

Der Anthropologe Claudio Aporta von der Carleton University in Ottawa studiert die Inuit-Jäger seit Jahren. Er berichtet, die Satellitennavigation biete zwar attraktive Vorteile, aber ihre Verwendung habe bereits zu einem Abbau der Orientierungsfähigkeiten geführt, und im Allgemeinen habe sie das Gespür der Inuit für das Land geschwächt. Ein Jäger auf einem mit GPS ausgerüsteten Schneemobil achtet vor allem auf die Anweisungen des Computers und verliert dabei seine Umgebung aus dem Blick. Er fährt »mit verbundenen Augen«, wie Aporta es ausdrückte.3 Eine einzelne Fertigkeit, die ein ganzes Volk über Tausende von Jahren auszeichnete, könnte möglicherweise in nur ein oder zwei Generationen verlorengehen.

GÖTTIN DER SATELLITEN

Die Welt ist ein eigenartiger, unbeständiger und gefährlicher Ort. Sich in ihr zu bewegen verlangt von jedem Tier einige Anstrengung, geistig und körperlich. Seit ewigen Zeiten erschaffen Menschen Werkzeuge, um das Reisen zu erleichtern. Die Geschichte der Menschheit ist auch eine Geschichte von genialen Erfindungen, die uns die Bewegung in unserer Umgebung erleichterten und uns ermöglichten, immer größere und beängstigendere Entfernungen zurückzulegen, ohne uns zu verirren, verprügelt oder gefressen zu werden. Zuerst waren es einfache Landkarten und Wegmarkierungen, dann See- und Sternenkarten und Globen, später Lote, Quadranten, Astrolabien, Kompasse, Oktanten und Sextanten, Teleskope, Sanduhren und Chronometer. Entlang der Küstenlinien wurden Leuchttürme aufgestellt und Bojen in den Küstengewässern ausgesetzt. Straßen wurden geteert, Schilder aufgestellt, Autobahnen miteinander verbunden und nummeriert. Die meisten von uns müssen sich schon lange nicht mehr auf ihren Verstand verlassen, um sich zurechtzufinden.

GPS-Empfänger und andere automatisierte Karten- und Navigationsgeräte sind die neuesten Errungenschaften in unserem Navigationsrepertoire. Sie geben der alten Geschichte auch eine neue und besorgniserregende Wendung. Frühe Navigationshilfen, vor allem jene, die auch einfachen Leuten zugänglich waren, waren eben nur das: Hilfen. Sie sollten das Bewusstsein der Reisenden für die Umgebung erhöhen – ihren Orientierungssinn schärfen, sie rechtzeitig vor Gefahren warnen, auf nahe Orientierungspunkte hinweisen und ihnen allgemein dabei helfen, sich in gewohntem oder fremdem Terrain zurechtzufinden. Satelliten-Navigationssysteme können all das und mehr, aber sie sind nicht dafür gedacht, uns mit unserer Umgebung in Verbindung zu bringen. Sie sollen uns von der Notwendigkeit einer solchen Verbindung entheben. Sie übernehmen die Kontrolle über die mechanischen Aspekte der Navigation, sodass wir nur noch Routineanweisungen des Systems folgen müssen – in 500 Metern links abbiegen, bei der nächsten Ausfahrt die Autobahn verlassen, rechts halten, geradeaus fahren –, egal ob diese Anweisungen vom Armaturenbrett, vom Smartphone oder einem speziellen GPS-Empfänger kommen. Sie isolieren uns von unserer Umgebung. Forscher an der Cornell University schrieben im Jahr 2008: »Mit GPS muss man nicht mehr wissen, wo man ist und wo sich das Ziel befindet, man muss unterwegs nicht mehr auf typische Orientierungspunkte achten oder sich von anderen Leuten im Auto oder draußen helfen lassen.« Die Automatisierung der Orientierung »behindert bei der Durchreise das Erleben der physischen Welt«.4

Wie bei vielen anderen Geräten und Dienstleistungen, die unser Leben erleichtern, feierten wir auch die Einführung preisgünstiger GPS-Geräte. David Brooks, Journalist bei der New York Times, sprach vielen aus der Seele, als er im Jahr 2007 in einem Kommentar mit dem Titel »The Outsourced Brain« vom Navigationssystem in seinem neuen Auto schwärmte: »Ich entwickelte schnell romantische Gefühle für mein GPS. Ihre beruhigende Stimme tröstete mich. Ich fühlte mich geborgen und sicher, wenn ich ihrer dünnen blauen Linie folgte.« Seine »GPS-Göttin« hatte ihn von der alten »Plackerei« der Navigation »befreit«. Und dennoch gab er zähneknirschend zu, dass die Freiheit durch seine Armaturenmuse ihren Preis hatte: »Nach wenigen Wochen fiel mir auf, dass ich ohne sie nirgendwo mehr hin kam. Bei jeder Fahrt, außer den ganz alltäglichen, tippte ich die Adresse in ihr Gerät und folgte dann selig ihren satellitengesteuerten Anweisungen. Ich bemerkte, dass ich schnell die letzten Reste geographischen Wissens vergaß.« Der Preis für die Bequemlichkeit war, so Brooks, ein Verlust an »Autonomie«.5 Die Göttin war eine Sirene.

Computerkarten gelten meist als interaktive Hightech-Versionen der Papierkarten, doch diese Annahme ist falsch. Sie ist nur eine weitere Manifestation des Substitutionsmythos. Herkömmliche Landkarten geben uns einen Kontext. Sie bieten uns einen Überblick über ein Gebiet und verlangen von uns, dass wir unseren Standort bestimmen und dann die beste Route zu unserem nächsten Zwischenstopp planen. Ja, das erfordert etwas Arbeit – wie bei allen guten Werkzeugen –, aber durch diese geistige Anstrengung erschafft unser Gehirn seine eigene kognitive Landkarte des Gebietes. Forschungen haben ergeben, dass Kartenlesen die räumliche Orientierung verbessert und unsere Orientierungsfähigkeiten schärft – sodass wir uns selbst ohne Karte leichter zurechtfinden. Wir rufen dann unterbewusste Erinnerungen an Landkarten auf, um uns in einer Stadt zu orientieren und zu bestimmen, in welcher Richtung unser Ziel liegt. Bei einem aufschlussreichen Experiment fanden Forscher heraus, dass der Orientierungssinn am schärfsten ist, wenn man sich nach Norden ausrichtet – wie es auch bei Landkarten der Fall ist.6 Landkarten führen uns nicht nur von einem Ort zum nächsten; sie lehren uns räumliches Denken.

Von Computern mit Satellitenverbindung generierte Karten sind anders. Sie liefern in der Regel nur knappe räumliche Informationen und wenige Orientierungshinweise. GPS-Geräte verlangen nicht von uns, selbst herauszufinden, wo wir uns in einem Gebiet befinden, sondern sie setzen uns einfach in die Mitte der Karte und lassen die Welt sich dann um uns drehen. In dieser Miniaturparodie des präkopernikanischen Universums können wir uns zurechtfinden, ohne zu wissen, wo wir sind, wo wir waren oder in welche Richtung wir uns bewegen. Wir brauchen nur eine Adresse oder eine Kreuzung, den Namen eines Gebäudes oder eines Ladens, um die Berechnungen des Gerätes in Gang zu setzen. Julia Frankenstein, eine deutsche Kognitionspsychologin, die den Orientierungssinn des Gehirns untersucht, hält es für wahrscheinlich, dass »wir umso weniger kognitive Landkarten aufbauen, je mehr wir uns auf Technologie verlassen, um uns zurechtzufinden«. Sie erklärt, unsere Gehirne bekämen nicht das nötige Rohmaterial, um detaillierte Erinnerungen an Orte zu bilden, weil computergestützte Navigationssysteme nur »nackte Weginformationen bieten, ohne den räumlichen Kontext des gesamten Gebietes. [...] Wenn man mit diesen wenigen Informationen eine kognitive Landkarte entwickeln will, ist das so, als wollte man ein komplettes Musikstück mit ein paar wenigen Noten komponieren.«7

Andere Wissenschaftler teilen diese Meinung. Eine britische Studie ergab, dass Fahrer, die Landkarten aus Papier benutzten, stärkere Erinnerungen an Routen und Orientierungspunkte entwickelten als jene, die sich auf die schrittweisen Anweisungen eines Satellitensystems verließen. Am Ende einer Fahrt konnten die Benutzer der Landkarten ihre Routen präzise und detailliert skizzieren. Diese Resultate, berichteten die Forscher, »deuteten stark darauf hin, dass die Benutzung eines Auto-Navigationssystems sich negativ auf die Ausbildung der kognitiven Landkarten der Fahrer auswirkt«.8 Eine Studie mit Fahrern, die an der Universität von Utah durchgeführt wurde, fand Beweise für »Unaufmerksamkeitsblindheit« bei GPS-Nutzern, die deren »Orientierungsleistung« beeinträchtigte sowie ihre Fähigkeit, visuelle Erinnerungen an ihre Umgebung zu bilden.9 GPS-nutzende Fußgänger spüren anscheinend dieselben Auswirkungen. Bei einem Experiment aus Japan ließen Forscher mehrere Menschen zu verschiedenen Zielen in einer Stadt gehen. Die Hälfte der Testpersonen erhielt ein tragbares GPS-Gerät; die anderen benutzten Landkarten auf Papier. Jene mit den Landkarten wählten die direkteren Wege, mussten weniger Pausen einlegen und erinnerten sich deutlicher daran, wo sie gewesen waren, als die Testpersonen mit den Geräten. Ein früheres Experiment, bei dem deutsche Fußgänger einen Zoo erkundeten, lieferte ähnliche Resultate.10

Die Künstlerin und Designerin Sara Hendren erzählte von einer Geschäftsreise in eine ihr unbekannte Stadt und meinte zusammenfassend, wie leicht es heute sei, von Computerkarten abhängig zu werden – und wie diese Abhängigkeit die Orientierungsfähigkeiten des Gehirns kurzschließen und die Entwicklung eines Orientierungssinns behindern könne. »Mir fiel auf, dass ich die Karten-App meines Telefons, mit gesprochenen Anweisungen, an mehreren Tagen hintereinander benutzte, um denselben kurzen Weg zwischen meinem Hotel und einem fünf Minuten entfernten Konferenzzentrum zurückzulegen«, erinnerte sie sich. »Ich schaltete tatsächlich vorsätzlich meine Wahrnehmung ab, auf die ich mich mein ganzes Leben lang verlassen hatte: Ich merkte mir keine Orientierungspunkte und ihre Lage zueinander mehr und auch nicht das Aussehen oder die Beschaffenheit von Straßen oder Ähnlichem.« Sie befürchtete, ihre »multimodale Empfänglichkeit und Erinnerung auszulagern« und ihre »sensorische Gesamterfahrung ihrer Reichhaltigkeit zu berauben«.11

DIE ORIENTIERUNG VERLIEREN

Die Geschichten von verwirrten Piloten, LKW-Fahrern und Jägern zeigen, welch schwerwiegende Konsequenzen der Verlust der Navigationsfähigkeiten haben kann. Die meisten von uns geraten auf ihren alltäglichen Fahrten, Fußwegen und anderen Fortbewegungen kaum in derartige Gefahrensituationen. Daraus ergibt sich eine offensichtliche Frage: Wen kümmert’s? Ist es wirklich wichtig, ob wir unseren Orientierungssinn behalten oder ihn an eine Maschine auslagern, solange wir an unserem Ziel ankommen? Ein Stammesältester der Inuit auf Igloolik beklagt vielleicht zu Recht die Einführung der GPS-Technologie als kulturelle Tragödie, aber wir, die wir in einem Land leben, das kreuz und quer von gut ausgezeichneten Straßen durchschnitten ist und in dem überall Tankstellen, Hotels und Supermärkte zu finden sind, haben uns bereits vor langer Zeit größere Navigationsleistungen abgewöhnt und die Fähigkeit dazu verloren. Unsere Wahrnehmung und Interpretationsfähigkeit, vor allem von naturbelassenem Gelände, hat bereits stark nachgelassen. Dann ist es doch wohl kein Problem, wenn wir diese Fähigkeiten weiter abbauen oder vollständig aufgeben, vor allem nicht, wenn uns einfachere Möglichkeiten zur Verfügung stehen.

Kulturell hat die Erhaltung unserer Navigationsfähigkeiten kaum noch Bedeutung für uns, aber persönlich sollte es uns trotzdem interessieren. Wir sind schließlich Geschöpfe der Erde. Wir sind keine abstrakten Punkte, die sich auf Computerbildschirmen entlang dünner blauer Linien bewegen. Wir sind echte Geschöpfe in echten Körpern an echten Orten. Es ist mühsam, einen Ort kennenzulernen, aber es führt zu Erfüllung und Wissen. Man empfindet es als persönlichen Erfolg und als Ausdruck der Unabhängigkeit, und man bekommt das Gefühl, am richtigen Ort zu sein, zu Hause, man ist nicht mehr nur ein Durchreisender. Egal, ob man nun auf einer Eisscholle Karibus jagt oder Schnäppchen in der Fußgängerzone, durch Orientierung wird aus Fremdheit Verbundenheit. Wir verziehen vielleicht das Gesicht, wenn Menschen von »Selbstfindung« sprechen, doch so leer und abgegriffen diese Redewendung auch ist, drückt sie doch unsere tiefe Überzeugung aus, dass wir untrennbar mit dem Ort verbunden sind, an dem wir sind. Wir können uns nicht einfach aus unserer Umgebung herauslösen, zumindest nicht ohne etwas Wichtiges zurückzulassen.

Ein GPS-Gerät erlaubt uns, mit minimalem Aufwand und Ärger von Punkt A zu Punkt B zu gelangen. Es macht unser Leben einfacher und verleiht uns, wie David Brooks es formulierte, ein dumpfes Glücksgefühl. Doch wenn wir es zu oft in Anspruch nehmen, beraubt es uns der Freude und der Befriedigung, die wir spüren, wenn wir die Welt um uns herum begreifen – und diese Welt zu einem Teil von uns machen. Der Anthropologe Tim Ingold von der Universität Aberdeen in Schottland unterscheidet zwischen zwei völlig unterschiedlichen Arten der Fortbewegung: Wegfinden und Transport. Das Wegfinden, erklärt er, entspricht »unserer ursprünglichen Art des Daseins«. Der Wegfinder taucht in die Landschaft ein, gewöhnt sich an ihre Beschaffenheit und ihre Erscheinung und erlebt »eine Form der Bewegung, bei der Handlung und Wahrnehmung eng miteinander verbunden sind«. Das Wegfinden wird zu »einem fortdauernden Wachstums- und Entwicklungsprozess, zur Selbsterneuerung«. Transport ist im Gegensatz dazu »weitgehend zielorientiert«. Es geht dabei weniger um Entdeckungen »auf einem Lebensweg« als um eine reine »Beförderung von Menschen und Waren von einem Ort zum andern, ohne etwas an ihrem Grundwesen zu verändern«. Beim Transport führt der Wegfinder keine wirklich sinnvolle Bewegung aus. »Er wird vielmehr bewegt und so zum Passagier im eigenen Körper.«12

Das Wegfinden ist aufwendiger und weniger effizient als der Transport und wurde deshalb zum Angriffsziel für die Automatisierung. »Wenn Sie ein Mobiltelefon mit Google Maps haben«, sagt Michael Jones, Manager im Geschäftsbereich Mapping bei Google, »können Sie sich an jedem Ort der Erde darauf verlassen, dass wir Ihnen sagen können, wie Sie einfach und sicher an Ihr Ziel gelangen.« Er verspricht: »Kein Mensch muss jemals wieder vom Weg abkommen.«13 Das klingt verlockend, als sei ein Grundproblem unserer Existenz für immer gelöst. Und es passt zur Zwangsvorstellung von Silicon Valley, man müsse das Leben der Menschen mithilfe von Software von jeder »Reibung« befreien. Aber je mehr man darüber nachdenkt, umso deutlicher wird, dass man nie irgendwo ankommen kann, wenn man sich nie der Möglichkeit stellt, sich zu verirren. Wenn man sich nie fragen muss, wo man ist, dann muss man es auch nie wissen. Darüber hinaus lebt man in einer ständigen Abhängigkeit, als Schutzbefohlener seines Telefons und dessen Apps.

Probleme führen zu Reibung in unserem Leben, aber Reibung kann auch zum Katalysator werden und uns zu bewusster Wahrnehmung und tieferem Verständnis unserer Situation führen. »Wenn wir die Herausforderungen eines Ortes, den wir durchqueren wollen, mit allen Mitteln vermeiden«, bemerkte der Autor Ari Schulman in seinem New Atlantis-Essay »GPS and the End of the Road« im Jahr 2011, dann verschließen wir uns vor »der besten Möglichkeit, die wir haben, um diesen Ort in Besitz zu nehmen – und damit auch vor der Möglichkeit, an irgendeinem Ort wirklich zu sein.«14

Möglicherweise verschließen wir uns auch vor anderen Dingen. Neurowissenschaftler haben einige Durchbrüche bei der Erforschung erzielt, wie das Gehirn Raum und Orte wahrnimmt und erinnert, und diese Entdeckungen unterstreichen die entscheidende Rolle der Navigation beim Denken und Erinnern. In einer wegweisenden Studie untersuchten John O’Keefe und Jonathan Dostrovsky in den frühen 1970er Jahren am University College London die Gehirne von Laborratten, die sich in einem geschlossenen Bereich bewegten.15 Sobald eine Ratte sich an den Raum gewöhnte, begannen einzelne Neurone in ihrem Hippocampus – einem Teil des Gehirns, der eine zentrale Rolle bei der Gedächtnisbildung spielt –, jedes Mal zu feuern, wenn das Tier an einer bestimmten Stelle vorbeikam. Diese auf Ortsangaben spezialisierten Neurone, denen die Wissenschaftler die Bezeichnung »Ortszellen« gaben und die inzwischen auch in den Gehirnen anderer Säugetiere, einschließlich Menschen, gefunden wurden, sind so etwas wie Wegmarkierungen, mit denen das Gehirn ein Territorium absteckt. Jedes Mal, wenn man einen neuen Ort betritt, sei es ein Marktplatz oder die Küche eines Nachbarn, wird das Gebiet rasch mit Ortszellen kartiert. Die Zellen, so O’Keefe, werden durch verschiedene Sinnessignale aktiviert, darunter visuelle, auditive und taktile Reize, »die ein Tier jeweils in einem bestimmten Teil der Umgebung wahrnimmt«.16

Erst im Jahr 2005 entdeckten norwegische Neurobiologen, unter der Leitung von Edvard und May-Britt Moser, eine andere Gruppe Neuronen, die bei der Kartierung, Vermessung und der Navigation von Raum beteiligt sind. Sie nannten sie »Gitterzellen«. Diese Zellen befinden sich im entorhinalen Kortex, einer Gehirnregion nahe des Hippocampus, und erzeugen im Gehirn ein präzises geographisches Gitter des Raumes, mithilfe von gleichmäßig verteilten, gleichseitigen Dreiecken. Die Mosers verglichen dieses Gitter mit einem Blatt Millimeterpapier im Kopf, auf dem die Bewegungen eines Tieres nachgezeichnet werden.17 Im Gegensatz zu den Ortszellen, die einzelne Orte abstecken, erzeugen Gitterzellen eine abstrakte Karte des Raumes, die unveränderlich bleibt, wohin das Tier auch geht, und so eine innere Ortsbestimmung ermöglicht. (Gitterzellen wurden in den Gehirnen mehrerer Säugetierarten gefunden; neuere Experimente mit ins Gehirn implantierten Elektroden weisen auf ihre Existenz auch in menschlichen Gehirnen hin.)18 Orts- und Gitterzellen arbeiten auf Basis von Signalen anderer Neuronen, die Art und Richtung von Bewegungen überwachen, zusammen und fungieren, wie der Wissenschaftsautor James Gorman es ausdrückte, »als natürliches Navigationssystem, das dafür sorgt, dass Tiere wissen, wo sie sind, wohin sie gehen und wo sie waren.«19

Neben ihrer Bedeutung für die Navigation sind die spezialisierten Zellen auch allgemein an der Gedächtnisbildung beteiligt, vor allem bei Erinnerungen an Ereignisse und Erfahrungen. O’Keefe, die Mosers und auch andere Wissenschaftler stellten inzwischen die Theorie auf, dass dieselben Systeme im Gehirn, die uns erlauben, uns in der Welt zu bewegen, auch die »mentalen Reisen« von Erinnerungen steuern. Im Jahr 2013 lieferten Edvard Moser und sein Kollege György Buzsáki in einem Artikel in der Zeitschrift Nature Neuroscience umfangreiche experimentelle Beweise, dass »der neuronale Mechanismus, der sich entwickelte, um die räumliche Beziehung zwischen Orientierungspunkten zu definieren, auch Verbindungen zwischen Objekten, Ereignissen und anderen Sachinformationen abbilden kann«. Aus diesen Verbindungen konstruieren wir die Erinnerungen unseres Lebens. Wahrscheinlich ist der Orientierungssinn des Gehirns – seine uralte, komplexe Art, Bewegungen durch den Raum zu planen und aufzuzeichnen – die entwicklungsgeschichtliche Quelle aller Erinnerungen.20

Besonders erschreckend ist die Vorstellung, diese Quelle könnte versiegen. Unser räumliches Vorstellungsvermögen wird mit zunehmendem Alter schlechter, und im schlimmsten Fall verlieren wir es vollständig.21 Eines der ersten und folgenreichsten Symptome von Demenzerkrankungen, einschließlich der Alzheimer-Krankheit, ist der Zerfall des Hippocampus und des entorhinalen Kortex, der zum Verlust räumlicher Erinnerungen führt.22 Betroffene vergessen, wo sie sind. Veronique Bohbot, eine forschende Psychiaterin und Gedächtnisexpertin an der McGill University in Montreal, führte einige Studien durch, um zu zeigen, dass die Art, wie Menschen ihre Navigationsfähigkeiten einsetzen, die Funktion und sogar die Größe des Hippocampus beeinflusst – und möglicherweise vor Gedächtnisverlust schützt.23 Je mehr man sich um den Aufbau kognitiver räumlicher Karten bemüht, umso stärker werden die zugrunde liegenden Erinnerungsschaltkreise. Sie können sogar graue Substanz im Hippocampus aufbauen – ein Phänomen, das für Taxifahrer in London dokumentiert ist –, ähnlich wie Muskelmasse durch körperliche Betätigung aufgebaut wird. Doch wenn man nur »wie ein Roboter« schrittweisen Anweisungen folgt, warnte Bohbot, wird »der Hippocampus nicht stimuliert«, und man wird möglicherweise anfälliger für Gedächtnisverlust.24 Bohbot befürchtet einen generellen Gedächtnisverlust und eine höhere Anfälligkeit für Demenzerkrankungen, wenn der Hippocampus bei der Orientierung zu wenig genutzt wird und verkümmert. »Es gibt viele gesellschaftliche Einflüsse, die zu einem Abbau des Hippocampus führen können«, erklärte sie in einem Interview. »In den nächsten zwanzig Jahren werden Demenzerkrankungen wahrscheinlich immer früher einsetzen.«25

Selbst wenn wir GPS-Geräte beim Fahren und Wandern regelmäßig einsetzen, müssen wir doch immer noch unseren eigenen Kopf einschalten, um uns in Gebäuden und an anderen Orten, die GPS-Signale nicht erreichen, zurechtzufinden. Das Gehirntraining durch die Navigation in Gebäuden, so die Theorie, erhält uns möglicherweise die Funktion unseres Hippocampus und verbundener neuronaler Schaltkreise. Dieses Argument mag vor wenigen Jahren noch beruhigend gewesen sein, doch heute ist es das nicht mehr. Hersteller von Software und Smartphones gieren heute nach immer mehr Daten über die Bewegungen der Menschen, um ihre Werbebotschaften und andere Nachrichten an den jeweiligen Aufenthaltsort anpassen zu können. Diese Firmen erweitern daher fieberhaft die Reichweite ihrer computergestützten Mapping-Programme auf Innenbereiche von Gebäuden, Flughäfen, Einkaufszentren und Bürogebäuden. Google hat bereits Tausende von Gebäudeplänen in seine Kartendienste integriert und schickt die Street-View-Fotografen bereits in Läden, Büros, Museen und sogar Klöster, um detaillierte Karten und Ansichten von geschlossenen Räumen anzufertigen. Anfang des Jahres 2013 erwarb Apple WiFiSlam, ein Unternehmen, das Innenbereiche kartierte und herausfand, wie man mit WLAN- und Bluetooth-Signalen, statt GPS-Übertragungen, den Aufenthaltsort einer Person bis auf wenige Zentimeter genau feststellen kann. Apple integrierte diese Technologie umgehend in die iBeacon-Funktion, die in iPhones und iPads eingebaut ist. iBeacon-Transmitter sind überall in Läden und anderen Räumen angebracht und fungieren als künstliche Ortszellen, die sich einschalten, sobald eine Person in Reichweite kommt. Sie sind die Vorläufer dessen, was in der Zeitschrift Wired als »Microlocation-Tracking« bezeichnet wurde.26

Die Kartierung der Innenräume wird unsere Abhängigkeit von der Computernavigation weiter erhöhen, und es wird noch weniger Gelegenheiten geben, uns auf eigene Faust zurechtzufinden. Wenn Head-up-Displays wie Google Glass verbreitet zum Einsatz kommen, werden wir jederzeit problemlos Zugang zu detaillierten Wegbeschreibungen haben. Wir werden, wie Michael Jones von Google es ausdrückte, von einem »ununterbrochenen Strom an Orientierungshilfen« überallhin gelotst werden.27 Google und Mercedes Benz arbeiten bereits gemeinsam an einer App, die ein Glass-Headset mit der GPS-Einheit im Armaturenbrett verbindet und, nach Angaben des Autoherstellers, eine »Tür-zu-Tür-Navigation« ermöglicht.28 Wenn die GPS-Göttin in unser Ohr flüstert oder ihre Signale auf unsere Netzhaut projiziert, werden unsere mentalen Kartierungsfähigkeiten kaum noch zum Einsatz kommen, wenn überhaupt.

Bohbot und andere Forscher weisen auf die Notwendigkeit weiterer Forschungen hin, bevor man mit Sicherheit sagen kann, ob der langfristige Einsatz von GPS-Geräten dem Gedächtnis schadet und die Gefahr von Senilität erhöht. Doch angesichts der neuen Erkenntnisse über die enge Verbindung zwischen Navigation, dem Hippocampus und dem Gedächtnis erscheint es absolut plausibel, dass unvorhergesehene und durchaus gesundheitsschädliche Konsequenzen auftreten können, wenn wir uns die Mühe sparen herauszufinden, wo wir sind und wohin wir gehen. Mithilfe unseres Gedächtnisses erinnern wir uns nicht nur an vergangene Ereignisse, sondern es ermöglicht uns außerdem, vernünftig auf aktuelle Ereignisse zu reagieren und vorauszuplanen. Daher verringert jeder Funktionsverlust des Gedächtnisses die Lebensqualität.

Die Evolution hat unseren Körper und unseren Geist in Hunderttausenden von Jahren an unsere Umgebung angepasst. Wir wurden, mit den Worten des englischen Dichters William Wordsworth, geformt:

Rolled round in earth’s diurnal course,

With rocks, and stones, and trees.

Die Automatisierung der Routenplanung entfernt uns von der Umwelt, die uns geformt hat. Sie bringt uns dazu, uns mit Symbolen auf Bildschirmen zu beschäftigen statt mit echten Dingen an echten Orten. Die Arbeit, von der unsere zuvorkommenden digitalen Gottheiten uns einreden wollen, sie sei reine Plackerei, könnte sich als unverzichtbar für unsere Fitness, unser Glück und unsere Gesundheit erweisen. Daher ist die Frage Wen kümmert’s? wahrscheinlich die falsche. Stattdessen sollten wir uns fragen: Wie weit wollen wir uns von der Welt zurückziehen?

KREATIVE COMPUTER

Diese Frage beschäftigt Menschen, die Gebäude und öffentliche Plätze entwerfen, seit Jahren. Piloten waren die erste Berufsgruppe, die die Auswirkungen der Automatisierung durch Computer voll zu spüren bekam, doch Architekten und andere Planer waren die Nächsten. In den frühen 1960er Jahren erfand der junge Informatiker Ivan Sutherland am MIT Sketchpad, eine revolutionäre Zeichen- und Designsoftware, die als erstes Programm eine graphische Benutzerschnittstelle verwendete. Sketchpad ebnete den Weg für das computerunterstützte Konstruieren, CAD (Computer-Aided Design). Ab den 1980er Jahren gab es CAD-Programme auch für PCs, und daraufhin verbreiteten sich Designanwendungen, die die Erstellung zweidimensionaler Zeichnungen und dreidimensionaler Modelle automatisierten, rasant. Die Programme wurden schnell zum unverzichtbaren Arbeitsmittel für Architekten, ganz zu schweigen von Produktdesignern, Graphikern und Bauingenieuren. Wie William J. Mitchell, ehemaliger Dekan des Fachbereichs Architektur am MIT, bemerkte, war am Ende des Jahrhunderts »die Arbeit als Architekt ohne CAD-Technologie so unvorstellbar geworden wie das Schreiben ohne Textverarbeitungsprogramm«.29 Die neuen Software-Tools veränderten den Entwurfsprozess, den Charakter und den Stil der Entwürfe, und diese Entwicklung ist immer noch nicht abgeschlossen. Die jüngsten Entwicklungen in der Architektur zeigen den Einfluss der Automatisierung auf die kreative Arbeit.

Architektur ist eine elegante Tätigkeit. Sie verbindet das Streben nach Schönheit des Künstlers mit dem Auge des Handwerkers für Funktionalität und setzt gleichzeitig ein Gespür für finanzielle, technische und andere praktische Grenzen voraus. »Architektur steht an der Schnittstelle zwischen Kunst und Anthropologie, zwischen Gesellschaft und Wissenschaft, Technik und Geschichte«, erklärte der italienische Architekt Renzo Piano, der das Centre Pompidou in Paris und das New York Times Building in Manhattan entwarf. »Manchmal ist sie humanistisch und manchmal materialistisch.«30 Die Arbeit eines Architekten verbindet kreatives mit kalkulatorischem Denken, zwei Denkweisen, zwischen denen oft Spannungen entstehen, manchmal sogar echte Konflikte. Die meisten von uns verbringen die meiste Zeit in konstruierten Räumen – für uns fühlt sich die konstruierte Welt inzwischen natürlicher an als die Natur –, und daher übt die Architektur einen tiefgreifenden, wenn auch manchmal unbeachteten Einfluss auf uns aus, als Individuen und als Kollektiv. Gute Architektur steigert die Lebensqualität, schlechte oder mittelmäßige Architektur verringert oder reduziert sie. Selbst kleine Details, wie die Größe und Lage eines Fensters oder eines Luftschachts, können sich stark auf die Ästhetik, die Zweckmäßigkeit und die Effizienz eines Gebäudes auswirken – und damit auf den Komfort und die Stimmung der Menschen darin. »Wir formen unsere Gebäude«, bemerkte Winston Churchill, »und dann formen unsere Gebäude uns«.31

Computergenerierte Pläne können zwar zu Nachlässigkeit bei der Überprüfung der Abmessungen führen, aber in den meisten Fällen erhöhte die Designsoftware die Effizienz der Architekturbüros. CAD-Systeme haben die Herstellung von Konstruktionsplänen beschleunigt und vereinfacht und es den Architekten einfacher gemacht, ihre Pläne mit Klienten, Ingenieuren, Bauunternehmern und Ämtern zu teilen. Hersteller können heute anhand der CAD-Dateien der Architekten Roboter für die Herstellung von Bauteilen programmieren, was eine individuelle Anpassung der Materialien ermöglicht und gleichzeitig zeitaufwendige Dateneingaben und Kontrollen überflüssig macht. Die Systeme erlauben Architekten einen umfassenden Überblick über ein komplexes Projekt mit allen Grundrissen, Aufrissen und Materialien sowie den verschiedenen Systemen für Heizung und Klimatisierung, Elektrizität, Beleuchtung und Sanitärinstallationen. Die Auswirkungen einer Änderung am Entwurf werden sofort sichtbar. Früher, als die Pläne noch in großen Papierstapeln vorlagen, war das nicht möglich. Architekten nutzen die Fähigkeit eines Computers, alle möglichen Variablen in seine Berechnungen miteinzubeziehen, um mit hoher Genauigkeit die Energieeffizienz ihrer Bauten unter vielerlei Umständen abzuschätzen, und decken so einen immer dringenderen Bedarf des Baugewerbes und der Gesellschaft insgesamt. Detaillierte 3-D-Renderings und Computeranimationen haben sich als Visualisierungsmittel für Außen- und Innenansichten eines Gebäudes ebenfalls als außerordentlich wertvoll erwiesen. Nun können Kunden lange vor Baubeginn durch die Gebäude geführt werden.

Neben dem praktischen Nutzen bieten die Geschwindigkeit und Präzision der CAD-Berechnungen und -Visualisierungen Architekten und Ingenieuren die Möglichkeit, mit neuen Formen und Materialien zu experimentieren. Gebäude, die einst nur in der Phantasie existierten, werden heute gebaut. Das Experience Music Project von Frank Gehry, ein Museum in Seattle, das aussieht wie eine Wachsfigurensammlung, die in der Sonne schmilzt, würde ohne Computer heute nicht existieren. Zwar stellte Gehry seinen Originalentwurf als physisches Modell aus Holz und Pappe her, doch die Übertragung der aufwendigen, fließenden Formen des Modells in Konstruktionspläne war von Hand nicht möglich. Dazu brauchte er ein leistungsstarkes CAD-System – das ursprünglich von der französischen Firma Dassault für den Entwurf von Düsenjets entwickelt worden war –, mit dem er das Modell einscannen und die skurrilen Formen in Zahlen umrechnen konnte. Auch die Herstellung der Materialien musste automatisiert werden, weil sie so unterschiedlich und eigenartig geformt waren. Mehrere Tausend exakt zugeschnittene Bauteile für die Stahl- und Aluminium-Fassade des Museums wurden nach Maßangaben hergestellt, die das CAD-Programm berechnet und direkt an das computergesteuerte Produktionssystem übertragen hatte.

Gehry arbeitet schon lange an den technischen Grenzen der Architektur, dennoch pflegt er eine zunehmend archaische Arbeitsweise, stellt Modelle von Hand selbst her. Junge Architekten werden immer geschickter bei Entwürfen und Modellen am Computer, und die CAD-Software wurde zunehmend von einem Werkzeug, mit dem man Entwürfe in Pläne umsetzen konnte, zu einem Werkzeug für die Erstellung der Entwürfe selbst. Das zunehmend beliebte parametrische Konstruieren, bei dem mit Algorithmen formale Beziehungen zwischen verschiedenen Designelementen hergestellt werden, stellt die Rechenleistung des Computers ins Zentrum des kreativen Prozesses. Mit tabellenartigen Formularen oder per Skriptprogrammierung füttert ein Architekt-Programmierer mathematische Regeln oder Parameter in einen Computer – etwa das Verhältnis von Fenstergröße zur Grundfläche oder die Vektoren einer gekrümmten Oberfläche – und lässt die Maschine den Entwurf ausgeben. Wenn diese Technik ganz konsequent angewendet wird, kann die Gestalt eines Gebäudes durch Algorithmen automatisch erzeugt werden, statt wie bisher von Hand durch den Architekten.

Wie so oft bei neuen Konstruktionsmethoden entstand auch durch das parametrische Konstruieren ein neuer Architekturstil, der Parametrizismus. Der Parametrizismus ist inspiriert von den geometrischen Komplexitäten digitaler Animation und dem frenetischen, sterilen Kollektivismus sozialer Netzwerke. Er bevorzugt frei fließende Assemblagen von barocken, futuristischen Formen vor der Regelmäßigkeit der klassischen Architektur. Einige Traditionalisten halten den Parametrizismus für eine geschmacklose Modeerscheinung und lehnen die Bauten, mit den Worten des New Yorker Architekten Dino Marcantonio, als »kaum mehr als mit minimalem Aufwand am Computer erzeugte Kleckse« ab.32 In einer gemäßigteren Kritik, die im New Yorker erschien, schrieb der Architekturjournalist Paul Goldberger, die »Schwünge, Bögen und Windungen« digitaler Konstruktionen seien zwar teilweise ansprechend, doch ihnen »fehlt häufig jeglicher Bezug zu irgendetwas außerhalb ihrer eigenen, computergenerierten Realität«.33 Doch einige jüngere Architekten sehen im Parametrizismus, gemeinsam mit anderen Formen des »computergestützten Entwerfens«, die bestimmende Architekturform unserer Zeit, das Energiezentrum des Berufsstandes. Bei der Architektur-Biennale 2008 in Venedig veröffentlichte Patrik Schumacher, einer der Leiter des einflussreichen Architekturbüros Zaha Hadid in London, ein »Manifest des Parametrizismus«, in dem er verkündete, der »Parametrizismus ist der neue große Stil nach dem Modernismus«. Dank der Computer, sagte er, bestünden die neuen Bauwerke weltweit bald aus »ausstrahlenden Wellen, fließenden Flächen und spiralförmigen Wirbeln«, die an »Flüssigkeiten in Bewegung« erinnerten, und »Gebäudeschwärme« würden »über die Landschaft ziehen«, gemeinsam mit »dynamischen Schwärmen menschlicher Körper«.34

Unabhängig davon, ob diese harmonischen Schwärme jemals auftreten werden, verdeutlicht die Kontroverse um parametrische Entwürfe den Gewissenskampf, der seit der Ankunft von CAD in der Architektur tobt. Von Anfang an war die überstürzte Einführung der Designsoftware von Ängsten und Zweifeln überschattet. Viele weltweit respektierte Architekten und Architekturlehrer warnten, blindes Vertrauen in Computer könne die Perspektive von Konstrukteuren einengen und ihr Talent und ihre Kreativität erodieren. Renzo Piano räumt ein, Computer seien inzwischen »unverzichtbar« für die Arbeit von Architekten, aber auch er befürchtet, Konstrukteure könnten zu viel Arbeit der Software überlassen. Mithilfe der Automatisierung kann ein Architekt in kurzer Zeit präzise und scheinbar perfekte 3-D-Entwürfe herstellen, doch gerade weil die Maschine so schnell und exakt arbeitet, verkürzt sie den chaotischen und mühevollen Gestaltungsprozess, durch den die inspiriertesten und bedeutungsvollsten Entwürfe entstehen. Der scheinbare Reiz der Arbeit, wie sie auf dem Bildschirm erscheint, stellt sich später womöglich als Illusion heraus. »Computer sind inzwischen so clever«, sagt Piano, »dass sie ein bisschen an diese Klaviere erinnern, bei denen man nur einen Knopf drücken muss, damit sie Cha-Cha-Cha oder eine Rumba spielen. Man kann vielleicht gar nicht spielen, fühlt sich aber wie ein großer Pianist. In der Architektur ist es inzwischen genauso. Man glaubt, man müsse nur auf ein paar Knöpfe drücken und könne alles bauen. Aber bei der Architektur geht es ums Nachdenken und auch um Langsamkeit. Man braucht Zeit. Computer machen alles sehr schnell, das ist schlecht.«35 Der Architekt und Kritiker Witold Rybczynski argumentiert ähnlich. Er lobt die großen technischen Fortschritte, die seinen Beruf in den letzten Jahren verändert haben, doch auch er meint, »die hohe Produktivität der Computer hat ihren Preis – man verbringt mehr Zeit am Bildschirm, und weniger mit Denken.«36

ABGETRENNTE HÄNDE

Architekten betrachteten sich schon immer als Künstler, und vor CAD war das Zeichnen der Quell ihrer Kunst. Eine Handskizze erfüllt wie ein Rendering vor allem eine kommunikative Funktion. Sie liefert einem Architekten ein überzeugendes, visuelles Mittel, um die Idee für einen Entwurf mit einem Kunden oder Kollegen zu teilen. Doch das Zeichnen dient nicht nur als Ausdrucksmittel für Gedanken; es ist eine Art zu denken. »Ich kann mir nichts vorstellen, ohne es zu zeichnen«, sagt der modernistische Architekt Richard MacCormac. »Das Zeichnen bietet mir die Gelegenheit für Kritik und Entdeckungen.«37 Das Zeichnen schafft eine Verbindung zwischen dem Abstrakten und dem Greifbaren. »Zeichnungen sind nicht nur Endprodukte: Sie sind Teil des Denkprozesses bei architektonischen Entwürfen«, erklärt Michael Graves, der berühmte Architekt und Produktgestalter. »Zeichnungen sind Ausdruck der Interaktion unserer Gedanken, unserer Augen und Hände.«38 Der Philosoph Donald Schön drückte es wohl am besten aus, als er schrieb, ein Architekt führe »ein reflektierendes Gespräch« mit seinen Zeichnungen, ein Gespräch, das durch seine physische Qualität gleichzeitig ein Dialog mit den Baumaterialien ist.39 Durch das Hin und Her, das Geben und Nehmen zwischen Hand, Auge und Denken entsteht eine Idee, ein kreativer Funke beginnt seine lange Reise aus der Vorstellungskraft in die Welt.

Studien über die kognitiven Prozesse beim Zeichnen und dessen Auswirkungen bestätigen das intuitive Gefühl erfahrener Architekten für die zentrale Bedeutung des Zeichnens beim kreativen Denken. Skizzen auf Papier vergrößern den Arbeitsspeicher im Gehirn, sodass ein Architekt viele verschiedene Entwurfsmöglichkeiten und -varianten im Kopf behalten kann. Gleichzeitig verlangt der Zeichenprozess einen starken visuellen Fokus und bewusste Muskelbewegungen und unterstützt so das Langzeitgedächtnis. Durch das Zeichnen kann sich ein Architekt besser an frühe Skizzen und die Ideen dahinter erinnern, während er neue Möglichkeiten ausprobiert. »Wenn ich etwas zeichne, kann ich mich daran erinnern«, erklärt Graves. »Das Zeichnen erinnert mich an die Idee, die mich überhaupt erst auf die Zeichnung brachte.«40 Beim Zeichnen kann ein Architekt auch schnell zwischen verschiedenen Detail- und Abstraktionsgraden wechseln, einen Entwurf gleichzeitig aus vielen verschiedenen Blickwinkeln betrachten und die Implikationen von Änderungen im Detail für die Gesamtstruktur abwägen. Der britische Designwissenschaftler Nigel Cross schrieb in seinem Buch Designerly Ways of Knowing, das Zeichnen sei für einen Architekten nicht nur ein Schritt auf dem Weg zum endgültigen Entwurf, sondern auch eine Möglichkeit, ein Problem in seine Einzelteile zu zerlegen: »Skizzen bestehen nicht nur aus Zeichnungen erster Lösungsansätze, sondern enthalten auch Zahlen, Symbole und Text, mit denen der Designer das, was er über das Designproblem weiß, mit der späteren Lösung in Verbindung setzt. Durch das Zeichnen schreiten die Erkundungen des Problemraums und des Lösungsraums gemeinsam voran.« In den Händen eines talentierten Architekten wird ein Skizzenblock, laut Cross, zu »einem Intelligenzverstärker«.41

Zeichnen ist Denken mit den Händen. Es ist sowohl eine taktile als auch eine zerebrale Tätigkeit, an der die Hände ebenso beteiligt sind wie das Gehirn. Beim Zeichnen werden die versteckten Vorräte impliziten Wissens im Gehirn angezapft, ein geheimnisvoller Vorgang, der entscheidend für jedes künstlerische Schaffen ist und der bewusst nur schwer in Gang zu setzen ist, wenn überhaupt. »Designwissen ist Handlungswissen«, bemerkte Schön, und »es ist überwiegend unbewusst«. Konstrukteure »können am besten (oder ausschließlich) auf ihr Handlungswissen zugreifen, indem sie sich selbst in einen Handlungsmodus versetzen.«42 Auch beim Konstruieren mit einer Software auf einem Computerbildschirm befindet man sich in einem Handlungsmodus, aber einem anderen. Dabei wird der formale Aspekt der Arbeit betont – man durchdenkt logisch die funktionellen Anforderungen an ein Gebäude und überlegt, wie man die verschiedenen architektonischen Elemente am besten kombinieren kann, um diese zu erfüllen. Der Computer reduziert die Beteiligung der Hand, dieses »Werkzeugs aller Werkzeuge«, wie Aristoteles sie bezeichnete, umgeht so die körperliche Seite der Aufgabe und engt das Wahrnehmungsfeld des Architekten ein. Statt der organischen, räumlichen Figuren, die aus seiner Bleistiftspitze oder einem Stück Kohle fließen, liefert die CAD-Software, »symbolische, prozesstechnische Präsentationen«, die »im Hinblick auf das eigentliche Designphänomen immer unvollständig oder inadäquat sind«.43 Ebenso wie der GPS-Bildschirm den Inuit-Jäger unempfindlich für die schwachen, aber üppigen Sinnessignale der arktischen Umwelt machen, so beschränkt der CAD-Bildschirm die Wahrnehmung des Architekten und seinen Sinn für die Körperlichkeit seiner Arbeit. Die Welt tritt in den Hintergrund.

Im Jahr 2012 fand an der Yale School of Architecture ein Symposium statt unter dem Motto »Is Drawing Dead?«. Das provokante Motto drückt den zunehmenden Eindruck aus, dass die Handskizzen der Architekten durch Computer überflüssig werden. Der Übergang vom Skizzenblock zum Bildschirm führt nach Ansicht vieler Architekten zu einem Verlust an Kreativität und Abenteuerlust. Die Renderings sind scheinbar so präzise und vollständig, dass sich ein Konstrukteur, der am Computer arbeitet, öfter visuell und kognitiv bereits in einem frühen Entwicklungsstadium auf einen Entwurf festlegt. So geht viel von der effektiven und entdeckerischen Spielfreude verloren, die aus dem vorsichtigen Herantasten und der Mehrdeutigkeit beim Zeichnen entsteht. Wissenschaftler bezeichnen dieses Phänomen als »vorzeitige Festlegung« und sehen die Ursache in »negativen Anreizen für Entwurfsänderungen, wenn viele vernetzte Details zu schnell in ein CAD-Modell integriert werden.«44 Ein Konstrukteur am Computer bevorzugt außerdem häufig formale Experimente vor Ausdruckskraft. CAD-Software schwächt die »persönliche, emotionale Verbindung« eines Architekten zu seiner Arbeit, behauptet Michael Graves. So entstünden Entwürfe, die »zwar komplex und auf ihre Art interessant sind«, denen aber oft »der emotionale Gehalt eines Entwurfes aus Handarbeit fehlt«.45

Der angesehene finnische Architekt Juhani Pallasmaa argumentiert in seinem eloquenten Buch The Thinking Hand ähnlich. Er schreibt, die zunehmende Abhängigkeit von Computern erschwere es Architekten, sich die menschlichen Qualitäten ihrer Gebäude vorzustellen – ihre unfertigen Arbeiten so zu bewohnen, wie später Menschen die fertigen Gebäude bewohnen werden. Im Gegensatz dazu hätten Skizzen und Modelle von Hand »dieselbe Körperlichkeit wie das Entwurfsobjekt und der Architekt selbst«. Berechnungen und Bilder vom Computer existierten jedoch »in einer mathematisierten und abstrakten körperlosen Welt«. Pallasmaa glaubt, »die falsche Präzision und scheinbare Endlichkeit eines computergenerierten Bildes« störe das ästhetische Empfinden eines Architekten und führe zu technisch beeindruckenden, aber emotional sterilen Entwürfen. Wenn man mit Fehler oder Bleistift zeichnet, schreibt er, »folgt die Hand den Umrissen, den Formen und Mustern des Objekts«, doch wenn man ein simuliertes Bild per Software bearbeitet, »wählt die Hand üblicherweise Linien aus einer vorgegebenen Menge von Symbolen aus, die keine analoge – und dadurch auch keine haptische oder emotionale – Beziehung zum Objekt haben«.46

Die Kontroverse über den Einsatz von Computern in Konstruktionsberufen wird weitergehen, und jede Seite wird überzeugende Beweise und Argumente vorlegen. Auch bei der Designsoftware wird es weitere Fortschritte geben, die vielleicht einige Einschränkungen existierender Tools beheben. Doch was die Zukunft auch bringen mag, die Erfahrung von Architekten und anderen Designern macht deutlich, dass ein Computer niemals ein neutrales Werkzeug ist. Er beeinflusst, positiv oder negativ, wie ein Mensch arbeitet und denkt. Ein Softwareprogramm folgt bestimmten Abläufen, durch die manche Arbeitsvorgänge einfacher werden, andere schwieriger, und der Benutzer des Programms passt sich diesen Abläufen an. Der Charakter und die Ziele der Arbeit werden von den Fähigkeiten der Maschine geprägt, ebenso wie die Standards, nach denen die Arbeit beurteilt wird. Wenn ein Konstrukteur oder Handwerker (oder auch jeder andere) zu abhängig von einem Programm wird, nimmt er oder sie auch die Vorurteile des Urhebers des Programms an. Mit der Zeit wird das, was die Software kann, immer mehr geschätzt, und alles, was sie nicht kann, als unwichtig, irrelevant oder einfach unvorstellbar abgetan. Wer sich nicht anpasst, riskiert, an den Rand seiner Profession abgedrängt zu werden.

Abgesehen von den Spezifikationen des Programms führt auch die Übertragung einer Arbeit aus der Welt auf den Bildschirm zu tiefgreifenden Veränderungen bei der Perspektive. Abstraktion wird wichtiger, Körperlichkeit unwichtiger. Die Rechenleistung wächst; die sinnliche Beteiligung nimmt ab. Das Präzise und Eindeutige hat Vorrang vor dem vorsichtig Tastenden und Mehrdeutigen. E. J. Meade, Mitgründer von Arch11, einem kleinen Architekturbüro in Boulder, Colorado, schätzt die Effizienz von Designsoftware, befürchtet aber, beliebte Programme wie Revit und SketchUp könnten zu reglementierend werden. Ein Designer muss nur die Abmessungen einer Wand, eines Bodens oder einer anderen Oberfläche eingeben, und die Software berechnet nach nur einem Mausklick alle Details, zeichnet automatisch jede Bohle und jeden Betonblock, jede Kachel, alle Stützpfeiler, die Isolierung, den Mörtel, den Gips oder was auch immer. Meade glaubt, dadurch würden die Arbeits- und Denkweisen der Architekten vereinheitlicht und die Gebäude, die sie entwerfen, vorhersagbarer. »Wenn man in den 1980er Jahren durch Architekturzeitschriften blätterte«, erzählte er mir, »erkannte man den Stil der einzelnen Architekten«. Heute erkennt man vor allem die Funktionsweise der Software: »Das Endprodukt ist von der Technik gekennzeichnet.«47

Wie die Mediziner befürchten auch viele erfahrene Konstrukteure, durch die zunehmende Abhängigkeit von automatisierten Tools und Arbeitsabläufen könne es für Studenten und Berufsanfänger schwieriger werden, die Feinheiten ihres Fachs zu lernen. Jacob Brillhart, Architekturprofessor an der Universität von Miami, glaubt, die einfachen Abkürzungen, die Programme wie Revit bieten, untergräben »den Ausbildungsprozess«. Wenn man die Software Entwurfsdetails und Materialangaben ergänzen lässt, »entstehen banale, faule und unspektakuläre Entwürfe, denen jeglicher Intellekt, jede Vorstellungskraft und jede Emotion fehlt«. Brillhart beobachtet außerdem, wiederum parallel zur Entwicklung in der Medizin, die Entstehung einer Cut-and-Paste-Kultur in seinem Metier, wenn junge Architekten »Details, Aufrisse und Wandsegmente aus alten Projekten vom Büroserver ziehen und neu zusammenstellen«.48 Die Verbindung zwischen Handeln und Wissen bricht ab.

In den kreativen Berufen besteht die Gefahr, dass Konstrukteure und Künstler sich von der übermenschlichen Schnelligkeit, der Präzision und der Effizienz des Computers blenden lassen und irgendwann selbstverständlich davon ausgehen, dass der automatische Weg der beste Weg ist. Sie werden den Kompromissen, welche die Software ihnen aufzwingt, zustimmen, ohne darüber nachzudenken. Sie werden den Weg des geringsten Widerstands wählen, auch wenn ein wenig Widerstand, ein wenig Reibung, das Beste aus ihnen herausgeholt hätte.

DAS DENKEN IM KÖRPER

»Um Schnürsenkel richtig zu verstehen«, bemerkte der Politologe und Motorradmechaniker Matthew Crawford, »muss man Schnürsenkel binden«. Crawford beschreibt diese einfache Veranschaulichung einer tiefen Wahrheit in seinem Buch Ich schraube, also bin ich aus dem Jahr 2009: »Wenn das Denken mit dem Tun verbunden ist, dann müssen wir Dinge in der Welt tun, um die Welt richtig zu begreifen.«49 Crawford stützt sich auf das Werk von Martin Heidegger, für den die tiefste Form von Verstehen, »nicht das nur noch vernehmende Erkennen [ist], sondern das hantierende, gebrauchende Besorgen, das seine eigene ›Erkenntnis‹ hat«.50

Oft wird von Wissensarbeit gesprochen, als unterscheide sie sich von, sei sogar inkompatibel mit manueller Arbeit – zugegebenermaßen habe ich das in diesem Buch auch schon gesagt –, aber die Unterscheidung ist selbstgefällig und weitgehend unseriös. Jede Arbeit ist Wissensarbeit. Das Gehirn eines Zimmermanns wird bei der Arbeit ebenso in Anspruch genommen wie das des Autors bei seiner Arbeit. Die Leistungen eines Architekten sind ebenso ein Produkt von Körper und Sinnen wie die eines Jägers. Für uns gilt dasselbe wie für alle anderen Tiere: Das Denken ist nicht im Schädel eingeschlossen, sondern zieht sich durch den gesamten Körper. Wir denken nicht nur mit unserem Gehirn, sondern auch mit unseren Augen und Ohren, mit Nase und Mund, Gliedern und Rumpf. Wenn wir mit Werkzeugen unsere Reichweite erhöhen, denken wir auch mit ihnen. »Das Denken, oder der Wissenserwerb, hat sehr viel weniger mit im Sessel sitzen zu tun, als oft angenommen wird«, schrieb der amerikanische Philosoph und Sozialreformer John Dewey im Jahr 1916. »Hände und Füße, Apparate und Geräte aller Art gehören ebenso dazu, wie Veränderungen im Gehirn.«51 Handeln bedeutet Denken, und Denken bedeutet Handeln.

Unser Wunsch, unsere Gedanken von körperlichen Anstrengungen zu trennen, zeigt, welch großen Einfluss der cartesianische Dualismus immer noch auf uns hat. Wenn wir ans Denken denken, verorten wir es schnell in unserem Gehirn, und damit in unserem Selbst, in der grauen Substanz in unserem Schädel, und betrachten den Rest unseres Körpers als mechanisches Lebenserhaltungssystem, das die neuronalen Schaltkreise mit Energie versorgt. Diese dualistische Sicht von Körper und Geist, die unabhängig voneinander funktionieren, ist keine reine Einbildung von Philosophen wie Descartes und dessen Vorgänger Plato, sondern sie scheint eine Nebenwirkung des Bewusstseins selbst zu sein. Der Großteil der geistigen Arbeit findet zwar hinter den Kulissen statt, in den Tiefen unseres Unterbewusstseins, doch wir nehmen nur das kleine, hell erleuchtete Fenster wahr, das unser Bewusstsein für uns öffnet. Und unser Bewusstsein erzählt uns hartnäckig, es habe mit dem Körper nichts zu tun.

Diese Illusion entsteht nach Ansicht des Psychologieprofessors Matthew Lieberman von der UCLA dadurch, dass wir, wenn wir über unseren Körper nachdenken, auf einen anderen Teil des Gehirns zurückgreifen, als wenn wir über unser Denken nachdenken. »Wenn man über den Körper und die Handlungen des Körpers nachdenkt, benutzt man eine präfrontale Seitenregion an der Oberfläche der rechten Gehirnhälfte«, erklärt er. »Wenn man hingegen über das Denken nachdenkt, benutzt man eine andere präfrontale Seitenregion in der Mitte unseres Gehirns, wo sich die beiden Gehirnhälften berühren.« Wenn Erfahrungen in unterschiedlichen Bereichen des Gehirns verarbeitet werden, geht unser Bewusstsein davon aus, dass diese Erfahrungen zu unterschiedlichen Kategorien gehören. Zwar spiegele die »eingebaute Illusion« des Dualismus von Körper und Geist nicht die tatsächliche »Aufteilung der Natur« wider, betont Lieberman, aber dennoch ist diese Version »eine unmittelbare psychologische Realität vor uns«.52

Je mehr wir über uns selbst herausfinden, umso mehr bemerken wir, wie irreführend diese spezielle »Realität« ist. Derzeit forschen Psychologen und Neurowissenschaftler zum höchst interessanten und aufschlussreichen Thema »Verkörperte Kognition«. Heutige Wissenschaftler und Gelehrte bestätigen John Deweys Erkenntnisse aus dem letzten Jahrhundert: Das Gehirn und der Körper bestehen nicht nur aus derselben Materie, sie sind auch weit enger miteinander verwoben, als bisher angenommen. Die biologischen Prozesse, die zum »Denken« führen, bestehen nicht nur aus neutralen Berechnungen im Schädel, sondern auch aus Handlungen und Sinneseindrückem des ganzen Körpers. Andy Clark, Philosoph an der Universität von Edinburgh, der zahlreiche Schriften zum Thema »Verkörperte Kognition« verfasst hat, erklärt: »Es gibt deutliche Hinweise darauf, dass die Gesten, die wir beim Sprechen machen, die kognitive Last des Gehirns senken, und dass die Biomechanik der Muskeln und Sehnen der Beine das kontrollierte Gehen deutlich vereinfachen.«53 Neue Forschungen haben gezeigt, dass die Netzhaut kein passiver Sensor ist, der Rohdaten an das Gehirn schickt, wie man einst annahm; sie beeinflusst aktiv, was wir sehen. Das Auge hat seinen eigenen Grips.54 Selbst bei abstrakten Überlegungen scheint die Sensorik und Motorik des Körpers beteiligt zu sein. Wenn wir in abstrakten oder metaphorischen Begriffen über Objekte oder Phänomene in der Welt nachdenken – Äste von Bäumen etwa oder Windböen –, vollziehen wir unsere physische Erfahrung mit diesen Dingen im Geist nach oder simulieren sie.55 »Für Wesen wie uns«, meint Clark, sind »Körper, Welt und Handlung Co-Architekten dieses schwer fassbaren Dinges, das wir als unseren Geist bezeichnen«.56

Wie die kognitiven Funktionen zwischen Gehirn, den Sinnesorganen und dem Rest des Körpers aufgeteilt sind, wird noch untersucht und debattiert, und manch extravagante Ansicht einiger Verfechter der verkörperten Kognition, wie etwa die Behauptung, unser Geist erstrecke sich über unseren Körper hinaus auf unsere Umgebung, bleiben umstritten. Klar ist jedoch, dass wir unser Denken genauso wenig von unserem Körper trennen können, wie wir unseren Körper von der Welt trennen können, die ihn erschuf. »Die menschliche Verkörperung wirkt sich auf alle Bereiche menschlicher Erfahrung aus«, schreibt der Philosoph Shaun Gallagher. »Von den einfachsten Wahrnehmungs- und Gefühlsprozessen, die bereits im Säuglingsalter stattfinden, bis zu einer anspruchsvollen Interaktion mit anderen Menschen; von Spracherwerb und -verwendung bis zu höheren kognitiven Fähigkeiten, die Urteilsvermögen und metaphorisches Denken voraussetzen; von der Ausübung des freien Willens bei gezielten Handlungen bis zur Schöpfung kultureller Artefakte, die andere Menschen zu weiteren Schöpfungen anregen.«57

Die Vorstellung einer verkörperten Kognition erklärt das erstaunliche Talent der Menschen für Technik, behauptet Gallagher. Wenn sie auf die Umgebung eingestellt sind, fügen Körper und Gehirn Werkzeuge und andere Artefakte rasch in unsere Gedankenprozesse ein – sodass Dinge, neurologisch, als Teil unserer selbst behandelt werden. Wenn man mit einem Stock geht, mit einem Hammer arbeitet oder einem Schwert kämpft, nimmt unser Gehirn das Werkzeug in die neuronale Landkarte unseres Körpers auf. Diese Verschmelzung von Körper und Objekt im Nervensystem gibt es nicht nur bei Menschen. Affen graben mit Stöcken Ameisen und Termiten aus dem Boden, Elefanten schlagen mit entlaubten Ästen nach Stechmücken, Delphine schützen sich mit Schwammstücken vor Schrammen, wenn sie am Meeresboden nach Nahrung wühlen. Doch die überlegene Begabung des Homo sapiens für bewusstes Denken und Planen ermöglicht uns die Entwicklung spezieller Werkzeuge und Instrumente für viele Zwecke, mit denen wir unsere geistigen und physischen Kapazitäten erweitern. Die Menschheit hat von alters her die Neigung zur »kognitiven Hybridisierung«, wie Clark es nennt, dem Vermischen von Biologischem und Technischem, Innerem und Äußerem.58

Die Leichtigkeit, mit der wir Technologie zum Teil unserer selbst machen, kann uns auch in die Irre führen. Wir geben unseren Werkzeugen mehr Macht, als für uns gut ist. Eine besondere Ironie liegt in der Tatsache, dass Wissenschaftler immer mehr über die entscheidende Rolle von physischen Handlungen und Sinneswahrnehmungen bei der Entwicklung unserer Gedanken, Erinnerungen und Fähigkeiten herausfinden, doch gleichzeitig verbringen wir immer weniger Zeit aktiv in der Welt und arbeiten und leben immer mehr über das abstrakte Medium des Computerbildschirms. Wir entleiben uns selbst und schränken unsere Sinneswahrnehmungen ein. Mit dem universell einsetzbaren Computer haben wir perverserweise ein Werkzeug entwickelt, das uns die physische Freude der Arbeit mit Werkzeugen nimmt.

Der intuitive, aber fehlgeleitete Glaube, unser Intellekt arbeite unabhängig von unserem Körper, führt dazu, dass wir die Bedeutung der aktiven Beteiligung an der Welt der Dinge missachten. Dies erleichtert wiederum die Annahme, ein Computer – der allem Anschein nach ein künstliches Gehirn, eine »denkende Maschine« ist – sei ein ausreichendes und sogar überlegenes Werkzeug für Geistesarbeit. Michael Jones von Google geht davon aus, dass »Menschen heute etwa 20 IQ-Punkte klüger sind«, dank der Mapping-Tools und anderer Onlinedienste seiner Firma.59 Unser eigenes Gehirn macht uns glauben, wir würden nichts opfern, oder zumindest nichts Wichtiges, wenn wir uns beim Wegfinden von Ort zu Ort, beim Entwurf von Gebäuden oder bei anderer gedanklicher oder kreativer Arbeit auf Software-Skripts verlassen. Schlimmer noch, uns wird gar nicht bewusst, dass es Alternativen gibt. Wir ignorieren, dass Softwareprogramme und automatische Systeme so umgestellt werden könnten, dass sie unser Gespür für die Welt nicht schwächen, sondern sogar stärken. Forscher im Bereich Humanfaktoren und andere Experten für Automatisierung fanden heraus, dass man aus dem Glaskäfig ausbrechen kann, ohne die Vorteile, die Computer zu bieten haben, aufzugeben.

KAPITEL SIEBEN

AUTOMATISIERUNG FÜR DAS VOLK

Wer braucht Menschen eigentlich?

Diese Frage taucht häufig, in der einen oder anderen rhetorischen Form, in Diskussionen über Automatisierung auf. Wenn Computer so rasche Fortschritte machen und Menschen im Vergleich zu ihnen langsam, unbeholfen und fehleranfällig wirken, warum baut man dann keine vollkommen eigenständigen Systeme, die ohne jede menschliche Aufsicht oder Intervention fehlerlos funktionieren? Warum verzichtet man nicht gleich vollständig auf den Faktor Mensch? »Wir müssen die Roboter übernehmen lassen«, erklärte der Technikwissenschaftler Kevin Kelly in einem Wired-Leitartikel im Jahr 2013. Als Beispiel führte er die Luftfahrt an: »Ein Computergehirn, bekannt als Autopilot, kann einen 787-Jet eigenständig fliegen, aber irrationalerweise setzen wir ›nur für den Fall‹ Menschen als Babysitter für den Autopiloten ins Cockpit.«1 Die Nachricht, dass ein Mensch am Steuer des Google-Autos saß, das im Jahr 2011 einen Unfall hatte, veranlasste den Autor eines bekannten Technikblogs zu der Forderung: »Mehr Robo-Fahrer!«2 In einem Kommentar über die Schwierigkeiten an öffentlichen Schulen in Chicago schrieb der Journalist Andy Kessler vom Wall Street Journal, nur halb im Scherz: »Vielleicht sollte man die Lehrer einfach ganz weglassen und allen 404 151 Schülern ein iPad oder ein Android-Tablet geben.«3 Der angesehene Risikokapitalanleger im Silicon Valley, Vinod Khosla, behauptete im Jahr 2012 in einem Aufsatz, die Gesundheitsversorgung werde sich deutlich verbessern, wenn medizinische Software – die er »Dr. Algorithmus« nannte – die Hausärzte nicht mehr nur bei der Diagnosestellung unterstützte sondern die Ärzte vollständig ersetzte. »Irgendwann«, schrieb er, »werden wir keine normalen Ärzte mehr brauchen.«4 Das Heilmittel für die fehlerhafte Automatisierung ist die totale Automatisierung.

Ein verführerischer Gedanke, aber grob vereinfachend. Maschinen sind so fehlerhaft wie ihre Erschaffer. Früher oder später fällt auch jede fortschrittliche Technik aus, sie versagt oder, im Fall eines Computersystems, verschiedene Umstände treten gemeinsam auf, die die Entwickler und Programmierer nicht vorhergesehen haben und die den Algorithmus überfordern. Anfang des Jahres 2009, nur wenige Wochen vor dem Absturz der Continental-Connection-Maschine in Buffalo, fiel der Antrieb eines Airbus A320 von U. S. Airways vollständig aus, nachdem die Maschine nach dem Start vom Flughafen LaGuardia in New York in einen Gänseschwarm geflogen war. Der Kapitän Chesley Sullenberger und sein erster Offizier, Jeffrey Skiles, handelten schnell und besonnen und landeten nach drei qualvollen Minuten den flugunfähigen Jet sicher auf dem Hudson River. Alle Passagiere und Besatzungsmitglieder wurden evakuiert. Wäre der Pilot nicht als »Babysitter« an Bord des A320 gewesen, einem Flugzeug mit modernster Automatik, wäre der Jet abgestürzt, und höchstwahrscheinlich wären alle Menschen an Bord ums Leben gekommen. Dass bei einem Passagierjet alle Maschinen ausfallen, ist selten. Aber dass Piloten Flugzeuge vor mechanischen Fehlfunktionen, Funktionsstörungen des Autopiloten, schlechtem Wetter und anderen unerwarteten Ereignissen retten, ist nicht so selten. »Und immer wieder«, berichtete der Spiegel in einer Titelgeschichte im Jahr 2009 über Flugsicherheit, erlebten Piloten von Fly-by-Wire-Flugzeugen »neue böse Überraschungen, die keiner der Konstrukteure je vorhergesehen hat«.5

Dasselbe gilt auch in anderen Bereichen. Über das Unglück, das geschah, als ein Mensch den Prius von Google steuerte, wurde in der Presse ausführlich berichtet; doch von den vielen Malen, in denen menschliche Fahrer in Google-Autos und anderen automatischen Testfahrzeugen ans Lenkrad und Manöver ausführen müssen, die der Computer nicht schafft, hört man nichts. Laut Vorschrift bei Google müssen die Autos des Unternehmens von Menschen gesteuert werden, wenn sie durch Wohngebiete fahren, und jeder Angestellte, der mit einem dieser Fahrzeuge eine Runde drehen will, muss vorher ein strenges Fahrsicherheitstraining absolvieren.6 Das fahrerlose Auto ist also gar nicht so fahrerlos, wie es aussieht.

Im medizinischen Bereich müssen Ärzte und Pfleger oft falsche Anweisungen oder Vorschläge von Klinikcomputern außer Kraft setzen. In den Krankenhäusern stellte man fest, dass das automatische Medikamentenbestellsystem zwar manche häufige Fehler bei der Medikamentenausgabe reduzierte, aber für neue Probleme sorgte. Eine Krankenhausstudie aus dem Jahr 2011 ergab, dass es nach der Automatisierung des Systems sogar mehr Doppelbestellungen von Medikamenten gab als vorher.7 Auch die Diagnosesoftware ist von Perfektion noch weit entfernt. Dr. Algorithmus stellt zwar meistens die richtige Diagnose und schlägt die richtige Behandlung vor, aber wenn die Symptome in kein Wahrscheinlichkeitsprofil passen, ist man froh, wenn Dr. Mensch im Untersuchungszimmer sitzt und die Berechnungen des Computers überprüft und korrigiert.

Die Automatisierungstechnik wird immer komplizierter und immer vernetzter mit einer Unzahl von Querverbindungen und Abhängigkeiten zwischen Software-Anweisungen, Datenbanken, Netzwerkprotokollen, Sensoren und mechanischen Teilen, und so vervielfachen sich die potentiellen Fehlerquellen. Die Systeme werden anfällig für sogenannte »Folgefehler«, bei denen eine kleine Fehlfunktion in einer Komponente eine weitreichende und katastrophale Kettenreaktion auslöst. Unsere Welt besteht aus »voneinander abhängigen Netzwerken«, berichteten Physiker in einem Artikel der Zeitschrift Nature im Jahr 2010. »Diverse Infrastrukturen, etwa die Wasserversorgung, das Transportsystem, die Brennstoff- und Stromversorgung, sind miteinander verbunden« über elektronische oder andere Verbindungen. Dadurch wird das Gesamtsystem »extrem fehleranfällig«. Dies trifft sogar zu, wenn die Verbindungen nur zum Datenaustausch bestehen.8

Schwachstellen sind so außerdem schwerer aufzuspüren. Bei den Industriemaschinen der Vergangenheit, erklärt die Informatikerin Nancy Leveson vom MIT in ihrem Buch Engineering a Safer World, »konnten die Interaktionen zwischen den einzelnen Komponenten sorgfältig geplant, verstanden, vorausgesehen und Vorsichtsmaßnahmen ergriffen werden«. Das Gesamtsystem konnte gründlich getestet werden, bevor es zum Einsatz kam. »Modernen Hightech-Systemen fehlen diese Eigenschaften.« Bei diesen Maschinen ist es schwieriger, den »gedanklichen Überblick« zu behalten als bei ihren mechanischen Vorgängern.9 Selbst wenn die Einzelteile fehlerlos funktionieren, können kleine Fehler oder ein Versehen bei der Entwicklung – ein kleiner Bug, der vielleicht in Hunderttausenden Zeilen Programmcode versteckt ist – eine massive Störung auslösen.

Die Gefahren werden durch die unglaubliche Geschwindigkeit, mit der Computer Entscheidungen treffen und Aktionen auslösen, noch verstärkt. Das zeigte sich in einer haarsträubenden Stunde am Morgen des 1. August 2012, als das größte Handelsunternehmen an der Wall Street, die Knight Capital Group, ein neues automatisches Programm für den Aktienhandel in Betrieb nahm. In der hochmodernen Software steckte ein Fehler, der bei den Testläufen nicht aufgefallen war. Das Programm überflutete Börsen augenblicklich mit ungenehmigten und unsinnigen Ordern und handelte in jeder Sekunde mit Anteilen im Wert von 2,6 Millionen US-Dollar. In den 45 Minuten, die Mathematiker und Informatiker bei Knight brauchten, um die Ursache des Problems zu finden und das fehlerhafte Programm abzuschalten, führte die Software Fehlkäufe im Wert von sieben Milliarden US-Dollar durch. Die Firma verlor am Ende fast eine halbe Milliarde US-Dollar und stand am Rande des Bankrotts. Innerhalb einer Woche half ein Konsortium aus anderen Wall-Street-Firmen Knight aus der Klemme, um eine weitere Finanzkatastrophe zu verhindern.

Technik wird natürlich verbessert und Fehler werden korrigiert. Absolute Fehlerlosigkeit bleibt jedoch ein Ideal, das nie erreicht werden kann. Selbst wenn man ein perfektes automatisches System entwerfen und bauen könnte, würde es doch in einer unvollkommenen Welt arbeiten. Autonome Fahrzeuge fahren nicht auf den Straßen von Utopia. Roboter gehen ihrer Arbeit nicht in elysischen Fabriken nach. Gänseschwärme fliegen. Blitze schlagen ein. Der Glaube, man könne ein völlig selbständiges, absolut zuverlässiges automatisches System bauen, ist an sich schon ein Ausdruck von Automation Bias.

Leider ist dieser Glaube nicht nur unter Technikfreaks verbreitet, sondern auch bei Ingenieuren und Software-Programmierern – den Menschen, die diese Systeme entwerfen. In einem klassischen Artikel von 1983 in der Zeitschrift Automatica beschrieb Lisanne Bainbridge, Ingenieurpsychologin am University College London, ein Rätsel, das im Kern jeder Automatisierung mit Computern steckt. Entwickler gehen häufig davon aus, Menschen seien »unzuverlässig und ineffizient«, zumindest im Vergleich mit einem Computer. Daher weisen sie Menschen die kleinstmögliche Rolle in den Abläufen des Systems zu. Menschen treten nur noch als Überwacher, als passive Zuschauer am Bildschirm auf.10 Doch gerade in diesem Job sind Menschen besonders schlecht, weil ihre Gedanken ständig abschweifen. Forschungen zur Wachsamkeit, die bis zu Studien an britischen Radarbedienern zurückreichen, die im Zweiten Weltkrieg Ausschau nach deutschen U-Booten hielten, haben gezeigt, dass selbst hochmotivierte Menschen ihre Aufmerksamkeit kaum länger als eine halbe Stunde voll auf eine Anzeige mit relativ unveränderlichen Informationen konzentrieren können.11 Sie langweilen sich; sie träumen vor sich hin; sie verlieren die Konzentration. »Das bedeutet«, schrieb Bainbridge, »dass es für Menschen unmöglich ist, eine reine Überwachungsfunktion für unwahrscheinliche Abweichungen zu übernehmen.«12

Die Fähigkeiten einer Person »verkümmern, wenn sie nicht benutzt werden«, fügte Bainbridge hinzu, und daher werde selbst ein erfahrener Systembediener sich irgendwann wie »ein Anfänger« verhalten, wenn sein Job hauptsächlich aus Beobachten besteht und nicht aus Handeln. Seine Instinkte und Reflexe rosten bei zu seltener Benutzung ein, es fällt ihm schwer, Probleme zu erkennen und zu diagnostizieren, und seine Reaktionen werden langsam und bewusst gesteuert statt schnell und automatisch. In Verbindung mit einem Verlust an Situationsbewusstsein erhöht der Kompetenzverlust die Wahrscheinlichkeit, dass der Bediener unbeholfen reagiert, wenn doch einmal etwas schiefgeht, was früher oder später passiert. Wenn das geschieht, werden die Systementwickler die Rolle des Bedieners noch weiter einschränken, ihn noch weniger tun lassen und damit die Wahrscheinlichkeit weiter erhöhen, dass er in Zukunft versagen wird. Die Annahme, Menschen seien die Schwachstelle im System, wird zur selbsterfüllenden Prophezeiung.

TECHNIK BEVORZUGT

Die Ergonomie, die Kunst und Wissenschaft, Werkzeuge und Arbeitsplätze an die Menschen anzupassen, die sie benutzen, gibt es mindestens seit der griechischen Antike. Hippokrates liefert in »Über die Praxis des Arztes« präzise Anweisungen für die Beleuchtung und Einrichtung von Operationssälen, die Anordnung und Verwendung medizinischer Instrumente und sogar dazu, wie Ärzte sich kleiden sollten. An vielen griechischen Werkzeugen kann man erkennen, wie stark der Einfluss von Form, Gewicht und Balance eines Arbeitsgeräts auf die Produktivität, das Durchhaltevermögen und die Gesundheit eines Arbeiters berücksichtigt wurde. Auch bei frühen asiatischen Zivilisationen gibt es Anzeichen, dass bei der Gestaltung der Arbeitsgeräte das körperliche und geistige Wohlbefinden des Arbeiters sorgsam berücksichtigt wurde.13

Doch erst im Zweiten Weltkrieg entwickelte sich die Ergonomie, gemeinsam mit ihrem theoretischen Pendant, der Kybernetik, als eigenständige Disziplin. Man vertraute vielen Tausend unerfahrenen Soldaten und anderen Rekruten komplizierte und gefährliche Waffen und Geräte an, und für eine Ausbildung war kaum Zeit. Umständliche Konstruktionen und verwirrende Steuerungen waren nun nicht mehr tolerierbar. Dank Vordenkern wie Norbert Wiener, dem Psychologen Paul Fitts von der U. S. Air Force und Alphonse Chapanis begriffen Planer bei Militär und in der Industrie, dass Menschen für das Funktionieren eines komplexen technischen Systems ebenso wichtig sind wie die mechanischen Komponenten und elektronischen Regler des Systems. Man kann nicht, streng nach Taylor, eine Maschine optimieren und dann den Arbeiter zwingen, sich anzupassen; man muss die Maschine passend zum Arbeiter entwickeln.

Inspiriert durch die Kriegsanstrengungen und später durch die Einführung von Computern in Handel, Regierung und Wissenschaft, untersuchten Psychologen, Physiologen, Neurobiologen, Ingenieure, Soziologen und Designer aus unterschiedlichen Blickwinkeln die Wechselwirkungen von Mensch und Maschine. Sie konzentrierten sich dabei zwar auf Schlachtfelder und Fabriken, doch mit einem zutiefst humanistischen Ziel: Sie wollten Mensch und Technik zu einer produktiven, widerstandsfähigen und sicheren Symbiose verbinden, einer harmonischen Partnerschaft von Mensch und Maschine, mit dem Besten beider Seiten. Wenn wir in einem Zeitalter komplexer Systeme leben, dann sind Ergonomen unsere Metaphysiker.

Zumindest sollten sie es sein. Doch allzu oft werden Entdeckungen und Erkenntnisse aus der Ergonomie, die heute auch als Human Factors Engineering bezeichnet wird, ignoriert oder kurz abgefertigt. Das Streben nach maximaler Effizienz, Geschwindigkeit und Präzision – oder auch einfach nach dem größtmöglichen Profit – ist meist wichtiger als die Bedenken bezüglich der Auswirkungen von Computern und anderen Maschinen auf Geist und Körper der Menschen. Software-Programmierer erhalten nur wenig Ausbildung in Ergonomie, wenn überhaupt, und kennen die relevanten Forschungsergebnisse aus dem Bereich Humanfaktoren nur selten. Die natürliche Abneigung von Ingenieuren und Informatikern, mit ihrem strengen Schwerpunkt auf Mathe und Logik, gegenüber den »weicheren« Bedenken ihrer Kollegen aus dem Bereich Humanfaktoren verbessert die Situation auch nicht. Der Ergonomiepionier David Meister schrieb wenige Jahre vor seinem Tod im Jahr 2006 im Rückblick auf seine eigene Karriere, er und seine Kollegen hätten »immer gegen Widerstände angekämpft, sodass alles, was wir erreichten, praktisch unerwartet war.« Der technische Fortschritt, schloss er wehmütig, »wird von Profitdenken angetrieben; Menschen gelten da wenig«.14

Das war nicht immer so. In der zweiten Hälfte des 18. Jahrhunderts wurden die wissenschaftlichen Entdeckungen der Aufklärung zunehmend in praktische Maschinen der industriellen Revolution umgesetzt. Ab diesem Zeitpunkt galt der technische Fortschritt erstmals als Triebkraft der Geschichte. Nicht rein zufällig war dies auch eine Zeit politischer Unruhen. Die demokratischen, humanitären Ideale der Aufklärung gipfelten in Revolutionen in Amerika und Frankreich, und jene Ideale prägten auch die gesellschaftliche Sicht auf Wissenschaft und Technik. Technischer Fortschritt wurde – von Intellektuellen, wenn schon nicht immer von den Arbeitern – als Mittel für politische Reformen geschätzt. Mit Fortschritt meinte man damals sozialen Fortschritt, Technik hatte eine unterstützende Funktion. Aufklärer wie Voltaire, Joseph Priestley und Thomas Jefferson betrachteten, mit den Worten des Kulturhistorikers Leo Marx, »die neuen Wissenschaften und Technologien nicht als Selbstzweck, sondern als Mittel für eine umfassende Transformation der Gesellschaft«.

Mitte des 19. Jahrhunderts jedoch war die reformistische Sicht, zumindest in den Vereinigten Staaten, von einem neuen, ganz anderen Fortschrittsbegriff abgelöst worden, bei dem Technik eine zentrale Rolle einnahm. »In der weiteren Entwicklung des industriellen Kapitalismus«, schreibt Marx, »feierten die Amerikaner die Fortschritte in Wissenschaft und Technik mit zunehmender Begeisterung, aber Fortschritt war für sie nicht mehr länger mit sozialer und politischer Befreiung verbunden«. Stattdessen akzeptierten sie »die heute übliche Sicht, dass Innovationen in wissenschaftsbasierten Technologien selbst eine ausreichende und verlässliche Basis für Fortschritt darstellen«.15 Neue Technologien, einst als Mittel zu einem übergeordneten Ziel geschätzt, waren nun selbst zum erstrebenswerten Ziel geworden.

Da überrascht es wenig, dass heute die Aufteilung der Arbeit in komplexen automatischen Systemen auf die Fähigkeiten der Computer abgestimmt ist, wie Bainbridge anmerkte. Wenn man die Produktivität steigern, die Arbeitskosten senken und menschliche Fehler vermeiden – sowie den Fortschritt vorantreiben – will, dann überträgt man die Kontrolle über möglichst viele Aktivitäten an Software. Je leistungsfähiger die Software wird, umso mehr Befugnisse erhält sie. Je mehr Technologie, umso besser. Für die Bediener aus Fleisch und Blut bleibt nur die Verantwortung für jene Aufgaben übrig, die die Entwickler noch nicht automatisieren konnten, wie etwa die Kontrolle auf Anomalien oder als Nothelfer bei einem Systemausfall. Menschen werden immer weiter aus dem Kreislauf von Handlung, Feedback und Entscheidung gedrängt, der den laufenden Betrieb eines Systems bestimmt.

Ergonomen bezeichnen den vorherrschenden Ansatz als »technikzentrierte Automatisierung«. Bei diesem Ansatz herrscht ein fast religiöser Glaube an die Technik vor und ein ebenso großes Misstrauen gegenüber Menschen. Hier gelten menschenfeindliche Ziele statt humanistischer Ziele. Da wird aus dem unbedachten »Wer braucht Menschen eigentlich?« des technikaffinen Träumers ein Designgrundsatz. Mit den daraus entstehenden Maschinen und Software-Tools ziehen auch die menschenfeindlichen Ideale, die sie repräsentieren, in unsere Arbeitsplätze, Häuser und Leben ein. »Die Gesellschaft«, schreibt Donald Norman, Kognitionsforscher und Autor mehrerer einflussreicher Bücher über Produktdesign, »hat unwissentlich eine maschinenzentrierte Lebenseinstellung angenommen, bei der die Bedürfnisse der Technik mehr gelten als die der Menschen, sodass Menschen in eine Hilfsfunktion abgedrängt werden, für die sie völlig ungeeignet sind. Schlimmer noch, bei dieser maschinenzentrierten Sicht gelten Menschen im Vergleich mit Maschinen als mangelbehaftet, unfähig zu präzisen, sich wiederholenden, akkuraten Handlungen.« Obwohl diese Sichtweise inzwischen »die Gesellschaft durchdrungen hat«, verzerrt sie unser Selbstbild. »Sie betont Aufgaben und Aktivitäten, die wir nicht ausführen sollten, und ignoriert unsere vorrangigen Fähigkeiten und Eigenschaften – Aktivitäten, die Maschinen, wenn überhaupt, nur schlecht ausführen können. Wenn wir die maschinenzentrierte Sichtweise annehmen, beurteilen wir Dinge aufgrund von künstlichen, mechanischen Maßstäben.«16

Es ist nur logisch, dass Menschen mit mechanischen Interessen das Leben aus einem mechanischen Blickwinkel betrachten. Der Anstoß zu einer Erfindung, behauptet Norbert Wiener, sei häufig »das Verlangen des Technikers, die Räder rollen zu sehen«.17 Ebenso logisch ist, dass diese Menschen den Entwurf und Bau der komplexen Systeme und Software-Programme kontrollieren, die heute gesellschaftliche Vorgänge beherrschen oder in Gang setzen. Diese Menschen kennen den Code. Computer dringen immer weiter in die Gesellschaft vor, und so werden die Technologen zu den eigentlichen Gesetzgebern im Hintergrund. Indem sie den Faktor Mensch zur Nebensache degradieren, beseitigen die Technologen das Haupthindernis vor der Erfüllung ihrer Wünsche; das zügellose Streben nach technischem Fortschritt rechtfertigt sich selbst. Wenn man Technik vor allem nach technischen Leistungsmerkmalen beurteilt, erteilt man den Technikern einen Freibrief.

Der Grundsatz, sich bei Entscheidungen über die Automatisierung von Technologie leiten zu lassen, passt nicht nur zur vorherrschenden Fortschrittsideologie, sondern hat auch praktische Vorteile. Er erleichtert die Arbeit der Anlagenbauer. Ingenieure und Programmierer müssen nur berücksichtigen, was Computer und Maschinen tun können. Dadurch werden ihr Fokus enger, und die Spezifikationen eines Projekts schlanker. Sie müssen sich nicht mit der Komplexität, den Launen und den Schwächen des menschlichen Körpers und der menschlichen Psyche herumschlagen. Doch so verlockend die Einfachheit der technikzentrierten Automatisierung als Konstruktionsprinzip sein mag, sie ist ein Trugbild. Der Faktor Mensch verschwindet nicht, nur weil man ihn ignoriert.

In dem viel zitierten Aufsatz »Automation Surprises« aus dem Jahr 1997 erforschen die Experten für Humanfaktoren Nadine Sarter, David Woods und Charles Billings die Ursprünge des technikzentrierten Ansatzes. Sie beschreiben, wie er aus den »Mythen, falschen Hoffnungen und fehlgeleiteten Absichten im Zusammenhang mit moderner Technik« entstand, die sich heute noch in ihm widerspiegeln. Die Einführung von Computern, zunächst als analoge Maschine und später in der vertrauten digitalen Form, ermutigte Ingenieure und Industrielle zu einer idealistischen Sicht auf elektronisch kontrollierte Systeme, die sie schließlich als Allheilmittel für menschliche Ineffizienz und Fehlbarkeit betrachteten. Die ordentlichen und sauberen Berechnungen und Ausgaben von Computern wirkten wie ein Himmelsgeschenk im Vergleich zur irdischen Unordnung menschlicher Angelegenheiten. »Die Automatisierungstechnik«, schrieben Sarter und Kollegen, »wurde ursprünglich in der Hoffnung auf erhöhte Präzision und Wirtschaftlichkeit der Betriebsabläufe entwickelt mit gleichzeitigem Abbau der Arbeitslast und des Ausbildungsbedarfs für Bediener. Man glaubte, man könne ein autonomes System bauen, das wenig bis gar keine menschliche Einmischung erforderte und so die Möglichkeit eines menschlichen Fehlers reduzierte oder eliminierte.« Dieser Glaube führte, wieder mit unfehlbarer Logik, zu der weiteren Annahme, dass »beim Entwurf automatischer Systeme das menschliche Element im Gesamtsystem kaum berücksichtigt werden muss«.18

Die Wünsche und Ansichten, die den vorherrschenden Entwurfsansatz stützen, fuhren die Autoren fort, hätten sich als naiv und schädlich erwiesen. Automatische Systeme hätten zwar häufig die »Präzision und Wirtschaftlichkeit der Betriebsabläufe« erhöht, doch in anderer Hinsicht hätten sie die Erwartungen nicht erfüllt und sogar eine völlig neue Art von Problemen erst geschaffen. Die meisten Schwächen entstünden durch »die Tatsache, dass selbst bei hochautomatisierten Systemen immer noch menschliche Bediener und damit eine Kommunikation und Koordination zwischen Mensch und Maschine notwendig sind.« Doch beim Entwurf der Systeme wurden die Menschen, die sie bedienen, nicht ausreichend berücksichtigt, und daher sind die Kommunikations- und Koordinationsfähigkeiten dieser Systeme kläglich. Folglich fehlen den Computersystemen die »volle Kompetenz« für die Arbeit und der »umfassende Zugang zur Außenwelt«, die nur Menschen bieten können. »Automatische Systeme wissen nicht, wann sie ihre Absichten und Aktivitäten mit Menschen kommunizieren oder zusätzliche Informationen von Menschen anfordern sollen. Sie geben auch nicht immer angemessene Rückmeldung an den Menschen, dem es wiederum schwerfällt, den Status und das Verhalten der Maschine zu verfolgen, um zu bemerken, wann er eingreifen muss, um unerwünschte Aktionen der Anlage zu vermeiden.« Viele Probleme, die automatischen Systemen anhaften, resultieren aus »dem Versäumnis, eine Mensch-Maschine-Interaktion zu entwickeln, die sich an den Grundlagen einer Mensch-Mensch-Interaktion orientiert.«19

Ingenieure und Programmierer verschärfen das Problem weiter, wenn sie die Arbeitsabläufe ihrer Schöpfungen vor dem Bediener verbergen und aus jedem System eine undurchschaubare Blackbox machen. Normale Menschen, so die unausgesprochene Annahme, sind nicht klug oder qualifiziert genug, die Komplexität eines Software-Programms oder einer Roboteranlage zu begreifen. Wenn man ihnen zu viel über die Algorithmen oder Prozeduren erzählt, welche die Abläufe und Entscheidungen bestimmen, verwirrt man sie nur oder, noch schlimmer, man ermutigt sie dazu, ins System einzugreifen. Es ist sicherer, wenn man die Menschen im Dunkeln lässt. Doch auch hier macht der Versuch, menschliche Fehler zu vermeiden, indem man ihnen persönliche Verantwortung abnimmt, die Wahrscheinlichkeit, dass ein solcher Fehler auftritt, nur höher. Ein unwissender Bediener ist ein gefährlicher Bediener. Der Professor für Humanfaktoren John Lee von der Universität von Iowa erklärt, es sei üblich, bei automatischen Systemen »Regelalgorithmen einzusetzen, die den Regelstrategien und Denkmodellen der Person, die sie bedient, widersprechen«. Wenn der Mensch diese Algorithmen nicht versteht, kann er unmöglich »die Handlungen und Grenzen der Anlage absehen«. Wenn Mensch und Maschine von sich widersprechenden Annahmen ausgehen, werden sie am Ende gegeneinander arbeiten. Wenn Menschen die Maschinen, die sie benutzen, nicht verstehen, untergräbt das ihr Selbstvertrauen, berichtet Lee, was »dazu führt, dass sie weniger geneigt sind, einzugreifen«, wenn etwas schiefläuft.20

RAUM FÜR MENSCHEN SCHAFFEN

Experten für Humanfaktoren fordern von Entwicklern schon lange, den technikzentrierten Ansatz aufzugeben und sich stattdessen mit menschzentrierter Automatisierung zu beschäftigen. Beim menschzentrierten Konstruieren beginnt man nicht mit einer Einschätzung der Fähigkeiten der Maschine, sondern mit einer sorgfältigen Auswertung der Stärken und Beschränkungen der Menschen, die die Maschine bedienen und mit ihr interagieren werden. Damit kehrt die technische Entwicklung zu den humanistischen Prinzipien zurück, welche die ersten Ergonomen inspirierten. Das Ziel besteht darin, die Funktionen und Verantwortlichkeiten so aufzuteilen, dass man nicht nur die Geschwindigkeit und Präzision des Computers optimal nutzt, sondern auch den Arbeiter beschäftigt, aktiv und aufmerksam erhält – er wird ein- und nicht mehr ausgeschlossen.21

Dieser Mittelweg ist leicht zu finden. Ergonomische Forschungsergebnisse aus mehreren Jahrzehnten zeigen einige unkomplizierte Wege auf, die zu einem solchen Gleichgewicht führen. Man kann die Software einer Anlage darauf programmieren, dass sie die Kontrolle über kritische Funktionen vom Computer in kurzen, aber unregelmäßigen Abständen an den Bediener zurückgibt. Wenn Menschen wissen, dass sie jeden Moment bereit sein müssen, die Kontrolle zu übernehmen, bleiben sie aufmerksam und bei der Sache, haben ein höheres Situationsbewusstsein und lernen mehr. Ein Konstrukteur kann der Automatisierung Grenzen setzen und so sicherstellen, dass Menschen, die mit Computern arbeiten, anspruchsvolle Aufgaben erledigen und nicht nur in eine passive Beobachterrolle abgedrängt werden. Wenn die Menschen mehr zu tun haben, unterstützt das den Erzeugungseffekt. Ein Konstrukteur kann außerdem auch ein direktes, sinnesbasiertes Feedback-System einplanen, das über hör- und fühlbare Alarmmeldungen sowie visuelle Anzeigen Auskunft über den Leistungsstatus der Anlage gibt, sogar für jene Aktivitäten, die der Computer allein ausführt. Regelmäßiges Feedback erhöht die Einsatzbereitschaft und hilft dem Bediener, wachsam zu bleiben.

Eine besonders faszinierende Anwendung des menschzentrierten Ansatzes ist die adaptive Automatisierung. Bei adaptiven Systemen sieht die Programmierung vor, dass der Computer genau auf den Bediener achtet. Die Arbeitsverteilung zwischen Software und menschlichem Bediener wird ständig an die aktuellen Abläufe angepasst.22 Wenn der Computer etwa registriert, dass der Bediener ein schwieriges Manöver ausführen muss, wird er vielleicht alle anderen Aufgaben übernehmen. Von anderen Ablenkungen befreit, kann sich der Bediener voll auf die kritische Herausforderung konzentrieren. Unter normalen Bedingungen überträgt der Computer dann mehr Aufgaben an den Bediener, erhöht dessen Arbeitslast, um sicherzustellen, dass sein Situationsbewusstsein bestehen bleibt und er seine Fähigkeiten trainieren kann. Bei der adaptiven Automatisierung werden die analytischen Fähigkeiten des Computers für humanistische Zwecke eingesetzt, um den Bediener an der Spitze der Yerkes-Dodson-Leistungskurve zu halten und sowohl kognitive Über- wie auch Unterforderung zu verhindern. DARPA, das Forschungslabor des Verteidigungsministeriums, in dem das Internet entstand, arbeitet sogar an der Entwicklung »neuroergonomischer« Systeme, die mithilfe verschiedener Hirn- und Körpersensoren »die kognitive Auslastung eines Individuums erfassen und dann die Parameter der Aufgaben anpassen, um Engpässe bei Wahrnehmungs-, Aufmerksamkeits- oder Gedächtnisprozessen auszugleichen.«23 Die adaptive Automatisierung verspricht außerdem, mehr Menschlichkeit in die Arbeitsbeziehung zwischen Mensch und Computer zu bringen. Einige erste Nutzer des Systems berichten, sie hätten eher das Gefühl, mit einem Kollegen zusammenzuarbeiten, als eine Maschine zu bedienen.

In den meisten Studien über Automatisierung geht es vor allem um große, komplexe und risikobehaftete Systeme, etwa jenen in Flugzeugcockpits, in Kontrollräumen oder auf Schlachtfeldern. Wenn diese Systeme versagen, stehen viele Leben und eine Menge Geld auf dem Spiel. Doch diese Forschungen sind auch für die Konstruktion von Anwendungen zur Entscheidungsunterstützung interessant, wie sie Ärzte, Anwälte, Manager und andere Analytiker benutzen. Solche Programme durchlaufen zahlreiche Testläufe mit Menschen, damit sie möglichst einfach zu erlernen und zu bedienen sind, aber wenn man ein wenig hinter die benutzerfreundlichen Oberflächen schaut, stellt man fest, dass dort immer noch der technikzentrierte Leitgedanke vorherrscht. »Üblicherweise«, schreibt John Lee, »fungieren Expertensysteme wie eine Prothese, sie sollen fehlerhafte und widersprüchliche menschliche Gedankengänge durch präzise Computer-Algorithmen ersetzen.«24 Sie sind dafür ausgelegt, das menschliche Urteilsvermögen zu ersetzen, nicht zu ergänzen. Mit jeder Steigerung der Verarbeitungsgeschwindigkeit und Vorhersagegenauigkeit einer Anwendung überträgt der Programmierer mehr Verantwortung bei der Entscheidungsfindung vom Anwender an die Software.

Raja Parasuraman hat sich eingehender mit den menschlichen Auswirkungen der Automatisierung beschäftigt als jeder andere. Er glaubt, dies sei der falsche Ansatz. Seiner Meinung nach arbeiten Anwendungen zur Entscheidungsunterstützung dann am besten, wenn sie den Anwendern relevante Informationen in dem Moment liefern, in dem sie gebraucht werden, aber kein spezifisches Vorgehen vorschlagen.25 Die intelligentesten, kreativsten Ideen entstehen, wenn Menschen Raum zum Denken haben. Lee vertritt diese Meinung ebenfalls. »Ein weniger automatisierter Ansatz, bei dem die Maschine die Rolle eines Kritikers am Bediener übernimmt, zeitigte sehr viel mehr Erfolg«, schreibt er. Die besten Expertensysteme böten den Anwendern »alternative Interpretationen, Hypothesen oder Wahlmöglichkeiten« an. Die zusätzlichen und meist unerwarteten Informationen wirken der natürlichen kognitiven Verzerrung entgegen, die manchmal das menschliche Urteilsvermögen trübt. Mit ihrer Hilfe betrachten Analysten und Entscheidungsträger Probleme aus anderen Perspektiven und ziehen noch mehr Auswahlmöglichkeiten in Betracht. Lee weist jedoch ausdrücklich darauf hin, dass die Systeme das letztendliche Urteil den Menschen überlassen sollten. Da es eine perfekte Automatisierung nicht gibt, deute vieles darauf hin, dass »ein niedriger Automatisierungsgrad, wie er bei dem kritisierenden Ansatz eingesetzt wird, die Wahrscheinlichkeit für Fehler senkt«.26 Computer durchsuchen besser schnell viele Daten, aber menschliche Experten sind nach wie vor die scharfsinnigeren und weiseren Denker im Vergleich mit ihren digitalen Partnern.

Die Schaffung eines geschützten Raumes für Gedanken und Einschätzungen erfahrener Fachleute ist auch das Ziel jener, die nach einem humanistischen Ansatz bei der Automatisierung in der Kreativbranche streben. Viele Entwickler kritisieren beliebte CAD-Programme wegen ihrer Aufdringlichkeit. Ben Tranel, Architekt bei dem Architektenbüro Gensler in San Francisco, weist auf die erweiterten Möglichkeiten hin, die Computer bei der Konstruktion bieten. Als Beispiel für ein Gebäude, das ohne Computer »nicht hätte gebaut werden können«, nennt er den Shanghai Tower in China, einen spiralförmigen, energieeffizienten Wolkenkratzer, der von Gensler entworfen wurde. Doch er befürchtet, der Buchstabenglaube von Designsoftware – die Art, wie sie Architekten dazu zwingt, die Bedeutung und die Funktion jedes geometrischen Elementes, das sie eingeben, zu definieren – schließe die ergebnisoffenen, unstrukturierten Experimente, die Handskizzen förderten, aus. »Eine gezeichnete Linie kann vieles bedeuten«, sagt er, wohingegen eine digitalisierte Linie nur eine Bedeutung haben darf.27

Im Jahr 1996 stellten die Architekturprofessoren Mark Gross und Ellen Yi-Luen Do eine Alternative zur buchstabengetreuen CAD-Software vor. Sie entwickelten die Grundidee zu einer Anwendung mit »papierähnlicher« Schnittstelle, die »die bewusste Ambiguität, Unbestimmtheit und Ungenauigkeit der Anwender aufgreift und diese Qualitäten visuell vermittelt«. So bekäme die Designsoftware »die Suggestivkraft der Skizze«.28 Seit damals sprachen viele andere Wissenschaftler ähnliche Empfehlungen aus. Erst kürzlich entwickelte ein Team unter der Führung der Yale-Informatikerin Julie Dorsey eine Designanwendung, die eine »mentale Leinwand« bietet. Statt wie bei Computern üblich zweidimensionale Zeichnungen automatisch in dreidimensionale virtuelle Modelle umzurechnen, erlaubt dieses System, das einen Touchscreen-Tablet als Eingabegerät verwendet, dem Architekten, Skizzen in drei Dimensionen auszuführen. »Designer können Linien zeichnen und wieder neu zeichnen, ohne sich um die Beschränkungen eines Polygonengitters oder die mangelnde Flexibilität einer parametrischen Pipeline kümmern zu müssen«, erklärte das Team. »Unser System erlaubt einfache interaktive Verfeinerungen während des gesamten Entwicklungsprozesses einer Idee und verlangt keine geometrische Präzision, bevor die Idee genügend ausgereift ist.«29 Bei einer weniger aufdringlichen Software kann die Vorstellungskraft eines Konstrukteurs besser aufblühen.

GEGEN DEN STROM

Das Spannungsfeld zwischen technikzentrierter und menschzentrierter Automatisierung ist nicht nur von akademischem Interesse. Es hat Einfluss auf täglich zu treffende Entscheidungen von Geschäftsleuten, Ingenieuren und Programmierern sowie Regierungsbehörden. In der Flugbranche standen die beiden größten Flugzeughersteller bei der Design-Frage seit der Einführung des Fly-by-Wire-Systems vor dreißig Jahren auf unterschiedlichen Seiten. Airbus verfolgt einen technikzentrierten Ansatz. Ziel des Unternehmens ist die Entwicklung »pilotensicherer« Flugzeuge.30 Die Entscheidung des Unternehmens, die unförmige Steuersäule vor den Piloten, mit denen Flugzeuge traditionell gesteuert wurden, durch winzige Joysticks neben den Pilotensitzen zu ersetzen, war eine Konsequenz dieser Zielsetzung. Diese Steuerung, die an ein Computerspiel erinnert, schickt Eingaben effizient und mit minimalem manuellem Aufwand an den Bordcomputer, aber sie geben den Piloten keine taktile Rückmeldung. Entsprechend dem Ideal des gläsernen Cockpits verdeutlicht diese Steuerung, dass Piloten eher die Rolle eines Computerbedieners einnehmen als die eines Fliegers. Die Computer von Airbus sind außerdem darauf programmiert, Anweisungen der Piloten in gewissen Situationen außer Kraft zu setzen, um den Jet innerhalb der vorgegebenen Parameter für seinen Flugbereich zu halten. Die letzte Kontrolle hat die Software, nicht der Pilot.

Boeing geht einen eher menschzentrierten Weg bei der Entwicklung seiner Fly-by-Wire-Flugzeuge. Das Unternehmen entschied, die Bordsoftware sollte nicht die Möglichkeit bekommen, sich über den Piloten hinwegzusetzen, und hätte mit dieser Entscheidung die Gebrüder Wright sehr glücklich gemacht. Der Flugzeugführer behält bei Flugmanövern das letzte Wort, auch unter extremen Umständen. Boeing hat nicht nur die alten Steuersäulen beibehalten, sondern sie auch noch mit einer künstlichen Feedback-Funktion ausgestattet, die imitiert, was Piloten fühlten, als sie noch die direkte Kontrolle über die Steuermechanismen eines Flugzeugs hatten. Die Steuersäulen senden zwar nur elektrische Signale an Computer, doch sie wurden darauf programmiert, Gegendruck und andere taktile Reize zu liefern, die das Gefühl von Bewegungen in den Quer- und Höhenrudern sowie anderen Steuerflächen simulieren. Forschungen haben ergeben, dass taktile oder haptische Rückmeldungen signifikant effektiver sind als visuelle Reize allein, um Piloten auf wichtige Veränderungen bei der Ausrichtung und Funktion eines Flugzeugs hinzuweisen, schreibt John Lee. Weil das Gehirn taktile Signale anders verarbeitet als visuelle, »beeinträchtigen haptische Warnsignale« in der Regel nicht »die gleichzeitige Durchführung einer visuellen Aufgabe«.31 In gewisser Hinsicht holen die künstlichen, taktilen Rückmeldungen die Boeing-Piloten aus dem gläsernen Cockpit heraus. Vielleicht tragen diese Piloten ihre Jumbojets nicht mehr auf dieselbe Weise, wie Wiley Post seine kleine Lockheed Vega trug, aber sie haben einen besseren Eindruck von der körperlichen Erfahrung des Fliegens als ihre Kollegen in den Airbus-Cockpits.

Airbus baut tolle Flugzeuge. Manche Berufspiloten ziehen sie den Boeing-Jets vor, und die Sicherheitsprotokolle sind bei beiden Herstellern nahezu identisch. Doch aktuelle Zwischenfälle offenbaren die Schwächen des technikzentrierten Ansatzes von Airbus. Einige Luftfahrtexperten glauben, der Aufbau des Airbus-Cockpits habe bei der Air-France-Katastrophe eine Rolle gespielt. Das Transkript der Voicerecorder-Aufzeichnungen zeigte, dass der Kopilot, David Robert, den verhängnisvollen Fehler des Piloten, Pierre-Cédric Bonin, der seinen Sidestick nach hinten zog, zu keinem Zeitpunkt bemerkte. In einem Boeing-Cockpit hat jeder Pilot die Steuersäule des anderen im Blick und sieht, was damit geschieht. Zusätzlich verhalten sich beide Steuersäulen wie eine Einheit. Wenn ein Pilot die Steuersäule zurückzieht, bewegt sich auch die andere Steuersäule zurück. Mithilfe dieser visuellen und haptischen Reize können die Piloten sich aufeinander abstimmen. Die Sidesticks von Airbus sind für den jeweils anderen Piloten nicht zu sehen, sie bewegen sich weniger deutlich und funktionieren unabhängig voneinander. So bekommt ein Pilot schnell einmal nicht mit, was sein Kollege tut, vor allem in Notfallsituationen, wenn beide gestresst sind und einen verengten Blickwinkel haben.

Hätte Robert Bonins Fehler rechtzeitig gesehen und korrigiert, hätten die Piloten wahrscheinlich die Kontrolle über den A330 behalten. Chesley Sullenberger meinte, der Air-France-Crash wäre »vermutlich nicht passiert«, wenn die Piloten in einem Boeing-Cockpit mit menschzentrierter Steuerung gesessen wären.32 Selbst Bernard Ziegler, der brillante und stolze französische Ingenieur, der bis zum Renteneintritt im Jahr 1997 als Chefkonstrukteur bei Airbus gearbeitet hatte, äußerte kürzlich Zweifel an der Konstruktionsphilosophie des Unternehmens. »Manchmal frage ich mich, ob wir ein Flugzeug gebaut haben, das zu einfach zu fliegen ist«, gab er gegenüber dem Autor William Langewiesche bei einem Interview in Toulouse zu, wo sich die Firmenzentrale von Airbus befindet. »In einem schwierigen Flugzeug bleibt die Besatzung wachsam.« Zum Schluss meinte er, Airbus »hätte etwas in die Pilotensitze einbauen sollen, das die Piloten in den Hintern tritt«. Wahrscheinlich war das ein Scherz, aber sein Kommentar deckt sich mit den Erkenntnissen der Forscher zum Thema Humanfaktoren über die Aufrechterhaltung menschlicher Fähigkeiten und Aufmerksamkeit. Manchmal sollte ein automatisches System seinem Bediener tatsächlich einen kräftigen Tritt verpassen, oder die technische Entsprechung davon.

Mit dem Vorschlag in den Sicherheitshinweisen für Betreiber aus dem Jahr 2013, die Fluglinien sollten Piloten dazu auffordern, ihre Flugzeuge öfter einmal manuell zu steuern, sprach sich die FAA, wenn auch vorsichtig, für die menschzentrierte Automatisierung aus. Die Behörde hatte herausgefunden, dass man die Wahrscheinlichkeit eines menschlichen Fehlers reduzieren, die Auswirkungen eines Systemversagens eindämmen und Flugreisen noch sicherer machen kann, wenn man den Piloten immer auf dem Laufenden hält. Mehr Automatisierung ist nicht immer die beste Wahl. Die FAA, die viele angesehene Forscher aus dem Bereich Humanfaktoren beschäftigt, achtet auch bei ihrer ehrgeizigen »NextGen«-Revision des US-Flugsicherungssystems sehr auf Ergonomie. Ein Hauptziel des Projekts ist »die Schaffung eines Luftfahrtsystems, das sich an die Leistung des Menschen anpasst, sie ausgleicht und steigert«.33

In der Finanzbranche schwimmt die Royal Bank of Canada gegen den Strom der technikzentrierten Automatisierung. Die Bank hat in ihrer Handelsabteilung an der Wall Street ein proprietäres Software-Programm namens THOR installiert, das die Übertragung von Kauf- und Verkaufsordern verlangsamt und sie so vor allen algorithmischen Manipulationen von Hochfrequenzhändlern schützt. Die RBC stellte fest, dass die langsamen Handelsanweisungen häufig zu attraktiveren Bedingungen für die Kunden ausgeführt werden. Die Bank räumt ein, einen Kompromiss eingegangen zu sein, als sie sich dem technischen Imperativ der rasend schnellen Datenströme verweigerte. Durch den Verzicht auf den Hochfrequenzhandel verdient die Bank bei jeder Transaktion ein bisschen weniger Geld. Doch bei der RBC glaubt man, dass eine stärkere Kundenbindung und eine Senkung des Risikos langfristig zu höheren Profiten führen werden.34

Brad Katsuyama, ehemaliger Manager bei der RBC, geht sogar noch einen Schritt weiter. Er beteiligte sich an der Gründung einer neuen, faireren Börse, der IEX. Seit ihrer Eröffnung Ende 2013 werden automatische Systeme dort streng kontrolliert. Die Software sorgt dafür, dass der Datenstrom mit Kursen und anderen Informationen alle Mitglieder der Börse gleichzeitig erreicht. Damit entfällt der Vorteil rücksichtsloser Handelsunternehmen, die ihre Computer direkt neben einer Börse aufstellen. Außerdem sind bei IEX bestimmte Handelsformen und Entgeltregelungen, die schnelle Algorithmen bevorteilen, verboten. Katsuyama und Kollegen schaffen mithilfe modernster Technik gleiche Bedingungen für Mensch und Computer. Auch einige Aufsichtsbehörden verschiedener Länder versuchen mit Gesetzen und Vorschriften, den automatischen Handel einzudämmen. Im Jahr 2012 erhob Frankreich eine geringe Steuer auf Aktiengeschäfte. Italien zog ein Jahr später nach. Die Algorithmen für den Hochfrequenzhandel sind üblicherweise darauf ausgelegt, eine volumenbasierte Arbitrage-Strategie zu verfolgen – bei jedem Handel entsteht nur ein winziger Profit, aber in wenigen Sekunden werden mehrere Millionen Handelsgeschäfte durchgeführt –, die schon bei einer winzigen Transaktionssteuer deutlich weniger profitabel wird.

TECHNIK ÜBERNIMMT DAS KOMMANDO

Diese Versuche, die Automatisierung in ihre Schranken zu weisen, sind ermutigend. Sie zeigen, dass zumindest einige Unternehmen und Regierungsbehörden die vorherrschende absolute Technikgläubigkeit infrage stellen. Doch diese Bestrebungen sind die Ausnahme, und ihr Erfolg noch alles andere als gesichert. Sobald die technikzentrierte Automatisierung in einem Bereich Fuß gefasst hat, ist ihr Fortschreiten nur noch schwer aufzuhalten. Die Software prägt mit der Zeit Arbeitsabläufe, die betriebliche Organisation, die Erwartungen der Konsumenten, und wie Profite erwirtschaftet werden. Sie wird Teil des wirtschaftlichen und gesellschaftlichen Inventars. Diesen Prozess beschrieb der Historiker Thomas Hughes als »technologisches Momentum«.35 In den ersten Entwicklungsstadien ist eine neue Technologie formbar; ihre Form und Verwendung können nicht nur an die Wünsche ihrer Konstrukteure angepasst werden, sondern auch an die Interessen jener, die sie benutzen, und der Gesellschaft insgesamt. Aber sobald die Technologie in physische Infrastruktur, kommerzielle und wirtschaftliche Arrangements und persönliche und politische Normen und Erwartungen integriert ist, wird es sehr schwierig, sie noch zu verändern. An diesem Punkt ist die Technologie bereits ein integraler Bestandteil des gesellschaftlichen Status quo und geht unaufhaltsam ihren Weg. Einzelne technische Komponenten veralten natürlich, aber sie werden meist durch neue ersetzt, die die bestehende Arbeitsweise und die zugehörigen Maßstäbe für Leistung und Erfolg verfeinern und aufrechterhalten.

Das kommerzielle Luftverkehrssystem etwa ist heute auf die Präzision der Rechnersteuerung angewiesen. Computer sind besser als Piloten bei der Planung kraftstoffsparender Routen, und computergesteuerte Flugzeuge können mit geringerem Abstand voneinander fliegen als Flugzeuge, die von Menschen gesteuert werden. Es herrscht ein echter Zwiespalt zwischen dem Wunsch, die manuellen Flugfähigkeiten der Piloten zu verbessern, und dem Streben nach immer mehr Automatisierung am Himmel. Die Fluglinien werden wohl kaum ihre Gewinne opfern, und die Regulierungsbehörden werden ebenso unwahrscheinlich die Kapazität des Luftverkehrssystem begrenzen, um den Piloten deutlich mehr Übungszeit für das manuelle Fliegen zu verschaffen. Vielleicht wird man die seltenen Katastrophen, die im Zusammenhang mit der Automatisierung stehen, so schrecklich sie sein mögen, als Preis für ein effizientes und profitables Transportsystem akzeptieren. Bei der Gesundheitsversorgung erhoffen sich Krankenversicherungen und Krankenhäuser, ganz zu schweigen von Politikern, von der Automatisierung einen schnellen Weg zu niedrigeren Kosten und höherer Produktivität. Sie werden mit an Sicherheit grenzender Wahrscheinlichkeit den Druck auf die Leistungsanbieter weiter erhöhen, weil sie die Arztpraxen und Behandlungsmethoden automatisieren wollen, um Geld zu sparen, selbst wenn die ersten Ärzte Bedenken haben wegen des langfristigen Verlustes ihrer feinsten und wertvollsten Fähigkeiten. Auf dem Finanzmarkt können Computer einen Handel in zehn Mikrosekunden abschließen – das ist ein Zehnmillionstel einer Sekunde –, während das menschliche Gehirn fast eine Viertelsekunde braucht, um auf ein Ereignis oder einen anderen Reiz zu reagieren. Wenn ein Händler einmal blinzelt, hat der Computer in dieser Zeit bereits Zehntausende Handelsvorgänge durchgeführt.36 Angesichts der Geschwindigkeit des Computers spielt der Mensch keine Rolle mehr.

Im Allgemeinen geht man davon aus, dass eine Technologie, die in einer Branche auf breite Zustimmung stößt und damit eine Eigendynamik gewinnt, die am besten geeignete sein muss. Bei dieser Weltsicht ist Fortschritt ein quasi-darwinistischer Prozess. Viele verschiedene Technologien werden erfunden, sie konkurrieren um Nutzer und Käufer, und nach einer harten Test- und Vergleichsphase sucht der Markt die beste von allen aus. Nur das stärkste Tool überlebt. Die Gesellschaft kann daher darauf vertrauen, dass die Technologien, die sie verwendet, die allerbesten sind – und dass die Alternativen, die irgendwann verworfen wurden, irgendwelche schweren Mängel aufwiesen. Diese beruhigende Definition von Fortschritt basiert, mit den Worten des Historikers David Noble ausgedrückt, auf »einem kindlichen Glauben an die Objektivität der Wissenschaft, der Rationalität der Wirtschaft und des Marktes.« Doch wie Noble in seinem Buch Forces of Production aus dem Jahr 1984 erklärt, ist dies eine verzerrte Sicht: »Sie stellt technische Entwicklung zum einen als autonomen und neutralen technischen Prozess dar, zum anderen als streng rationalen und selbstregulierenden Prozess. Doch keine dieser Definitionen berücksichtigt den Einfluss von Menschen, Macht, Institutionen, unterschiedlichen Werten oder Träumen.«37 Statt der Komplexitäten, der Launen und Intrigen der Geschichte bietet die vorherrschende Auffassung des technischen Fortschritts ein vereinfachtes, retrospektives Hirngespinst.

Noble zeigte am Beispiel der Geschichte der Automatisierung in der Werkzeugindustrie in den Jahren nach dem Zweiten Weltkrieg die verwickelten Wege, auf denen Technologien tatsächlich zu Akzeptanz und Eigendynamik kommen. Erfinder und Ingenieure entwickelten mehrere verschiedene Methoden, um Drehmaschinen, Standbohrer und andere Werkzeugmaschinen zu programmieren, und jede dieser Steuerungsmethoden hatte Vor- und Nachteile. Eine der einfachsten und originellsten Systeme, der Specialmatic, wurde von dem Ingenieur Felix P. Caruthers, der in Princeton studiert hatte, erfunden und von der kleinen New Yorker Firma Automation Specialties vermarktet. Beim Specialmatic konnte man über verschiedene Schalter und Regler die Arbeitsabläufe einer Maschine codieren und steuern. Damit legte das System die Macht über die Programmierung in die Hände ausgebildeter Maschinisten in der Fabrikhalle. Ein Maschinenbediener, erklärte Noble, »konnte Vorschub und Geschwindigkeit einstellen und anpassen, er verließ sich dabei auf die Erfahrungen, die er mit dem Aussehen, den Geräuschen und Gerüchen der Metallzerspanung gesammelt hatte.«38 Das Specialmatic-System band nicht nur das implizite Fachwissen von erfahrenen Handwerkern in das automatische System ein, sondern bot auch noch einen wirtschaftlichen Vorteil: Ein Fabrikant musste keine Ingenieure und Berater bezahlen, um die Maschine zu programmieren. Caruthers Technologie erntete Lob von der Zeitschrift American Machinist, die schrieb, beim Specialmatic könne man »die vollständige Einrichtung und Programmierung direkt an der Maschine vornehmen«. So konnte der Maschinist die Effizienz der Automatisierung nutzen und behielt gleichzeitig »während des kompletten Bearbeitungszyklus die vollständige Kontrolle über die Maschine.«39

Der Specialmatic fasste auf dem Markt nie richtig Fuß. Während Caruthers noch an seiner Erfindung arbeitete, investierte die U. S. Air Force in ein Forschungsprogramm eines MIT-Teams mit langjährigen Verbindungen zum Militär, um eine »numerische Steuerung« zu entwickeln, ein digitales Kodierungsverfahren und Vorläufer der modernen Software-Programmierung. Die numerische Steuerung profitierte nicht nur von der großzügigen staatlichen Förderung und einem prestigeträchtigen akademischen Stammbaum; sie fand außerdem bei Geschäftsinhabern und Managern Anklang, die ständigen Spannungen mit ihren Arbeitern ausgesetzt waren und nichts lieber wollten, als mehr Kontrolle über den Betrieb der Anlagen in die eigene Hand zu bekommen und so die Macht der Arbeiter und ihrer Gewerkschaften zu untergraben. Die numerische Steuerung hatte außerdem den Reiz einer brandneuen Technologie – sie profitierte von der Begeisterung für digitale Computer, die in der Nachkriegszeit ihren Anfang nahm. Das MIT-System mag, wie der Autor eines Artikels für die Society of Manufacturing Engineers später schrieb, »eine komplizierte und teure Monstrosität«40 gewesen sein, aber Industriegiganten wie General Electric und Westinghouse stürzten sich auf die Technologie und gaben Alternativen wie Specialmatic nie eine Chance. Die numerische Steuerung gewann also keineswegs einen harten Evolutionskampf ums Überleben, sondern sie wurde zum Sieger erklärt, noch bevor der Wettbewerb begonnen hatte. Die Programmierung erhielt Vorrang vor den Menschen, und die Eigendynamik der technikzentrierten Konstruktionsphilosophie gewann an Fahrt. Die Öffentlichkeit erfuhr nie, dass eine Wahl getroffen worden war.

Doch Ingenieure und Programmierer tragen nicht allein die Verantwortung für die negativen Auswirkungen der technikzentrierten Automatisierung. Man kann ihnen vorwerfen, dass sie gelegentlich streng mechanistischen Träumen und Wünschen nachjagten und anfällig für die »technische Arroganz« waren, die »Menschen die Illusion von grenzenloser Macht gibt«, wie der Physiker Freeman Dyson es ausdrückte.41 Doch andererseits reagieren sie auch auf die Forderungen von Arbeitgebern und Kunden. Software-Entwickler mussten bei Programmen, die Arbeitsabläufe automatisierten, immer schon Kompromisse eingehen. Die notwendigen Schritte, um die Entwicklung von Fachwissen zu fördern – eine Begrenzung der Automatisierung, eine größere und aktivere Rolle für die Menschen, die Förderung der Entwicklung von Automatismen durch Übung und Wiederholung –, geht immer mit einem Verlust an Geschwindigkeit und Ertrag einher. Lernen setzt Ineffizienz voraus. Unternehmen, die ihre Produktivität und ihren Profit maximieren wollen, werden einen solchen Kompromiss nur selten akzeptieren, wenn überhaupt. Schließlich investieren sie in Automatisierung vor allem, um Arbeitskosten zu senken und Betriebsabläufe zu straffen.

Auch wir selbst wollen fast immer Effizienz und Bequemlichkeit, wenn wir uns für eine Software-Anwendung oder ein Gerät entscheiden. Wir suchen uns das Programm oder Gerät aus, das uns die Arbeit abnimmt und uns freie Zeit verschafft, nicht dasjenige, mit dem wir härter und länger arbeiten müssen. Die IT-Firmen bedienen natürlich diese Wünsche bei der Entwicklung ihrer Produkte. Sie wetteifern erbittert darum, wessen Produkt bei der Benutzung die wenigste Anstrengung und des wenigste Denken erfordert. »Bei Google und all den anderen Orten«, erläutert der Google-Manager Alan Eagle den Leitgedanken vieler Software- und Internetunternehmen, »machen wir Technologie so gedankenlos einfach bei der Anwendung wie möglich.«42 Bei der Entwicklung und Anwendung kommerzieller Software, sei es nun als Teil einer industriellen Anlage oder als Smartphone-App, haben Bedenken um das Schicksal menschlicher Fähigkeiten gegen die Aussicht, Zeit und Geld zu sparen, keine Chance.

Ich fragte Parasuraman, ob er glaube, die Gesellschaft werde die Automatisierung in Zukunft weiser einsetzen, ein besseres Gleichgewicht zwischen Computerberechnung und menschlicher Einschätzung finden, zwischen dem Streben nach Effizienz und dem Aufbau von Fachwissen. Er zögerte einen Moment und sagte dann mit einem ironischen Lachen: »Ich bin nicht sehr optimistisch.«

Zwischenstück mit Grabräuber

Ich saß in der Klemme. Ich hatte mich – weil ich es musste, nicht weil ich es wollte – mit einem geistig verwirrten Grabräuber namens Seth Briars zusammengetan. »Ich esse nicht, ich schlafe nicht, ich wasche mich nicht, und es ist mir egal«, hatte Seth mich kurz nach unserem Zusammentreffen auf dem Friedhof neben Coot’s Chapel stolz informiert. Er wusste, wo sich gewisse Individuen aufhielten, nach denen ich suchte, und im Austausch dafür, dass er mich zu ihnen führte, sollte ich ihm helfen, einige frische Leichen an Critchley’s Ranch vorbei in eine staubige Geisterstadt namens Tumbleweed zu karren. Ich lenkte Seths Pferdewagen, während er hinten die Toten nach Wertsachen durchsuchte. Die Fahrt war eine Strapaze. Unterwegs entkamen wir Wegelagerern – ich konnte sehr gut mit Schusswaffen umgehen –, aber bei der Überquerung einer wackligen Brücke bei Gaptooth Ridge verrutschten die Leichen, und ich verlor die Kontrolle über die Pferde. Der Wagen raste in eine Schlucht, und ich starb in einer vulkanischen, den Bildschirm bedeckenden Fontäne aus Blut. Nach einigen höllischen Sekunden erwachte ich wieder zum Leben, nur um die Tortur ein weiteres Mal über mich ergehen zu lassen. Nach einem halben Dutzend Fehlschlägen gab ich die Hoffnung auf, die Mission jemals beenden zu können.

Das Spiel, das ich spielte, ein aufwendig gemachter, witzig geschriebener Open-World-Shooter mit dem Titel Red Dead Redemption spielt zu Anfang des letzten Jahrhunderts, in einer erfundenen Wildwest-Gegend namens New Austin. Die Handlung erinnert stark an Peckinpah. Bei Spielbeginn übernimmt man die Rolle des stoischen ehemaligen Gesetzlosen und heutigen Farmbesitzers John Marston, dessen rechte Wange von zwei langen, symbolisch tiefen Narben zerfurcht ist. Marston wird von Bundesagenten, die seine Frau und seinen jungen Sohn als Geiseln halten, gezwungen, seine alten Verbrecherkumpane aufzuspüren. Um das Spiel zu gewinnen, muss man den Revolverhelden mit Geschick und List durch verschiedene Aufgaben führen, von denen jede etwas schwieriger ist als die vorhergehende.

Nach einigen weiteren Anläufen schaffte ich es schließlich mit meiner grausigen Fracht über die Brücke. Tatsächlich schaffte ich es nach vielen nervenaufreibenden Stunden vor meinem mit der Xbox verbundenen Flachbildfernseher durch alle fünfzig Missionen. Als Belohnung durfte ich zusehen, wie ich selbst – alias John Marston – von den Agenten abgeknallt wurde, die ihn zu der Reise gezwungen hatten. Abgesehen von dem schaurigen Schluss hatte ich am Ende des Spiels das Gefühl, etwas erreicht zu haben. Ich hatte mit dem Lasso Wildpferde eingefangen, Kojoten geschossen und gehäutet, Züge ausgeraubt, beim Poker ein kleines Vermögen gewonnen, gemeinsam mit mexikanischen Revolutionären gekämpft, Dirnen vor Trunkenbolden gerettet und, in echter Wildwestmanier, eine ganze Armee Gangster mit einem Gatling-Gewehr in die ewigen Jagdgründe geschickt. Ich war auf die Probe gestellt worden, und meine Mittvierziger-Reflexe waren der Herausforderung gewachsen gewesen. Es war vielleicht kein epischer Sieg, aber es war ein Sieg.

Die meisten Menschen, die Videospiele verachten, haben nie eines gespielt. Das ist bei dem vielen Blut verständlich, aber schade. Die besten Spiele sind nicht nur originell und gelegentlich wunderschön, sondern sie sind auch ein gutes Vorbild für die Software-Entwicklung. Sie beweisen, dass Anwendungen die Entwicklung von Fähigkeiten fördern können, statt ihren Schwund. Um ein Videospiel zu gewinnen, muss sich ein Spieler zunehmend schwierigeren Herausforderungen stellen, die ihn immer wieder an die Grenzen seiner Fähigkeiten bringen. Jede Mission hat ein Ziel, wenn man es besonders gut macht, gibt es Belohnungen, und man bekommt unmittelbar und oft unmissverständlich Rückmeldungen (in Form einer Blutfontäne etwa). Die Spiele fördern einen Flowzustand und regen den Spieler dazu an, schwierige Manöver zu wiederholen, bis sie in Fleisch und Blut übergegangen sind. Die Kompetenz, die ein Spieler erwirbt, mag trivial sein – wie man mit einem Kunststoffcontroller einen erfundenen Wagen über eine erfundene Brücke fährt etwa –, aber er lernt sie gründlich, und er wird sie in der nächsten Mission oder im nächsten Spiel wieder anwenden können. Er erwirbt Expertenwissen und hat dabei noch einen Riesenspaß.43

Videospiele sind eine Ausnahme bei der Software, die wir privat benutzen. Die meisten beliebten Apps, Gadgets und Onlinedienste sind auf Bequemlichkeit ausgerichtet, oder, wie die Hersteller sagen, auf »Benutzerfreundlichkeit«. Man braucht kaum Einarbeitung oder Übung, um die Programme durch einfaches Antippen, Wischen oder Klicken zu steuern. Wie die automatischen Systeme, die in Industrie und Handel eingesetzt werden, sind auch diese Programme sorgfältig dafür konstruiert, die Denkarbeit von Menschen an Computer zu übertragen. Selbst bei High-end-Programmen, die von Musikern, Musikproduzenten, Filmemachern und Fotografen verwendet werden, wird zunehmend Wert auf einfache Benutzung gelegt. Komplexe Audio- und visuelle Effekte, für die man einst Fachkenntnisse brauchte, sind heute per Mausklick oder Schieberegler verfügbar. Die zugrunde liegenden Konzepte muss man nicht verstehen, denn sie sind in die Software-Routinen eingebaut. Das hat den großen Vorteil, dass die Software eine breitere Zielgruppe hat – Menschen, die diese Effekte ohne eigentlich notwendige Anstrengungen wollen. Aber der Preis des Entgegenkommens an die Dilettanten ist die Abwertung des Fachwissens.

Peter Merholz, ein anerkannter Berater für Software-Design, rät Programmierern zu »Reibungslosigkeit« und »Einfachheit« bei ihren Produkten. Erfolgreiche Geräte und Anwendungen, sagt er, verbergen die technische Komplexität hinter benutzerfreundlichen Schnittstellen. Sie minimieren die kognitive Last für die Benutzer: »Über einfache Dinge muss man nicht viel nachdenken. Auswahlmöglichkeiten werden ausgeschaltet, und man muss sich nichts merken.«44 Nach diesem Rezept erhält man Anwendungen, die, wie Christof van Nimwegens Experiment mit den Kannibalen und Missionaren gezeigt hat, die mentalen Prozesse des Lernens, der Kompetenz- und der Gedächtnisbildung, umgehen. Die Tools verlangen wenig von uns, geben uns aber, in kognitiver Hinsicht, auch nur wenig zurück.

Einiges spricht für das Konstruieren nach dem Prinzip »Es funktioniert einfach«. Wer schon einmal Schwierigkeiten hatte, einen digitalen Wecker einzustellen, die Einstellungen an einem WLAN-Router zu ändern oder die Menüzeilen bei Microsoft Word zu verstehen, kennt den Wert der Einfachheit. Unnötig komplizierte Produkte sind nutzlose Zeitverschwendung. Natürlich müssen wir nicht auf jedem Gebiet Experte sein, aber sobald Software-Programmierer anfangen, Denk- und soziale Bindungsprozesse zu programmieren, wird Reibungslosigkeit zum Problem. Wir verlieren dadurch nicht nur Knowhow, sondern auch das Gefühl, dass Knowhow etwas Wertvolles ist, das sich zu pflegen lohnt. Man denke nur an die Rechtschreib- und Korrektur-Algorithmen, die heutzutage in praktisch jede Textverarbeitungs- und Messaging-Anwendung integriert sind. Früher lernte man durch Rechtschreibprüfungstools. Sie hoben mögliche Fehler hervor, machten darauf aufmerksam und erteilten nebenbei noch eine kleine Unterrichtsstunde in Rechtschreibung. Man lernte bei der Anwendung. Inzwischen haben diese Tools auch eine Autokorrekturfunktion. Sie korrigieren unbemerkt alle Fehler, ohne den Nutzer darauf aufmerksam zu machen. So gibt es kein Feedback, keine »Reibung«. Man sieht nichts und lernt nichts.

Die Suchmaschine von Google ist ein weiteres Beispiel. Ursprünglich sah man dort nur ein leeres Texteingabefeld. Die Schnittstelle war ein Vorbild an Einfachheit, aber man musste sich immer noch Gedanken über die Suchanfrage machen, bewusst Suchbegriffe zusammenstellen und überarbeiten, um die besten Ergebnisse zu erhalten. Das muss man heute nicht mehr. Im Jahr 2008 führte das Unternehmen Google Suggest ein, ein Autovervollständigungsprogramm, das anhand von Vorhersage-Algorithmen voraussieht, wonach man sucht. Sobald man den ersten Buchstaben in das Sucheingabefeld eintippt, bietet Google mehrere Vorschläge für Suchanfragen an. Mit jedem weiteren Buchstaben tauchen neue Vorschläge auf. Hinter der übertriebenen Dienstbeflissenheit des Unternehmens steckt ein beharrliches, fast manisches Streben nach Effizienz. Google geht mit der menschenfeindlichen Einstellung an die Automatisierung heran, nach der die menschliche Kognition schwerläufig und ungenau ist, ein lästiger biologischer Prozess, den ein Computer viel besser erledigt. »In einigen Jahren werden die meisten Suchanfragen durchgeführt werden, ohne dass man tatsächlich fragt«, meint Ray Kurzweil, der Erfinder und Futurist, der im Jahr 2012 zum technischen Direktor bei Google ernannt wurde. Das Unternehmen wird »einfach wissen, was Sie sehen wollen«.45 Das endgültige Ziel sind vollständig automatisierte Suchvorgänge, bei denen der menschliche Wille nicht mehr zählt.

Soziale Netzwerke wie Facebook streben ähnliche Ziele an. Dort versucht man, mit statistisch gestützter »Entdeckung« potentieller Freunde, den »Like«-Buttons und anderen anklickbaren Zuneigungsbekundungen sowie der automatisierten Verwaltung vieler zeitraubender Aspekte von persönlichen Beziehungen Ordnung in den chaotischen Vorgang des Kontakteknüpfens zu bringen. Der Facebook-Gründer Mark Zuckerberg preist dies als »reibungsloses Teilen« an – ein Sozialleben ohne bewusste Anstrengung. Doch die Vorstellung, die bürokratischen Ideale von Geschwindigkeit, Produktivität und Standardisierung auf zwischenmenschliche Beziehungen anzuwenden, hat etwas Abstoßendes. Die wichtigsten Bindungen werden nicht durch Transaktionen auf einem Marktplatz oder andere Standardformen des Datenaustauschs geknüpft. Menschen sind keine Knoten in einem Grid-Netzwerk. Diese Bindungen setzen Vertrauen, Verbindlichkeit und Opferbereitschaft voraus, Eigenschaften, in denen Technokraten nur Ineffizienz und Schwierigkeiten sehen. Doch wenn man die Reibung aus den sozialen Bindungen herausnimmt, stärkt man sie nicht etwa, sondern man schwächt sie. Sie werden damit Bindungen zwischen Konsument und Produkt ähnlicher, die leicht entstehen und genauso leicht wieder enden können.

Wie überbehütende Eltern, die ihre Kinder nichts allein tun lassen, schwächen und werten Google, Facebook und andere Softwarehersteller Charaktereigenschaften ab, die zumindest in der Vergangenheit als unverzichtbar für ein erfülltes und leidenschaftliches Leben galten: Originalität, Neugier, Unabhängigkeit, Durchhaltevermögen und Mut. Vielleicht wird man in Zukunft diese Tugenden nur noch stellvertretend erfahren, in den Abenteuern von Actionfiguren wie John Marston in Phantasiewelten, die man über einen Bildschirm betritt.

KAPITEL ACHT

DIE DROHNE IN DIR

Es ist ein kalter nebliger Freitagabend Mitte Dezember, und Sie fahren von Ihrer Weihnachtsfeier im Büro nach Hause. Eigentlich werden Sie gefahren. Vor kurzem haben Sie ein autonomes Fahrzeug gekauft, eine eSmart-Elektro-Limousine von Mercedes, programmiert von Google – und am Steuer ist die Software. Sie sehen im Licht Ihrer automatischen LED-Scheinwerfer, dass die Straße stellenweise vereist ist, und Sie wissen dank des laufend aktualisierten Displays auf den Armaturen, dass das Auto seine Geschwindigkeit und Traktionseinstellung entsprechend anpasst. Alles läuft glatt. Sie entspannen sich und lassen die Gedanken zu den Festlichkeiten des Abends zurückwandern. Doch während Sie durch ein dichtes Waldstück fahren, nur wenige hundert Meter von Ihrer Einfahrt entfernt, schießt ein Tier auf die Straße und bleibt direkt vor dem Auto wie angewurzelt stehen. Sie erkennen, es ist der Beagle Ihres Nachbarn. Das Tier ist mal wieder ausgerissen.

Was tut Ihr Roboter-Fahrer? Bremst er, um den Hund zu retten, und nimmt er das Risiko in Kauf, dass das Auto unkontrolliert schleudert? Oder lässt er den virtuellen Fuß von der Bremse, opfert den Beagle, damit Sie und Ihr Auto keinen Schaden erleiden? Wie ordnet und wägt er die Variablen und Wahrscheinlichkeiten ab, um in Sekundenbruchteilen zu einer Entscheidung zu gelangen? Wenn seine Algorithmen berechnen, dass eine Vollbremsung dem Hund eine 53-prozentige Überlebenschance verschaffen würde, aber eine 18-prozentige Chance, dass das Auto beschädigt wird und eine 4-Prozent Chance, dass Sie verletzt werden, kommt er dann zu der Schlussfolgerung, es wäre richtig zu versuchen, das Leben des Tieres zu retten? Wie überträgt die Software Zahlen selbständig in eine Entscheidung, die sowohl praktische als auch moralische Konsequenzen hat?

Und wenn das Tier auf der Straße nicht dem Nachbarn gehört, sondern Ihnen? Und wenn es nicht ein Hund, sondern ein Kind wäre? Stellen Sie sich vor, sie lesen im morgendlichen Pendelverkehr ihre über Nacht eingegangenen E-Mails, während ihr selbstfahrendes Auto eine Brücke überquert, genau eingestellt auf das Tempolimit. Eine Gruppe Schulkinder überquert ebenfalls die Brücke, auf dem Fußgängerweg neben Ihrer Fahrbahn. Die Kinder gehen unter der Aufsicht von Erwachsenen, scheinen friedlich und folgsam. Es gibt kein Anzeichen für Unruhe, doch Ihr Auto wird etwas langsamer, sein Computer entscheidet im Zweifel lieber zugunsten der Sicherheit. Plötzlich gibt es eine Rauferei, und ein kleiner Junge wird auf die Straße gestoßen. Sie tippen eine Message in Ihr Smartphone und bemerken nicht, was geschieht. Ihr Auto muss entscheiden: Entweder es schwenkt aus zur Gegenseite der Brücke, was möglicherweise Ihren Tod bedeuten könnte, oder es überfährt das Kind. Was befiehlt die Software dem Steuer? Würde das Programm anders entscheiden, wenn eines Ihrer Kinder auf dem Rücksitz säße, angeschnallt an einen mit Sensoren versehenen Sitz? Und wenn auf der anderen Spur ein Auto entgegenkäme? Und wenn das Fahrzeug ein Schulbus wäre? Isaac Asimows erstes Gesetz der Roboterethik: »Ein Roboter darf kein menschliches Wesen verletzen oder durch Untätigkeit zulassen, dass einem menschlichen Wesen Schaden zugefügt wird«1 klingt vernünftig und beruhigend, geht jedoch von einer weitaus einfacheren Welt aus als der unseren.

Die Ankunft autonomer Fahrzeuge, sagt Gary Marcus, Psychologieprofessor von der NYU, bedeutet mehr als nur »das Ende einer weiteren menschlichen Nische«. Es läutet den Beginn einer neuen Ära ein, in der Maschinen »ethische Systeme«2 brauchen. Manche würden sagen, wir sind schon so weit. Im Kleinen haben wir schon auf kaum fassbare Weise begonnen, moralische Entscheidungen an Computer abzugeben. Denken Sie an Roomba, den viel beworbenen Staubsauger-Roboter. Roomba unterscheidet nicht zwischen einer Staubfluse und einem Insekt. Er schluckt beides ohne Unterschied. Wenn eine Grille seinen Weg kreuzt, wird sie in den Tod gerissen. Viele Menschen würden beim Staubsaugen ebenfalls über die Grille fahren. Sie messen einem Insektenleben keinen Wert zu, zumindest nicht, wenn das Insekt ein Eindringling in ihrem Haus ist. Doch andere würden anhalten, die Grille aufheben, sie zur Tür tragen und in die Freiheit entlassen. (Für Anhänger der alten indischen Religion des Jainismus ist es eine Sünde, Lebendiges zu verletzen; sie achten sehr darauf, keine Insekten zu verletzen oder zu töten.) Wenn wir Roomba auf einem Teppich loslassen, verleihen wir ihm die Macht, für uns moralische Entscheidungen zu treffen. Rasenmäher-Roboter wie LawnBott und Automower töten routinemäßig höhere Lebensformen wie zum Beispiel Reptilien, Amphibien und kleine Säugetiere. Die meisten Menschen würden beim Rasenmähen eine Kröte oder eine Maus bewusst verschonen, wenn sie sie sähen, und wenn sie sie versehentlich überfahren würden, täte ihnen das leid. Ein Rasenmäher-Roboter tötet ohne Bedenken.

Bis jetzt blieben Diskussionen über die Moral von Robotern und anderen Maschinen größtenteils theoretisch. Das war Stoff für Science-Fiction-Romane oder für Gedankenexperimente im Philosophieunterricht. Moralische Betrachtungen begleiteten oft die Entwicklung von Werkzeugen – Waffen haben Sicherungen, Motoren haben Drehzahlregler, Suchmaschinen haben Filter –, doch bislang mussten Maschinen kein Gewissen haben. Sie mussten nicht ihr eigenes Vorgehen in Echtzeit den zufälligen moralischen Anforderungen einer Situation anpassen. Wenn in der Vergangenheit Fragen zum moralischen Einsatz einer Technologie aufkamen, griffen immer Menschen ein und lösten das Problem. Das wird in der Zukunft nicht immer machbar sein. Je mehr Roboter und Computer lernen, ihre Umwelt wahrzunehmen und darin autonom zu agieren, desto mehr werden sie in Situationen geraten, wo es nicht die eine richtige Entscheidung gibt. Sie werden schwierige Entscheidungen selbständig treffen müssen. Es ist nicht möglich, komplexe menschliche Aktivitäten ohne moralische Entscheidungen zu automatisieren.

Menschen sind keineswegs fehlerlos, wenn es um moralische Entscheidungen geht. Wir tun oft das Falsche, manchmal aus Verwirrung oder Unachtsamkeit, manchmal bewusst. Daher sind manche der Ansicht, Roboter könnten wegen ihrer Geschwindigkeit rationalere Entscheidungen treffen als Menschen, wenn sie sofort handeln müssen, denn Roboter könnten schneller verschiedene Optionen prüfen, Wahrscheinlichkeiten abschätzen und die Konsequenzen abwägen. Da ist etwas Wahres dran. Unter bestimmten Umständen, besonders, wenn es nur um Geld oder Besitz geht, kann eine schnelle Berechnung von Wahrscheinlichkeiten ausreichen, um zu entscheiden, welche Aktion zum optimalen Ergebnis führt. Manchmal überfahren menschliche Fahrer eine Ampel, die gerade auf Rot schaltet, selbst wenn das die Wahrscheinlichkeit für einen Unfall erhöht. Ein Computer würde nie so unbedacht handeln. Doch die meisten moralischen Dilemmata sind nicht so leicht fassbar. Versucht man, sie auf rein mathematische Weise zu lösen, gelangt man zu einer grundlegenderen Frage: Wer entscheidet in einer moralisch nicht eindeutigen Situation, was die »optimale« oder »rationale« Entscheidung ist? Wer wird das Gewissen des Roboters programmieren? Der Hersteller des Roboters? Der Eigentümer des Roboters? Die Software-Programmierer? Politiker? Regierungsbehörden? Philosophen? Ein Versicherungsvertreter?

Es gibt keinen perfekten moralischen Algorithmus, keine Möglichkeit, Moral auf eine Reihe von Regeln zu reduzieren, auf die sich alle einigen werden. Sogar kalt berechnende Utilitaristen sind subjektiv; ihr Ergebnis hängt von den Werten und Interessen des Entscheidungsträgers ab. Die rationale Entscheidung für Ihre Autoversicherung – der Hund stirbt – mag nicht die Entscheidung sein, die Sie fällen würden, sei es nach Überlegung oder reflexartig, wenn Sie kurz davor stehen, das Haustier Ihres Nachbarn zu überfahren.

»In einem Roboterzeitalter werden wir wie vorher – oder vielleicht wie nie zuvor – in der Moralität verhaftet bleiben«, beobachtet der Politikwissenschaftler Charles Rubin.3

Doch die Algorithmen müssen geschrieben werden. Die Vorstellung, dass wir den Weg aus den Dilemmata berechnen können, mag allzu simpel oder gar abstoßend erscheinen, doch das ändert nichts an der Tatsache, dass Roboter- und Software-Anbieter sich den Weg aus den moralischen Dilemmata heraus rechnen müssen. Wenn nicht und solange nicht künstliche Intelligenz eine Ähnlichkeit mit Bewusstsein erlangt und in der Lage ist, zu fühlen oder zumindest Gefühle wie Zuneigung und Bedauern zu simulieren, bleibt kein anderer Weg für unsere rechnenden Verwandten. Wir mögen es bedauern, dass es uns gelungen ist, Automaten die Möglichkeit zu moralischen Handlungen zu bieten, ehe wir herausgefunden haben, wie wir ihnen ein moralisches Verständnis verleihen können, doch damit sind wir nicht aus dem Schneider. Das Zeitalter der ethischen Systeme ist bereits angebrochen. Wenn autonome Maschinen auf die Welt losgelassen werden sollen, werden moralische Regeln in Softwarecode übertragen werden müssen, so unvollkommen das eben möglich ist.

TÖTUNGSMASCHINEN

Ein anderes Szenario: Sie sind Oberstleutnant und befehligen ein Bataillon menschlicher und mechanischer Soldaten. Sie haben in einer Stadt, die Ihre Streitkräfte gegen einen Guerillaangriff verteidigen, einen Zug von computergesteuerten »Scharfschützen-Robotern« an Straßenecken und auf Hausdächern stationiert. Einer der Roboter entdeckt mit seinem Laser-Visier einen Mann in Zivilbekleidung, der ein Mobiltelefon in der Hand hält. Sein Verhalten ist aller Erfahrung nach als verdächtig einzustufen. Der Roboter analysiert die augenblickliche Situation gründlich und zieht eine umfangreiche Datenbank mit Verhaltensmustern aus der Vergangenheit zu Rate. Er ermittelt sofort eine 68-prozentige Wahrscheinlichkeit, dass die Person ein Aufständischer ist, der die Explosion einer Bombe vorbereitet, und eine 32-prozentige Wahrscheinlichkeit, dass es sich nur um einen unschuldigen Passanten handelt. In dem Moment fährt ein Mannschaftstransportwagen mit Dutzenden Ihrer menschlichen Soldaten die Straße hinunter. Wenn dort eine Bombe ist, könnte sie jeden Augenblick zur Explosion gebracht werden. Der Krieg hat keinen Pausenknopf. Menschliches Ermessen kann nicht eingebracht werden. Der Roboter muss handeln. Was befiehlt die Software seiner Waffe: Schießen oder nicht?

Während wir als Zivilisten noch mit den ethischen Folgen selbstfahrender Kraftfahrzeuge und anderer autonomer Roboter ringen, ist die Lage im militärischen Bereich schon längst eine andere. Seit Jahren schon untersuchen Verteidigungsministerien und Militärakademien Methoden und die Konsequenzen, die sich ergeben, wenn man die Entscheidungsgewalt über Leben und Tod an Kampfmaschinen abgibt. Raketen- und Bombentreffer durch unbemannte Drohnen wie der Predator und Reaper sind bereits üblich, und sie sind Gegenstand hitziger Debatten. Beide Seiten führen gute Argumente ins Feld. Die Befürworter führen an, Drohnen halten Schaden von Soldaten und Piloten fern und reduzieren durch ihre präzisen Angriffe die Opfer und Beschädigungen, die durch traditionelle Gefechte und Bombardierungen entstehen. Gegner sehen in den Angriffen staatlich geförderte Attentate. Sie sagen, die Explosionen töten und verwunden häufig Zivilisten, ganz zu schweigen von dem Schrecken, den sie auslösen. Drohnenangriffe sind jedoch nicht automatisiert; sie sind ferngesteuert. Die Flugzeuge mögen selbständig fliegen und Aufklärungsfunktionen selbst ausführen, doch die Entscheidung, die Waffen abzufeuern, wird von Soldaten an Computern gefällt, die Live-Videoaufnahmen vor sich sehen und auf strikten Befehl ihrer Vorgesetzten handeln. Die gegenwärtig im Einsatz befindlichen Drohnen haben Ähnlichkeit mit Lenkwaffen und anderen Waffen. Hier ist es immer noch ein Mensch, der den Abzug drückt.

Die große Veränderung wird kommen, sobald ein Computer am Abzug ist. Vollautomatische computergesteuerte Tötungsmaschinen – das Militär nennt sie Lethal Autonomous Robots (LARS, dt. tödliche autonome Roboter) – sind heute technisch machbar, und das schon seit einiger Zeit. Umgebungssensoren können ein Gefechtsfeld mit hoher Auflösung präzise scannen, automatische Feuermechanismen sind schon weit verbreitet, und Codes für das Abfeuern einer Waffe oder das Abschießen einer Rakete sind nicht schwer zu schreiben. Für einen Computer unterscheidet sich die Entscheidung, eine Waffe abzufeuern, nicht von der Entscheidung, eine Aktie zu verkaufen oder eine E-Mail-Botschaft in einen Spam-Ordner zu leiten. Ein Algorithmus ist ein Algorithmus.

2013 gab der südafrikanische Jurist Christof Heyns, Sonderberichterstatter der Vereinten Nationen zu außergerichtlichen, summarischen und willkürlichen Tötungen, einen Bericht zum Stand und über die Zukunft militärischer Roboter ab.4 Es ist eine abschreckende Lektüre in nüchternen und gemäßigten Formulierungen. »Regierungen mit der Möglichkeit, Lethal Autonomous Robots zu produzieren«, schrieb Heyns, »geben an, dass ihr Einsatz in bewaffneten Konflikten zur Zeit nicht vorgesehen ist.« Doch die Geschichte der Waffentechnik legt nahe, fährt er fort, dass wir solchen Versicherungen nicht allzu viel Bedeutung beimessen sollten. »Erinnern wir uns, dass Flugzeuge und Drohnen in bewaffneten Konflikten zunächst nur zur Aufklärung eingesetzt wurden und dass ein offensiver Einsatz ausgeschlossen wurde wegen vorherzusehender nachteiliger Folgen. Wie die Erfahrung zeigt, werden anfängliche Absichten oft fallengelassen, wenn eine Technologie verfügbar ist, die einen gewissen Vorteil vor dem Gegner verspricht.« Sobald ein neuer Waffentyp eingesetzt wird, folgt außerdem fast immer ein Wettrüsten. An dem Punkt »kann die Macht eigennütziger Interessen eine angemessene Kontrolle von vornherein ausschließen.«

Der Krieg ist in vielerlei Hinsicht schon weiter als der Zivilbereich. Es gibt Einsatzregeln, Befehlsketten, gut abgegrenzte Seiten. Töten ist nicht nur akzeptabel, sondern erwünscht. Doch sogar im Krieg ergeben sich bei der Programmierung moralische Probleme, für die es keine Lösung gibt – oder die zumindest nicht gelöst werden können, ohne eine Menge moralischer Betrachtungen außer Acht zu lassen. Im Jahr 2008 gab die U. S.-Marine bei der Ethics and Emerging Sciences Group (dt: Arbeitsgruppe für Ethik und neue Wissenschaften) an der California Polytechnic State University ein Weißbuch in Auftrag, in dem die moralischen Fragen untersucht werden, die durch LARS aufgeworfen werden, sowie mögliche Lösungswege für den »Bau ethisch autonomer Roboter« für den militärischen Einsatz aufgezeigt werden. Die Ethiker berichteten von grundsätzlich zwei Möglichkeiten, einen Computer so zu programmieren, dass er moralische Entscheidungen trifft: »Top-Down« und »Bottom-Up«. Beim »Top-Down«-Ansatz werden alle Regeln für die Entscheidungen des Roboters im Voraus programmiert, und der Roboter gehorcht einfach den Regeln, »ohne eine Veränderung, ohne Flexibilität«. Das klingt geradlinig, ist es aber nicht, wie Asimow entdeckte, als er versuchte, sein System für Roboterethik zu formulieren. Es gibt keine Möglichkeit, alle Umstände vorauszusehen, denen ein Roboter begegnen könnte. Die Starrheit der Top-Down-Programmierung könnte versagen, schrieben die Wissenschaftler, »wenn unvorhergesehene Ereignisse und Situationen auftreten oder Ereignisse, die der Programmierer sich nicht hatte vorstellen können. Dann würde sich der Roboter falsch verhalten oder schlichtweg Schreckliches tun, eben wegen seiner Regelgebundenheit.«5

Beim »Bottom-Up«-Ansatz wird der Roboter mit ein paar Grundregeln programmiert und dann in die Welt geschickt. Mit Maschinen-Lerntechniken entwickelt er seinen eigenen Moralkodex und passt sich an neue Situationen an. »Wie ein Kind wird ein Roboter in verschiedenste Situationen gebracht und soll durch Versuch und Irrtum (und durch Rückkoppelung) lernen, was angemessen ist und was nicht.« Je mehr schwierige Situationen ihm begegnen, desto feiner abgestimmt wird sein moralisches Urteilsvermögen. Doch der »Bottom-Up«-Ansatz steht vor noch größeren Problemen. Erstens ist er nicht praktikabel; es müssen erst noch Algorithmen für das Maschinenlernen entwickelt werden, die raffiniert und stabil genug für moralische Entscheidungen sind. Zweitens gibt es keinen Raum für Versuch und Irrtum in Situationen, in denen es um Leben oder Tod geht; der Ansatz an sich wäre unmoralisch. Drittens gibt es keine Garantie, dass der Moralkodex, den ein Computer entwickelt, den menschlichen Moralvorstellungen ähnlich wäre oder im Einklang damit stünde. Ließe man einen Roboter mit einem Maschinengewehr und einer Reihe Maschinen-Lern-Algorithmen auf ein Gefechtsfeld, könnte er bösartig werden.

Menschliche Wesen verwenden eine Mischform von »Top-Down«- und »Bottom-Up«-Ansatz, wenn es um moralische Entscheidungen geht, erläuterten die Ethiker. Menschen leben in Gesellschaften mit Gesetzen und anderen Regeln, die das Verhalten leiten und kontrollieren; viele Menschen orientieren sich in ihren Entscheidungen und Handlungen an religiösen und kulturellen Vorgaben; und das persönliche Gewissen, sei es angeboren oder nicht, stellt noch eigene Regeln auf. Auch die Erfahrung spielt eine Rolle. Während man aufwächst, lernt man, ein moralisches Wesen zu werden, wenn man mit moralischen Entscheidungen verschiedener Art in unterschiedlichen Situationen zu kämpfen hat. Wir sind keineswegs perfekt, doch die meisten besitzen ein moralisches Unterscheidungsvermögen, das flexibel anwendbar ist auf Dilemmata, die uns zuvor noch nicht begegnet sind. Der einzige Weg, aus Robotern echte moralische Wesen zu machen, wäre eine Mischform der Ansätze nach menschlichem Beispiel, bei der sie sowohl Regeln gehorchen als auch aus Erfahrung lernen. Doch die Entwicklung einer Maschine mit solchen Fähigkeiten liegt weit jenseits unserer technischen Möglichkeiten. »Schließlich«, so die Ethiker, »mögen wir in der Lage sein, moralisch intelligente Roboter mit der dynamischen und flexiblen Moralität von ›Bottom-Up‹-Systemen zu bauen, die verschiedene Inputs verarbeiten können, und gleichzeitig die Auswertung der Möglichkeiten und Handlungen nach ›Top-Down‹- Prinzipien auszuwählen. Doch ehe es so weit ist, müssen wir herausfinden, wie Computer so programmiert werden können, dass sie ›supra-rationale Fähigkeiten‹ an den Tag legen – mit Gefühlen, sozialen Fähigkeiten, Bewusstsein und dem Gefühl, ›in der Welt zu leben‹«.6 Mit anderen Worten: Wir müssten Götter werden.

Es ist nicht wahrscheinlich, dass Armeen so lange warten werden. In einem Artikel in Parameters, der Zeitschrift des United States Army War College, meint Thomas Adams, Militärstratege und Oberstleutnant im Ruhestand: »Die Logik, die zu vollautomatischen Systemen führt, scheint unausweichlich.« Dank der Geschwindigkeit, des Umfangs und der Sensitivität von Roboterwaffen »verlässt die Kriegführung den Bereich der menschlichen Sinne« und »bewegt sich außerhalb der Grenzen menschlicher Reaktionszeiten«. Bald wird sie »zu komplex für die menschliche Auffassungsgabe«. Da Menschen das schwächste Glied im militärischen System werden, sagt er, und schließt sich hier den technozentrierten Argumenten ziviler Software-Designer an, wird es fast unmöglich werden, »sinnvolle menschliche Kontrolle« über die Entscheidungen auf dem Gefechtsfeld zu behalten. »Eine Möglichkeit natürlich wäre es, einfach eine geringere Geschwindigkeit bei der Informationsverarbeitung als Preis dafür zu akzeptieren, dass Menschen weiterhin an militärischen Entscheidungen beteiligt sind. Das Problem dabei ist, dass irgendein Feind unweigerlich beschließen wird, die menschenzentrierten Systeme mit nicht derart eingeschränkten Systemen anzugreifen. Schließlich werden wir zu der Ansicht gelangen, glaubt Adams, dass »taktische Kriegführung eigentlich eine Angelegenheit für Maschinen und überhaupt nicht für Menschen ist«.7

Nicht nur wegen der taktischen Effizienz von LARS wird es schwierig, ihren Einsatz zu verhindern. Ihr Einsatz hätte auch bestimmte ethische Vorteile, unabhängig von den moralischen Grundlagen der Maschinen selbst. Im Gegensatz zu menschlichen Kämpfern besitzen Roboter keine niedrigen Instinkte, die sie im Chaos und in der Hitze des Gefechts beeinflussen. Sie verspüren auch keinen Stress und leiden nicht an Depressionen oder Adrenalinstößen. »Sie würden nicht aus Rache, Panik, Ärger, Groll, Vorurteilen oder Angst handeln«, schreibt Christof Heyns. »Außerdem würden Roboter der Zivilbevölkerung nicht absichtlich Leid zufügen, zum Beispiel durch Folter, es sei denn, sie sind entsprechend programmiert worden. Roboter vergewaltigen auch nicht«.8

Roboter lügen nicht und versuchen auch nicht, ihre Handlungen zu vertuschen. Man kann sie so programmieren, dass sie eine »digitale Spur« hinterlassen, damit wären die Taten einer Armee besser nachvollziehbar. Und das Wichtigste: Durch den Einsatz von LARS im Krieg kann ein Land den Tod oder die Verwundung der eigenen Soldaten vermeiden. Killerroboter retten Leben, wie sie auch Leben nehmen. Sobald den Menschen klar wird, dass automatisierte Soldaten und Waffen die Wahrscheinlichkeit senken, dass ihre Söhne und Töchter im Gefecht getötet oder verwundet werden, werden die Regierungen dem Druck, die Kriegführung zu automatisieren, kaum widerstehen können. Dass Robotern »menschliches Urteilsvermögen, gesunder Menschenverstand, Einschätzung der allgemeinen Sachlage und ein Verständnis für die Absichten hinter den Handlungen von Menschen und ein Verständnis für Werte« fehlen, mag am Ende unwichtig sein, so Heyn. Die moralische »Dummheit« der Roboter hat ihre Vorteile. Zeigten die Maschinen menschliche Qualitäten wie Gedanken und Gefühle, dann würden wir sie weniger gern zur Zerstörung in den Krieg schicken.

Es wird noch schwieriger. Die militärischen und politischen Vorteile von Roboter-Soldaten bringen weitere eigene Dilemmata mit sich. Der Einsatz von LARS würde nicht nur die Art und Weise von Gefechten und Scharmützeln verändern, legte Heyns dar. Er wird die Kalkulation von Politikern und Generälen verändern, wenn es um den Kriegsbeginn überhaupt geht. Die öffentliche Abscheu vor Opfern schreckte Entscheidungsträger bisher vom Kampf ab und war ein Anreiz für Verhandlungen. Weil LARS die »menschlichen Kosten bewaffneter Konflikte« verringern werden, wird die Öffentlichkeit »zunehmend weniger Interesse« an militärischen Debatten zeigen und »die Entscheidung zur Gewaltanwendung größtenteils als finanzielle oder diplomatische Frage des Staates betrachten, und das führt zu einer Normalisierung des bewaffneten Konflikts. LARS können so für Staaten die Schwelle für den Kriegseintritt oder für den Einsatz tödlicher Waffen senken, und das könnte am Ende dazu führen, dass der bewaffnete Konflikt nicht mehr das letzte Mittel ist.«9

Die Einführung einer neuen Waffengattung verändert immer die Natur der Kriegführung, und aus der Ferne abgeschossene oder zur Detonation gebrachte Waffen – Katapulte, Minen, Mörser, Raketen – haben tendenziell die größten Auswirkungen, sowohl beabsichtigte als auch unbeabsichtigte. Die Folgen autonomer Tötungsmaschinen würden wahrscheinlich alles bisher Bekannte übertreffen. Der erste Schuss, den ein Roboter von sich aus abgibt, wird weltweit gehört werden. Er wird den Krieg und vielleicht auch die Gesellschaft für immer verändern.

TIEFENAUTOMATISIERUNG

Die sozialen und moralischen Herausforderungen durch Killerroboter und selbstfahrende Autos weisen auf Wichtiges und Beunruhigendes in der Stoßrichtung der Automatisierung hin. Der Substitutionsmythos gründete immer auf der irrtümlichen Annahme, eine Aufgabe könne in einzelne Teilaufgaben aufgespalten werden, und auch wenn diese Teilaufgaben automatisiert würden, bliebe die Gesamtaufgabe ihrem Wesen nach unverändert. Diese Definition muss wohl erweitert werden. Mit immer größerer Reichweite der Automatisierung erfahren wir, dass auch die Annahme falsch ist, die Gesellschaft könne in getrennte Handlungssphären unterteilt werden –, zum Beispiel berufliche und Freizeitbeschäftigungen oder solche im Zuständigkeitsbereich der Regierung – und diese Sphären könnten jede für sich automatisiert werden, ohne die Gesellschaft als Ganzes zu verändern. Alles hängt zusammen – wenn man die Waffe verändert, verändert man den Krieg –, und die Verbindungen werden enger, wenn man sie in Computernetzwerken explizit macht. Irgendwann einmal erreicht die Automatisierung einen kritischen Punkt. Dann beginnt sie die Normen, die Anschauungen und die Moral der Gesellschaft zu bestimmen. Menschen sehen sich selbst und ihre Beziehungen zu anderen in einem anderen Licht, und sie passen ihr Gefühl für persönliches Handeln und Verantwortung an die wachsende Rolle der Technologie an. Sie verhalten sich auch anders. Sie erwarten Hilfe von Computern, und in den seltenen Augenblicken, wo diese nicht verfügbar ist, sind sie verwirrt. Software wird zu dem, was der MIT-Computerwissenschaftler Joseph Weizenbaum als »unentbehrlichen Bestandteil« bezeichnete. Sie wird »zu dem Material, aus dem der Mensch seine Welt aufbaut«.10

In den 1990er Jahren, als der Dotcom-Blase schon allmählich die Luft ausging, wurde viel und aufgeregt über die »allgegenwärtigen Computer« gesprochen. Bald, so versicherten uns Experten, wären überall Microchips – in Fabrikmaschinen, in Warenlagern, an Bürowänden, in Geschäften und Privathaushalten, im Boden und in der Luft, in Konsumgütern und in Kleidungsstücke eingewoben, sie würden sogar in unserem Körper herumschwimmen. Mit Sensoren und Sende-Empfangsgeräten würden die winzigen Computer jede nur vorstellbare Variable messen, von der Metallermüdung zur Erdtemperatur bis hin zum Blutzucker. Und sie würden ihre Messergebnisse über das Internet in Datenverarbeitungszentren senden, wo größere Computer die Zahlen verarbeiten und Anweisungen aussenden würden, wie alles im vorgesehenen Rahmen und synchron im Ablauf gehalten werden konnte. Computer wären überall; die Umgebung wäre automatisiert. Wir würden in einem Paradies für Computerversessene leben, die Welt wäre eine programmierbare Maschine.

Eine der Hauptquellen für den Hype war Xerox PARC, das berühmte Forschungslabor in Silicon Valley, wo Steve Jobs die Inspiration für den Macintosh fand. In Veröffentlichungen der Ingenieure und Informationswissenschaftler von PARC wurde eine Zukunft geschildert, in der Computer so tief in den »Stoff des Alltagslebens« verwoben wären, dass sie davon »nicht mehr unterscheidbar« wären.11 Wir würden all die Computerberechnungen um uns herum nicht mehr wahrnehmen. Wir wären so übersättigt mit Daten, so auf Software eingerichtet, dass die Angst vor Überinformation einer »Beruhigung« weichen würde.12 Das klang idyllisch. Doch die PARC-Forscher waren keine unverbesserlichen Optimisten. Sie äußerten auch Bedenken gegen die von ihnen vorhergesehene Welt. Sie sorgten sich, weil ein allgegenwärtiges Computersystem auch das ideale Versteck für Big Brother wäre. »Wenn das Computersystem zugleich unsichtbar und weitreichend ist«, schrieb der führende Technologe des Labors, Mark Weiser, 1999 in einem Artikel in der Zeitschrift IBM Systems Journal, »dann wird es schwierig zu unterscheiden, was was kontrolliert, was womit verbunden ist, wo Information fließt [und] wie sie verwendet wird.«13 Wir müssten sehr viel Vertrauen in die Menschen und Unternehmen setzen, die das System unterhalten.

Die Aufregung über die Allgegenwart der Computer war vorschnell, ebenso die Sorge. Die Technologie der 1990er Jahre war noch weit davon entfernt, die Welt maschinenlesbar zu machen, und nach dem Dotcom-Crash waren die Investoren nicht in der Stimmung, den Einbau teurer Mikrochips und Sensoren überall zu finanzieren. Doch in den folgenden 15 Jahren änderte sich viel. Die wirtschaftlichen Voraussetzungen sind jetzt andere. Der Preis für Computer und Zubehör ist stark gefallen, ebenso die Kosten für den Datentransport in Hochgeschwindigkeit. Durch Unternehmen wie Amazon, Google und Microsoft wurde die Datenverarbeitung so etwas wie eine Dienstleistung der öffentlichen Versorgung. Sie haben ein Cloud-Computernetz errichtet, in dem riesige Datenmengen in effizienten zentralen Einrichtungen gesammelt, verarbeitet und dann in Anwendungen auf Smartphones und Tablets oder in die Steuerkreise von Maschinen eingespeist werden können.14 Produzenten geben Milliarden Dollar für die Ausstattung von Fabriken mit netzwerkfähigen Sensoren aus, und Technologiegiganten wie GE, IBM und Cisco hoffen, an der Spitze der Schaffung des »Internets der Dinge« zu stehen, und arbeiten fieberhaft an der Entwicklung von Standards für die Weitergabe der entstehenden Daten. Inzwischen sind Computer ziemlich allgegenwärtig, und auch die leisesten Zuckungen der Welt werden als Ströme von Binärzahlen erfasst. Wir sind vielleicht nicht beruhigt, doch wir sind mit Daten übersättigt. Die PARC-Wissenschaftler erscheinen nun als Propheten.

Es macht einen großen Unterschied, ob es nur eine Reihe Werkzeuge gibt oder eine ganze Infrastruktur. Die industrielle Revolution kam erst voll zum Tragen, als für die veränderten Arbeitsvoraussetzungen weitverzweigte Systeme und Netzwerke entstanden. Durch den Bau von Eisenbahnen Mitte des 19. Jahrhunderts konnten die Unternehmen größere Märkte bedienen, und das war ein Impuls für die mechanisierte Massenproduktion und wachsende Wirtschaftlichkeit. Die Schaffung eines Stromnetzes einige Jahrzehnte später öffnete den Weg für Fließbänder in den Fabriken, verschiedenste elektrische Geräte wurden entwickelt und konnten zu erschwinglichen Preisen angeboten werden. Das wiederum beflügelte das Konsumverhalten und brachte die Industrialisierung in die Privathaushalte. Diese neuen Netzwerke für Transport und Elektrizität veränderten gemeinsam mit dem Telegrafen, dem Telefon und dem gleichzeitig entstehenden Rundfunkwesen die Gesellschaft. Sie veränderten das Denken der Menschen über Arbeit, Unterhaltung, Reisen, Bildung, sogar die Organisation von Gemeinschaften und Familien. Sie veränderten die Geschwindigkeit und die Struktur des Lebens auf eine Weise, die über das hinausging, was die dampfbetriebenen Maschinen in den Fabriken bewirkt hatten.

Thomas Hughes untersuchte in seinem Buch Networks of Power die Folgen dieses elektrischen Netzes. Er beschrieb, wie sich zuerst die Welt der Technik, dann die Geschäftswelt und schließlich die allgemeine Kultur nach dem neuen System formten. »Menschen und Institutionen entwickelten Eigenschaften, die zu denen der Technik passten«, schrieb er. »Und die laufenden Interaktionen von Menschen, Ideen und Institutionen, sowohl technischen als auch nicht technischen, führten zur Entwicklung eines Supersystems – eines soziotechnischen – mit einer Massenbewegung in eine bestimmte Richtung.« An diesem Punkt hatte sich der technische Impuls durchgesetzt, sowohl in der Elektrizitätswirtschaft als auch in den davon abhängigen Produktionsweisen und Lebensstilen. »Das allgemeine System nahm eine konservative Ausrichtung an. Sein Wachstum war stabil und der Wandel wurde zu einer Erweiterung der Funktion.«15 Der Fortschritt war in Schwung gekommen.

Wir stehen an einem ähnlichen kritischen Punkt in der Geschichte der Automatisierung. Die Gesellschafft passt sich an die allgemeine Computerinfrastruktur an – schneller als beim Elektrizitätsnetz –, und ein neuer Status quo entsteht. »Geschäftliche Abläufe, die früher zwischen menschlichen Wesen stattfanden, werden nun auf elektronischem Weg abgewickelt«, erklärt W. Brian Arthur, Wirtschaftsexperte und Technologietheoretiker am Santa Fe Institute. »Sie finden in einem unsichtbaren, nur noch digitalen Bereich statt.«16 Als Beispiel führt er den Transport einer Frachtladung durch Europa an. Vor einigen Jahren hätte man dazu eine Legion von Angestellten mit Klemmbrett gebraucht. Sie trugen Ankunft und Abtransport ein, prüften Frachtlisten, führten Inspektionen durch, zeichneten und stempelten Genehmigungen ab, füllten Formulare aus und hefteten sie ab, verschickten Briefe und telefonierten mit einer Reihe weiterer Angestellter, die mit der Koordination und Regulierung internationaler Frachtangelegenheiten befasst waren. Eine Veränderung in der Transportroute hätte eine aufwendige Kommunikation zwischen den verschiedenen beteiligten Parteien erfordert: Absendern, Empfängern, Speditionsfirmen, Regierungsbehörden – und weitere Formulare. Heute tragen Frachtstücke Hochfrequenz-Kennzeichen (RFID-Tags). Wenn eine Ladung einen Hafen oder eine andere Station auf dem Weg passiert, werden die Etiketten von Scannern gelesen, und die Information wird über Computer weitergegeben. Die Computer geben die Information an andere Computer weiter, die die notwendigen Überprüfungen vornehmen, die erforderlichen Genehmigungen besorgen, die Pläne aktualisieren, falls nötig, und dafür sorgen, dass alle Beteiligten immer die aktuellen Daten über den Stand des Versands haben. Sollte eine neue Route erforderlich sein, wird sie automatisch gesucht, und die Etiketten sowie die entsprechenden Datenspeicher werden aktualisiert.

Solche automatisierten und weitläufigen Datentransaktionen sind inzwischen überall in der Geschäftswelt Routine geworden. Die Wirtschaft wird zunehmend durch eine »gewaltige Konversation, die ausschließlich zwischen Computern stattfindet«, organisiert, wie Arthur es beschreibt.17 An der Geschäftswelt teilzuhaben bedeutet, vernetzte Computer zu besitzen, die in der Lage sind, an dieser Konversation teilzunehmen. »Sie wissen, dass Sie ein hervorragendes digitales Nervensystem aufgebaut haben«, sagt Bill Gates vor Führungskräften, »wenn die Information durch Ihr Unternehmen so schnell und natürlich fließt wie der Gedanke in einem menschlichen Wesen«.18 Jedes Unternehmen von einiger Größe hat keine andere Wahl, als zu automatisieren und dann immer weiter zu automatisieren, wenn es lebensfähig bleiben will. Es muss seine Arbeitsabläufe und seine Produkte neu gestalten, damit immer mehr Überwachung und Kontrolle durch Computer möglich wird, und es muss die Beteiligung von Menschen in den Beschaffungs- und Produktionsabläufen reduzieren. Menschen können schließlich mit dem Computergeplauder nicht mehr mithalten; sie verlangsamen die Konversation nur.

Der Science-Fiction-Autor Arthur C. Clarke fragte einmal: »Kann die Synthese von Mensch und Maschine jemals Beständigkeit haben, oder wird der rein organische Teil so hinderlich, dass er abgestoßen werden muss?«19 In der Geschäftswelt zumindest zeichnet sich keine Beständigkeit in der Arbeitsteilung zwischen Mensch und Computer ab. Die vorherrschenden Methoden computerisierter Kommunikation und Koordination stellen größtenteils sicher, dass die Rolle des Menschen weiter an Bedeutung verlieren wird. Wir haben ein System entwickelt, das uns aussondert. Wenn die technologische Arbeitslosigkeit in den nächsten Jahren schlimmer wird, wird das hauptsächlich eine Folge unserer neuen, unterirdischen Infrastruktur der Automatisierung sein und weniger Folge der Aufstellung von Robotern in Fabriken oder von entscheidungsunterstützenden Anwendungen in Büros. Die Roboter und Anwendungen sind die sichtbaren Auswüchse des tiefen, weitreichenden und unerbittlich um sich greifenden Wurzelwerks.

Das Wurzelwerk nährt auch die Ausbreitung der Automatisierung in die breitere Kultur. Ob es sich nun um Verwaltungsdienstleistungen oder um die Pflege von Freundschaften und Familienbanden handelt, die Gesellschaft formiert sich um und passt sich den Konturen der neuen Computerinfrastruktur an. Die Infrastruktur organisiert den unverzüglichen Datenaustausch, der Flotten selbstfahrender Autos und Armeen von Killerrobotern möglich macht. Sie bietet die Grundlage für die Vorhersage-Algorithmen, die Entscheidungen von Einzelpersonen und Gruppen beeinflussen. Sie unterstützt die Automatisierung von Klassenzimmern, Bibliotheken, Geschäften, Kirchen und Privathaushalten – Orten, die normalerweise mit menschlicher Begegnung assoziiert werden. Sie erlaubt der NSA und anderen Spionageorganisationen und ebenso Verbrechersyndikaten und neugierigen Unternehmen, in bisher ungekanntem Ausmaß zu überwachen und zu spionieren. Sie hat so viele unserer öffentlichen Diskurse und privaten Konversationen auf kleine Bildschirme verlagert. Und das verleiht unseren diversen Computergeräten die Möglichkeit, uns mit einem steten Strom personalisierter Alarmsignale, Anweisungen und Ratschlägen durch den Tag zu geleiten.

Wieder entwickeln Menschen und Institutionen die Eigenschaften, die zu den Eigenschaften der vorherrschenden Technologie passen. Die Industrialisierung hat keine Maschinen aus uns gemacht, und die Automatisierung wird uns nicht in Automaten verwandeln. So einfach sind wir nicht gestrickt. Doch die Ausbreitung der Automatisierung macht unser Leben programmatischer. Wir haben weniger Gelegenheit, unsere eigene Erfindungsgabe und Genialität einzusetzen, die Selbstsicherheit zu zeigen, die einmal als Haupteigenschaft des Charakters galt. Wenn wir nicht innehalten und überlegen, worauf wir zusteuern, wird sich dieser Trend nur beschleunigen.

DURCH EIN »GLASS«

Es war eine eigenartige Rede. Der Anlass war die TED (Technology, Entertainment, Design)-Konferenz 2013 Ende Februar im Long Beach Performing Arts Center in der Nähe von Los Angeles. Der ungepflegte Typ, der auf der Bühne ungemütlich herumzappelte und mit stockender Stimme sprach, war Sergey Brin, bekanntermaßen der kontaktfreudigere der beiden Google-Gründer. Er war gekommen, um eine Marketing-Rede für Glass zu halten, den »am Kopf zu tragenden« Computer des Unternehmens. Nachdem er einen kurzen Werbefilm gezeigt hatte, begann er eine geringschätzige Kritik des Smartphones, ein Gerät, das mit Hilfe des Android-Systems von Google massenhafte Verbreitung fand. Er zog sein eigenes Telefon aus der Tasche und sah es verächtlich an. Die Benutzung eines Smartphones sei »irgendwie eine Entmannung«, sagte er. »Wissen Sie, Sie stehen herum und reiben nur an diesem ausdruckslosen Stück Glas.« Außerdem trage es zur »sozialen Isolation« bei, und das Starren auf einen Bildschirm schwäche die sinnliche Wahrnehmung der Umgebung, sagte er. »Ist das der Zweck, warum wir einen Körper haben?«20

Nachdem er sein Smartphone weggelegt hatte, begann er die Vorzüge von Glass zu loben. Das neue Gerät böte einen weit überlegenen »Formfaktor« für die Benutzung eines Personalcomputers, sagte er. Man habe die Hände frei und könne erhobenen Hauptes und mit vorwärts gerichtetem Blick wieder Verbindung mit der Umgebung aufnehmen. Man könne wieder an der Welt teilhaben. Und es habe noch weitere Vorteile. Da der Computerbildschirm permanent sichtbar bleibt, könne die Computerbrille durch den neuen Dienst Google Now und durch andere Tracking- und Personalisierungsabläufe den Menschen laufend geeignete Informationen bieten, wenn das Gerät spürte, dass sie Rat oder Hilfestellung brauchten. Das Unternehmen erfülle sein größtes Bestreben: den automatisierten Fluss von Informationen in das Gehirn. Vergessen Sie die Autocomplete-Funktion von Google Suggest. Mit Glass an der Braue, sagte Brin mit Bezug auf seinen Kollegen Kurzweil, müsse man überhaupt nicht mehr im Web suchen. Man müsse keine Fragen mehr formulieren oder Ergebnisse durchforsten oder endlosen Links folgen. »Man bekommt einfach die Information, wenn man sie braucht.«21 Zur Allgegenwart des Computers käme noch seine Allwissenheit hinzu.

Die unbeholfene Präsentation brachte Brin den Spott von Technik-Bloggern ein. Doch in einem musste man ihm Recht geben. Smartphones faszinieren, aber sie nerven auch. Das menschliche Gehirn ist nicht in der Lage, sich auf zwei Dinge gleichzeitig zu konzentrieren. Jeder Blick auf einen oder Wischer auf einem Touchscreen lenkt uns von unserer unmittelbaren Umgebung ab. Mit einem Smartphone in der Hand werden wir ein bisschen gespenstisch und schweben zwischen den Welten. Menschen waren natürlich immer schon ablenkbar. Die Gedanken wandern. Die Aufmerksamkeit schweift ab. Doch wir hatten nie ein Hilfsmittel am Körper, das unsere Sinne so beharrlich fesselt und unsere Aufmerksamkeit so spaltet. Indem wir uns mit einem symbolischen Anderswo, dem Smartphone, verbinden, wie Brin sagte, entfernen wir uns aus dem Hier und Jetzt. Wir verlieren die Macht der Präsenz.

Brins Versicherung, dass Glass das Problem löst, war weniger überzeugend. Zweifellos gibt es Situationen, in denen es von Vorteil wäre, wenn man die Hände frei hätte, während man auf einen Computer schaut oder eine Kamera benutzt. Doch auf einen Bildschirm zu spähen, der vor einem schwebt, erfordert nicht weniger Aufmerksamkeit, als auf einen Bildschirm zu blicken, der vor einem liegt. Es braucht sogar mehr. Untersuchungen mit Piloten und Fahrern haben ergeben, dass die Benutzung von Head-Up-Displays, die Text oder Bilder in das Blickfeld der Umgebung projizieren, die Aufmerksamkeit reduzieren. Ihr Fokus verengt sich, ihre Augen fixieren sich auf die Anzeige, und sie vernachlässigen alles andere in ihrem Blickfeld.22 In einem Experiment in einem Flugsimulator brauchten Piloten mit einem Head-Up-Display während einer Landung länger, bis sie ein großes Flugzeug entdeckten, das die Landebahn blockierte, als die Piloten, die nach unten schauten, um die Instrumente abzulesen. Zwei der Piloten mit Head-Up-Display nahmen das direkt vor ihnen stehende Flugzeug überhaupt nicht wahr. 23

»Die Wahrnehmung beansprucht sowohl die Augen als auch den Geist«, erklärten die Psychologieprofessoren Daniel Simons und Christopher Chambris in einem Artikel aus dem Jahr 2013 über die Gefahren von Glass, »und wenn Ihr Gehirn beschäftigt ist, können Sie etwas übersehen, was sonst höchst offensichtlich wäre.«24

Dem Display von Glass ist also schwer zu entkommen, und das ist Absicht. Es schwebt vor dem Auge, ist immer bereit, und durch nur einen Blick kommt es in Sicht. Ein Telefon kann man wenigstens in die Tasche oder Handtasche stecken oder in den Getränkehalter im Auto. Die Tatsache, dass man mit Glass durch das gesprochene Wort, durch Kopfbewegungen, Gesten mit der Hand und durch Antippen mit dem Finger kommuniziert, verstärkt die Beanspruchung von Verstand und Sinnen. Die Audiosignale, die eingehende Warnungen und Botschaften anzeigen – die, wie Brin in seiner Ansprache bei der TED sagte, »direkt durch die Knochen in den Schädel eindringen« –, scheinen kaum weniger eindringlich als das Piepsen und Summen eines Telefons. Wie entmannend ein Smartphone auch sein mag, metaphorisch gesprochen, ein an der Stirn befestigter Computer verspricht Schlimmeres.

Am Körper tragbare Computer, sei es am Kopf wie Glass oder am Handgelenk wie die Smartwatch Pebble, sind neu, und ihre Anziehungskraft ist bisher nicht erwiesen. Sie werden einige große Hindernisse zu überwinden haben, wenn sie weiten Anklang finden sollen. Ihre Ausstattung ist bisher mager, sie sehen idiotisch aus – die Londoner Zeitung Guardian bezeichnet Glass als »diese fürchterliche Brille«25 –, und ihre winzigen eingebauten Kameras machen viele nervös. Doch wie andere Personalcomputer vor ihnen werden sie schnell verbessert werden, und es ist fast sicher, dass man weniger auffällige, brauchbarere Formen entwickeln wird. Die Vorstellung, einen Computer am Körper zu tragen, mag heute seltsam erscheinen, doch in zehn Jahren könnte das die Norm sein. Es könnte sogar sein, dass wir pillengroße Nanocomputer schlucken, um unsere biochemischen Werte und unsere Organfunktionen zu überwachen.

Brin hat Unrecht, wenn er sagt, Glass und andere Geräte dieser Art stellten einen Bruch mit den bisherigen Computern dar. Sie verstärken einen bereits eingeleiteten technologischen Impuls. Wie das Smartphone und dann der Tablet vernetzte Allzweck-Computer tragbarer und personalisierbarer machten, so ermöglichten sie auch, dass Software-Unternehmen viele weitere Bereiche unseres Lebens programmierten. Mit günstigen, handlichen Apps ließen sie zu, dass die Cloud-Computer-Infrastruktur die banalsten Aufgaben automatisierte. Computerbrillen und -armbanduhren erweitern die Reichweite dieser Automatisierung. Sie machen es leichter, Schritt-für-Schritt-Anleitungen zu folgen, beispielsweise wenn man zu Fuß oder mit dem Fahrrad unterwegs ist, oder sich einen von Algorithmen generierten Rat zu holen, wo man seine nächste Mahlzeit einnehmen kann oder was man abends zum Ausgehen anziehen soll. Sie fungieren auch als Sensoren für den Körper und geben Informationen über den Standort, über das Denken und den Gesundheitszustand an die Cloud zurück. Das wiederum liefert den Software-Programmierern und Unternehmern mehr Möglichkeiten, den Alltag zu automatisieren.

DAS ENTGLEITEN DES WILLENS

Wir haben einen Kreislauf angestoßen, der je nachdem, welchen Standpunkt man einnimmt, zum Guten oder Schlechten führt. Je mehr wir uns auf Apps und Algorithmen verlassen, desto unfähiger werden wir, ohne ihre Hilfe zu agieren – wir erfahren eine Einengung der Fähigkeiten ebenso wie eine Einengung der Aufmerksamkeit. So wird Software immer unverzichtbarer. Automatisierung führt zu weiterer Automatisierung. Wenn alle erwarten, dass man sein Leben über Bildschirme organisiert, dann wird die Gesellschaft natürlich ihre Abläufe an die der Computer anpassen. Was nicht mit Software erledigt werden kann – was nicht zugänglich ist für die Computerverarbeitung und so der Automatisierung widersteht –, scheint allmählich entbehrlich.

Die Wissenschaftler von PARC sagten in den 1990er Jahren, wir wüssten, dass Computer eine Allgegenwart erreicht haben, wenn wir ihre Präsenz nicht mehr wahrnehmen. Computer wären dann so vollständig in unser Leben verwoben, dass sie für uns unsichtbar wären. Wir würden sie »unbewusst für alltägliche Aufgaben« benutzen.26 Das schien in weiter Ferne in jenen Tagen, als riesige Computer die Aufmerksamkeit auf sich zogen, weil sie in ungünstigen Augenblicken hängenblieben, abstürzten oder sich anderweitig danebenbenahmen. In so weiter Ferne scheint das heute nicht mehr. Viele Computerfirmen und Software-Unternehmen sagen heute, sie arbeiteten daran, ihre Produkte unsichtbar zu machen. »Ich bin ganz begeistert von Technologien, die vollständig verschwinden«, sagt Jack Dorsey, ein bedeutender Unternehmer aus Silicon Valley. »Das machen wir mit Twitter, und das machen wir mit dem [Online-Kreditkarten-Unternehmen] Square.«27 Wenn Mark Zuckerberg Facebook immer als »Versorger« bezeichnet, dann verleiht er seinem Wunsch Ausdruck, dass das soziale Netzwerk sich in unser Leben einfügt wie das Telefonnetz oder die Elektrizitätsversorgung.28 Apple bewarb das iPad als das Gerät, das »aus dem Weg geht«. Google spricht auch bei der Vermarktung von Glass davon, »Technologie aus dem Weg zu schaffen«. In einer Rede in San Francisco verlieh der Chefingenieur des Unternehmens Vic Gundotra dem Slogan sogar einen Flower-Power-Touch: »Die Technologie sollte nicht im Weg sein, damit Sie leben, lernen und lieben können.«29

Man kann den Technologen Schwülstigkeit vorwerfen, aber keinen Zynismus. Sie glauben wirklich, dass unser Leben glücklicher wird, je mehr es vom Computer beherrscht wird. Schließlich ist das ihre eigene Erfahrung. Doch trotzdem ist ihr Bestreben auch eigennützig. Damit eine verbreitete Technologie unsichtbar wird, muss sie erst so wichtig für die Menschen sein, dass sie sich ein Leben ohne sie nicht mehr vorstellen können. Erst wenn eine Technologie uns umgibt, verschwindet sie aus unserem Blickfeld. Der Technische Direktor von Intel Justin Rattner erwartet, dass die Produkte seines Unternehmens so sehr mit dem »Kontext« der Menschen verschmelzen, dass Intel ihnen »allgegenwärtige Information« bieten kann.30 Eine solche Abhängigkeit beim Kunden würde auch, wie man wohl sagen kann, noch mehr Einnahmen für Intel und andere Computerfirmen bedeuten. Für ein Unternehmen gibt es nichts Besseres, als den Kunden zum Bittsteller zu machen.

Die Vorstellung, dass komplizierte Technologie in den Hintergrund tritt, damit sie mit wenig Mühe und Nachdenken angewendet werden kann, kann für die, die sie verkaufen, ebenso ansprechend sein wie für die, die sie nutzen. »Wenn die Technologie aus dem Weg ist, sind wir von ihr befreit«, schreibt der Kolumnist der New York Times Nick Bilton.31 Aber so einfach ist das nicht. Man legt nicht einfach einen Schalter um, um eine Technologie unsichtbar zu machen. Sie verschwindet oft in einem langsamen Prozess kultureller und persönlicher Anpassung. Während wir uns an sie gewöhnen, gewinnt die Technologie mehr Macht über uns, nicht weniger. Uns mag es nicht auffallen, welche Beschränkungen sie uns auferlegt, doch die Beschränkungen bleiben. Der französische Soziologe Bruno Latour nennt die Unsichtbarkeit einer vertrauten Technologie »eine Art optischer Illusion«. Sie verschleiert, wie wir uns verändert haben, um die Technologie anzunehmen. Das Hilfsmittel, das wir ursprünglich für einen bestimmten Zweck benutzten, erlegt uns seine Absichten oder die seines Herstellers auf. »Wenn wir nicht erkennen«, schreibt Latour, »wie sehr die Anwendung einer Technik, wie einfach sie auch sein mag, die anfängliche Absicht abgelöst, übertragen, verändert oder verbogen hat, dann liegt das daran, dass wir durch die Veränderung der Mittel den Zweck verändert haben und durch ein Abgleiten des Willens begonnen haben, etwas ganz anderes als das anfänglich Gewünschte zu wollen.«32

Die schwierigen moralischen Fragen, die die Programmierung von Roboter-Autos und -Soldaten aufwirft – wer kontrolliert die Software? – wer bestimmt, was verbessert werden muss? – wessen Absichten und Interessen spiegeln sich im Code wider? –, sind ähnlich allgegenwärtig bei der Entwicklung der Anwendungen, die unser Leben automatisieren. Je mehr Macht die Programme über uns gewinnen – sie bestimmen, wie wir arbeiten, welche Informationen wir sehen, welche Strecken wir fahren, unsere Interaktionen mit anderen –, desto mehr werden sie eine Art Fernsteuerung. Im Gegensatz zu Robotern oder Drohnen haben wir die Freiheit, die Anweisungen und Vorschläge der Software abzulehnen. Doch es ist schwierig, ihrem Einfluss zu entkommen. Wenn wir eine App starten, bitten wir um Führung – wir begeben uns in die Obhut der Maschine.

Sehen wir uns Google Maps genauer an. Wenn Sie durch eine Stadt fahren und die App befragen, dann erhalten Sie mehr als nur Hinweise zur Navigation; sie sagt Ihnen, wie Sie über Städte denken sollen. Eingebettet in die Software ist ein Denken über Orte, das unter anderem die wirtschaftlichen Interessen von Google widerspiegelt, den Hintergrund und die Vorurteile seiner Programmierer und die Vor- und Nachteile von räumlicher Darstellung in der Software. Im Jahr 2013 brachte das Unternehmen eine neue Version von Google Maps heraus. Es bekommt nicht jeder dieselbe Darstellung der Stadt zu sehen, sondern Google generiert eine Karte, die auf das zugeschnitten ist, was Google für Ihre Bedürfnisse und Wünsche hält, basierend auf den Informationen, die das Unternehmen über Sie gesammelt hat. Die App wird Restaurants und andere interessante Orte in der Nähe anzeigen, die Freunde in Ihrem sozialen Netzwerk empfohlen haben. Sie wird Ihnen Anweisungen geben, in denen sich Ihre Navigationsziele der Vergangenheit widerspiegeln. Die Ansichten, die Sie sehen, sagt das Unternehmen, sind nur für Sie und sind immer an die Aufgabe angepasst, die Sie genau in dieser Minute erfüllen wollen.33

Das klingt verlockend, doch es schränkt ein. Google filtert die Zufälligkeit zugunsten von Insellösungen heraus. Google übergießt die ansteckende Unordnung einer Stadt mit einem algorithmischen Antiseptikum. Die zweifellos wichtigste Art, einer Stadt als öffentlichem Raum zu begegnen, den man nicht nur mit seinen Freunden, sondern mit einer ungeheuer verschiedenartigen Gruppe Fremder teilt, geht verloren. »Google steht für einen Urbanismus einer Person«, kommentiert der Technologiekritiker Jewgeni Morosow, »die versucht, in ihrem selbstfahrenden Auto in ein Einkaufszentrum zu gelangen. Das ist hochgradig utilitaristisch, sogar eigennützig und nimmt keine Rücksicht darauf, wie öffentlicher Raum wahrgenommen wird. In der Welt von Google ist öffentlicher Raum lediglich etwas, das zwischen Ihrem Zuhause und dem Restaurant mit guter Aussicht liegt, zu dem Sie unbedingt wollen.«34 Zweckmäßigkeit steht über allem.

Soziale Netzwerke drängen uns, uns so zu präsentieren, dass wir mit den Interessen und Vorurteilen der Unternehmen konform gehen, die sie betreiben. Facebook fordert mit seiner Timeline und anderen Funktionen für die Dokumentation seine Mitglieder auf, ihr öffentliches Image als ununterscheidbar von ihrer Identität zu sehen. Facebook will sie in ein einziges, einförmiges »Selbst« einschließen, das ihr Leben lang bestehen bleibt und sich durch eine zusammenhängende Geschichte erschließt, die in der Kindheit beginnt und, wie man annimmt, mit dem Tod endet. Das passt zu der engen Auffassung, die der Gründer über das Selbst und seine Möglichkeiten hat.

»Man hat eine Identität«, sagt Mark Zuckerberg. »Die Tage, an denen man ein anderes Image für seine Kollegen am Arbeitsplatz und für den restlichen Bekanntenkreis hat, sind wahrscheinlich bald vorbei.« Er glaubt sogar, »wenn man zwei Identitäten hat, ist das ein Zeichen für mangelnde Integrität«.35 Es überrascht nicht, dass diese Ansicht sich mit dem Bestreben von Facebook deckt, seine Mitglieder als ordentliche und einheitliche Datensätze für Werbekunden zusammenzupacken. Für das Unternehmen hat das den zusätzlichen Vorteil, dass die Sorge über den Datenschutz in den Hintergrund tritt. Wenn es ein Anzeichen für mangelnde Integrität ist, mehr als eine Identität zu besitzen, dann ist es eine Charakterschwäche, wenn man bestimmte Gedanken oder Aktivitäten nicht an die Öffentlichkeit bringen möchte. Doch die Auffassung von Persönlichkeit, die Facebook uns durch seine Software auferlegt, kann erdrückend sein. Persönlichkeit ist kaum einmal etwas Festgelegtes. Sie ist veränderlich. Sie entwickelt sich durch persönliche Erforschung und verändert sich mit den Umständen. Das gilt besonders in der Jugend, wenn das Selbst-Verständnis nicht gefestigt ist und noch ausprobiert, experimentiert und revidiert wird. Wenn man auf eine Identität festgelegt wird, besonders im frühen Stadium seines Lebens, kann das Chancen für persönliches Wachstum und Erfüllung verschließen.

Jede Software enthält solche versteckten Prämissen. Suchmaschinen geben bei der Bearbeitung unserer intellektuellen Anfragen der Beliebtheit und der Aktualität den Vorrang vor Meinungsvielfalt, Stringenz der Argumentation oder der Qualität des Ausdrucks. Wie alle analytischen Programme sind sie einseitig auf Kriterien ausgerichtet, die für statistische Auswertungen geeignet sind, und vernachlässigen dafür jene, bei denen es um Geschmack oder andere subjektive Bewertungen geht. Die Algorithmen zur automatischen Bewertung von Essays führen dazu, dass Studenten sich eine mechanische Schreibweise angewöhnen. Die Programme sind taub für den Tonfall, nicht interessiert an Nuancen im Wissen und verweigern sich aktiv jeder Kreativität im Ausdruck. Die bewusste Verletzung einer Grammatikregel mag einen Leser erfreuen, doch für einen Computer ist das ein Gräuel. Ob es nun um die Liebe oder um einen Film geht, die Empfehlungsdienste bedienen unsere bekannten Wünsche und fordern uns nicht mit etwas Neuem und Unerwartetem heraus. Sie gehen davon aus, dass wir das Gewohnte dem Abenteuer, das Vorhersehbare der Laune vorziehen. Die Technologien für die Automatisierung zu Hause, mit denen Beleuchtung, Heizung, Kochen und Unterhaltungsgeräte genau programmiert werden können, verleihen unserem Privatleben Gleichförmigkeit. Sie fordern die Menschen unterschwellig dazu auf, sich an Abläufe und Pläne zu halten, und gleichen die Wohnungen den Arbeitsplätzen an.

Die Tendenzen in der Software können die gesellschaftlichen Entscheidungen ebenso verzerren wie die persönlichen. In der Werbung für die selbstfahrenden Autos gab Google an, diese Fahrzeuge würden die Anzahl der Unfälle dramatisch reduzieren oder gar vollständig eliminieren. »Wussten Sie, dass Verkehrsunfälle die häufigste Todesursache für junge Leute sind?«, fragte Sebastian Thrun bei einem Vortrag im Jahr 2011. »Und ist Ihnen bewusst, dass fast alle auf menschliches und nicht auf technisches Versagen zurückzuführen sind und dass daher diese Unfälle von Maschinen verhindert werden können?«36 Thruns Argumentation ist überzeugend. Bei der Regulierung gefährlicher Aktivitäten wie dem Autofahren räumt die Gesellschaft der Sicherheit eine hohe Priorität ein, und alle schätzen den Beitrag technologischer Innovation zur Senkung des Unfall- und Verletzungsrisikos. Doch auch hier lässt sich der Sachverhalt nicht so in Schwarz und Weiß darstellen, wie Thun das in seinen Ausführungen tat. Die Fähigkeit selbstfahrender Kraftfahrzeuge, Unfälle und Todesfälle zu verhindern, ist an diesem Punkt noch rein theoretisch. Wie wir gesehen haben, ist die Beziehung zwischen Maschinen und menschlichem Versagen sehr kompliziert; kaum etwas ist vorhersagbar. Die Ziele der Gesellschaft sind darüber hinaus nie eindimensional. Auch das Bedürfnis nach Sicherheit muss hinterfragt werden. Wir wissen immer schon, dass Gesetze und Verhaltensregeln eine Güterabwägung zwischen Sicherheit und Freiheit, zwischen unserem eigenen Schutz und dem Risiko beinhalten. Wir lassen es zu und ermutigen manchmal andere sogar, gefährliche Hobbys, Sportarten oder andere Freizeitbeschäftigungen zu betreiben. Ein erfülltes Leben, das wissen wir, ist kein perfekt geschütztes Leben. Selbst wenn es um die Geschwindigkeit auf den Autobahnen geht, wägen wir dieses Ziel gegen andere Ziele ab.

Solche Abwägungen sind schwierig und oft politisch umstritten, doch sie prägen die Gesellschaft, in der wir leben. Die Frage lautet: Wollen wir die Entscheidung den Softwareunternehmen überlassen? Wenn wir in der Automatisierung ein Allheilmittel für menschliches Versagen sehen, schließen wir andere Optionen aus. Wenn wir autonom fahrende Fahrzeuge bereitwillig annehmen, könnte das nicht nur unsere persönliche Freiheit und Verantwortung einschränken; es könnte uns davon abhalten, andere Wege zu erforschen, wie die Wahrscheinlichkeit von Verkehrsunfällen eingedämmt werden kann, zum Beispiel eine bessere Schulung der Fahrer oder eine höhere Auslastung des Personennahverkehrs. Man sollte bedenken, dass die Sorge, die man sich in Silicon Valley um die Sicherheit auf den Autobahnen macht, zwar sicher aufrichtig, aber doch selektiv ist. Die Ablenkungen durch Handys und Smartphones spielten in den letzten Jahren eine bedeutende Rolle als Ursache für Verkehrsunfälle. Eine Untersuchung der gemeinnützigen Organisation National Safety Council legt nahe, dass bei einem Viertel aller Unfälle auf US-amerikanischen Straßen im Jahr 2011 der Gebrauch von Telefonen eine Rolle spielte.37 Doch Google und andere Hightech-Firmen unternehmen wenig oder gar keine Bemühungen zur Entwicklung von Software, die Menschen vom Telefonieren, SMS-Schreiben oder der Benutzung von Apps während des Fahrens abhalten könnten – was sicherlich ein bescheidenes Unterfangen wäre im Vergleich zum Bau eines selbstfahrenden Autos. Wir sollten die wichtigen Beiträge begrüßen, die Computerunternehmen für das Wohlergehen der Gesellschaft leisten können, aber wir sollten nicht die Interessen dieser Unternehmen für unsere eigenen halten.

GEHEIMER CODE

Wenn wir nicht die wirtschaftlichen, politischen, intellektuellen und moralischen Beweggründe der Menschen kennen, die unsere Software schreiben, oder die Begrenzungen der automatischen Datenverarbeitung, dann sind wir offen für Manipulation. Wir riskieren, so Latour, dass wir unsere eigenen Absichten gegen die von anderen austauschen, ohne den Tausch überhaupt zu bemerken. Je mehr wir uns an die Technologie gewöhnen, desto größer wird das Risiko.

Es ist eine Sache, wenn die Rohrleitungen im Haus nicht mehr sichtbar sind, aus unserem Blick verschwinden, während wir uns zufrieden an ihre Anwesenheit anpassen. Selbst wenn wir nicht in der Lage sind, einen undichten Wasserhahn oder eine verstopfte Toilette wieder in Gang zu bringen, so haben wir doch eine ziemlich genaue Vorstellung von der Aufgabe dieser Leitungen in unserem Haus. Meistens ist Technik, die durch ihre Allgegenwart unsichtbar geworden ist, etwas in der Art. Ihre Funktion, die damit einhergehenden Interessen und Annahmen sind offensichtlich oder zumindest erkennbar. Die Technik mag unbeabsichtigte Auswirkungen haben –, die sanitären Einrichtungen im Haus veränderten die Ansicht der Menschen über Hygiene und Privatsphäre38 – doch es gibt kaum versteckte Absichten dahinter.

Etwas ganz anderes ist es, wenn die Informationstechnologie unsichtbar wird. Selbst wenn wir uns ihrer Anwesenheit in unserem Leben bewusst sind, so sind Computersysteme doch undurchsichtig für uns. Die Softwarecodes bleiben vor unseren Augen verborgen. Sie sind in vielen Fällen als Geschäftsgeheimnis gesetzlich geschützt. Und selbst wenn wir sie sehen könnten, könnten nur wenige etwas damit anfangen. Sie sind in Sprachen geschrieben, die wir nicht verstehen. Die Daten, die in die Algorithmen eingehen, bleiben ebenfalls vor uns verborgen. Sie befinden sich häufig in entfernten, gut bewachten Datenzentren. Wir wissen wenig darüber, wie die Daten gesammelt werden, wofür sie verwendet werden oder wer Zugang zu ihnen hat. Jetzt, wo Software und Daten in der Cloud und nicht mehr auf persönlichen Festplatten gespeichert werden, können wir nicht einmal sicher wissen, ob und wann sich die Funktion der Systeme geändert hat. Die verbreiteten Programme werden laufend überarbeitet, ohne dass wir es wahrnehmen. Die Anwendung, die wir gestern benutzten, ist heute vielleicht nicht mehr dieselbe.

Die moderne Welt war immer schon kompliziert. Sie ist aufgespalten in spezialisierte Kompetenz- und Wissensgebiete, verbunden mit wirtschaftlichen und anderen Systemen und widersetzt sich jeglichem Versuch, sie vollständig zu erfassen. Doch jetzt wird selbst ihre Komplexität vor uns verborgen, und das in einem Ausmaß, das weit über alles bisher Erfahrene hinausgeht. Sie wird verschleiert hinter der kunstvoll gestalteten Einfachheit des Bildschirms, der userfreundlichen, reibungslos funktionierenden Schnittstelle. Wir sind umgeben von dem, was der Politikwissenschaftler Langdon Winner als »verborgene elektronische Komplexität« bezeichnete. Die »Beziehungen und Verbindungen«, die »früher einmal zur Erfahrung der Welt gehörten« und sich in direkten Interaktionen zwischen Menschen manifestierten, werden inzwischen »in Abstraktion gehüllt«.39 Wenn eine undurchschaubare Technologie zur unsichtbaren Technologie wird, dann ist es weise, sich Sorgen zu machen. An diesem Punkt infiltrieren die Absichten und Annahmen der Technologie unsere eigenen Wünsche und Taten. Wir wissen nicht mehr, ob die Software uns unterstützt oder beherrscht. Wir sitzen am Steuer, aber wir können nicht sicher sagen, wer fährt.

KAPITEL NEUN

LIEBE, DIE IN REIHEN LEGT DIE AU

An eine Gedichtzeile denke ich immer wieder, und nie mehr, als bei der Arbeit an diesem Buch:

The fact is the sweetest dream that labor knows

(deutsch: Der Arbeit schönster Traum ist das, was ist.)1

Es ist die vorletzte Zeile eines der frühesten und besten Gedichte von Robert Frost, ein Sonett mit dem Titel »Mowing«. Er schrieb es als junger Mann, Ende zwanzig mit einer jungen Familie, in den ersten Jahren des 20. Jahrhunderts. Er arbeitete zu der Zeit als Bauer, züchtete Hühner und kümmerte sich um ein paar Apfelbäume auf einem kleinen Stück Land, das sein Großvater für ihn in Derry, New Hampshire, gekauft hatte. Es war eine schwierige Zeit in seinem Leben. Er hatte kaum Geld und nur wenige Perspektiven. Er hatte zwei Colleges, Dartmouth und Harvard, ohne Abschluss verlassen. In einer Reihe kleinerer Jobs war er erfolglos gewesen. Er war kränklich und er hatte Albträume. Sein ältestes Kind, ein Sohn, war mit drei Jahren an der Cholera gestorben. Auch in seiner Ehe lief es nicht gut. »Das Leben ließ mir keine Wahl«, erinnerte sich Frost später, »und machte es mir nicht leicht«.2

Doch in diesen einsamen Jahren in Derry entdeckte er seine Berufung als Dichter und Künstler. Die Landarbeit – die langen, eintönigen Tage, die Arbeit in der Abgeschiedenheit, die Nähe zur Schönheit und Sorglosigkeit der Natur – inspirierte ihn. Die schwere Arbeit erleichterte ihm die Last des Lebens. »Wenn ich mich zeitlos und unsterblich fühle, kommt es daher, dass ich fünf oder sechs Jahre dort die Zeit vergessen habe«, schrieb er über sein Leben in Derry. »Wir gaben es auf, die Uhren aufzuziehen. Wir hatten veraltete Vorstellungen, weil wir lange Zeit keine Zeitung bezogen. Wir hätten es nicht perfekter planen können, wenn wir gewusst hätten, was uns erwartete.«3 In den Arbeitspausen auf der Farm schrieb Frost die meisten Gedichte für sein erstes Buch, A Boy’s Will, etwa die Hälfte der Gedichte für sein zweites Buch, North of Boston, und einige weitere Gedichte, die später in nachfolgenden Bänden Platz fanden.

»Mowing« aus A Boy’s Will war das bedeutendste seiner Derry-Gedichte. In diesem Gedicht fand er seine eigene Stimme: direkt und plaudernd, aber auch listig und heuchlerisch. (Um Frost wirklich zu verstehen – um irgendetwas wirklich zu verstehen, einschließlich unserer selbst –, braucht es sowohl Misstrauen als auch Vertrauen.) Wie bei vielen seiner besten Arbeiten herrscht in »Mowing« eine rätselhafte, fast halluzinatorische Stimmung, die dem schlichten und gemütlichen Bild, das es beschreibt – in diesem Fall einen Mann, der auf einer Wiese Heu macht – widerspricht. Je öfter man das Gedicht liest, umso tiefsinniger und eigenartiger wird es:

There was never a sound beside the wood but one,

And that was my long scythe whispering to the ground.

What was it it whispered? I knew not well myself;

Perhaps it was something about the heat of the sun,

Something, perhaps, about the lack of sound –

And that was why it whispered and did not speak.

It was no dream of the gift of idle hours,

Or easy gold at the hand of fay or elf:

Anything more than the truth would have seemed too weak

To the earnest love that laid the swale in rows,

Not without feeble-pointed spikes of flowers

(Pale orchises), and scared a bright green snake.

The fact is the sweetest dream that labor knows.

My long scythe whispered and left the hay to make.4

Mahd

Am Wald war kein Geräusch außer dem einen:

die Sense beim Geflüster mit dem Grund.

Was sie wohl flüsterte? Ich wusste es nicht.

Vielleicht ging’s um die Hitze dieser Sonne,
vielleicht ging es um nicht vorhandene Laute –
weshalb die Sense flüsterte, nicht sprach.

Es war kein Traum geschenkter Mußestunden,
kein müheloses Gold von Fee und Elf:

Mehr als die Wahrheit wär zu schwach gewesen
für solche Liebe, die in Reihen legt
die Au mitsamt dem blassen Knabenkraut
und eine leuchtend grüne Schlange schreckt.

Der Arbeit schönster Traum ist das, was ist.

Die Sense flüsterte und machte Heu. 5

Heute liest kaum noch jemand Gedichte, um daraus zu lernen, aber hier sieht man, dass der Blick eines Poeten auf die Welt scharfsichtiger und kritischer sein kann als der eines Wissenschaftlers. Frost kannte die Bedeutung des »Flowzustands« und den Grundsatz der »verkörperten Kognition«, wie sie heute genannt werden, lange bevor Psychologen und Neurobiologen die empirischen Beweise dafür lieferten. Sein Schnitter ist kein verklärter Bauer, keine romantische Karikatur. Er ist ein Farmer, ein Mann, der an einem windstillen, heißen Sommertag harte Arbeit verrichtet. Er träumt nicht von »Mußestunden« oder »mühelosem Gold«. Er ist mit den Gedanken bei der Arbeit – den Bewegungen seines Körpers beim Schneiden, dem Gewicht des Werkzeugs in seinen Händen, den Halmen, die sich um ihn herum häufen. Er sucht nicht nach einer tieferen Wahrheit hinter seiner Arbeit. Die Arbeit ist die Wahrheit.

The fact is the sweetest dream that labor knows.

Der Arbeit schönster Traum ist das, was ist.

In dieser Zeile steckt ein Mysterium. Sie ist so machtvoll, weil sie nicht mehr oder weniger bedeuten will, als die Worte sagen. Doch offensichtlich geht es Frost, in dieser Zeile und im ganzen Gedicht, um die zentrale Bedeutung des Handelns für Leben und Wissen. Nur durch Arbeit, die uns mit der Welt verbindet, erreichen wir ein echtes Verständnis der Existenz, dessen, »was ist«. Dieses Verständnis kann man nicht in Worte packen. Es kann nicht laut ausgesprochen werden, man kann es nur flüstern. Um diese Wahrheit zu hören, muss man ganz nah an ihre Quelle heran. Arbeit, körperlich oder geistig, ist mehr als nur eine Möglichkeit, Ergebnisse zu erzielen. Sie ist eine Form der Betrachtung, die einen direkten Blick auf die Welt erlaubt, ohne Glasscheibe dazwischen. Handeln klärt die Wahrnehmung, bringt uns näher an die Sache selbst heran. Es verbindet uns mit der Erde, so deutet Frost an, wie Liebe uns miteinander verbindet. Arbeit ist das Gegenteil von Transzendenz. Sie bringt uns auf den Boden der Tatsachen zurück.

Frost ist ein Dichter der Arbeit. Er kehrt immer wieder zu diesen erleuchtenden Momenten zurück, in denen das aktive Selbst in der umgebenden Welt aufgeht – in denen, wie er in einem anderen Gedicht so denkwürdig schrieb, »the work is play for mortal stakes«, die Arbeit ein Spiel mit vergänglichen Einsätzen ist.6 Der Literaturkritiker Richard Poirier beschrieb in seinem Buch Robert Frost: The Work of Knowing sehr einfühlsam die Sicht des Dichters auf das Wesen und die Unerlässlichkeit harter Arbeit: »Jede anstrengende Arbeit, die in seinen Gedichten verrichtet wird, Heu- oder Apfelernte, dringt zu den Visionen, Träumen und Mythen vor, welche die Grundlage der Realität bilden, klar verständlich für jene, die mit der notwendigen Ungewissheit und ohne rein praktische Besitzgier lesen können.« Das Wissen, das man durch derartige Anstrengungen gewinnt, mag schemenhaft und flüchtig sein wie ein Traum – das genaue Gegenteil von algorithmisch oder rechnerisch –, aber »dieses Wissen ist trotz aller mythischen Neigung beständiger als die scheinbar praktischeren Ergebnisse der Arbeit, wie Nahrung oder Geld«.7 Wenn wir allein oder gemeinsam mit anderen mit Körper oder Geist eine Aufgabe in Angriff nehmen, haben wir meist ein praktisches Ziel vor Augen. Unsere Gedanken sind auf das Produkt unserer Arbeit ausgerichtet – ein Heuvorrat als Viehfutter etwa. Aber nur durch die Arbeit selbst gelangen wir zu einem tieferen Verständnis unserer selbst und unserer Situation. Das Mähen ist das Wichtige, nicht das Heu.

DIE FREUDE AN WERKZEUGEN

All das ist keineswegs eine Kritik oder eine Absage an den materiellen Fortschritt. Frost verklärt keine weit entfernte, prätechnologische Vergangenheit. Zwar erschreckten ihn jene, die »sich blind auf das Evangelium moderner Wissenschaft verlassen« (»get [...] bigoted in reliance/On the gospel of modern science«),8 doch Wissenschaftlern und Erfindern fühlte er sich eng verbunden. Als Poet teilte er denselben Geist und dasselbe Streben. Sie alle erforschten die Mysterien des irdischen Lebens, entlockten der Materie Bedeutung. Ihrer aller Arbeit hatte das Potential, wie Poirier es beschrieb, »die Fähigkeit der Menschen zum Träumen zu erweitern«.9 Für Frost lag der größte Wert dessen, »was ist« – ob man es nun in der Welt wahrnahm oder in einem Kunstwerk, einem Werkzeug oder einer anderen Erfindung zum Ausdruck brachte –, in seiner Fähigkeit, das Wissen des Einzelnen zu erweitern und ihm damit neue Wege der Wahrnehmung, des Handelns und der Vorstellungskraft zu eröffnen. In dem Langgedicht »Kitty Hawk«, das kurz vor Frosts Tod entstand, rühmte er den Flug der Gebrüder Wright »In das Unbekannte/In die Erhabenheit« (»Into the unknown,/Into the sublime«). Durch ihre »Annäherung an die Unendlichkeit« (»pass/at the infinite«) eröffneten die Brüder die Erfahrung des Fliegens und das damit verbundene Gefühl von Unendlichkeit für uns alle. Es war ein prometheisches Unterfangen. In gewisser Hinsicht, schrieb Frost, nahmen die Wrights die Unendlichkeit auf Verstandesebene für uns in Besitz.10

Technik ist ebenso wichtig für die Erkenntnisarbeit wie für die produktive Arbeit. Der menschliche Körper ist in seinem natürlichen Zustand ohne jede Ausstattung ein schwächliches Ding. Seine Stärke, Beweglichkeit, Sinneswahrnehmung, sein rechnerisches Können und seine Gedächtnisleistung sind begrenzt. Die Grenzen seiner Leistungsfähigkeit sind schnell erreicht. Doch der Körper umschließt einen Geist, der sich Leistungen vorstellen, sie herbeiwünschen und für sie planen kann, die der Körper allein nicht vollbringen kann. Die Diskrepanz zwischen dem, was der Körper leisten kann, und dem, was der Geist sich ausmalen kann, führte zum Aufstieg technischer Entwicklungen, formte sie und treibt sie auch heute noch an. Sie bildet den Anreiz für das Streben der Menschheit nach Erweiterung ihrer selbst und Vervollkommnung der Natur. Technologie macht uns nicht »posthuman« oder »transhuman«, wie einige Autoren und Wissenschaftler neuerdings behaupten. Sie macht uns menschlich. Technologie liegt in unserer Natur. Mit unseren Werkzeugen verleihen wir unseren Träumen Gestalt. Wir tragen sie in die Welt. Die Zweckmäßigkeit von Technologie unterscheidet sie von der Kunst, aber beide entspringen einer ähnlichen, eindeutig menschlichen Sehnsucht.

Die Heuernte ist eine der vielen Aufgaben, für die der menschliche Körper ungeeignet ist. (Wer es nicht glaubt, kann es gerne ausprobieren.) Erst das Werkzeug in der Hand des Schnitters, die Sense, ermöglicht es ihm, seine Arbeit auszuführen und zum Schnitter zu werden. Der Schnitter hat technische Unterstützung und er braucht sie. Das Werkzeug macht den Schnitter, und das Geschick des Schnitters bei der Verwendung des Werkzeugs erschafft die Welt für ihn neu. Die Welt wird zu einem Ort, an dem er Schnitter sein kann, in dem er die Au in Reihen legen kann. Diese Vorstellung mag zunächst trivial oder sogar tautologisch wirken, doch sie deutet auf eine grundsätzliche Erkenntnis über das Leben und die Herausbildung der individuellen Persönlichkeit hin.

»Der Leib ist unser Mittel überhaupt, eine Welt zu haben«, schrieb der französische Philosoph Maurice Merleau-Ponty 1945 in seinem Meisterwerk Phänomenologie der Wahrnehmung.11 Unsere körperlichen Voraussetzungen – die Tatsache, dass wir aufrecht auf zwei Beinen gehen und eine gewisse Größe haben, dass wir zwei Hände mit opponierbaren Daumen haben, dass wir Augen haben, die auf eine bestimmte Art sehen, dass wir eine gewisse Toleranz gegen Hitze und Kälte haben – bestimmen unsere Wahrnehmung der Welt so, dass diese Wahrnehmung Vorrang vor unseren bewussten Gedanken über die Welt hat und diese Gedanken formt. Wir nehmen Berge als erhaben war, nicht weil sie erhaben sind, sondern weil unsere Wahrnehmung ihrer Form und Höhe von unserer eigenen Körpergröße geprägt wird. Ein Stein ist für uns, unter anderem, eine Waffe, weil der besondere Aufbau unserer Hand und unseres Armes uns ermöglicht, ihn aufzuheben und zu werfen. Wahrnehmung ist, wie Kognition, verkörpert.

Daraus folgt, dass wir jedes Mal, wenn wir eine neue Fähigkeit erlernen, nicht nur unsere körperlichen Möglichkeiten verändern, wir verändern die Welt. Der Ozean wirkt einladend auf den Schwimmer, aber nicht auf den Menschen, der nie schwimmen gelernt hat. Mit jeder Fertigkeit, die wir meistern, offenbart uns die Welt neue Möglichkeiten. Sie wird interessanter, und das Leben in ihr wird lohnender. Vielleicht meinte Spinoza, der holländische Philosoph, der sich gegen Descartes’ Trennung von Körper und Geist auflehnte, genau das, als er schrieb: »Der menschliche Geist ist befähigt, sehr vieles zu erfassen, und umso befähigter, auf je mehr Weisen sein Körper disponiert werden kann.«12 John Edward Huth, Physikprofessor in Harvard, bezeugt die Regenerationskraft, die mit der Beherrschung einer Fertigkeit einhergeht. Vor zehn Jahren begann er, inspiriert von Inuit-Jägern und anderen Experten natürlicher Navigation, »ein selbstauferlegtes Lernprogramm für Navigation nach Anhaltspunkten in der Umgebung«. Monatelang beobachtete und übte er im Freien, er brachte sich selbst bei, die Zeichen des Himmels bei Tag und bei Nacht zu lesen, die Bewegungen der Wolken und Wellen zu deuten und den Schattenwurf der Bäume zu entschlüsseln. »Nach einem Jahr dieses Unternehmens«, erinnert er sich, »dämmerte es mir: meine Art, die Welt zu sehen, hatte sich merklich verändert. Die Sonne sah anders aus, und auch die Sterne.« Huths erweiterte Wahrnehmung der Umgebung, die er durch eine Art »primitiven Empirismus« gewonnen hatte, erinnerte ihn an »das, was Menschen als spirituelles Erwachen beschreiben«.13

Die Technologie ermöglicht uns Handlungen, die über unsere körperlichen Begrenzungen hinausgehen, und verändert so auch unsere Wahrnehmung der Welt und ihre Bedeutung für uns. Am deutlichsten wird die Transformationskraft der Technik bei Analysewerkzeugen, von den Mikroskopen und Teilchenbeschleunigern der Wissenschaftler bis zu den Kanus und Raumschiffen der Forscher, doch diese Macht steckt in allen Werkzeugen, auch in jenen, die wir im Alltag benutzen. Wann immer ein Werkzeug uns die Kultivierung einer neuen Fähigkeit ermöglicht, wird die Welt zu einem anderen und faszinierenden Ort, der noch bessere Chancen bietet. Zu den Möglichkeiten der Natur kommen die Möglichkeiten der Kultur hinzu. »Bald endlich«, schrieb Merleau-Ponty, »ist die vermeinte Bedeutung solcher Art, daß die natürlichen Mittel des Leibes sie nicht zu erreichen vermögen; er muß alsdann sich ein Werkzeug schaffen und entwirft um sich herum eine Kulturwelt.«14 Der Wert eines sorgfältig gebauten und gut genutzten Werkzeugs liegt nicht in dem, was es für uns produziert, sondern in dem, was es in uns produziert. Im besten Fall führt uns Technologie zu neuen Ufern. Sie schafft für uns eine Welt, die besser erfassbar für unsere Sinne ist und besser zu unseren Absichten passt – eine Welt, in der wir uns wohlfühlen. »Mein Leib ist in der Welt, wenn mir meine Wahrnehmung ein Schauspiel mit einem Maximum an Vielfalt und Deutlichkeit eröffnet«, erklärte Merleau-Ponty, »und wenn meine motorische Intentionalität bei ihrer Entfaltung zu der Reaktion führt, die sie von der Welt erwartet. Dieses Maximum an Deutlichkeit in Wahrnehmung und Tun definiert einen Wahrnehmungsboden, einen Untergrund meines Lebens, ein allgemeines Milieu der Koexistenz meines Leibes und der Welt.«15 Überlegt und kompetent angewendet wird Technik zu sehr viel mehr als einem reinen Produktions- oder Konsummittel. Sie wird zu einem Erfahrungsmedium, das uns neue Möglichkeiten für ein erfülltes und aktives Leben eröffnet.

Die Sense ist ein einfaches, aber geniales Werkzeug. Sie wurde um das Jahr 500 v. Chr. von den Römern oder den Galliern erfunden und besteht aus einer gebogenen Klinge, aus Eisen oder Stahl geschmiedet, die am Ende eines langen Holzstabs, dem Sensenwurf, befestigt ist. Der Sensenwurf hat normalerweise in der Mitte einen kleinen Holzgriff, sodass man die Sense mit beiden Händen greifen und schwingen kann. Die Sense ist eine Weiterentwicklung aus der älteren Sichel, einem ähnlichen Schneidewerkzeug mit kürzerem Griff aus der Steinzeit, und spielte bei der frühen Entwicklung der Landwirtschaft und damit der Zivilisation eine entscheidende Rolle. Die Sense war insofern eine wichtige eigenständige Erfindung, weil der lange Sensenwurf einem Farmer oder Farmarbeiter ermöglichte, das Gras auf Bodenhöhe zu schneiden, selbst aber aufrecht zu stehen. So konnte Heu oder Getreide schneller als zuvor geerntet und Weideland gerodet werden. Ein riesiger Sprung nach vorn für die Landwirtschaft.

Die Sense erhöhte die Produktivität der Feldarbeiter, aber ihr Nutzen reichte weit über die messbaren Ergebnisse hinaus. Sie war ein kongeniales Werkzeug, das sich sehr viel besser für die körperliche Arbeit des Mähens eignete als die Sichel. Der Bauer musste sich nun nicht mehr bücken oder in die Hocke gehen, sondern konnte ganz natürlich gehen und für die Arbeit beide Hände und die volle Kraft seines Rumpfes einsetzen. Die Sense war sowohl Hilfe als auch eine Aufforderung zur kompetenten Arbeit, die sie ermöglichte. Ihre Form ist ein Vorbild für Technik im menschlichen Maßstab, Werkzeuge, die die Produktionsfähigkeiten einer Gesellschaft erweitern, ohne die Handlungs- und Wahrnehmungsfreiheit des Einzelnen zu beschneiden. Wie auch Frost in »Mowing« beschreibt, intensiviert die Sense das Verhältnis des Benutzers zur Welt und sein Verständnis von der Welt. Der sensenschwingende Schnitter leistet mehr, aber er weiß auch mehr. Auch wenn es anders aussehen mag, ist die Sense doch ebenso ein Werkzeug des Geistes wie des Körpers.

Nicht alle Werkzeuge sind derart kongenial. Manche Werkzeuge halten uns von kompetenter Arbeit ab. Die digitalen Technologien der Automatisierung laden uns häufig nicht in die Welt ein und ermutigen uns nicht, Fähigkeiten zu entwickeln, die unsere Wahrnehmung und unsere Möglichkeiten erweitern, ganz im Gegenteil. Sie sollen gerade das nicht tun. Sie entfernen uns von der Welt. Das ist nicht nur eine Folge der vorherrschenden technikzentrierten Designmethoden, die Mühelosigkeit und Effizienz über alles stellen. Darin spiegelt sich auch die Tatsache wider, dass der Computer in unserem Privatleben zu einem Mediengerät geworden ist, mit Software, die mühsam darauf programmiert wurde, unsere Aufmerksamkeit zu erregen und zu halten. Die meisten Menschen wissen aus eigener Erfahrung, wie verlockend ein Computerbildschirm sein kann, nicht nur, weil es oft bequem ist, sondern auch wegen der vielen Unterhaltungsmöglichkeiten.16 Dort ist immer etwas los, und man kann jederzeit mühelos einsteigen. Doch der Bildschirm ist trotz aller Verlockung und Stimulation eine sehr spartanisch ausgestattete Umgebung – schnelllebig, effizient, sauber, aber er zeigt nur ein Schattenbild der Welt.

Dies gilt sogar für die akribisch hergestellten Raumsimulationen, auf die man in Virtual-Reality-Anwendungen trifft, für Spiele, PRD-Modelle, dreidimensionale Karten und jene Tools, mit denen Chirurgen und andere Anwender Roboter steuern. Künstliche Simulationen von Raum stimulieren zwar unsere Augen und bis zu einem gewissen Grad auch unsere Ohren, aber sie vernachlässigen unsere anderen Sinne – Fühlen, Riechen, Schmecken – und schränken unsere Körperbewegungen stark ein. Eine Studie mit Nagetieren, die in der Zeitschrift Science im Jahr 2013 veröffentlicht wurde, ergab, dass die Ortszellen im Gehirn deutlich weniger aktiv sind, wenn sich Tiere durch eine computergenerierte Landschaft bewegen als in der echten Welt.17 »Die Hälfte der Neuronen macht einfach dicht«, berichtete ein Forscher, der Neurophysiker Mayank Mehta von der UCLA. Er glaubt, der starke Rückgang bei der mentalen Aktivität sei auf einen Mangel an »proximalen Reizen« – Gerüche, Geräusche und Oberflächenstrukturen, die Hinweise auf den Ort geben – in digitalen Raumsimulationen zurückzuführen.18 »Eine Landkarte ist nicht das Gebiet, das sie darstellt«, lautet eine bekannte Aussage des polnischen Philosophen Alfred Korzybski,19 und auch eine virtuelle Darstellung ist nicht das Gebiet, das sie repräsentiert. Wenn wir den Glaskäfig betreten, muss ein großer Teil unseres Körpers draußen bleiben. Das befreit uns nicht; es zehrt uns aus.

Die Welt verliert an Bedeutung. Wir passen uns an unsere gestraffte Umgebung an, und wir nehmen irgendwann nicht mehr wahr, was die Welt ihren leidenschaftlichen Bewohnern zu bieten hat. Wie die jungen, satellitengeleiteten Inuit reisen wir mit verbundenen Augen. Das Ergebnis ist eine existentielle Verarmung, weil Natur und Kultur ihre Aufforderungen zum Handeln und zur Wahrnehmung zurückziehen. Das Selbst kann nur aufblühen, kann nur wachsen, wenn es auf »Widerstände aus seiner Umgebung« trifft und sie überwindet, schrieb John Dewey. »Eine Umgebung, die immer und überall so kongenial ist, dass jeder Impuls reibungslos ausgeführt werden kann, würde dem Wachstum ebenso unvermeidlich ein Ende setzen, wie eine ewig feindliche Umgebung reizen und zerstören würde. Impulse, die immer weiter vorangetrieben werden, nehmen gedankenlos ihren Lauf, ohne jedes Gefühl.«20

Wir leben in einer Zeit materiellen Komforts und technischer Wunder, aber ebenso herrschen Ziellosigkeit und Trübsinn. In den ersten zehn Jahren dieses Jahrhunderts stieg die Anzahl der Amerikaner, die verschreibungspflichtige Medikamente gegen Depressionen oder Angstzustände einnahmen, um fast ein Viertel. Jeder fünfte Erwachsene nimmt heute regelmäßig solche Medikamente.21 Nach einem Bericht des Center for Disease Control and Prevention stieg die Selbstmordrate bei Amerikanern mittleren Alters in diesen zehn Jahren um fast 30 Prozent.22 Bei mehr als 10 Prozent der amerikanischen Schulkinder und fast 20 Prozent der Jungen im Highschool-Alter wurde ein Aufmerksamkeitsdefizit-/Hyperaktivitätssyndrom diagnostiziert, und zwei Drittel dieser Kinder und Jugendlichen werden deswegen mit Medikamenten wie Ritalin und Adderall behandelt.23 Es gibt viele Gründe für unsere Unzufriedenheit, und sie sind noch kaum erforscht. Eine Ursache könnte sein, dass wir durch unser Streben nach einer reibungslosen Existenz den Untergrund unseres Seins, wie Merleau-Ponty ihn nannte, in eine Wüste verwandelt haben. Das Nervensystem betäubende Medikamente weisen unser lebendiges, animalisches Empfindungsvermögen in die Schranken und schrumpfen unser Dasein auf eine Größe, die besser zu unserer begrenzten Lebensumgebung passt.

HERREN UND SKLAVEN

Frosts Sonett flüstert uns, neben anderen Dingen, eine Warnung vor den ethischen Risiken der Technik zu. In der Sense des Schnitters steckt auch eine gewisse Brutalität. Sie mäht neben den Grashalmen auch alle Blumen nieder – das zarte, blasse Knabenkraut.24 Sie scheucht unschuldige Tiere auf, die leuchtend grüne Schlange etwa. Wenn Technik unsere Träume verkörpert, dann verkörpert sie auch andere, weniger freundliche Teile unseres Wesens, unseren Machtwillen und die Arroganz und den Mangel an Sensibilität, die er mit sich bringt. Frost kehrt ein wenig später in A Boy’s Will zu diesem Thema zurück, in einem zweiten Gedicht übers Heumachen, »The Tuft of Flowers«. Der Erzähler des Gedichts stößt auf eine frischgemähte Wiese, folgt einem Schmetterling mit seinem Blick und entdeckt mitten im gemähten Gras ein kleines Büschel Blumen, »eine springende Blütenzunge, vom Schnitt verschont«:

The mower in the dew had loved them thus,

By leaving them to flourish, not for us,

Nor yet to draw one thought of us to him,

But from sheer morning gladness to the brim.25

Der Schnitter früh im Tau, der liebte sie
und ließ sie weiter blühen, doch nicht für uns
und auch nicht, dass wir seiner kurz gedächten.

Aus reiner Morgenfreude tat er es.26

Die Arbeit mit einem Werkzeug ist niemals eine rein praktische Angelegenheit, sagt Frost uns, mit seinem charakteristischen Zartgefühl. Sie führt immer auch zu moralischen Entscheidungen und hat moralische Konsequenzen. Wir, die Benutzer und Hersteller von Werkzeugen, müssen die Technologie vermenschlichen und ihre kalte Klinge weise einsetzen. Dazu braucht es Wachsamkeit und Sorgfalt.

Subsistenz-Landwirte in vielen Teilen der Welt benutzen die Sense heute noch. Doch auf einem modernen Bauernhof hat sie keinen Platz mehr, denn für dessen Entwicklung brauchte man, wie bei den modernen Fabriken, Büros und Wohnungen, immer komplexere und effizientere Ausrüstungen. Die Dreschmaschine wurde in den 1780er Jahren erfunden, die mechanische Erntemaschine tauchte um das Jahr 1835 auf, die Ballenpresse wenige Jahre später, und der Mähdrescher wurde ab dem Ende des 19. Jahrhunderts kommerziell hergestellt. Der technische Fortschritt hat sich seither immer weiter beschleunigt, und heute hat dieser Trend mit der Computerisierung der Landwirtschaft seinen konsequenten Endpunkt erreicht. Die Bodenbearbeitung, die Thomas Jefferson für die kraftvollste und tugendhafteste Beschäftigung hielt, wird heute fast vollständig von Maschinen erledigt. Farmarbeiter werden durch »Traktordrohnen« und andere Robotersysteme ersetzt, die mithilfe von Sensoren, Satellitensignalen und Software Saaten ausbringen, Felder düngen, Unkraut jäten, ernten, die Ernte verpacken, Kühe melken und anderes Nutzvieh hüten.27 Roboter-Schäfer, die Herden über Wiesen führen, sind derzeit in der Entwicklung. Selbst wenn Sensen heute noch auf den Feldern der industriellen Agrarbetriebe flüstern würden, wäre keiner mehr da, um sie zu hören.

Die Kongenialität von Handwerkzeugen ermutigt uns dazu, die Verantwortung für ihren Gebrauch zu übernehmen. Wir empfinden die Werkzeuge als Erweiterungen unseres Körpers, als Teil unserer selbst, und müssen uns daher mit den ethischen Entscheidungen, vor die sie uns stellen, eingehend beschäftigen. Nicht die Sense entscheidet, ob sie die Blumen niedermäht oder verschont, sondern der Schnitter. Je erfahrener wir im Umgang mit einem Werkzeug werden, umso stärker wird unser Verantwortungsbewusstsein dafür. Für einen Anfänger beim Mähen fühlt sich eine Sense fremdartig in den Händen an; beim erfahrenen Mäher sind Hände und Sense miteinander verschmolzen. Kompetenz verbindet ein Werkzeug und seinen Benutzer enger miteinander. Dieses Gefühl physischer und ethischer Verbundenheit muss nicht automatisch verschwinden, wenn Technologien komplexer werden. Charles Lindbergh sprach im Bericht über seinen historischen Alleinflug über den Atlantik im Jahr 1927 von seinem Flugzeug und sich selbst, als seien sie ein einziges Wesen: »Wir sind über den Ozean geflogen, nicht ich oder es.«28 Das Flugzeug war ein kompliziertes System aus vielen Einzelteilen, aber für einen guten Piloten fühlte es sich ebenso vertraut an wie ein Handwerkzeug. Die Liebe, die in Reihen legt die Au, ist auch die Liebe, die für den Piloten alter Schule die Wolken zerteilt.

Die Automatisierung schwächt die Bindung zwischen Werkzeug und Benutzer nicht, weil computergesteuerte Systeme komplex sind, sondern weil sie so wenig von uns fordern. Sie verstecken ihre Arbeitsabläufe in geheimen Codes. Sie widersetzen sich jeder Beteiligung des Bedieners über das absolute Minimum hinaus. Der Gebrauch verhindert die Entwicklung von Kompetenz. Letzten Endes hat die Automatisierung einen betäubenden Effekt. Wir empfinden unsere Werkzeuge nicht mehr länger als Teil unserer selbst. In einem einflussreichen Artikel aus dem Jahr 1960 mit dem Titel »Man-Computer Symbiosis« beschrieb der Psychologe und Ingenieur J. C. R. Licklider die Veränderungen unserer Beziehung zur Technik zutreffend. »In den Mensch-Maschine-Systemen der Vergangenheit«, schrieb er, »gab der menschliche Bediener die Initiative, die Richtung, die Integration und die Kriterien vor. Die mechanischen Teile des Systems waren reine Erweiterungen, zunächst des menschlichen Arms, dann des menschlichen Auges.« Die Einführung des Computers änderte das. »Statt ›mechanischer Erweiterungen‹ sind automatische Systeme heute der Ersatz für Menschen, und die Menschen, die noch übrig sind, leisten eher Hilfestellung, als dass sie sie annehmen.«29 Je mehr alles automatisiert wird, umso einfacher ist es, Technik als eine unerbittliche, fremde Macht zu betrachten, die jenseits unserer Kontrolle und unseres Einflusses liegt. Ihre Entwicklungswege ändern zu wollen scheint zwecklos. Wir drücken den Einschaltknopf und folgen dem vorgegebenen Programm.

Wer eine derart unterwürfige Pose einnimmt, so verständlich das auch sein mag, drückt sich vor der Verantwortung für die Lenkung des Fortschritts. Bei einer vollautomatischen Erntemaschine sitzt zwar niemand auf dem Fahrersitz, aber sie ist ebenso ein Produkt bewussten menschlichen Denkens wie die bescheidene Sense. Wir integrieren Maschinen zwar nicht auf dieselbe Weise in unsere mentalen Landkarten, wie wir es mit Handwerkzeugen tun, aber auf einer ethischen Ebene ist die Maschine immer noch eine Erweiterung unseres Willens. Ihre Intentionen sind unsere Intentionen. Wenn ein Roboter eine leuchtend grüne Schlange aufschreckt (oder Schlimmeres tut), sind wir immer noch verantwortlich. Wir drücken uns auch vor einer tieferen Verantwortung: derjenigen für die Überwachung der Bedingungen für die Entwicklung des Selbst. Je stärker Computersysteme und Software-Aanwendungen unser Leben und die Welt prägen, umso größer, nicht kleiner, ist unsere Verpflichtung, uns mehr an den Entscheidungen über ihre Konstruktion und ihren Einsatz zu beteiligen – bevor das technologische Momentum uns auch diese Option verschließt. Wir sollten darauf achten, was wir tun.

Falls das naiv oder hoffnungslos klingt, liegt es daran, dass wir von einer Metapher in die Irre geführt wurden. Wir haben unsere Beziehung zur Technik nicht als eine von Körper und Gliedmaßen definiert, noch nicht einmal als geschwisterliche Beziehung, sondern als eine Beziehung von Herr und Sklave. Diese Vorstellung reicht weit zurück. Sie tauchte erstmals in der Frühzeit der westlichen Philosophie auf, wie Langdon Winner beschrieb, im antiken Athen.30 Aristoteles behauptete im Abschnitt über Haushaltsführung am Anfang seines Buches Politik, Sklaven und Werkzeuge entsprächen einander, die einen seien »belebte Werkzeuge«, die anderen »unbelebte Werkzeuge« im Dienste des Hausherrn. Wenn es irgendwie möglich wäre, Werkzeuge zu beleben, könnten sie unmittelbar die Arbeit von Sklaven übernehmen. »Wenn nämlich ein jedes Werkzeug in der Lage wäre, entweder auf einen Befehl hin oder indem es einen Befehl im Voraus bemerkt, sein Werk zu vollführen [...], wenn auf diese Weise die Weberschiffchen selbst webten und die Plektra die Kitharen schlügen, dann benötigten wohl weder die Baumeister Handlanger noch die Herren Sklaven.«31

Die Vorstellung von Werkzeugen als Sklaven hat unser Denken seither gefärbt. Sie befeuert den immer wiederkehrenden gesellschaftlichen Traum von der Befreiung von aller Mühsal, den Marx, Wilde und Keynes einst formulierten und der auch heute noch in den Schriften von Technophobikern und Technophilen auftaucht. »Oscar Wilde hatte recht«, schrieb Evgeny Morozov, der Technikkritiker in seinem Buch Smarte neue Welt aus dem Jahr 2013: »Mechanische Sklaverei ermöglicht die menschliche Befreiung.«32 »Wir müssen die Roboter übernehmen lassen«, verkündete Kevin Kelly, der Technikenthusiast, in einem Wired-Artikel im selben Jahr. »Sie werden Arbeiten übernehmen, die wir bisher ausgeführt haben, und sie werden sie viel besser ausführen, als wir es können.« Vor allem aber werden sie uns den Freiraum verschaffen, um »neue Aufgaben zu entdecken, durch die wir uns weiterentwickeln können. Durch sie können wir uns darauf konzentrieren, menschlicher zu werden als bisher.«33 Kevin Drum von Mother Jones verkündete ebenfalls im Jahr 2013, »am Ende erwartet uns ein Roboterparadies aus Muße und Besinnung«. Bis zum Jahr 2040, prophezeit er, werden unsere supersmarten, superverlässlichen, supergefügigen Computersklaven – »sie werden nie müde, sie haben nie schlechte Laune, sie machen nie Fehler« – uns von jeglicher Arbeit befreit und in ein modernes Eden geführt haben. »Wir werden unsere Zeit so verbringen, wie es uns Spaß macht, vielleicht mit Studien, vielleicht mit Videospielen. Das ist dann unsere Entscheidung.«34

Aus einer Umkehrung dieser Rollenverteilung entstehen die technischen Albträume unserer Gesellschaft. Wenn wir von unseren technischen Sklaven abhängig werden, so die Argumentation, werden wir selbst zu Sklaven. Seit dem 18. Jahrhundert beklagten Sozialkritiker immer wieder, die Maschinen in der Fabrik zwängen die Arbeiter in die Sklaverei. »Arbeitermassen«, schrieben Marx und Engels im Manifest der kommunistischen Partei, »sind täglich und stündlich geknechtet von der Maschine.«35 Heute beschweren sich Menschen immer wieder, sie fühlten sich als Sklaven ihrer Geräte und Gadgets. »Intelligente Geräte können hilfreich sein«, bemerkte The Economist in »Slaves to the Smartphone«, einem Artikel aus dem Jahr 2012. »Aber für die meisten Menschen sind die Diener inzwischen die Herren.«36 Noch dramatischer ist die Vorstellung von einem Roboteraufstand, bei dem sich Computer mit künstlicher Intelligenz vom Sklaven zum Herrn über uns aufschwingen und der ein zentrales Thema in den dystopischen Zukunftsphantasien der letzten hundert Jahre ist. Das Wort Roboter, geprägt von einem Science-Fiction-Autor im Jahr 1920, stammt von dem tschechischen Wort robota für Knechtschaft ab.

Die Herr-und-Sklave-Metapher ist nicht nur moralisch belastet, sondern sie verzerrt auch unsere Sicht auf die Technologie. Sie bestärkt uns in dem Gefühl, dass unsere Werkzeuge nichts mit uns selbst zu tun, dass sie ein Eigenleben haben. Wir beurteilen unsere Technologien nicht mehr nur danach, was sie uns ermöglichen, sondern nach ihren immanenten Produkteigenschaften – ihrer Cleverness, ihrer Effizienz, ihrer Neuartigkeit, ihrem Stil. Wir suchen uns ein Werkzeug aus, weil es neu ist oder cool oder schnell, und nicht, weil es uns enger mit der Welt verbindet und die Basis für unsere Erfahrungen und Wahrnehmungen erweitert. Wir werden zu reinen Konsumenten von Technologie.

Auf einer breiteren gesellschaftlichen Ebene fördert diese Metapher eine stark vereinfachende und fatalistische Sicht auf Technologie und Fortschritt. Wenn man davon ausgeht, dass Werkzeuge als Sklaven für uns arbeiten und immer in unserem Interesse handeln, dann ist die Forderung nach Grenzen für Technologie schwer zu begründen. Jede Weiterentwicklung gewährt uns größere Freiheit und bringt uns, wenn schon nicht Utopia, dann zumindest der bestmöglichen Welt einen Schritt näher. Wir beruhigen uns damit, dass jeder Fehltritt durch nachfolgende Innovationen schnell korrigiert wird. Wenn wir dem Fortschritt einfach seinen Lauf lassen, wird er Lösungen für die Probleme finden, die er erschafft. »Technologie ist nicht neutral, sondern sie ist eine überwältigend positive Kraft in der menschlichen Kultur«, schreibt Kelly und fasst damit die eigennützige Ideologie aus dem Silicon Valley in Worte, die in den letzten Jahren breite Zustimmung gewonnen hat. »Wir haben eine moralische Verpflichtung zur Ausweitung technologischer Anwendungen, weil dadurch neue Chancen entstehen.«37 Dieses Gefühl der moralischen Verpflichtung wird mit fortschreitender Automatisierung immer stärker, die uns schließlich die belebtesten Werkzeuge überhaupt liefert, die Sklaven, die, nach Aristoteles, am besten geeignet sind, uns von unseren Mühen zu befreien.

Der Glaube an die Technologie als wohlwollende, selbstheilende, autonome Kraft ist verführerisch. Er lässt uns optimistisch in die Zukunft blicken, weil er uns die Verantwortung für diese Zukunft abnimmt. Doch er dient vor allem den Interessen jener, die durch die arbeitssparenden, profitkonzentrierenden Effekte automatischer Systeme und der Computer, die sie kontrollieren, außerordentlich reich wurden. Er liefert den neuen Plutokraten eine Heldengeschichte, in denen sie die Titelrollen spielen: Der jüngste Arbeitsplatzabbau ist bedauerlich, aber er ist ein notwendiges Übel auf dem Weg zur Befreiung der menschlichen Rasse durch Computersklaven, die unsere wohltätigen Unternehmungen erschaffen. Peter Thiel, ein erfolgreicher Unternehmer und Investor und prominenter Vordenker des Silicon Valley, räumt ein, dass »eine Roboterrevolution letzten Endes dazu führen wird, dass Menschen ihre Jobs verlieren«. Doch er fügt hastig hinzu: »Es hätte aber den Vorteil, dass die Menschen mehr Freiraum haben, um andere Dinge zu tun«.38 Mehr Freiraum klingt sehr viel freundlicher als Entlassungen.

Dieser vollmundige Futurismus kommt recht kaltschnäuzig daher. Die Geschichte hat uns gelehrt, dass hinter hochtrabenden Reden über den Einsatz von Technologie für die Befreiung der Arbeiter oft Verachtung für schwere Arbeit steckt. Es ist kaum zu erwarten, dass die heutigen Technikmogule, mit ihren liberalen Ansichten und ihrer Ungeduld mit der Regierung, der großangelegten Umverteilung von Wohlstand zustimmen würden, die notwendig wäre, um die Selbstverwirklichung der arbeitslosen Massen zu finanzieren. Selbst wenn man einen Zauberspruch fände, oder einen magischen Algorithmus, der die Gewinne durch die Automatisierung gleichmäßig verteilte, bliebe doch zweifelhaft, ob tatsächlich etwas dabei herauskäme, das auch nur annähernd an das »ökonomische Heil« herankommt, von dem Keynes träumte. In einem prophetischen Abschnitt in Vita activa wies Hannah Arendt darauf hin, dass die utopischen Verheißungen der Automatisierung, wenn sie denn jemals Wirklichkeit würden, sich weniger wie ein Paradies anfühlen würden, sondern mehr wie ein grausamer Witz. Die Gesellschaft im Ganzen, schrieb sie, sei in eine »Arbeitsgesellschaft« verwandelt worden, in der sich Menschen über ihre bezahlte Tätigkeit und das Ausgeben dieser Bezahlung selbst definieren und ihren eigenen Wert daran festmachen. Die meisten »höheren und sinnvolleren Tätigkeiten«, die in ferner Vergangenheit geschätzt wurden, wurden an den Rand gedrängt und vergessen, und nur noch einzelne Menschen betrachten ihre Tätigkeit als Arbeit und nicht als reine Möglichkeit, den Lebensunterhalt zu verdienen. »Die Erfüllung des uralten Traums« der Menschheit, durch Technologie »von den Fesseln der Arbeit befreit« zu werden, könne sich bei der gegenwärtigen Konstellation nicht als Segen, sondern als Fluch auswirken. In dem Fall brächte die Automatisierung uns »die Aussicht auf eine Arbeitsgesellschaft, der die Arbeit ausgegangen ist, also die einzige Tätigkeit, auf die sie sich noch versteht. Was könnte verhängnisvoller sein?«39 Utopismus, so erkannte sie, bedeutet, das Falsche zu wollen.

Die gesellschaftlichen und wirtschaftlichen Probleme, die durch die Automatisierung verursacht oder von ihr verstärkt werden, lassen sich nicht durch noch mehr Software lösen. Unsere unbelebten Sklaven werden uns nicht bequem und harmonisch nach Utopia chauffieren. Wenn man die Probleme lösen oder zumindest verringern will, wird sich die Öffentlichkeit in ihrer vollen Komplexität mit ihnen auseinandersetzen müssen. Wir werden der Automatisierung wohl Grenzen setzen müssen, wenn wir das Wohlergehen unserer Gesellschaft in Zukunft sicherstellen wollen. Wir müssen unsere Ansichten über Fortschritt verändern und den Schwerpunkt auf gesellschaftliche und persönliche Weiterentwicklung legen, nicht auf technische. Vielleicht müssen wir uns auch an eine Vorstellung gewöhnen, die zwischenzeitlich, zumindest in Businesskreisen, als undenkbar galt: Wir müssen den Menschen Vorrang vor den Maschinen einräumen.

EINE PARABEL

Im Jahr 1986 schrieb der kanadische Ethnologe Richard Kool einen Brief an Mihaly Csikszentmihalyi. Kool hatte einige frühe Arbeiten des Professors über den Flowzustand gelesen und sich an seine eigenen Forschungen über den Stamm der Shushwap erinnert, einem Volk von Eingeborenen, das im Thompson River Valley im heutigen British Columbia in Kanada lebte. Das Shushwap-Territorium sei »ein üppiges Land«, schrieb Kool. Es sei reich an Fisch und Wild und an essbaren Wurzeln und Beeren. Die Shushwap mussten sich nicht auf Wanderschaft begeben, um zu überleben. Sie bauten feste Dörfer und entwickelten »komplizierte Techniken, um die gegebenen Ressourcen geschickt zu nutzen«. Sie empfanden ihr Leben als gut und reich. Aber die Stammesältesten erkannten, dass in den bequemen Lebensumständen auch eine Gefahr lag. »[Sie] sagten, manchmal würde die Welt zu absehbar, und es gäbe nicht mehr genügend Herausforderungen. Ohne Herausforderung habe das Leben keinen Sinn.« Daher zogen die Shushwap unter der Führung ihrer Ältesten etwa alle dreißig Jahre um. Sie verließen ihre Häuser, gaben die Dörfer auf und machten sich auf in die Wildnis. »Die gesamte Bevölkerung«, berichtete Kool, »zieht dann in einen anderen Teil des Shushwap-Landes.« Und dort fänden sie neue Herausforderungen. »Es gibt neue Flüsse zu erkunden, neue Wildwechsel zu finden, neue Gebiete, in denen die Balsawurzel gut gedeiht. Nun gewinnt das Leben wieder einen Sinn und wird lebenswert. Alle fühlen sich verjüngt und gesund.«40

AUSBRUCH AUS DEM KÄFIG

Der Architekt E. J. Meade aus Colorado erzählte etwas Aufschlussreiches, als ich mit ihm über die Einführung eines CAD-Systems in seiner Firma sprach. Den Umgang mit der Software zu lernen war nicht das Problem. Das war einfach. Das Problem bestand darin zu lernen, wie man sie nicht einsetzt. Die Geschwindigkeit, die Bequemlichkeit und die Neuartigkeit des CAD waren verführerisch. Die Konstrukteure der Firma setzten sich am Beginn eines Projekts instinktiv zunächst einmal an den Computer. Doch bei einem genauen Blick auf ihre Arbeit fiel ihnen auf, dass die Software ihre Kreativität behinderte. Sie schloss ästhetische und funktionale Möglichkeiten aus und beschleunigte gleichzeitig den Produktionsprozess. Sobald Meade und seine Kollegen anfingen, die folgende Automatisierung kritischer zu betrachten, widerstanden sie den Verlockungen der Technologie. Sie bemerkten, dass sie »den Computer immer später« bei Projekten ins Spiel brachten. In den ersten, prägenden Arbeitsphasen kehrten sie an ihre Skizzenblöcke und Transparentpapierbögen zurück und bauten wieder Modelle aus Pappe und Styropor. »Für die letzten Arbeitsphasen ist CAD toll«, fasste Meade seine Erfahrungen mit CAD zusammen. »Der Komfortfaktor ist sehr hoch.« Doch die »Zweckmäßigkeit« des Computers kann gefährlich werden. Bei arglosen und unkritischen Nutzern können andere, wichtigere Gesichtspunkte untergehen. »Man muss sich sehr genau mit dem Tool beschäftigen, um sich nicht von ihm manipulieren zu lassen.«

Etwa ein Jahr vor meinem Gespräch mit Meade – als ich gerade mit der Recherche für dieses Buch begonnen hatte – lernte ich auf einem College-Campus zufällig einen freien Fotografen kennen, der gerade an einem Auftrag für die Schule arbeitete. Er stand regungslos unter einem Baum und wartete darauf, dass ein paar unfreundliche Wolken die Sonne wieder freigaben. Mir fiel die großformatige Filmkamera auf, die er auf einem sperrigen Stativ montiert hatte – sie sah fast absurd altmodisch aus, man konnte sie nicht übersehen –, und ich fragte ihn, ob er immer noch Fotofilm benutzte. Er erzählte, er habe vor einigen Jahren begeistert auf digitale Fotografie umgestellt. Er hatte seine Filmkameras und seine Dunkelkammer gegen Digitalkameras und einen Computer mit der neuesten Bildverarbeitungssoftware eingetauscht. Doch nach wenigen Monaten hatte er diesen Tausch wieder rückgängig gemacht. Er war nicht unzufrieden gewesen mit der Funktion der Ausrüstung, auch nicht mit der Auflösung oder Genauigkeit der Bilder. Doch seine Arbeitsweise hatte sich verändert, und zwar zum Schlechteren.

Die Einschränkungen, die sich ergeben, wenn man Bilder auf Fotofilm aufnimmt und entwickelt – die Kosten, die Arbeit, die Unsicherheit – hatten dazu geführt, dass er bei einem Fotoshooting langsam arbeitete, bedächtig, überlegt und mit einem tiefen, körperlichen Gefühl der Präsenz. Bevor er ein Bild aufnahm, wählte er den Bildausschnitt sorgfältig aus, achtete auf Licht, Farbe, Rahmen und Form der Szene. Er wartete geduldig auf den richtigen Moment, bevor er auf den Auslöser drückte. Mit einer Digitalkamera konnte er schneller arbeiten. Er machte haufenweise Bilder, eines nach dem anderen, sortierte dann am Computer die vielversprechendsten aus und bearbeitete sie. Die Bildkomposition fand statt, nachdem das Foto bereits aufgenommen war. Diese Umstellung berauschte ihn zunächst. Doch oft enttäuschten ihn die Ergebnisse. Die Bilder ließen ihn kalt. Der Film, stellte er fest, zwang ihm Disziplin bei der Wahrnehmung, beim Sehen auf, die zu aussagekräftigeren, künstlerischeren Fotografien führte, die ihn mehr berührten. Der Film verlangte ihm mehr ab. Und so kehrte er zur älteren Technologie zurück.

Weder der Architekt noch der Fotograf hatten das Geringste gegen Computer. Keiner von ihnen ließ sich von abstrakten Bedenken über den Verlust von Handlungsfähigkeit oder Autonomie leiten. Keiner von beiden befand sich auf einem Kreuzzug. Beide wollten nur das beste Werkzeug für den Job – ein Werkzeug, das sie zu ihren besten und befriedigendsten Arbeiten ermutigte und befähigte. Doch sie hatten bemerkt, dass das neueste, automatischste, nützlichste Werkzeug nicht immer die beste Wahl ist. Sie wären sicher empört, wenn man sie mit den Ludditen vergliche, doch ihre Entscheidung, auf die neueste Technologie, zumindest in einzelnen Phasen ihrer Arbeit, zu verzichten, war ein Akt der Rebellion, der an die alten englischen Maschinenstürmer erinnert, nur ohne deren Wut und Gewalt. Wie die Ludditen erkannten sie, dass Entscheidungen über Technologie immer auch Entscheidungen über Arbeits- und Lebensweisen sind – und sie trafen diese Entscheidungen bewusst, statt die Entscheidung anderen oder sich selbst der Eigendynamik des Fortschritts zu überlassen. Sie traten einen Schritt zurück und betrachteten die Technologie kritisch.

Die Gesellschaft beobachtet derartiges Verhalten misstrauisch. Aus Ignoranz, Faulheit oder Ängstlichkeit machten wir die Ludditen zu Karikaturen, Emblemen der Rückständigkeit. Wir gehen davon aus, dass jeder, der ein altes Werkzeug einem neuen vorzieht, sich der Nostalgie schuldig macht und seine Wahl aus sentimentalen Gründen trifft, nicht aus Vernunft. Doch der eigentliche sentimentale Trugschluss ist die Annahme, dass das Neue immer besser für unsere Zwecke und Absichten geeignet ist als das Alte. Das ist kindisch, naiv und manipulierbar. Die Überlegenheit eines Werkzeugs über ein anderes hat nichts damit zu tun, wie neu es ist. Wichtig ist, inwieweit es uns erweitert oder einschränkt, wie es unser Erleben von Natur, Kultur und anderen Menschen formt. Es wäre närrisch, Entscheidungen über die Struktur unseres täglichen Lebens einem großen Abstraktum namens Fortschritt zu überlassen.

Technologie hat Menschen schon immer dazu gebracht, darüber nachzudenken, was ihnen im Leben wirklich wichtig ist, sich zu fragen, wie ich am Anfang dieses Buches vorschlug, was Mensch sein bedeutet. Jetzt, da die Automatisierung bis in die intimsten Bereiche unserer Existenz hineinreicht, sind die Einsätze höher. Wir können zulassen, dass die technologische Strömung uns davonträgt, oder wir können uns ihr entgegenstellen. Sich Neuerungen zu widersetzen bedeutet nicht, Neuerungen generell abzulehnen. Es bedeutet, Neuerungen in die Schranken zu weisen, den Fortschritt wieder auf den Boden der Tatsachen zurückzubringen. »Widerstand ist zwecklos«, lautet ein bei Technikfreaks beliebtes Star-Trek-Zitat. Doch das Gegenteil ist der Fall. Widerstand ist niemals zwecklos. Wenn die Quelle unserer Lebenskraft, wie Emerson uns beibrachte, »die aktive Seele«41 ist, dann ist es unsere oberste Pflicht, uns jeder Macht, sei sie institutionell, kommerziell oder technologisch, zu widersetzen, die unsere Seele entkräftet oder schwächt.

Eine besonders bemerkenswerte Eigenschaft des Menschen wird leicht übersehen: Jedes Mal, wenn wir auf die Realität stoßen, vertieft sich unsere Erkenntnis über die Welt, und wir werden noch mehr ein Teil von ihr. Wenn wir mit einer Herausforderung kämpfen, motiviert uns vielleicht die Aussicht auf das Ziel unserer Mühen, aber, wie Frost bemerkte, macht uns die Arbeit – der Weg – zu dem, was wir sind. Die Automatisierung trennt das Ziel vom Weg. Sie macht das, was wir wollen, leichter erreichbar, aber sie distanziert uns von der Wissensarbeit. Wir verwandeln uns in Bildschirmwesen und stehen dabei vor derselben existentiellen Frage wie die Shushwap: Wird unser Wesen immer noch von dem bestimmt, was wir wissen, oder lassen wir uns jetzt von dem definieren, was wir wollen?

Das klingt sehr ernst, aber das Ziel ist Freude. Die aktive Seele ist eine strahlende Seele. Wenn wir unsere Werkzeuge wieder zum Teil unserer selbst machen, als Erfahrungs- statt reiner Produktionsmittel, eröffnen wir uns die Freiheit, welche die kongeniale Technologie uns bietet, wenn sie unseren Zugang zur Welt erweitert. Diese Freiheit müssen Sperry und Emil Cachin an jenem sonnigen Frühlingstag in Paris vor hundert Jahren empfunden haben, als sie auf die Tragflächen ihres mit Gyroskopen ausbalancierten Curtiss C-2-Doppeldecker hinauskletterten, voller Angst und Freude über die Zuschauerränge flogen und unter sich die ehrfürchtig gen Himmel gerichteten Gesichter der Menge sahen.

DANK

Das Epitaph zu diesem Buch ist der letzte Vers des Gedichtes »To Elsie« von William Carlos William, das im Jahr 1923 im Buch Spring and All erschien.

Ich bedanke mich herzlich bei allen, die mir, als Interviewpartner, Kritiker oder Korrespondent, Erkenntnisse und Unterstützung zukommen ließen: Claudio Aporta, Henry Beer, Véronique Bohbot, George Dyson, Gerhard Fischer, Mark Gross, Katherine Hayles, Charles Jacobs, Joan Lowy, E. J. Meade, Raja Parasuraman, Lawrence Port, Jeff Robbins, Jeffrey Rowe, Ari Schulman, Evan Selinger, Betsy Sparrow, Tim Swan, Ben Tranel und Christof van Nimwegen.

Abgehängt ist mein drittes Buch unter der redaktionellen Führung von Brendan Curry bei W. W. Norton. Ich danke Brendan und seinen Kollegen für ihre Arbeit. Ich stehe auch in der Schuld meines Agenten, John Brockman und seiner Mitarbeiter bei Brockman Inc. für ihren weisen Rat und ihre Unterstützung.

Einige Passagen in diesem Buch erschienen bereits früher, in anderer Form, im Atlantic, der Washington Post, der MIT Technology Review, und in meinem Blog Rough Type.

ANMERKUNGEN

Einführung: Warnung an Piloten

1 William Carlos Williams: »Für Elsie«. Aus dem Amerikanischen von Walter Fritzsche, in: Der harte Kern der Schönheit. Ausgewählte Gedichte Amerikanisch und Deutsch. Herausgegeben von Joachim Sartorius (München und Wien: Carl Hanser 1991), S. 87.

2 Federal Aviation Administration, SAFO 13002, 4. Januar 2013, faa.gov/other_visit/aviation_industry/airline_operators/airline_safety/safo/all_safos/media/2013/SAFO13002.pdf.

Kapitel Eins: Passagiere

1 Sebastian Thrun, »What We’re Driving At«, in: Google Official Blog, 9. Oktober 2010, googleblog.blogspot.com/2010/10/what-were-driving-at.html; siehe auch Tom Vanderbilt, »Let the Robot Drive: The Autonomous Car of the Future Is Here«, in: Wired, Februar 2012.

2 Daniel DeBolt, »Google’s Self-Driving Car in Five-Car Crash«, in: Mountain View Voice, 8. August 2011.

3 Richard Waters und Henry Foy, »Tesla Moves Ahead of Google in Race to Build Self-Driving Cars«, in: Financial Times, 17. September 2013, ft.com/intl/cms/s/0/70d26288-1faf-11e3-8861-00144feab7de.html

4 Frank Levy und Richard J. Murnane, The New Division of Labor: How Computers Are Creating the Next Job Market (Princeton: Princeton University Press 2004), S. 20.

5 Tom A. Schweizer u. a., »Brain Activity during Driving with Distraction: An Immersive fMRI Study«, in: Frontiers in Human Neuroscience, 28. Februar 2013, frontiersin.org/Human_Neuroscience/10.3389/fnhum.2013.00053/full.

6 N. Katherine Hayles, How We Think: Digital Media and Contemporary Technogenesis (Chicago: University of Chicago Press 2012), S. 2.

7 Mihaly Csikszentmihalyi und Judith LeFevre, »Optimal Experience in Work and Leisure«, in: Journal of Personality and Social Psychology 56, Nr. 5 (1989), S. 815 – 822.

8 Daniel T. Gilbert und Timothy D. Wilson, »Miswanting: Some Problems in the Forecasting of Future Affective States«, in: Joseph P. Forgas (Hg.), Feeling and Thinking: The Role of Affect in Social Cognition (Cambridge, U. K.: Cambridge University Press 2000), S. 179.

9 Csikszentmihalyi und LeFevre, »Optimal Experience in Work and Leisure«.

10 Zitiert bei John Geirland, »Go with the Flow«, in: Wired, September 1996.

11 Mihaly Csikszentmihalyi, Flow: The Psychology of Optimal Experience (New York: Harper 1991), S. 157–162.

Kapitel Zwei: Der Roboter am Tor

1 R. H. Macmillan, Automation: Friend or Foe? (Cambridge, U. K., Cambridge University Press 1956), 1. deutsche Ausgabe: Automation, Freund oder Feind? von Robert H. Macmillan und Leo-Albrecht von Schimpff (Heidelberg, Berlin: Gehlsen 1960).

2 Ebd., S. 91.

3 Ebd., S. 1 – 6. Hervorhebung von Macmillan.

4 Ebd., S. 92.

5 George B. Dyson, Darwin among the Machines: The Evolution of Global Intelligence (Reading, Mass.: Addison-Wesley 1997), X.

6 Bertrand Russell, »Machines and the Emotions«, in: Sceptical Essays (London: Routledge 2004), S. 64.

7 Adam Smith, Der Wohlstand der Nationen. Eine Untersuchung seiner Natur und seiner Ursachen (München: FinanzBuch Verlag 2006), S. 19, S. 22.

8 Ebd., drittes Buch, erstes Kapitel, S. 465.

9 Malcolm I. Thomis, The Luddites: Machine-Breaking in Regency England (Newton Abbot, U. K.: David & Charles 1970), S. 50; siehe auch E. J. Hobsbawm, »The Machine Breakers«, in: Past and Present 1, Nr. 1 (1952), S. 57 – 70.

10 Karl Marx, Das Kapital: Kritik der politischen Ökonomie, Bd 1. Karl Marx/Friedrich Engels – Werke (Berlin: Karl Dietz Verlag 1961), S. 445.

11 Karl Marx, »Rede auf der Jahresfeier des ›People’s Paper‹ am 14. April 1856 in London«, in: Karl Marx/Friedrich Engels – Werke, Band 12, S. 3 – 4, http://www.mlwerke.de/me/me12/me12_003.htm.

12 Nick Dyer-Witheford, Cyber-Marx: Cycles and Circuits of Struggle in High Technology Capitalism (Champaign, Ill.: University of Illinois Press 1999), S. 40.

13 Marx, »Rede auf der Jahresfeier des ›People’s Paper‹«.

14 Zitiert bei Dyer-Witheford, Cyber-Marx, 41. In einer berühmten Passage in Die deutsche Ideologie aus dem Jahr 1846 sah Marx den Tag voraus, an dem er frei wäre, »heute dies, morgen jenes zu tun, morgens zu jagen, nachmittags zu fischen, abends Viehzucht zu treiben, nach dem Essen zu kritisieren, wie ich gerade Lust habe, ohne je Jäger, Fischer, Hirt oder Kritiker zu werden«. Das Miswanting klang kaum einmal so überschwänglich. Karl Marx/Friedrich Engels – Werke: Die deutsche Ideologie, S. 33.

15 E. Levasseur, »The Concentration of Industry, and Machinery in the United States«, in: Publications of the American Academy of Political and Social Science, Nr. 193 (1897), S. 178 –197.

16 Oscar Wilde, »Der Sozialismus und die Seele des Menschen«, in: Verschollene Meister der Literatur. II. Oscar Wilde. Drei Essays. (Berlin 1904, Karl Schnabel, übersetzt von Hedwig Lachmann und Gustav Landauer), S. 45/46, http://de.wikisource.org/wiki/Drei_Essays.

17 Zitiert bei Amy Sue Bix, Inventing Ourselves out of Jobs?: America’s Debate over Technological Unemployment 1929–1981 (Baltimore: Johns Hopkins University Press 2000), S. 117–118.

18 Ebd., S. 50.

19 Ebd., S. 55.

20 John Maynard Keynes, »Economic Possibilities for Our Grandchildren«, in: Essays in Persuasion (New York: W. W. Norton 1963), S. 358 – 373.

21 John F. Kennedy, »Remarks at the Wheeling Stadium«, in: John F. Kennedy: Containing the Public Messages, Speeches, and Statements of the President (Washington, D. C.: U. S. Government Printing Office 1962), S. 721.

22 Stanley Aronowitz und William DiFazio, The Jobless Future: Sci-Tech and the Dogma of Work (Minneapolis: University of Minnesota Press 1994), S. 14. Die Hervorhebung stammt von Aronowitz und DiFazio.

23 Jeremy Rifkin, The End of Work: The Decline of the Global Labor Force and the Dawn of the Post-Market Era (New York: Putnam 1995), S. xv – xviii. (Deutsche Ausgabe: Das Ende der Arbeit, und ihre Zukunft, Frankfurt: Campus 2004).

24 Erik Brynjolfsson und Andrew McAfee, Race against the Machine: How the Digital Revolution Is Accelerating Innovation, Driving Productivity, and Irreversibly Transforming Employment and the Economy (Lexington, Mass.: Digital Frontier Press 2011). Brynjolfsson und McAfee erweiterten ihre Diskussion, in: The Second Machine Age: Work, Progress, and Prosperity in a Time of Brilliant Technologies (New York: W. W. Norton 2014).

25 »March of the Machines«, 60 Minutes, CBS, 13. Januar 2013, cbsnews.com/8301-18560_162-57563618/are-robots-hurting-job-growth/.

26 Bernard Condon und Paul Wiseman, »Recession, Tech Kill Middle-Class Jobs«, AP, 23. Januar 2013, bigstory.ap.org/article/ap-impact-recession-tech-kill-middle-class-jobs.

27 Paul Wiseman und Bernard Condon, »Will Smart Machines Create a World without Work?«, AP, 25. Januar 2003, bigstory.ap.org/article/will-smart-machines-create-world-without-work.

28 Michael Spence, »Technology and the Unemployment Challenge«, in: Project Syndicate, 15. Januar 2013, project-syndicate.org/commentary/global-supply-chains-on-the-move-by-michael-spence.

29 Siehe Timothy Aeppel, »Man vs. Machine, a Jobless Recovery«, in: Wall Street Journal, 17. Januar 2012.

30 Zitiert bei Thomas B. Edsall, »The Hollowing Out«, in: Campaign Stops (Blog), New York Times, 8. Juli 2012, campaignstops.blogs.nytimes.com/2012/07/08/the-future-of-joblessness/.

31 Siehe Lawrence V. Kenton (Hg.), Manufacturing Output, Productivity and Employment Implications (New York 2005); und Judith Banister and George Cook, »China’s Employment and Compensation Costs in Manufacturing through 2008«, in: Monthly Labor Review, März 2011.

32 Tyler Cowen, »What Export-Oriented America Means«, in: American Interest, Mai/Juni 2012.

33 Robert Skidelsky, »The Rise of the Robots«, in: Project Syndicate, 19. Februar 2013, project-syndicate.org/commentary/the-future-of-work-in-a-world-of-automation-by-robert-skidelsky.

34 Ebd.

35 Chrystia Freeland, »China, Technology and the U. S. Middle Class«, in: Financial Times, 15. February 2013.

36 Paul Krugman, »Is Growth Over?«, in: The Conscience of a Liberal (blog), New York Times, 26. Dezember 2012, krugman.blogs.nytimes.com/2012/12/26/is-growth-over/.

37 Das Internet, so wird oft angemerkt, hat Menschen Möglichkeiten eröffnet, mit Eigeninitiative und geringem Kapitaleinsatz Geld zu verdienen. Man kann gebrauchte Waren bei eBay verkaufen oder Handgefertigtes bei Etsy. Man kann ein Zimmer durch Airbnb vermieten oder sein Auto mit Lyft in ein Geistertaxi verwandeln. Man findet unterschiedlichste Jobs mit TaskRabbit. Mit so bescheidenen Unternehmungen kann man sich zwar leicht etwas Kleingeld verdienen, doch wenige werden in der Lage sein, damit ein mittleres Einkommen zu erwirtschaften. Das richtige Geld geht an die Software-Unternehmen, die die Online-Clearinghäuser betreiben, die Käufer und Verkäufer oder Mieter und Vermieter verbinden – Clearinghäuser, die hoch automatisiert sind und deswegen wenige Angestellte brauchen.

38 James R. Bright, Automation and Management, (Cambridge, Mass.: Harvard University 1958), S. 4 f.

39 Ebd., S. 5.

40 Ebd., S. 4, S. 6. Die Hervorhebung stammt von Bright. Brights Definition der Automatisierung lässt Sigfried Giedions frühere Definition der Mechanisierung anklingen: »Die Mechanisierung ist eine Kraft, wie Wasser, Feuer, Licht. Sie ist blind und ohne eigene Richtung. Wie die Kräfte der Natur hängt die Mechanisierung von der Fähigkeit des Menschen ab, sie zu gebrauchen und sich selbst vor möglichen Schäden zu schützen. Da die Mechanisierung ein reines Produkt des menschlichen Geistes ist, ist die umso gefährlicher für ihn.« Giedion, Mechanization Takes Command (New York: Oxford University Press 1948), S. 714.

41 David A. Mindell, Between Human and Machine: Feedback, Control, and Computing before Cybernetics (Baltimore: Johns Hopkins University Press 2002), S. 247.

42 Stuart Bennett, A History of Control Engineering, 1800 –1930 (London: Peter Peregrinus 1979), S. 99 f.

43 Norbert Wiener, The Human Use of Human Beings: Cybernetics and Society (New York: Da Capo 1954), S. 153. (Deutsche Ausgabe: Mensch und Menschmaschine. Frankfurt am Main 1952, 4. Auflage 1972).

44 Eric W. Leaver und J. J. Brown, »Machines without Men«, in: Fortune, November 1946; siehe auch David F. Noble, Forces of Production: A Social History of Industrial Automation (New York: Alfred A. Knopf 1984), S. 67–71.

45 Noble, Forces of Production, S. 234.

46 Ebd., S. 21– 40.

47 Wiener, Human Use of Human Beings, S. 148 –162.

48 Zitiert bei Flo Conway und Jim Siegelman, Dark Hero of the Information Age: In Search of Norbert Wiener, the Father of Cybernetics (New York: Basic Books 2005), S. 251.

49 Marc Andreessen, »Why Software Is Eating the World«, in: Wall Street Journal, 20. August 2011.

Kapitel Drei: Auf Autopilot

1 Die Beschreibung des Absturzes des Continental-Connection-Fluges stützt sich hauptsächlich auf den National Transportation Safety Board’s Accident Report AAR-10/01: »Loss of Control on Approach, Colgan Air, Inc., Operating as Continental Connection Flight 3407«, Clarence Center, New York, 12. Februar 2009; siehe auch Matthew L. Wald, »Pilots Chatted in Moments Before Buffalo Crash«, in: New York Times, 12. Mai 2009.

2 Associated Press, »Inquiry in New York Air Crash Points to Crew Error«, in: Los Angeles Times, 13. Mai 2009.

3 Die Beschreibung des Air-France-Absturzes stützt sich hauptsächlich auf: BEA, »Final Report: On the Accident on 1st June 2009 to the Airbus A330-203, Registered F-GZCP, Operated by Air France, Flight AF447, Rio de Janeiro to Paris«, offizielle englische Übersetzung vom 27. Juli 2012; siehe auch Jeff Wise, »What Really Happened Aboard Air France 447«, in: Popular Mechanics, 6. Dezember 2011, http://www.popularmechanics.com/technology/aviation/crashes/what-really-happened-aboard-air-france-447-6611877.

4 BEA, »Final Report: On the Accident on 1st June 2009 to the Airbus A330-203, Registered F-GZCP, Operated by Air France, Flight AF447, Rio de Janeiro to Paris«, S. 199.

5 William Scheck, »Lawrence Sperry: Genius on Autopilot«, in: Aviation History, November 2004; Dave Higdon, »Used Correctly, Autopilots Offer Second-Pilot Safety Benefits«, in: Avionics News, Mai 2010; und »George the Autopilot«, in: Historic Wings, 30. August 2012, http://fly.historicwings.com/2012/08/george-the-autopilot/.

6 »Now – The Automatic Pilot«, in: Popular Science Monthly, Februar 1930.

7 »Post’s Automatic Pilot«, in: New York Times, 24. Juli 1933.

8 James M. Gillespie, »We Flew the Atlantic ›No Hands‹«, in: Popular Science, Dezember 1947.

9 »Automatic Control«, in: Flight, 9. Oktober 1947.

10 Einen detaillierten Bericht über die Arbeit der NASA findet man in Lane E. Wallace, Airborne Trailblazer: Two Decades with NASA Langley’s 737 Flying Laboratory (Washington, D. C.: NASA History Office 1994).

11 William Langewiesche, Fly by Wire: The Geese, the Glide and the Miracle on the Hudson (New York: Farrar, Straus und Giroux 2009), S. 103.

12 Antoine de Saint-Exupéry, Wind, Sand und Sterne (Düsseldorf: Karl Rauch Verlag 2013), S. 34f.

13 Don Harris, Human Performance on the Flight Deck (Surrey U. K.: Ashgate 2011), S. 221.

14 »How Does Automation Affect Airline Safety?« (Video), Website der Flight Safety Foundation, 3. Juli 2012, http://flightsafety.org/node/4249.

15 Hemant Bhana, »Trust But Verify«, in: AeroSafety World, Juni 2010, http://www.safety.airshareselite.com/images/Trust_But_Verify.pdf.

16 Zitiert in Nick A. Komons, Bonfires to Beacons: Federal Civil Aviation Policy under the Air Commerce Act 1926 –1938 (Washington, D. C.: U. S. Department of Transportation 1978), S. 24.

17 Scott Mayerowitz und Joshua Freed, »Air Travel Safer than Ever with Death Rate at Record Low«, in: Denverpost.com, 1. Januar 2012, denverpost.com/nationworld/ci_19653967. Todesopfer durch Terroranschläge sind hier nicht mit einberechnet.

18 Interview des Autors mit Raja Parasuraman vom 18. Dezember 2011.

19 Jan Noyes, »Automation and Decision Making«, in: Malcolm James Cook u. a. (Hgg.), Decision Making in Complex Environments (Aldershot, U. K.: Ashgate 2007), S. 73.

20 Earl L. Wiener, Human Factors of Advanced Technology (»Glass Cockpit«) Transport Aircraft (Moffett Field, Calif.: NASA Ames Research Center, Juni 1989).

21 Siehe z. B. Earl L. Wiener und Renwick E. Curry, »Flight-Deck Automation: Promises and Problems« (NASA Ames Research Center, Juni 1980); Earl L. Wiener, »Beyond the Sterile Cockpit«, in: Human Factors 27, Nr. 1 (1985), S. 75 – 90; Donald Eldredge u. a., A Review and Discussion of Flight Management System Incidents Reported to the Aviation Safety Reporting System (Washington, D. C.: Federal Aviation Administration, Februar 1992); sowie Matt Ebbatson, »Practice Makes Imperfect: Common Factors in Recent Manual Approach Incidents«, in: Human Factors and Aerospace Safety 6, Nr. 3 (2006), S. 275 – 278.

22 Andy Pasztor, »Pilot Reliance on Automation Erodes Skills«, in: Wall Street Journal, 5. November 2010.

23 Operational Use of Flight Path Management Systems: Final Report of the Performance-Based Operations Aviation Rulemaking Committee/Commercial Aviation Safety Team Flight Deck Automation Working Group (Washington, D. C.: Federal Aviation Administration, 5. September 2013), http://www.faa.gov/about/office_org/headquarters_offices/avs/offices/afs/afs400/parc/parc_reco/media/2013/130908_PARC_FltDAWG_Final_Report_Recommendations.pdf.

24 Matthew Ebbatson, »The Loss of Manual Flying Skills in Pilots of Highly Automated Airliners«, Dissertation (Cranfield University School of Engineering, 2009); siehe auch M. Ebbatson u. a., »The Relationship between Manual Handling Performance and Recent Flying Experience in Air Transport Pilots«, in: Ergonomics 53, Nr. 2 (2010), S. 268 – 277.

25 Zitiert in David A. Mindell, Between Human and Machine: Feedback, Control, and Computing before Cybernetics (Baltimore: Johns Hopkins University Press 2002), S. 77.

26 Stuart Bennett, A History of Control Engineering, 1800–1930 (Stevenage, U. K.: Peter Peregrinus 1979), S. 141.

27 Tom Wolfe, The Right Stuff (New York: Picador 1979), S. 152 ff. (Deutsche Ausgabe: Tom Wolfe, Helden der Nation, Hamburg: Hoffmann und Campe 1983).

28 Ebbatson, »Loss of Manual Flying Skills«.

29 European Aviation Safety Agency, »Response Charts for ›EASA Cockpit Automation Survey‹«, 3. August 2012, easa.europa.eu/safety-and-research/docs/EASA%20Cockpit%20Automation%20Survey%202012%20-%20Results.pdf.

30 Rory Kay in: Joan Lowy, »Automation in the Air Dulls Pilot Skill«, in: Seattle Times, 30. August 2011.

31 Eine gute Übersicht über die Entwicklung der Crewgrößen findet sich in Delmar M. Fadden u. a., »First Hand: Evolution of the 2-Person Crew Jet Transport Flight Deck«, in: IEEE Global History Network, 25. August 2008, ieeeghn.org/wiki/index.php/First-Hand:Evolution_of_the_2-Person_Crew_Jet_Transport_Flight_Deck.

32 Zitiert in Philip E. Ross, »When Will We Have Unmanned Commercial Airliners?«, in: IEEE Spectrum, Dezember 2011.

33 Scott McCartney, »Pilot Pay: Want to Know How Much Your Captain Earns?«, in: The Middle Seat Terminal (blog), Wall Street Journal, 16. June 2009, http://blogs.wsj.com/middleseat/2009/06/16/pilot-pay-want-to-know-how-much-your-captain-earns/.

34 Dawn Duggan, »The 8 Most Overpaid & Underpaid Jobs«, in: Salary.com (ohne Datum), salary.com/the%2D8%2Dmost%2Doverpaid%2Dunderpaid%2Djobs/slide/9/.

35 David A. Mindell, Digital Apollo: Human and Machine in Spaceflight (Cambridge, Mass.: MIT Press 2011), S. 20.

36 Wilbur Wright, Brief vom 13. Mai 1900, in: Richard Rhodes (Hg.), Visions of Technology: A Century of Vital Debate about Machines, Systems, and the Human World (New York: Touchstone 1999), S. 33.

37 Mindell, Digital Apollo, S. 20.

38 Zitiert in ebd., S. 21.

39 Wilbur Wright, »Some Aeronautical Experiments«, Rede vor der Western Society of Engineers am 18. September 1901, http://www.wright-house.com/wright-brothers/Aeronautical.html.

40 Mindell, Digital Apollo, S. 21.

41 J. O. Roberts, »The Case against Automation in Manned Fighter Aircraft«, in: SETP Quarterly Review 2, Nr. 3 (1957), S. 18 – 23.

42 Zitiert in Mindell, Between Human and Machine, S. 77.

43 Harris, Human Performance on the Flight Deck, S. 221.

Kapitel Vier: Der Degenerationseffekt

1 Alfred North Whitehead, Einführung in die Mathematik, übers. v. B. Schenker (Wien: Humboldt 1948), S. 51f.

2 Zitiert in Frank Levy und Richard J. Murnane, The New Division of Labor: How Computers Are Creating the Next Job Market (Princeton: Princeton University Press 2004), S. 4.

3 Raja Parasuraman u. a., »Model for Types and Levels of Human Interaction with Automation«, in: IEEE Transactions on Systems, Man, and Cybernetics – Part A: Systems and Humans 30, Nr. 3 (2000), S. 286 – 297; siehe auch: Nadine Sarter u. a., »Automation Surprises«, in: Gavriel Salvendy (Hg.), Handbook of Human Factors and Ergonomics, 2. Auflage (New York: Wiley 1997).

4 Dennis F. Galletta et al., »Does Spell-Checking Software Need a Warning Label?« in: Communications of the ACM 48, Nr. 7 (2005), S. 82–86.

5 National Transportation Safety Board, Marine Accident Report: Grounding of the Panamanian Passenger Ship Royal Majesty on Rose and Crown Shoal near Nantucket, Massachusetts, June 10, 1995 (Washington, D. C.: NTSB, 2. April 1997).

6 Sherry Turkle, Simulation and Its Discontents (Cambridge, Mass.: MIT Press 2009), S. 55f.

7 Jennifer Langston, »GPS Routed Bus under Bridge, Company Says«, in: Seattle Post-Intelligencer, 17. April 2008.

8 A. A. Povyakalo u. a., »How to Discriminate between Computer-Aided and Computer-Hindered Decisions: A Case Study in Mammography«, in: Medical Decision Making 33, Nr. 1 (Januar 2013), S. 98 –107.

9 E. Alberdi u. a., »Why Are People’s Decisions Sometimes Worse with Computer Support?«, in: Bettina Buth u. a. (Hgg.), Proceedings of SAFECOMP 2009, the 28th International Conference on Computer Safety, Reliability, and Security (Hamburg, Germany: Springer 2009), S. 18 – 31.

10 Siehe Raja Parasuraman u. a., »Performance Consequences of Automation-Induced ›Complacency‹«, in: International Journal of Aviation Psychology 3, Nr. 1 (1993), S. 1– 23.

11 Raja Parasuraman und Dietrich H. Manzey, »Complacency and Bias in Human Use of Automation: An Attentional Integration«, in: Human Factors 52, Nr. 3 (Juni 2010), S. 381– 410.

12 Norman J. Slamecka und Peter Graf, »The Generation Effect: Delineation of a Phenomenon«, in: Journal of Experimental Psychology: Human Learning and Memory 4, Nr. 6 (1978), S. 592 – 604.

13 Jeffrey D. Karpicke und Janell R. Blunt, »Retrieval Practice Produces More Learning than Elaborative Studying with Concept Mapping«, in: Science 331 (2011), S. 772 – 775.

14 Britte Haugan Cheng, »Generation in the Knowledge Integration Classroom«, Dissertation (University of California, Berkeley 2008).

15 Simon Farrell und Stephan Lewandowsky, »A Connectionist Model of Complacency and Adaptive Recovery under Automation«, in: Journal of Experimental Psychology: Learning, Memory, and Cognition 26, Nr. 2 (2000), S. 395 – 410.

16 Ich erwähnte van Nimwegens Arbeit bereits in meinem Buch Wer bin ich, wenn ich online bin ...: und was macht mein Gehirn solange? – Wie das Internet unser Denken verändert (München: Blessing 2010), S. 214 ff.

17 Christof van Nimwegen, »The Paradox of the Guided User: Assistance Can Be Counter-effective«, SIKS Dissertation Series Nr. 2008-09 (Utrecht University, 31. März 2008); siehe außerdem Christof van Nimwegen und Herre van Oostendorp, »The Questionable Impact of an Assisting Interface on Performance in Transfer Situations«, in: International Journal of Industrial Ergonomics 39, Nr. 3 (Mai 2009), S. 501– 508; sowie Daniel Burgos und Christof van Nimwegen, »Games-Based Learning, Destination Feedback and Adaptation: A Case Study of an Educational Planning Simulation«, in: Thomas Connolly u. a. (Hgg.), Games-Based Learning Advancements for Multi-Sensory Human Computer Interfaces: Techniques and Effective Practices (Hershey, Penn.: IGI Global 2009), S. 119 –130.

18 Carlin Dowling u. a., »Audit Support System Design and the Declarative Knowledge of Long-Term Users«, in: Journal of Emerging Technologies in Accounting 5, Nr. 1 (Dezember 2008), S. 99 –108.

19 Siehe Richard G. Brody u. a., »The Effect of a Computerized Decision Aid on the Development of Knowledge«, in: Journal of Business and Psychology 18, Nr. 2 (2003), S. 157–174; sowie Holli McCall u. a., »Use of Knowledge Management Systems and the Impact on the Acquisition of Explicit Knowledge«, in: Journal of Information Systems 22, Nr. 2 (2008), S. 77–101.

20 Amar Bhidé, »The Judgment Deficit«, in: Harvard Business Review 88, Nr. 9 (September 2010), S. 44 – 53.

21 Gordon Baxter und John Cartlidge, »Flying by the Seat of Their Pants: What Can High Frequency Trading Learn from Aviation?«, in: G. Brat u. a. (Hgg.), ATACCS-2013: Proceedings of the 3rd International Conference on Application and Theory of Automation in Command and Control Systems (New York: ACM 2013), S. 64 – 73.

22 Vivek Haldar, »Sharp Tools, Dull Minds«, in: This Is the Blog of Vivek Haldar, 10. November 2013, blog.vivekhaldar.com/post/66660163006/sharp-tools-dull-minds.

23 Tim Adams, »Google and the Future of Search: Amit Singhal and the Knowledge Graph«, in: The Observer, 19. Januar 2013.

24 Betsy Sparrow u. a., »Google Effects on Memory: Cognitive Consequences of Having Information at Our Fingertips«, in: Science 333, Nr. 6043, 5. August 2011, S. 776–778. Eine weitere Studie legt nahe, dass allein das Wissen, dass etwas mit einer digitalen Kamera aufgenommen wurde, die Erinnerung eines Menschen an diese Erfahrung schwächen kann: Linda A. Henkel, »Point-and-Shoot Memories: The Influence of Taking Photos on Memory for a Museum Tour«, in: Psychological Science, 5. Dezember 2013, http://pss.sagepub.com/content/early/2013/12/04/0956797613504438.full.

25 Mihai Nadin, »Information and Semiotic Processes: The Semiotics of Computation«, in: Cybernetics and Human Knowing 18, Nr. 1– 2 (2011), S. 153 –175.

26 Gary Marcus, Guitar Zero: The New Musician and the Science of Learning (New York: Penguin 2012), S. 52.

27 Wie das Gehirn Schreiben und Lesen lernt, ist genau beschrieben in Maryanne Wolf, Das lesende Gehirn: Wie der Mensch zum Lesen kam – und was es in unseren Köpfen bewirkt, (Heidelberg: Spektrum-Akademischer Verlag 2010).

28 Hubert L. Dreyfus, »Intelligence without Representation – Merleau-Ponty’s Critique of Mental Representation«, in: Phenomenology and the Cognitive Sciences 1 (2002), S. 367– 383.

29 Marcus, Guitar Zero, S. 103.

30 David Z. Hambrick und Elizabeth J. Meinz, »Limits on the Predictive Power of Domain-Specific Experience and Knowledge in Skilled Performance«, in: Current Directions in Psychological Science 20, Nr. 5 (2011), S. 275 – 279.

31 K. Anders Ericsson u. a., »The Role of Deliberate Practice in the Acquisition of Expert Performance«, in: Psychological Review 100, Nr. 3 (1993), S. 363 – 406.

32 Nigel Warburton, »Robert Talisse on Pragmatism«, in: Five Books, 18. September 2013, fivebooks.com/interviews/robert-talisse-on-pragmatism.

33 Jeanne Nakamura und Mihaly Csikszentmihalyi, »The Concept of Flow«, in: C. R. Snyder und Shane J. Lopez (Hgg.), Handbook of Positive Psychology (Oxford, U. K.: Oxford University Press 2002), S. 90 f.

34 Robert M. Yerkes, The Dancing Mouse: A Study in Animal Behavior (New York: Macmillan 1907), S. vii – viii und S. 2 f.

35 Ebd., S. vii.

36 Robert M. Yerkes und John D. Dodson, »The Relation of Strength of Stimulus to Rapidity of Habit-Formation«, in: Journal of Comparative Neurology and Psychology 18 (1908), S. 459 – 482.

37 Ebd.

38 Mark S. Young und Neville A. Stanton, »Attention and Automation: New Perspectives on Mental Overload and Performance«, in: Theoretical Issues in Ergonomics Science 3, Nr. 2 (2002), S. 178 –194.

39 Mark W. Scerbo, »Adaptive Automation«, in: Raja Parasuraman und Matthew Rizzo (Hgg.), Neuroergonomics: The Brain at Work (New York: Oxford University Press 2007), S. 239 – 252.

Kapitel Fünf: Computer in der Arztpraxis

1 »RAND Study Says Computerizing Medical Records Could Save $81 Billion Annually and Improve the Quality of Medical Care«, Pressemitteilung der RAND Corporation vom 14. September 2005.

2 Richard Hillestad u. a., »Can Electronic Medical Record Systems Transform Health Care? Potential Health Benefits, Savings, and Costs«, in: Health Affairs 24, Nr. 5 (2005), S. 1103 –1117.

3 Reed Abelson und Julie Creswell, »In Second Look, Few Savings from Digital Health Records«, in: New York Times, 10. Januar 2013.

4 Jeanne Lambrew, »More than Half of Doctors Now Use Electronic Health Records Thanks to Administration Policies«, in: The White House Blog, 24. Mai 2013, whitehouse.gov/blog/2013/05/24/more-half-doctors-use-electronic-health-records-thanks-administration-policies.

5 Arthur L. Kellermann und Spencer S. Jones, »What It Will Take to Achieve the As-Yet-Unfulfilled Promises of Health Information Technology«, in: Health Affairs 32, Nr. 1 (2013), S. 63 – 68.

6 Ashly D. Black u. a., »The Impact of eHealth on the Quality and Safety of Health Care: A Systematic Overview«, in: PLOS Medicine 8, Nr. 1 (2011), plosmedicine.org/article/info%3Adoi%2F10.1371%2Fjournal.pmed.1000387.

7 Melinda Beeuwkes Buntin u. a., »The Benefits of Health Information Technology: A Review of the Recent Literature Shows Predominantly Positive Results«, in: Health Affairs 30, Nr. 3 (2011), S. 464 – 471.

8 Dean F. Sittig u. a., »Lessons from ›Unexpected Increased Mortality after Implementation of a Commercially Sold Computerized Physician Order Entry System‹«, in: Pediatrics 118, Nr. 2 (1. August 2006), S. 797– 801.

9 Jerome Groopman und Pamela Hartzband, »Obama’s $80 Billion Exaggeration«, in: Wall Street Journal, 12. März 2009; siehe auch von denselben Autoren: »Off the Record – Avoiding the Pitfalls of Going Electronic«, in: New England Journal of Medicine 358, Nr. 16 (2008), S. 1656 –1658.

10 Siehe Fred Schulte, »Growth of Electronic Medical Records Eases Path to Inflated Bills«, Center for Public Integrity, 19. September 2012, publicintegrity.org/2012/09/19/10812/growth-electronic-medical-records-eases-path-inflated-bills; sowie Reed Abelson u. a., »Medicare Bills Rise as Records Turn Electronic«, in: New York Times, 22. September 2012.

11 Daniel R. Levinson, CMS and Its Contractors Have Adopted Few Program Integrity Practices to Address Vulnerabilities in EHRs (Washington, D. C.: Office of the Inspector General, Department of Health and Human Services, Januar 2014), http://oig.hhs.gov/oei/reports/oei-01-11-00571.pdf.

12 Danny McCormick u. a., »Giving Office-Based Physicians Electronic Access to Patients’ Prior Imaging and Lab Results Did Not Deter Ordering of Tests«, in: Health Affairs 31, Nr. 3 (2012), S. 488 – 496. Bei einer früheren Studie wurde die Behandlung von Diabetespatienten über einen Zeitraum von fünf Jahren in zwei Kliniken verfolgt, von denen eine ein EMR-System installiert hatte, die andere nicht. Die Studie ergab, dass die Ärzte in der Klinik mit dem EMR-System mehr Tests durchführen ließen, aber keine besseren Zuckerwerte bei ihren Patienten erzielten. »Die Daten legen die Vermutung nahe, dass der Einsatz von EMR, trotz der erheblichen Kosten und trotz zunehmender Perfektion der Systeme, nicht die gewünschten klinischen Verbesserungen bewirkte«, schrieben die Forscher. Patrick J. O’Connor u. a., »Impact of an Electronic Medical Record on Diabetes Quality of Care«, in: Annals of Family Medicine 3, Nr. 4 (Juli 2005), S. 300 – 306.

13 Timothy Hoff, »Deskilling and Adaptation among Primary Care Physicians Using Two Work Innovations«, in: Health Care Management Review 36, Nr. 4 (2011), S. 338 – 348.

14 Schulte, »Growth of Electronic Medical Records«.

15 Hoff, »Deskilling and Adaptation«.

16 Danielle Ofri, »The Doctor vs. the Computer«, in: New York Times, 30. Dezember 2010.

17 Thomas H. Payne u. a., »Transition from Paper to Electronic Inpatient Physician Notes«, in: Journal of the American Medical Information Association 17 (2010), S. 108 –111.

18 Ofri, »Doctor vs. the Computer«.

19 Beth Lown und Dayron Rodriguez, »Lost in Translation? How Electronic Health Records Structure Communication, Relationships, and Meaning«, in: Academic Medicine 87, Nr. 4 (2012), S. 392 – 394.

20 Emran Rouf u. a., »Computers in the Exam Room: Differences in Physician-Patient Interaction May Be Due to Physician Experience«, in: Journal of General Internal Medicine 22, Nr. 1 (2007), S. 43 – 48.

21 Avik Shachak u. a., »Primary Care Physicians’ Use of an Electronic Medical Record System: A Cognitive Task Analysis«, in: Journal of General Internal Medicine 24, Nr. 3 (2009), S. 341– 348.

22 Lown und Rodriguez, »Lost in Translation?«.

23 Siehe Saul N. Weingart u. a., »Physicians’ Decisions to Override Computerized Drug Alerts in Primary Care«, in: Archives of Internal Medicine 163 (24. November 2003), S. 2625 – 2631; Alissa L. Russ u. a., »Prescribers’ Interactions with Medication Alerts at the Point of Prescribing: A Multi-method, In Situ Investigation of the Human-Computer Interaction«, in: International Journal of Medical Informatics 81 (2012), S. 232 – 243; M. Susan Ridgely und Michael D. Greenberg, »Too Many Alerts, Too Much Liability: Sorting through the Malpractice Implications of Drug-Drug Interaction Clinical Decision Support«, in: Saint Louis University Journal of Health Law and Policy 5 (2012), S. 257– 295; sowie David W. Bates, »Clinical Decision Support and the Law: The Big Picture«, in: Saint Louis University Journal of Health Law and Policy 5 (2012), S. 319 – 324.

24 Atul Gawande, Die Checklist-Strategie: Wie Sie die Dinge in den Griff bekommen (München: btb 2013), S. 197.

25 Lown und Rodriguez, »Lost in Translation?«

26 Jerome Groopman, Wie Ärzte ticken (München: Südwest 2010), hier in eigener Übersetzung.

27 Adam Smith, Der Wohlstand der Nationen (München: FinanzBuch Verlag 2006), S. 966.

28 Smith, Der Wohlstand der Nationen, S. 16.

29 Frederick W. Taylor, Die Grundsätze wissenschaftlicher Betriebsführung (Weinheim: Beltz-Verlag 1977), S. 10.

30 Ebd., S. 38.

31 Hannah Arendt, Vita activa, 8. Aufl. (München: Piper 1996), S. 174.

32 Harry Braverman, Die Arbeit im modernen Produktionsprozeß, 2. Aufl. (Frankfurt/Main: Campus-Verlag 1985), S. 336 f.

33 Eine prägnante Übersicht über die Braverman-Debatte findet man in: Peter Meiksins, »Labor and Monopoly Capital for the 1990s: A Review and Critique of the Labor Process Debate«, in: Monthly Review, November 1994.

34 James R. Bright, Automation and Management (Cambridge, Mass.: Harvard University 1958), S. 176 –195.

35 Ebd., 188.

36 James R. Bright, »The Relationship of Increasing Automation and Skill Requirements«, in: National Commission on Technology, Automation, and Economic Progress, Technology and the American Economy, Appendix II: The Employment Impact of Technological Change (Washington, D. C.: U. S. Government Printing Office 1966), S. 201– 221.

37 George Dyson, Kommentar auf Edge.org, 11. Juli 2008, http://edge.org/discourse/carr_google.html#dysong.

38 Eine übersichtliche Erklärung zum maschinellen Lernen findet man im 6. Kapitel von John MacCormick’s Nine Algorithms That Changed the Future: The Ingenious Ideas That Drive Today’s Computers (Princeton: Princeton University Press) 2012.

39 Max Raskin und Ilan Kolet, »Wall Street Jobs Plunge as Profits Soar«, in: Bloomberg News, 23. April 2013, bloomberg.com/news/2013-04-24/wall-street-jobs-plunge-as-profits-soar-chart-of-the-day.html.

40 Ashwin Parameswaran, »Explaining the Neglect of Doug Engelbart’s Vision: The Economic Irrelevance of Human Intelligence Augmentation«, in: Macroresilience, 8. Juli 2013, macroresilience.com/2013/07/08/explaining-the-neglect-of-doug-engelbarts-vision/.

41 Siehe: Daniel Martin Katz, »Quantitative Legal Prediction – or – How I Learned to Stop Worrying and Start Preparing for the Data-Driven Future of the Legal Services Industry«, in: Emory Law Journal 62, Nr. 4 (2013), S. 909 – 966.

42 Joseph Walker, »Meet the New Boss: Big Data«, in: Wall Street Journal, 20. September 2012.

43 Franco »Bifo« Berardi, The Soul at Work: From Alienation to Automation (Los Angeles: Semiotext(e), 2009), S. 96.

44 Die Verwendung von Begriffen wie neuronales Netzwerk und neuromophe Prozesse könnten den Eindruck erwecken, dass Computer wie Gehirne funktionieren (oder umgekehrt). Aber man darf die Begriffe nicht wortwörtlich verstehen, sondern bildlich. Solange wir nicht wissen, wie Gehirne funktionieren, wie aus dem Zusammenspiel von Neuronen Gedanken und Bewusstsein entsteht, können wir keine Computer bauen, die wie Gehirne funktionieren.

45 A. M. Turing, »Systems of Logic Based on Ordinals«, in: Proceedings of the London Mathematical Society 45, Nr. 2239 (1939), S. 161– 228.

46 Ebd.

47 Hector J. Levesque, »On Our Best Behaviour«, Vortrag bei der International Joint Conference on Artificial Intelligence, Beijing, China, 8. August 2013.

48 Siehe Nassim Nicholas Taleb, Antifragile: Things That Gain from Disorder (New York: Random House 2012), S. 416 – 419.

49 Donald T. Campbell, »Assessing the Impact of Planned Social Change«, in: Occasional Paper Series Nr. 8 (Dezember 1976), Public Affairs Center, Dartmouth College, Hanover, N. H.

50 Viktor Mayer-Schönberger und Kenneth Cukier, Big Data: A Revolution That Will Transform How We Live, Work, and Think (New York: Houghton Mifflin Harcourt 2013), S. 166.

51 Kate Crawford, »The Hidden Biases in Big Data«, in: HBR Blog Network, 1. April 2013, hbr.org/cs/2013/04/the_hidden_biases_in_big_data.html.

52 Im Jahr 1968 schrieb Weed in einem Artikel: »Wenn nützliche historische Daten mit neuen Computern und Interviewtechniken ohne den Einsatz teurer Arztzeit günstig, vollständig und korrekt gewonnen und gespeichert werden können, sollte man das ernsthaft in Erwägung ziehen.« Lawrence L. Weed, »Medical Records That Guide and Teach«, in: New England Journal of Medicine 278 (1968), S. 593 – 600, S. 652 – 657.

53 Lee Jacobs, »Interview with Lawrence Weed, MD – The Father of the Problem-Oriented Medical Record Looks Ahead«, in: Permanente Journal 13, Nr. 3 (2009), S. 84 – 89.

54 Gary Klein, »Evidence-Based Medicine«, in: Edge, 14. Januar 2014, edge.org/responses/what-scientific-idea-is-ready-for-retirement.

55 Michael Oakeshott, »Rationalism in Politics«, in: Cambridge Journal 1 (1947), S. 81– 98, S. 145 –157. Der Aufsatz erschien in Michael Oakeshott, Rationalism in Politics and Other Essays (New York: Basic Books 1962).

Kapitel Sechs: Welt und Bildschirm

1 William Edward Parry, Journal of a Second Voyage for the Discovery of a North-West Passage from the Atlantic to the Pacific (London: John Murray 1824), S. 277.

2 Claudio Aporta und Eric Higgs, »Satellite Culture: Global Positioning Systems, Inuit Wayfinding, and the Need for a New Account of Technology«, in: Current Anthropology 46, Nr. 5 (2005), S. 729 –753.

3 Interview des Autors mit Claudio Aporta vom 25. Januar 2012.

4 Gilly Leshed u. a., »In-Car GPS Navigation: Engagement with and Disengagement from the Environment«, in: Proceedings of the SIGCHI Conference on Human Factors in Computing Systems (New York: ACM 2008), S. 1675 –1684.

5 David Brooks, »The Outsourced Brain«, in: New York Times, 26. Oktober 2007.

6 Julia Frankenstein u. a., »Is the Map in Our Head Oriented North?«, in: Psychological Science 23, Nr. 2 (2012), S. 120 –125.

7 Dies., »Is GPS All in Our Heads?«, in: New York Times, 2. Februar 2012.

8 Gary E. Burnett und Kate Lee, »The Effect of Vehicle Navigation Systems on the Formation of Cognitive Maps«, in: Geoffrey Underwood (Hg.), Traffic and Transport Psychology: Theory and Application (Amsterdam: Elsevier 2005), S. 407– 418.

9 Elliot P. Fenech u. a., »The Effects of Acoustic Turn-by-Turn Navigation on Wayfinding«, in: Proceedings of the Human Factors and Ergonomics Society Annual Meeting 54, Nr. 23 (2010), S. 1926 –1930.

10 Toru Ishikawa u. a., »Wayfinding with a GPS-Based Mobile Navigation System: A Comparison with Maps and Direct Experience«, in: Journal of Environmental Psychology 28, Nr. 1 (2008), S. 74 – 82; und Stefan Münzer u. a., »Räumliches Lernen mit Navigationssystem«, in: magazin Forschung (Universität des Saarlandes), Nr. 2 (2007), S. 2 –7, http://www.uni-saarland.de/fileadmin/user_upload/Campus/Forschung/forschungsmagazin/2007/2/Seite_2_7.pdf.

11 Sara Hendren, »The White Cane as Technology«, in: Atlantic, 6. November 2013, http://www.theatlantic.com/technology/archive/2013/11/the-white-cane-as-technology/281167/.

12 Tim Ingold, Being Alive: Essays on Movement, Knowledge and Description (London: Routledge 2011), S. 149 –152.

13 Zitiert in James Fallows, »The Places You’ll Go«, in: Atlantic, Januar/Februar 2013.

14 Ari N. Schulman, »GPS and the End of the Road«, in: New Atlantis, Frühjahr 2011.

15 John O’Keefe und Jonathan Dostrovsky, »The Hippocampus as a Spatial Map: Preliminary Evidence from Unit Activity in the Freely-Moving Rat«, in: Brain Research 34 (1971), S. 171–175.

16 John O’Keefe, »A Review of the Hippocampal Place Cells«, in: Progress in Neurobiology 13, Nr. 4 (2009), S. 419 – 439.

17 Edvard I. Moser u. a., »Place Cells, Grid Cells, and the Brain’s Spatial Representation System«, in: Annual Review of Neuroscience 31 (2008), S. 69 – 89.

18 Siehe Christian F. Doeller u. a., »Evidence for Grid Cells in a Human Memory Network«, in: Nature 463 (2010), S. 657– 661; Nathaniel J. Killian u. a., »A Map of Visual Space in the Primate Entorhinal Cortex«, in: Nature 491 (2012), S. 761–764; sowie Joshua Jacobs u. a., »Direct Recordings of Grid-Like Neuronal Activity in Human Spatial Navigation«, in: Nature Neuroscience, 4. August 2013, http://www.nature.com/neuro/journal/v16/n9/full/nn.3466.html.

19 James Gorman, »A Sense of Where You Are«, in: New York Times, 30. April 2013.

20 György Buzsáki und Edvard I. Moser, »Memory, Navigation and Theta Rhythm in the Hippocampal-Entorhinal System«, in: Nature Neuroscience 16, Nr. 2 (2013), S. 130–138. Siehe auch Neil Burgess u. a., »Memory for Events and Their Spatial Context: Models and Experiments«, in: Alan Baddeley u. a. (Hgg.), Episodic Memory: New Directions in Research (New York: Oxford University Press 2002), S. 249 – 268. Bezeichnenderweise geht es bei einer besonders effektiven Gedächtnisstütze, die seit der Antike benutzt wird, darum, im Geist Bilder von Gegenständen oder Fakten an imaginäre Orte zu setzen, in ein Gebäude oder eine Stadt. Erinnerungen sind leichter abrufbar, wenn sie mit physischen Orten in Verbindung gebracht werden, selbst wenn das nur in der Vorstellung geschieht.

21 Siehe z. B.: Jan M. Wiener u. a., »Maladaptive Bias for Extrahippocampal Navigation Strategies in Aging Human«, in: Journal of Neuroscience 33, Nr. 14 (2013), S. 6012 – 6017.

22 Siehe z. B. A. T. Du u. a., »Magnetic Resonance Imaging of the Entorhinal Cortex and Hippocampus in Mild Cognitive Impairment and Alzheimer’s Disease«, in: Journal of Neurology, Neurosurgery and Psychiatry 71 (2001), S. 441– 447.

23 Kyoko Konishi und Véronique D. Bohbot, »Spatial Navigational Strategies Correlate with Gray Matter in the Hippocampus of Healthy Older Adults Tested in a Virtual Maze«, in: Frontiers in Aging Neuroscience 5 (2013), S. 1– 8.

24 E-Mail von Véronique Bohbot an den Autor, 4. Juni 2010.

25 Zitiert in Alex Hutchinson, »Global Impositioning Systems«, in: Walrus, November 2009.

26 Kyle VanHemert, »4 Reasons Why Apple’s iBeacon Is About to Disrupt Interaction Design«, in: Wired, 11. Dezember 2013, http://www.wired.com/design/2013/12/4-use-cases-for-ibeacon-the-most-exciting-tech-you-havent-heard-of/.

27 Zitiert in Fallows, »Places You’ll Go«.

28 Damon Lavrinc, »Mercedes Is Testing Google Glass Integration, and It Actually Works«, in: Wired, 15. August 2013, http://www.wired.com/autopia/2013/08/google-glass-mercedes-benz/.

29 William J. Mitchell, »Foreword«, in: Yehuda E. Kalay, Architecture’s New Media: Principles, Theories, and Methods of Computer-Aided Design (Cambridge, Mass.: MIT Press 2004), S. xi.

30 »Interviews: Renzo Piano«, in: Architectural Record, Oktober 2001, http://archrecord.construction.com/people/interviews/archives/0110piano.asp.

31 Zitiert in Gavin Mortimer, The Longest Night (New York: Penguin 2005), S. 319.

32 Dino Marcantonio, »Architectural Quackery at Its Finest: Parametricism«, in: Marcantonio Architects Blog, 8. Mai 2010, http://blog.marcantonioarchitects.com/architectural-quackery-at-its-finest-parametricism/.

33 Paul Goldberger, »Digital Dreams«, in: New Yorker, 12. März 2001.

34 Patrik Schumacher, »Parametricism as Style – Parametricist Manifesto«, in: Patrik Schumachers Blog (2008), patrikschumacher.com/Texts/Parametricism%20as%20Style.htm.

35 »Interviews: Renzo Piano«, Architectural Record, Oktober 2001, http://archrecord.construction.com/people/interviews/archives/0110piano.asp.

36 Witold Rybczynski, »Think before You Build«, in: Slate, 30. März 2011, http://www.slate.com/articles/arts/architecture/2011/03/think_before_you_build.html.

37 Zitiert in Bryan Lawson, Design in Mind (Oxford, U. K.: Architectural Press 1994), S. 66.

38 Michael Graves, »Architecture and the Lost Art of Drawing«, in: New York Times, 2. September 2012.

39 D. A. Schön, »Designing as Reflective Conversation with the Materials of a Design Situation«, in: Knowledge-Based Systems 5, Nr. 1 (1992), S. 3 –14; siehe ebenfalls D. A. Schön, The Reflective Practitioner: How Professionals Think in Action (New York: Basic Books 1983), insbesondere S. 157 ff.

40 Graves, »Architecture and the Lost Art of Drawing«; siehe ebenfalls: Masaki Suwa u. a., »Macroscopic Analysis of Design Processes Based on a Scheme for Coding Designers’ Cognitive Actions«, in: Design Studies 19 (1998), S. 455 – 483.

41 Nigel Cross, Designerly Ways of Knowing (Basel: Birkhäuser 2007), S. 58.

42 Schön, »Designing as Reflective Conversation«.

43 Ebd.

44 Joachim Walther u. a., »Avoiding the Potential Negative Influence of CAD Tools on the Formation of Students’ Creativity«, in: Proceedings of the 2007 AaeE Conference (Melbourne, Australien, Dezember 2007), http://ww2.cs.mu.oz.au/aaee2007/papers/paper_40.pdf.

45 Graves, »Architecture and the Lost Art of Drawing«.

46 Juhani Pallasmaa, The Thinking Hand: Existential and Embodied Wisdom in Architecture (Chichester, U. K.: Wiley 2009), S. 96 f.

47 Interview des Autors mit E. J. Meade, 23. Juli 2013.

48 Jacob Brillhart, »Drawing towards a More Creative Architecture: Mediating between the Digital and the Analog«, Vortrag vor dem Jahrestreffen der Association of Collegiate Schools of Architecture, Montreal, Canada, 5. März 2011.

49 Matthew B. Crawford, Ich schraube, also bin ich: Vom Glück, etwas mit den eigenen Händen zu schaffen (Berlin: List 2011), S. 214.

50 Zitiert in ebd. S. 210.

51 John Dewey, Essays in Experimental Logic (Chicago: University of Chicago Press, 1916), S. 13f.

52 Matthew D. Lieberman, »The Mind-Body Illusion«, in: Psychology Today, 17. Mai 2012, http://www.psychologytoday.com/blog/social-brain-socialmind/201205/the-mind-body-illusion; siehe ebenfalls: Matthew D. Lieberman, »What Makes Big Ideas Sticky?«, in: Max Brockman (Hg.), What’s Next? Dispatches on the Future of Science (New York: Vintage 2009), S. 90 –103.

53 »Andy Clark: Embodied Cognition« (video), University of Edinburgh: Research in a Nutshell (ohne Datum), http://www.nutshell-videos.ed.ac.uk/andy-clark-embodied-cognition/.

54 Tim Gollisch und Markus Meister, »Eye Smarter than Scientists Believed: Neural Computations in Circuits of the Retina«, in: Neuron 65, 28. Januar 2010, S. 150 –164.

55 Siehe Vittorio Gallese und George Lakoff, »The Brain’s Concepts: The Role of the Sensory-Motor System in Conceptual Knowledge«, in: Cognitive Neuropsychology 22, Nr. 3/4 (2005), S. 455 – 479; sowie Lawrence W. Barsalou, »Grounded Cognition«, in: Annual Review of Psychology 59 (2008), S. 617– 645.

56 »Andy Clark: Embodied Cognition«.

57 Shaun Gallagher, How the Body Shapes the Mind (Oxford, U. K.: Oxford University Press 2005), S. 247.

58 Andy Clark, Natural-Born Cyborgs: Minds, Technologies, and the Future of Human Intelligence (New York: Oxford University Press 2003), S. 4.

59 Zitiert in Fallows, »Places You’ll Go«.

Kapitel Sieben: Automatisierung für das Volk

1 Kevin Kelly, »Better than Human: Why Robots Will – and Must – Take Our Jobs«, in: Wired, Januar 2013.

2 Jay Yarow, »Human Driver Crashes Google’s Self Driving Car«, in: Business Insider, 5. August 2011, http://www.businessinsider.com/googles-self-driving-cars-get-in-their-first-accident-2011-8.

3 Andy Kessler, »Professors Are About to Get an Online Education«, in: Wall Street Journal, 3. Juni 2013.

4 Vinod Khosla, »Do We Need Doctors or Algorithms?«, in: TechCrunch, 10. Januar 2012, http://techcrunch.com/2012/01/10/doctors-or-algorithms/.

5 Gerald Traufetter, Captain Computer, in: Der Spiegel 31 (2009), S. 116, http://www.acatech.de/fileadmin/user_upload/Baumstruktur_nach_Website/Acatech/root/de/Aktuelles___Presse/Journalistenpreis_PUNKT/Die_Gewinner/2010/Captain_Computer.PDF

6 Siehe: Adam Fisher, »Inside Google’s Quest to Popularize Self-Driving Cars«, Popular Science, Oktober 2013.

7 Tosha B. Weeterneck u. a., »Factors Contributing to an Increase in Duplicate Medication Order Errors after CPOE Implementation«, in: Journal of the American Medical Informatics Association 18 (2011), S. 774 –782.

8 Sergey V. Buldyrev u. a., »Catastrophic Cascade of Failures in Interdependent Networks«, in: Nature 464 (15. April 2010), S. 1025 –1028; siehe auch Alessandro Vespignani, »The Fragility of Interdependency«, in: Nature 464 (15. April 2010), S. 984 f.

9 Nancy G. Leveson, Engineering a Safer World: Systems Thinking Applied to Safety (Cambridge, Mass.: MIT Press 2011), S. 8 f.

10 Lisanne Bainbridge, »Ironies of Automation«, in: Automatica 19, Nr. 6 (1983), S. 775 –779.

11 Eine Übersicht über die Forschungen zur Aufmerksamkeit, einschließlich der Studien aus dem Zweiten Weltkrieg, siehe: D. R. Davies und R. Parasuraman, in: The Psychology of Vigilance (London: Academic Press 1982).

12 Bainbridge, »Ironies of Automation«.

13 Siehe Magdalen Galley, »Ergonomics – Where Have We Been and Where Are We Going«, undatierte Rede, http://www.taylor.it/meg/papers/50%20Years%20of%20Ergonomics.pdf; sowie Nicolas Marmaras u. a., »Ergonomic Design in Ancient Greece«, in: Applied Ergonomics 30, Nr. 4 (1999), S. 361– 368.

14 David Meister, The History of Human Factors and Ergonomics (Mahwah, N. J.: Lawrence Erlbaum Associates 1999), S. 209, S. 359.

15 Leo Marx, »Does Improved Technology Mean Progress?«, in: Technology Review, Januar 1987.

16 Donald A. Norman, Things That Make Us Smart: Defending Human Attributes in the Age of the Machine (New York: Perseus 1993), S. xi.

17 Norbert Wiener, Mathematik – Mein Leben, übers. v. Walther Schwerdtfeger (Düsseldorf: Econ-Verlag 1962), S. 265.

18 Nadine Sarter u. a., »Automation Surprises«, in: Gavriel Salvendy (Hg.), Handbook of Human Factors and Ergonomics, 2. Aufl. (New York: Wiley 1997).

19 Ebd.

20 John D. Lee, »Human Factors and Ergonomics in Automation Design«, in: Gavriel Salvendy (Hg.), Handbook of Human Factors and Ergonomics, 3. Aufl. (Hoboken, N. J.: Wiley 2006), S. 1571.

21 Mehr Informationen über menschzentrierte Automatisierung finden sich in Charles E. Billings, Aviation Automation: The Search for a Human-Centered Approach (Mahwah, N. J.: Lawrence Erlbaum Associates 1997); sowie Raja Parasuraman u. a., »A Model for Types and Levels of Human Interaction with Automation«, in: IEEE Transactions on Systems, Man, and Cybernetics 30, Nr. 3 (2000), S. 286 – 297.

22 David B. Kaber u. a., »On the Design of Adaptive Automation for Complex Systems«, in: International Journal of Cognitive Ergonomics 5, Nr. 1 (2001), S. 37– 57.

23 Mark W. Scerbo, »Adaptive Automation«, in: Raja Parasuraman und Matthew Rizzo (Hgg.), Neuroergonomics: The Brain at Work (New York: Oxford University Press 2007), S. 239 – 252. Mehr über das DARPA-Projekt findet man in Mark St. John u. a., »Overview of the DARPA Augmented Cognition Technical Integration Experiment«, in: International Journal of Human-Computer Interaction 17, Nr. 2 (2004), S. 131–149.

24 Lee, »Human Factors and Ergonomics«.

25 Interview des Autors mit Raja Parasuraman, 18. Dezember 2011.

26 Lee, »Human Factors and Ergonomics«.

27 Interview des Autors mit Ben Tranel, 13. Juni 2013.

28 Mark D. Gross und Ellen Yi-Luen Do, »Ambiguous Intentions: A Paper-like Interface for Creative Design«, in: Proceedings of the ACM Symposium on User Interface Software and Technology (New York: ACM 1996), S. 183 –192.

29 Julie Dorsey u. a., »The Mental Canvas: A Tool for Conceptual Architectural Design and Analysis«, in: Proceedings of the Pacific Conference on Computer Graphics and Applications (2007), S. 201– 210.

30 William Langewiesche, Fly by Wire: The Geese, the Glide, the Miracle on the Hudson (New York: Farrar, Straus und Giroux) 2009, S. 102.

31 Lee, »Human Factors and Ergonomics«.

32 CBS News, »Faulty Data Misled Pilots in‚ 09 Air France Crash«, 5. Juli 2012, http://www.cbsnews.com/news/faulty-data-misled-pilots-in-09-air-france-crash/.

33 Federal Aviation Administration, »NextGen Air Traffic Control/Technical Operations Human Factors (Controller Efficiency & Air Ground Integration) Research and Development Plan«, 1. Version, April 2011.

34 Nathaniel Popper, »Bank Gains by Putting Brakes on Traders«, in: New York Times, 26. Juni 2013.

35 Thomas P. Hughes, »Technological Momentum«, in: Merritt Roe Smith und Leo Marx (Hgg.), Does Technology Drive History? The Dilemma of Technological Determinism (Cambridge, Mass.: MIT Press 1994), S. 101–113.

36 Gordon Baxter und John Cartlidge, »Flying by the Seat of Their Pants: What Can High Frequency Trading Learn from Aviation?«, in: G. Brat u. a. (Hgg.), ATACCS-2013: Proceedings of the 3rd International Conference on Application and Theory of Automation in Command and Control Systems (New York: ACM 2013), S. 64 – 73.

37 David F. Noble, Forces of Production: A Social History of Industrial Automation (New York: Alfred A. Knopf 1984), S. 144 –145.

38 Ebd., S. 94.

39 Zitiert in Noble, Forces of Production, S. 94.

40 Ebd., S. 326.

41 Dieser Kommentar Dysons stammt aus der Dokumentation The Day after Trinity aus dem Jahr 1981, zitiert in Bill Joy, »Why the Future Doesn’t Need Us«, in: Wired, April 2000.

42 Matt Richtel, »A Silicon Valley School That Doesn’t Compute«, in: New York Times, 23. Oktober 2011.

43 Wenn ich von Videospielen als Vorbild für Programmierer spreche, empfehle ich damit nicht das Software-Konstruktionsprinzip mit dem hässlichen Namen »Gamifizierung«, das derzeit in Mode ist. Dabei motiviert eine App oder eine Website die Nutzer durch ein spielähnliches Belohnungssystem, eine bestimmte Aktion mehrfach zu wiederholen. Die Gamifizierung baut auf den Experimenten zur operanten Konditionierung des Psychologen B. F. Skinner auf und nutzt die Schattenseite des Flowzustands aus. Wenn Menschen das Wohlgefühl und die Vorzüge des Flowzustands aufrechterhalten wollen, können sie regelrecht süchtig nach der Software werden. Computergesteuerte Geldspielautomaten sind ein berüchtigtes Beispiel. Sie sind sorgfältig darauf ausgelegt, eine süchtig machende Form des Flowzustands in den Spielern zu fördern, beschreibt Natasha Dow Schüll in ihrem ernüchternden Buch Addiction by Design: Machine Gambling in Vegas (Princeton: Princeton University Press 2012). Eine normalerweise »lebensbejahende, Kraft spendende und bereichernde« Erfahrung, schreibt sie, erleben Spieler als »Kraft raubende Falle, die zu einem Autonomieverlust führt«. Selbst wenn Gamifizierung für scheinbar gute Zwecke eingesetzt wird, für Abnehmprogramme etwa, übt das Prinzip eine zynische Macht aus. Gamifizierung ist keineswegs ein Heilmittel gegen das technikzentrierte Konstruieren, sondern sie treibt es auf die Spitze. Gamifizierung ist der Versuch, den menschlichen Willen zu automatisieren.

44 Peter Merholz, »›Frictionless‹ as an Alternative to ›Simplicity‹ in Design«, in: Adaptive Path (blog), 21. Juli 2010, http://www.adaptivepath.com/ideas/friction-as-an-alternative-to-simplicity-in-design/.

45 David J. Hill, »Exclusive Interview with Ray Kurzweil on Future AI Project at Google«, SingularityHUB, 10. Januar 2013, http://singularityhub.com/2013/01/10/exclusive-interview-with-ray-kurzweil-on-future-ai-project-at-google/.

Kapitel Acht: Die Drohne in dir

1 Asimovs Robotergesetze, die drei Regeln, »die am allertiefsten eingegraben sind in das positronische Gehirn eines jeden Roboters«, erschienen erstmals in der Kurzgeschichte »Runaround«, aus dem Jahr 1942 in der Sammlung I, Robot (New York: Bantam 2004). Meine Freunde, die Roboter (München 1982), S. 67.

2 Gary Marcus, »Moral Machines«, in: News Desk (Blog), New Yorker, 27. November, 2012, newyorker.com/online/blogs/newsdesk/2012/11/google-driverless-car-morality.html.

3 Charles T. Rubin, »Machine Morality and Human Responsibility«, in: New Atlantis, Sommer 2011.

4 Christof Heyns, »Report of the Special Rapporteur on Extrajudicial, Summary or Arbitrary Executions«, Präsentation für den Menschenrechtsausschuss der Generalversammlung der Vereinten Nationen, 9. April 2013, http://www.ohchr.org/Documents/HRBodies/HRCouncil/RegularSession/Session23/A-HRC-23-47_en.pdf.

5 Patrick Lin u. a., »Autonomous Military Robotics: Risk, Ethics, and Design«, Version 1.0.9, für das US Department of Navy, Office of Naval Research, 20. Dezember 2008.

6 Ebd.

7 Thomas K. Adams, »Future Warfare and the Decline of Human Decisionmaking«, in: Parameters, Winter 2001– 2002.

8 Heyns, »Report of the Special Rapporteur«.

9 Ebd.

10 Joseph Weizenbaum, Die Macht der Computer und die Ohnmacht der Vernunft (Frankfurt am Main: Suhrkamop 1978), S. 5.

11 Mark Weiser, »The Computer for the 21st Century«, in: Scientific American, September 1991.

12 Mark Weiser und John Seely Brown, »The Coming Age of Calm Technology«, in: P. J. Denning und R. M. Metcalfe (Hg.), Beyond Calculation: The Next Fifty Years of Computing (New York: Springer 1997), S. 75 – 86.

13 M. Weiser u. a., »The Origins of Ubiquitous Computing Research at PARC
in the Late 1980s«, in: IBM Systems Journal 38, Nr. 4 (1999): S. 693 – 696.

14 Siehe Nicholas Carr, The Big Switch: Rewiring the World, from Edison to Google (New York: W. W. Norton 2008).

15 Thomas P. Hughes, Networks of Power: Electrification in Western Society, 1880 –1930 (Baltimore: Johns Hopkins University Press 1983), S. 140.

16 W. Brian Arthur, »The Second Economy«, in: McKinsey Quarterly, Oktober 2011.

17 Ebd.

18 Bill Gates, Business @ the Speed of Thought: Using a Digital Nervous System (New York: Warner Books 1999), S. 37.

19 Arthur C. Clarke, Profiles of the Future: An Inquiry into the Limits of the Possible (New York: Harper & Row 1960), S. 227.

20 Sergey Brin, »Why Google Glass?«, Rede bei der TED 2013 in Long Beach, Kalifornien, USA, am 27. Februar 2013, youtube.com/watch?v=rie-hPVJ7Sw.

21 Ebd.

22 Siehe Christopher D. Wickens und Amy L. Alexander, »Attentional Tunneling and Task Management in Synthetic Vision Displays«, in: International Journal of Aviation Psychology 19, Nr. 2 (2009), S. 182 –199.

23 Richard F. Haines, »A Breakdown in Simultaneous Information Processing«, in: Gerard Obrecht und Lawrence W. Stark (Hg.), Presbyopia Research: From Molecular Biology to Visual Adaptation (New York: Plenum Press 1991), S. 171–176.

24 Daniel J. Simons und Christopher F. Chambris, »Is Google Glass Dangerous?«, in: New York Times, 26. Mai 2013.

25 »Amanda Rosenberg: Google Co-Founder Sergey Brin’s New Girlfriend?«, in: Guardian, 30. August 2013, theguardian.com/technology/shortcuts/2013/aug/30/amanda-rosenberg-google-sergey-brin-girlfriend.

26 Weiser, »Computer for the 21st Century«.

27 Interview mit Charlie Rose, Charlie Rose, 24. April, 2012, charlierose.com/watch/60065884.

28 David Kirkpatrick, The Facebook Effect (New York 2010), S. 10.

29 Josh Constine, »Google Unites Gmail And G+ Chat into ›Hangouts‹ Cross-Platform Text and Group Video Messaging App«, in: TechCrunch, 15. Mai 2013, techcrunch.com/2013/05/15/google-hangouts-messaging-app/.

30 Larry Greenemeier, »Chipmaker Races to Save Stephen Hawking’s Speech as His Condition Deteriorates«, in: Scientific American, 18. Januar 2013, http://www.scientificamerican.com/article.cfm?id=intel-helps-hawking-communicate.

31 Nick Bilton, »Disruptions: Next Step for Technology Is Becoming the Background«, in: New York Times, 1. Juli 2012, http://bits.blogs.nytimes.com/2012/07/01/google’s-project-glass-lets-technology-slip-into-the-background/.

32 Bruno Latour, »Morality and Technology: The End of the Means«, in: Theory, Culture and Society 19 (2002), S. 247– 260. Die Hervorhebung stammt von Latour.

33 Bernhard Seefeld, »Meet the New Google Maps: A Map for Every Person and Place«, in: Google Lat Long (Blog), 15. Mai 2013, google-latlong.blogspot.com/2013/05/meet-new-google-maps-map-for-every.html.

34 Jewgeni Morosow (Evgeny Morozov), »My Map or Yours?«, in: Slate, 28. Mai 2013, slate.com/articles/technology/future_tense/2013/05/google_maps_personalization_will_hurt_public_space_and_engagement.html.

35 Kirkpatrick, Facebook Effect, S. 199.

36 Sebastian Thrun, »Google’s Driverless Car«, Rede bei der TED 2011 im März 2011, ted.com/talks/sebastian_thrun_google_s_driverless_car.html.

37 National Safety Council, »Distracted Driving«, White Paper, 2013. Die 1913 gegründete und vom US-Kongress sanktionierte gemeinnützige Organisation National Safety Council (nsc.org) hat die Zielsetzung, Leben durch die Vermeidung von Verletzungen und Todesfällen zu retten. Dazu nutzt die Organisation Partnerschaften mit Unternehmen, Behörden, gewählten Volksvertretern und der Öffentlichkeit in verschiedenen Bereichen. (Anmerkung der Übersetzerin).

38 Siehe Sigfried Giedion, Mechanization Takes Command (New York: Oxford University Press 1948), S. 628 – 712.

39 Langdon Winner, Autonomous Technology: Technics-out-of-Control as a Theme in Political Thought (Cambridge, Mass.: MIT Press 1977), S. 285.

Kapitel Neun: Liebe, die in Reihen legt die Au

1 Robert Frost, Promises to keep, Übersetzung und Nachwort von Lars Vollert (Ebenhausen b. München: Langewiesche-Brandt 2002), S. 14 f.

2 Zitiert in Richard Poirier, Robert Frost: The Work of Knowing (Stanford, Calif.: Stanford University Press 1990), S. 30. Die Details über Frosts Leben sind Poiriers Buch entnommen; William H. Pritchard, Frost: A Literary Life Reconsidered (New York: Oxford University Press 1984); sowie Jay Parini, Robert Frost: A Life (New York: Henry Holt 1999).

3 Zitiert in Poirier, Robert Frost, S. 30.

4 Robert Frost, »Mowing«, in: A Boy’s Will (New York: Henry Holt 1915), S. 36.

5 Robert Frost, Promises to keep, a. a. O., S. 14 f.

6 Robert Frost, »Two Tramps in Mud Time«, in: A Further Range (New York: Henry Holt 1936), S. 16 ff.

7 Poirier, Robert Frost, S. 278.

8 Robert Frost, »Some Science Fiction«, in: In the Clearing (New York: Holt, Rinehart & Winston 1962), S. 89f.

9 Poirier, Robert Frost, S. 301.

10 Robert Frost, »Kitty Hawk«, in: In the Clearing, S. 41– 58.

11 Maurice Merleau-Ponty, Phänomenologie der Wahrnehmung (Berlin: Walter de Gruyter 1966), S. 176. Meine Lesart von Merleau-Ponty stützt sich auf den Kommentar von Hubert L. Dreyfus »The Current Relevance of Merleau-Ponty’s Phenomenology of Embodiment«, in: Electronic Journal of Analytic Philosophy 4 (Frühjahr 1996), http://ejap.louisiana.edu/ejap/1996.spring/dreyfus.1996.spring.html.

12 Benedictus de Spinoza, Die Ethik, bibliographisch ergänzte Ausgabe, übers. v. Jakob Stern (Stuttgart: Reclam 2007), S. 159.

13 John Edward Huth, »Losing Our Way in the World«, in: New York Times, 21. Juli 2013. Siehe auch Huths aufschlussreiches Buch: The Lost Art of Finding Our Way (Cambridge, Mass.: Harvard University Press 2013).

14 Merleau-Ponty, Phänomenologie der Wahrnehmung, S. 176.

15 Ders., Phenomenology of Perception (London: Routledge 2012), S. 261.

16 Siehe Nicholas Carr, Surfen im Seichten: Was das Internet mit unserem Hirn anstellt (München: Pantheon 2013).

17 Pascal Ravassard u. a., »Multisensory Control of Hippocampal Spatiotemporal Selectivity«, in: Science 340, Nr. 6138 (2013), S. 1342 –1346.

18 »Living in The Matrix Requires Less Brain Power«, in: Science Now, 2. Mai 2013, http://news.sciencemag.org/physics/2013/05/living-matrix-requires-less-brain-power.

19 Alfred Korzybski, Science and Sanity: An Introduction to Non-Aristotelian Systems and General Semantics, 5. Aufl. (New York: Institute of General Semantics 1994), S. 58.

20 John Dewey, Art as Experience (New York: Perigee Books 1980), S. 59; deutsche Ausgabe: Kunst als Erfahrung (Frankfurt am Main: Suhrkamp 1988).

21 Medco, »America’s State of Mind«, 2011, http://apps.who.int/medicinedocs/documents/s19032en/s19032en.pdf.

22 Erin M. Sullivan u. a., »Suicide among Adults Aged 35 – 64 Years – United States, 1999 – 2010«, in: Morbidity and Mortality Weekly Report, 3. Mai 2013.

23 Alan Schwarz und Sarah Cohen, »A.D.H.D. Seen in 11% of U. S. Children as Diagnoses Rise«, New York Times, 1. April 2013.

24 Das zerstörerische Potential der Sense bekommt eine noch größere symbolische Bedeutung, wenn man bedenkt, dass das englische Wort für Knabenkraut – orchise – von dem griechischen Wort für Hoden, orkhis, abgeleitet ist. Frost kannte sich in Sprache und Literatur des Altertums gut aus. Auch das verbreitete Bild des Todes als Sensenmann war ihm sicher bekannt.

25 Robert Frost, »The Tuft of Flowers«, in: A Boy’s Will, S. 47 ff.

26 Frost, Promises to keep, S. 17.

27 Siehe »Fields of Automation«, in: Economist, 10. Dezember 2009; sowie Ian Berry, »Teaching Drones to Farm«, in: Wall Street Journal, 20. September 2011.

28 Charles A. Lindbergh, The Spirit of St. Louis (New York: Scribner 2003), S. 486.

29 J. C. R. Licklider, »Man-Computer Symbiosis«, in: IRE Transactions on Human Factors in Electronics 1 (März 1960), S. 4 –11.

30 Langdon Winner, Autonomous Technology: Technics-out-of-Control as a Theme in Political Thought (Cambridge, Mass.: MIT Press 1977), S. 20 f.

31 Aristoteles, Politik, übers. und hg. von Franz F. Schwarz (Stuttgart: Reclam 1989), S. 81

32 Evgeny Morozov, Smarte neue Welt (München: Karl Blessing 2013), S. 534.

33 Kevin Kelly, »Better than Human: Why Robots Will – and Must – Take Our Jobs«, in: Wired, Januar 2013.

34 Kevin Drum, »Welcome, Robot Overloads. Please Don’t Fire Us?«, in: Mother Jones, Mai/Juni 2013.

35 Karl Marx und Friedrich Engels, in: Manifest der kommunistischen Partei (Zittau: Bernd Müller Verlag 2009), S. 35.

36 »Slaves to the Smartphone«, in: Economist, 10. März 2012.

37 Kevin Kelly, »What Technology Wants«, in: Cool Tools, 18. Oktober 2010, http://kk.org/cooltools/archives/4749.

38 George Packer, »No Death, No Taxes«, in: New Yorker, 28. November 2011.

39 Hannah Arendt, Vita activa, 8. Auflage (München: Piper 1996), S. 12f.

40 Mihaly Csikszentmihalyi. Flow – Das Geheimnis des Glücks, 13. Auflage (Stuttgart: Klett-Cotta 2007), S. 113 f.

41 Ralph Waldo Emerson, »The American Scholar«, in: Essays and Lectures (New York: Library of America 1983), S. 57.

Table of Contents

- Impressum
- Widmung
- Inhalt
- Zitat
- Einführung – Warnung an Piloten
- Kapitel Eins – Passagiere
- Kapitel Zwei – Der Roboter am Tor
- Kapitel Drei – Auf Autopilot
- Kapitel Vier – Der Degenerationseffekt
- Kapitel Fünf – Computer in der Arztpraxis
- Kapitel Sechs – Welt und Bildschirm

- Kapitel Sieben – Automatisierung für das Volk

- Kapitel Acht – Die Drohne in dir

- Kapitel Neun – Liebe, die in Reihen legt die Au

- Dank

- Anmerkungen