Als die Brüder Auguste und Louis Lumière 1895 ihren Stummfilm «Die Ankunft eines Zuges auf dem Bahnhof in La Ciotat» im Untergeschoss eines Pariser Cafés zeigten, war das eine Sensation. Die Vorführungen begannen jede halbe Stunde, sie dauerten eine Viertelstunde und zeigten zehn kurze Stummfilme. Vor dem Eingang bildeten sich oft lange Schlangen und die Polizei musste helfen, Ordnung zu halten. Die Zuschauer sollen so überwältigt von dem einfahrenden Zug in dem Film gewesen sein, dass sie in Panik ihre Plätze verliessen, aus Angst überfahren zu werden. –
Dieses weithin bekannte Detail ist allerdings ein Mythos. Die historische Forschung macht hier deutlich: keine der zeitgenössischen Schilderungen oder Polizeiberichte verzeichnen Panik oder Entsetzen. Eher ein kurzweiliges Sonntagsvergnügen, über das viel erzählt wurde und bei dem die Veranstalter bis zu 4000 Fr. am Tag einnahmen. – Aber diese bis in die Gegenwart kolportierte Erzählung von der Überwältigung des Publikums stellt geradezu den «Gründungsmythos» des neuen Mediums Film dar, in dem sich das neue Medienerlebnis, Wirkmächtigkeitsversprechen wie -befürchtungen und Marketingabsichten zu einer Erzählung verdichten, die bis heute wiederholt werden (Loiperdinger, 1996) und die auf Medienphilosophie und Medientheorie einen grossen Einfluss ausgeübt hat. Interessant ist auch: der Mythos wurde unmittelbar von den Veranstaltern aufgegriffen und sofort zum Element der Inszenierung selbst gemacht: «Zuschauer wurden vor Beginn der Projektion ‹beruhigt›, daß die Vorstellung völlig ungefährlich sei; am Eingang eines Vorführsaals in New York wurden werbewirksam Sanitäter mit einer Tragbahre postiert, um empfindsamen Gemütern unverzüglich ‹erste Hilfe› leisten zu können.» (Loiperdinger 1996: 46) Im Kern besteht der Mythos in der Zuschreibung einer manipulatorischen Wirkmacht des Mediums bei der gleichzeitigen Entmächtigung der Zuschauer (Loiperdinger 1996: 66) und beides zusammen geht schon im Entstehungsmoment in die Selbstdarstellung, Vermarktung und theoretischen Reflexion des Mediums ein.
Einen ganz ähnlichen Gründungsmythos gibt es auch für die «Künstliche Intelligenz»: Joseph Weizenbaum entwickelte 1966 das Computerprogramm «ELIZA», um die Möglichkeiten der Kommunikation zwischen Mensch und Computer in natürlicher Sprache zu untersuchen. Das Programm simuliert in seinen Antworten und Nachfragen den Stil der Kommunikation in der klientenzentrierten Psychotherapie nach Carl Rogers. Die Legende besagt, dass sich die damaligen Versuchspersonen mit dem Programm wie mit einem menschlichen Gesprächspartner unterhielten und es ihnen nicht sehr wichtig erschien, ob sie wirklich mit einem Menschen sprachen. Wichtig schien ihnen nur, dass die Fragen und Antworten menschlich erschienen. Viele der Versuchspersonen sollen sogar überzeugt gewesen sein, dass der simulierte Gesprächspartner tatsächlich ein Verständnis für die Probleme aufbrachte. Auch wenn diese über die genaue Funktionsweise aufgeklärt wurden, weigerten sie sich zu akzeptieren, dass es sich bloss um Software, ohne Intelligenz und Einfühlungsvermögen handelte. Joseph Weizenbaum soll wegen dieses später «Eliza-Effekt» genannten, hartnäckigen, wider besseres Wissen aufrecht erhaltenen Glauben an die Menschlichkeit der Maschine, Gesellschafts-Kritiker geworden sein und begann, sich für einen kritischen Umgang mit Computern und KI-Systemen zu engagieren. Diese Legende über den Schock über den bereitwilligen Glauben des Publikums bestätigt die Macht und Potenz der neuen Technologie. Hier wird sie schliesslich so gefährlich, dass ein humanistisches, lebensfüllendes Engagement nötig wird, um der offensichtlichen Illusionsbereitschaft der Menschen und dem unbrechbaren Glauben an die Wirkmacht der Software andererseits entgegenzuwirken.
Diese Legenden von der Überwältigung des Publikums durch ein neues Medium sind lehrreich für die Gegenwart. Kein Kind springt heute vom Stuhl, wenn ein Zug oder Auto über den heimischen Grossbildschirm fährt (Das projizierte Bild der Brüder Lumière hatte eine ähnliche Grösse von ca. 2,5 x 1,5 m). Und der Eliza-Chatbot vermag wohl kaum – ausser aus nostalgischen Gründen – heute jemanden in den Bann zu schlagen. Aber Chat-GPT, neuere VR-Umgebungen und sogar Zoomcalls haben während der Pandemie wieder gezeigt: es gibt offenbar ein illusorisches Vergnügen im Entstehungsmoment eines Mediums: die Freude, die es macht, solange man sich darüber Täuschen kann, dass zwischen Schein und Sein, zwischen Simulation und Wirklichkeit kein Unterschied empfunden wird, obwohl man es besser weiss. Und die jüngsten Apelle, die Einführung von KI-Applikationen zu verlangsamen, wirken ein wenig wie die von den Filmvorführern aufgestellten Sanitäter: sie unterstüzen die Wirkmächtigkeitserzählungen und erhöhen die Investionsbereitschaft. Die Verblüffung und die damit verbundene Aufregung ist von kurzer Dauer, man mag sie immer wieder aufsuchen oder geniessen – die dauerhafte Verwechslung von Schein und Sein gehört jedoch wohl zu den pathologischen Erscheinungen.
Dies soll nicht heissen, dass von neuen Technologien wie KI keine Gefahren ausgehen. Doch auch KI ist und bleibt von Menschen geschaffen und die Gefahr liegt nicht in der KI selbst, sondern in Menschen und Organsisationen, die sie auf bestimmte Weise programmieren, einsetzen und nutzen. Die obigen Anfangs-Mythen können auch deutlich machen: unser Sprechen und Denken über KI ist selbst Teil dieser Gefahren. Sogar die Erzählung der Gefahr und Wirkmacht des neuen Mediums ist Teil einer bestimmten Vermarktungsstrategie, und die Sprechenden verleihen Menschen und Organisationen Wirkmacht, wenn sie die Gefahren der KI selbst zuschreiben. Nicht nur das, die Erzählung kann auch das menschliche Selbstverständnis gefährden: die Erzählung von der Wirkmacht und Übermacht der KI, der ein unfähiger, urteilsloser, manipulierter Mensch gegenübersteht, der geschützt werden muss, nährt auch ein pessimistisches Menschenbild, das wiederum ganz reale Instanzen der Bevormundung und Kontrolle legitimiert.
Jedenfalls können die Mythen der Vergangenheiten uns vergegenwärtigen, dass das illusorische Vergnügen durch aktuelle Technologien nur von kurzer Dauer ist und dass wir durchaus sehr schnell lernen können, die möglichen Leistungen einer Technologie, ihr tatsächliches Potential von den Wirkmächtigkeitserzählungen, dem Unterhaltungswert und den Marketingabsichten zu entflechten. Und diese Arbeit bedarf, besonders dann, wenn es um die menschliche Gesundheit geht, besonderer Sorgfalt und Verantwortung.
Zentral scheint hier, dass Simulationen als solche kenntlich bleiben, dass KI-Systeme als solche wahrgenommen werden können und es am Menschen ist und bleibt, ihnen ihren Ort zuzuweisen. Dazu ist es wiederum nötig, dass wir selbst wissen, wer wir als Menschen sind. Zentral ist nicht nur die Frage nach der Wirksamkeit der Technik, sondern zu dieser gehört auch die Rückseite – oder besser Vorderseite der Technologien: der jeweilige Mensch, der vor der Maschine sitzt. Hier gilt es solche Fragen immer wieder neu zu beantworten: «Erschöpft sich unser Menschsein in dem, was sich in Simulation und Technologie übersetzen lässt? Besteht es allein in komplexen neuronalen Algorithmen, und ist unser Erleben nur ein Epiphänomen? Lässt sich Leben als Regelkreissystem vollständig beschreiben, oder besteht es nicht vielmehr im Selbstsein und Vonselbst-Tätigsein des Lebendigen? Gerade weil die Technik unsere spezialisierten Fähigkeiten übersteigt, fordert sie uns dazu auf, wieder neu zu entdecken, worin unser spezifisch menschliches Sein eigentlich besteht. Es liegt an uns, ob wir uns an den Leistungen der Kl messen und uns immer mehr als defiziente Mängelwesen betrachten wollen oder ob wir uns gerade angesichts unserer Maschinen auf unsere eigentliche Menschlichkeit besinnen.» (Fuchs 2020)
Weil dies keine Fragen sind, die schnelle Antworten erlauben, auch deshalb müssen die Diskurse genügend Zeit bekommen, einerseits, um die tatsächlichen und potenziellen Leistungen einer Technologie von den Wirkmächtigkeitserzählungen, den augenblicklichen Verblüffungen und den Marketingabsichten zu entflechten und andererseits, um uns selbst als Menschen angesichts dieser neuen, von uns selbst erschaffenen Technologien erneut zu fragen: wer wir dann sind und sein wollen. «Denn das Bild des Menschen, das wir für wahr halten, wird selbst ein Faktor unseres Lebens. Er entscheidet über die Weisen des Umgangs mit uns selbst und mit den Mitmenschen…» (Jaspers 2016). Das zu vollziehen braucht Zeit, besondere Sorgfalt und Verantwortung. Auf dieser Grundlage wird es möglich, der Technologie ihren Ort zu geben.
Quellen:
Fuchs, Thomas (2020): Verteidigung des Menschen: Grundfragen einer verkörperten Anthropologie. Erste Auflage Aufl. Berlin: Suhrkamp. (= Suhrkamp-Taschenbuch Wissenschaft 2311).
Jaspers, Karl (2016): Der philosophische Glaube angesichts der Offenbarung. Hg. von Bernd Weidmann. Schwabe Verlag.
Loiperdinger, Martin (1996): Lumières ANKUNFT DES ZUGS. Gründungsmythos eines neuen Mediums. In: Kessler, Frank; Lenk, Sabine und Loiperdinger, Martin (Hrsg.): Aufführungsgeschichten. Stroemfeld/Roter Stern. (= Jahrbuch zur Erforschung des frühen Films 5). S. 36–70. [https://mediarep.org/handle/doc/16938; 1.6.2023].
Weizenbaum, Joseph (1966): ELIZA—a computer program for the study of natural language communication between man and machine. In: Communications of the ACM 9/1 (Januar). S. 36–45. doi:10.1145/365153.365168.
Weizenbaum, Joseph (1976): Computer power and human reason: from judgment to calculation. San Francisco: W. H. Freeman and Company.
https://www.institut-lumiere.org/musee/les-freres-lumiere-et-leurs-inventions/premiere-seance.html
https://de.wikipedia.org/wiki/Die_Ankunft_eines_Zuges_auf_dem_Bahnhof_in_La_Ciotat