Karte Nr. 32: Homo-Hybris? (Teil 2 von 2)

Natürlich treiben die Technologien den Wandel an. Aber treibt es auch den Fortschritt an?

Chris Kutarna

Karte Nr. 32: Homo-Hybris? (Teil 2 von 2)

Quelle: Chris Kutarna

Technologie treibt den Wandel voran. Treibt es auch den Fortschritt an?

Diese acht Worte fassen einen Großteil der derzeit in der Gesellschaft stattfindenden Konversation zusammen. Ein ernstes Kopfzerkratzen über die gesamte Beziehung zwischen „Technologie“ und „Fortschritt“ scheint eine gute Idee zu sein.

In Teil 1 dieser Serie habe ich „vier Naivität“ zusammengefasst, die häufig in techno-optimistische Zukunftsaussichten geraten. Diese Auffassungen werfen einen Blick auf die folgenden Punkte: (1) Wie löscht die Technologie die schlecht qualifizierten Arbeitsplätze, die in der Vergangenheit den armen Ländern geholfen haben, sich zu entwickeln (z. B. China)? (2) Wie kämpfen ärmere Gemeinden in einem globalen Talentkampf darum, die benötigten technischen Fähigkeiten zu erhalten? (3) Wie entscheidet nicht nur die Technologie, sondern auch die Politik, ob der technologische Wandel den Menschen besser geht? und (4) wie jede Technologie nicht nur eine Lösung ist, sondern auch eine Reihe neuer Probleme, die die Gesellschaft gut bewältigen muss, um Nettogewinne zu erzielen.

Technologie = Fortschritt?

Die tiefste Naivität – der Glaube, der vor dem Hintergrund aller oben genannten Dinge lauert – ist, dass der technologische Wandel eine gute Sache ist.

Dies ist eine der größten Ideen unserer Zeit – und auch eine der am wenigsten Befragten…

Es war nicht immer so offensichtlich wahr. Als J. Robert Oppenheimer 1945 eine Atomexplosion im New Mexico-Testgelände des Manhattan-Projekts miterlebte, markierte er den Moment mit einem dystopischen Zitat aus der Bhagavad Gita: “Ich bin der Tod geworden, der Zerstörer der Welten.”

Aber innerhalb von zehn Jahren und trotz der Schrecken von Hiroshima und Nagasaki hatte sich eine weitaus utopischere Auseinandersetzung mit dem Atomzeitalter herausgebildet. Lewis Strauss, Architekt des US-amerikanischen “Atoms for Peace” -Programms und eines der Gründungsmitglieder der Atomenergiekommission, verkündete 1954:

Es ist nicht zu viel zu erwarten, dass unsere Kinder elektrische Energie zu Hause genießen können, die zu billig ist, um zu messen, und dass sie von großen Hungersnöten in der Welt nur aus historischen Gründen erfahren. Sie werden mühelos über die Meere und unter ihnen und mit einem Minimum an Gefahr und mit hoher Geschwindigkeit durch die Luft reisen. Sie werden eine viel längere Lebensspanne haben als wir, da die Krankheit ihre Geheimnisse offenbart und der Mensch zu verstehen beginnt, was ihn altern lässt.

Was ist in den Jahren zwischen diesen beiden Aussagen passiert, um das Skript von Technodystopie zu Techno-Utopie zu wechseln?

Die durch den Staat während des Krieges finanzierte Innovation brachte nicht nur die Atombombe hervor, sondern verbesserte Pestizide und Antibiotika. Fortschritte in der Luftfahrt und die Erfindung des Radars; Kunststoffe und synthetische Fasern; Düngemittel und neue Pflanzensorten; und natürlich Kernenergie.

Aus diesen Errungenschaften setzte sich in Ländern auf der ganzen Welt eine starke Idee durch: Wissenschaft und Technologie bedeuteten Fortschritt.

In den USA wurde diese Idee fast unmittelbar nach dem Krieg zu einem offiziellen Dogma der Regierung. In einem berühmten Bericht, Science: The Endless Frontier, machte Vannevar Bush (Chefberater des Präsidenten der Wissenschaften im Zweiten Weltkrieg, Leiter der Forschungs- und Entwicklungsanstrengungen des Landes und Gründer des US-Waffenherstellers Raytheon) dem Weißen Haus den Fall, dass (a) dasselbe Eine öffentliche Finanzierung der Wissenschaften, die dazu beigetragen haben, den Krieg zu gewinnen, würde die Gesellschaft zu einem neuen schwindelerregenden Höhepunkt in Bezug auf Gesundheit, Wohlstand und Beschäftigung bringen, wenn sie während des Friedens aufrechterhalten würde. Es warnte auch, dass (b) “ohne wissenschaftlichen Fortschritt keine Leistung in anderen Richtungen für Gesundheit, Wohlstand und Sicherheit als Nation in der modernen Welt sorgen kann.” Vannevar bezeichnete jedoch auch die öffentliche Finanzierung der wissenschaftlichen und technologischen Forschung als moralischer Imperativ:

Es war eine grundlegende Politik der Vereinigten Staaten, dass die Regierung die Öffnung neuer Grenzen fördern sollte. Es öffnete die Meere für Klipper und stellte Land für Pioniere bereit. Obwohl diese Grenzen mehr oder weniger verschwunden sind, bleibt die Grenze der Wissenschaft bestehen. In Übereinstimmung mit der amerikanischen Tradition, die die Vereinigten Staaten großartig gemacht hat, sollen neue Grenzen für alle amerikanischen Bürger zugänglich gemacht werden. Da Gesundheit, Wohlbefinden und Sicherheit ein wichtiges Anliegen der Regierung sind, ist und muss der wissenschaftliche Fortschritt von entscheidender Bedeutung für die Regierung sein. Ohne wissenschaftlichen Fortschritt würde sich die nationale Gesundheit verschlechtern. Ohne wissenschaftlichen Fortschritt könnten wir nicht auf eine Verbesserung unseres Lebensstandards oder auf mehr Arbeitsplätze für unsere Bürger hoffen. und ohne wissenschaftlichen Fortschritt hätten wir unsere Freiheiten gegen die Tyrannei nicht aufrechterhalten können.

Kurz gesagt, Wissenschaft und Technologie = Fortschritt (und wenn Sie das nicht glauben, gibt es etwas unpatriotisches – und moralisch falsches – über Ihr Denken).

Die Hohenpriester der Wissenschaft und Technologie haben uns alle zu Gläubigen gemacht

In den letzten zehn Jahren waren viele der berühmtesten und einflussreichsten Stimmen in der Populärkultur diejenigen, die diesen grundlegenden Glaubensartikel wiederholten und erneuerten – in der Sprache der neuesten wissenschaftlichen Entdeckung oder des technologischen Wunders. Z.B,

1960er Jahre: John F. Kennedys Mondfoto für die Weltraumforschung; Gordon Moores Gesetz des exponentiellen Wachstums der Rechenleistung; die Weltausstellung 1964-65 in New York (auf der zukunftsweisende Exponate wie das PicturePhone von Bell Telephone und das Futurama von General Motors zu sehen waren)

1970er Jahre: Alvin Tofflers Future Shock, der die Technologie als Hauptmotor der Geschichte bezeichnete; Carl Sagan, der argumentierte, dass die wissenschaftliche Entdeckung (speziell in der Astronomie) uns die wichtigsten Wahrheiten des menschlichen Zustands offenbart; Buckminster Fuller, der argumentierte, dass Durchbrüche in Chemie, Konstruktion und Fertigung das Überleben der Menschheit auf „Spaceship Earth“ sichern würden

Wir können die gesamte Menschheit durch die weltumspannende industrielle Evolution der Wissenschaft erfolgreich machen. – Buckminster Fuller, Bedienungsanleitung für Raumschiff Erde (1968)

1980er Jahre: Steve Jobs, der den Personal Computer (den Mac) als Werkzeug zur Selbstermächtigung, zur Selbstdarstellung und zur Selbstbefreiung populär machte (daher Apples legendäre “1984” -Werbung); Erik Drexler, der MIT-Ingenieur, der 1986 das Buch Engines of Creation: Die kommende Ära der Nanotechnologie schrieb , stellte sich eine Zukunft ohne Not vor, weil wir alles und alles, was wir brauchen, Atom für Atom zusammenstellen können. Hans Moravec, ein früherer KI-Forscher, der 1988 in seinem Buch Mind Children das Moore-Gesetz auf das aufstrebende Gebiet der Robotik und der Neurowissenschaften anwendete, prognostizierte, dass die Menschheit bis 2040 gottähnliche Schöpfungskräfte mit einem Kapital-C besitzen würde. Unsere Roboter würden dies annehmen unser Platz als intelligenteste Spezies der Erde.

1990er Jahre: Bill Gates, dessen Vision von „einem Computer auf jedem Desktop“ einen verbesserten Zugang zu Microsoft-Software mit Verbesserungen des menschlichen Wohlbefindens gleichsetzte; Ray Kurzweil, ein weiterer KI-Pionier, der in Age of Intelligent Machines (1990), Age of Spiritual Machines (1999) und The Singularity Near (2005) argumentiert, dass das Wesentliche dessen, was uns menschlich macht , über unsere Grenzen hinausreicht. Es ist daher unvermeidlich, dass Wissenschaft und Technologie schließlich den nächsten Schritt der menschlichen Evolution vollbringen: den Transhumanen . Durch die Verschmelzung der „Wetware“ des menschlichen Bewusstseins mit Computerhardware und -software werden wir die biologischen Grenzen von Gehirnleistung und Lebensdauer überwinden.

2000er Jahre: Sergey Brin und Larry Page, die uns überzeugt haben, dass Google durch die Organisation der Informationen der Welt dazu beitragen könnte, dass die Menschheit die Barriere der Ignoranz durchbricht, die zwischen uns und dem Nutzen liegt, den Wissen bringen kann. Steve Jobs (wieder), der das Smartphone als Werkzeug der Selbstermächtigung, der Selbstdarstellung und der Selbstbefreiung (wieder) populär machte, indem es jedem ermöglicht wurde, alles zu digitalisieren, was wir sehen, sagen, hören und berühren, wenn wir sind nicht an unseren Schreibtischen.

2010er Jahre: Mark Zuckerberg, der in seinem Facebook-Manifest die Social-Networking-Technologie seines Unternehmens für notwendig hält, damit der menschliche Fortschritt weiterlaufen kann:

Unsere größten Chancen sind jetzt global – wie die Verbreitung von Wohlstand und Freiheit, die Förderung von Frieden und Verständnis, die Beseitigung von Armut und die Beschleunigung der Wissenschaft. Unsere größten Herausforderungen erfordern auch globale Antworten – wie die Beendigung des Terrorismus, die Bekämpfung des Klimawandels und die Verhinderung von Pandemien. Fortschritt erfordert jetzt, dass die Menschheit nicht nur als Städte oder Nationen zusammenkommt, sondern auch als globale Gemeinschaft… Facebook entwickelt die soziale Infrastruktur, um den Menschen die Macht zu geben, eine globale Gemeinschaft aufzubauen, die für uns alle funktioniert.

(Facebook ist anscheinend die Technologie, die uns alle von unserem moralischen Versagen befreien wird, unseren “Kreis des Mitgefühls” (wie Albert Einstein es nannte) aufeinander zu erweitern.)

Elon Musk rahmt seinen SpaceX ‘Mars-Shot’ bei Bedarf ebenfalls ein. Wie wird die Menschheit jemals die Grenzen des Raumschiffes Erde verlassen? (Fünfundsiebzig Jahre nach Vannevars Endless Frontiers- Bericht halten wir es jetzt für selbstverständlich, dass das “Entfliehen” solcher “Grenzen” das eigentliche Ziel der Wissenschaft ist – und damit auch der Gesellschaft.)

Und zuletzt (vorerst zumindest) Yuval Harari, dessen letztes Buch Homo Deus: Eine kurze Geschichte von morgen alles im Titel sagt.

Wissenschaft und Technologie sind der Motor des menschlichen Fortschritts. Diese Idee ist für die modernen Köpfe offensichtlich so zutreffend geworden, dass wir sie nicht mehr als das erkennen, was sie wirklich ist: die am meisten diskutierbare Prämisse der Moderne.

Anstatt über diese Prämisse zu debattieren – eine Debatte, die selbst schwindelerregende Fortschrittsmöglichkeiten in mehreren Dimensionen von mehreren Akteuren bietet – betrachten wir sie oft als Evangelium.

Anstatt über diese Prämisse zu debattieren, fasst Yuval sie stattdessen zu ihrem endgültigen Schluss und spricht lautstark die Frage, dass die gesamte Linie der Hohenpriester vor ihm leise geflüstert hat: Machen uns unsere Kräfte der Wissenschaft und Technologie zu Göttern?

Es ist dieselbe Frage, die Oppenheimer 1945 ausgesprochen hat. Erst jetzt wurde sie von allen Ängsten und Zweifeln gereinigt.

Wir können den Himmel auf Erden schaffen

“Utopia”, die Thomas More 1516 in seinem gleichnamigen Buch prägte, bedeutet wörtlich “kein Ort”. In den Jahrhunderten seither haben viele Propheten dieser oder jener Überzeugung utopische Visionen gemalt. Aber was die heutigen Techno-Utopie-Visionen unterscheidet, ist der Weg, wie wir dorthin gelangen.

In der Vergangenheit forderte der Weg zur Utopie einen unmöglichen Sprung im moralischen Verhalten des Menschen. Plötzlich werden wir alle der Goldenen Regel folgen und mit anderen so verfahren, wie wir es uns angetan hätten. Ja, genau.

Der heutige Weg zur Techno-Utopie erfordert jedoch einen Sprung in Wissenschaft und Technologie – in der Kybernetik, in der künstlichen Intelligenz, in der Biotechnologie, in der Genmanipulation, in der molekularen Fertigung. Und das scheint möglich zu sein, nicht wahr? Um es so auszudrücken: In Anbetracht der Tatsache, wie weit unsere Technologie seit dem Zerplatzen des Atoms fortgeschritten ist, wer ist bereit zu sagen, dass diese Durchbrüche nicht möglich sind?

Und wenn sie nicht unmöglich sind , ist Utopie erreichbar. Haben wir nicht eine Pflicht – eine moralische Pflicht -, danach zu streben?

Dieses Argument ist heute so überzeugend, weil wir uns schon so lange davon überzeugen. Überzeugend – und durchdringend. Es ist der grundlegende moralische Fall, der durch eine wachsende Zahl von tech-getriebenen Save-the-World-Projekten vorgebracht wird, von denen die Singularity University das beste Beispiel ist.

Ich finde es so überzeugend, dass ich nicht ganz weiß, was ich in der Widerlegung schreiben soll…

Götter – oder Sklaven?

Bis ich mich an die Weisheit von Hannah Arendt oder Zygmunt Bauman erinnere oder an mein früheres Gespräch mit Ian erinnere und mich daran erinnere, dass Technologie niemals von selbst Fortschritt bringt. Technologie kann unsere moralischen und sozialen Fehler nicht beheben, da dieselben Fehler in unsere Technologien eingebettet sind. Sie verbreiten sich mit unseren Technologien. Unsere neueste Technologie, die KI (die unser früheres Verhalten lernt, um sie zu wiederholen), ist auch der einfachste Beweis für diese grundlegende Wahrheit. Mehr Technologie wird niemals die Silberlösung für die Probleme sein, die durch die Technologie entstanden sind.

Deshalb müssen wir dringend in diese tiefste Naivität unserer modernen Denkweise eintauchen, diesen Glauben, dass technologischer Wandel eine gute Sache ist.

Wie können wir unsere Techno-Unschuld verderben?

Eine Sache, die meiner kurzen Geschichte der techno-optimistischen Erzählung entspringen sollte, ist, dass die meisten Erzähler Männer waren . Ich habe kein gutes Verständnis von Genderfragen, um mehr als nur auf diese Tatsache hinzuweisen, aber genau hier sollten tiefe Gespräche geführt werden. Frage: Welche Werte sind eingebettet und welche Werte werden von technologiegetriebenen Visionen des menschlichen Fortschritts ausgeschlossen? (ZB: Ist künstliche Verbesserung ein Ausdruck des natürlichen Grenzstrebens der Menschheit oder eine Negation der menschlichen Natur?)

Als Politikwissenschaftler kann ich nicht umhin, die Frage zu stellen: Wem dienen Interessen und wessen Interessen werden entlassen, wenn die Technologie als Hauptmotor unserer gemeinsamen Zukunft Vorrang hat? Offensichtlich sind Tech-Unternehmer und Investoren gut beraten: Selig sind die Tech-Innovatoren, denn sie sind die Agenten des menschlichen Fortschritts. Zur gleichen Zeit: Verflucht sind die Regulierungsbehörden, denn sie wissen nicht, was sie regieren.

Yuval schlüpft in diese Art des Denkens in seinem Homo Deus, als er schreibt:

Gerade weil sich die Technologie so schnell bewegt und Parlamente und Diktatoren gleichermaßen von Daten überfordert sind, die sie nicht schnell genug verarbeiten können, denken Politiker von heute in weitaus geringerem Maße als ihre Vorgänger vor einem Jahrhundert. Infolgedessen hat die Politik im frühen einundzwanzigsten Jahrhundert keine großen Visionen. Regierung ist zu bloßer Verwaltung geworden. Sie verwaltet das Land, führt es aber nicht mehr an.

Aber ist es wirklich das Tempo des technologischen Wandels, ist es das Ausmaß der Daten, das die Sicht der heutigen Politiker einschränkt? Oder ist es der Glaube der Bevölkerung, dass jede politische Vision den Prioritäten technologischer Innovatoren Rechnung tragen muss? Für alle sich abzeichnenden Bedrohungen unserer Demokratie müssen soziale Medien aktiviert werden . Bei all ihren potenziellen Gefahren muss die Erforschung künstlicher Intelligenz im Vorraus sein. Warten Sie, aber warum?

Warum!?! Was für eine ignorante Frage!

Und während wir uns mit dem Thema befassen, wessen Interessen bedient werden, sollten wir fragen: Wessen Wissenschaft und Technologie werden weiterentwickelt und wem wird entlassen? „Wissenschaft und Technologie“ ist keine autonome Kraft. Es hat keinen eigenen Impuls oder eine eigene Richtung. Wir bestimmen diese Dinge.

In dem von Vannevar Bush im Jahr 1945 vorgeschlagenen Gesellschaftsvertrag zwischen Wissenschaft und Gesellschaft wurden Universitäten und Labors reiner Forschung für sich selbst, geleitet von menschlicher Neugier und Kreativität. Der Privatsektor, der sich vom Profitmotiv leiten lässt, durchläuft dann dieses reiche Bestreben, gute Ideen zu finden, die bereit sind, in nützliche Werkzeuge für den Rest von uns umgewandelt zu werden. Die Realität heute ist jedoch eine immer engere Zusammenarbeit zwischen Wissenschaft und Wirtschaft. Der private Gewinn verdrängt die öffentliche Neugier. Forschung, die im heutigen Wirtschaftssystem große Gewinne verspricht, hat in der Regel Vorrang vor Forschung, die die Zukunft von morgen einleiten könnte.

Homo Humilitas

Alle Vorhersagen über die Zukunft spiegeln die Werte und Normen der Gegenwart wider.

Wenn Yuval eine rhetorische Frage aufgibt, wie: Werden uns unsere wissenschaftlichen und technischen Kräfte eines Tages zu Göttern machen? Es ist an der Zeit, uns strenge Fragen zu stellen, welchen Wert wir heute auf Technologie setzen und welche anderen Werte wir auf dem Altar opfern wollen.

Die Ironie ist, dass wir, indem wir uns selbst seine Frage stellen, indem wir Wissenschaft und Technologie über andere Fortschrittsmotoren und andere Werte stellen, die Menschheit verringern und die Zukunft der Menschheit auf eine Untermenge dessen beschränken, was möglicherweise ist.

Es ist, als ob wir mit den wirklich großen Fragen umgegangen wären, die den Fortschritt bestimmen und vorantreiben – “Was ist menschliches Leben?” Und “Was sollte menschliches Leben sein?” – für die Zuschauer. “Was hat die Technologie für uns zu bieten? Zukunft?”

Deshalb vermute ich, dass je mehr wir über die Beziehung zwischen Technologie und Fortschritt diskutieren , desto mehr tatsächliche Fortschritte werden wir erzielen.

Ich denke, wir werden uns an die anderen großen Fortschrittsmotoren erinnern, die der Gesellschaft zur Verfügung stehen, wie “Recht”, “Kultur” und “Religion“, die nicht weniger wert sind als “Technologie”.

Ich denke, wir werden uns an andere Werte erinnern, von denen einige mit dem Fortschritt der Technologie leicht rückwärts gehen können. Wird unser zerbrechlicher, aber grundlegender Glaube an die intrinsische Würde eines jeden Menschen schwächer, je stärker unsere Kräfte zur Verbesserung des menschlichen Körpers durch Technologie werden?

Ich denke, wir werden weniger zaghaft und zuversichtlicher in Bezug auf unsere Fähigkeit, das Jetzt zu navigieren. In der techno-utopischen Erzählung fühlen wir uns vielleicht durch unsere eigene Unwissenheit zum Schweigen gebracht. Außerhalb dieser Erzählung können wir uns durch unsere Weisheit, unsere Erfahrung, unsere festen Vorstellungen von Recht und Unrecht ermutigt fühlen.

Ich denke, dass wir uns an Beispiele erinnern werden, aus denen hervorgegangen ist, wann die Gesellschaft die Technologie geprägt hat , und nicht umgekehrt. Im letzten Jahrhundert hatte keine Technologie mehr Hype als Atomenergie. Schauen Sie sich doch einfach die Vielfalt der Möglichkeiten an, in die verschiedene Kulturen es integriert haben. In den USA, wo sich das Atomgespräch um die Haftung dreht, wurde seit dem Three-Mile-Island-Unfall von 1979 kein neues Atomkraftwerk eröffnet. In Deutschland, wo sich das Gespräch um die Bürgerrechte an der öffentlichen Risikobereitschaft dreht, wurde die Entscheidung getroffen 2011 alle 17 Reaktoren des Landes geschlossen werden – als direkte Reaktion auf den Zusammenbruch von Fukushima in Japan. In Südkorea, dessen Hauptstadt Seoul nur 700 Meilen von Fukushima entfernt liegt, blieb die Unterstützung der 23 Reaktoren des Landes stark. (Für Südkoreaner war die Nukleartechnologie ein Symbol für die Unabhängigkeit der Nation.)

Und ich denke, wir werden mehr Selbstbewusstsein entwickeln, um gegen monolithische Techno-Visionen von “dem Guten” vorzugehen. War nicht die ganze Idee der Moderne, wie Nietzsche es ausdrückte, “Gott ist tot” – und deshalb sind wir frei eine radikale Vielfalt von „Gütern“ verfolgen? Eine Vielfalt, die kulturelle Unterschiede, geschlechtsspezifische Unterschiede und ideologische Unterschiede respektiert und widerspiegelt. Warum haben wir die harte Arbeit geleistet, um eine Vorstellung von Perfektion zu töten? Warum sollten wir uns jetzt alle hinter die andere stellen?

Vier kleine Fragen, um die Zukunft zurückzugewinnen

Keines der obigen Punkte bestreitet, dass die Technologie ein tiefgreifender Teil unseres Lebens ist. Es ist seit dem ersten Steinmeißel. Aber wir halten den Stein in unseren Händen. Es hält uns nicht.

Oder tut es Nach jahrzehntelanger Techno-Evangelisation riskieren wir, in den Glauben zu geraten, dass wir es tun sollten , wenn wir es schaffen.

Die jüngsten Schlagzeilen (Cyberkriminalität, Manipulation sozialer Medien, gehackte öffentliche Infrastruktur und fahrerlose Autounfälle) erschüttern diese Naivität. Wir verstehen mehr und mehr, dass wir diese beiden Fragen neu trennen und neu ordnen müssen, um der Ethik und der Politik Raum zu geben, um zurückzukehren. Was sollen wir machen? Hier müssen Moral und Gesellschaft gehört werden. Was können wir tun? Hier sollten Wissenschaft und Technologie antworten.

Vorzugsweise in dieser Reihenfolge.

Es ist schwer vorstellbar, dass wir dorthin gelangen. Aber ich denke: Je mehr wir über die Beziehung zwischen Technologie und Fortschritt diskutieren, desto leichter werden wir unsere rechtmäßige Stimme finden, die von jedem Technoschamanen verlangt wird, der die Gesellschaft verändern will:

1. Was ist dein Zweck?

2. Wer wird verletzt werden?

3. Wer profitiert davon?

4. Woher wissen wir das?

Indem wir diese vier einfachen Fragen konsequent und beharrlich stellen, können wir Demut wieder in unsere technologischen Bestrebungen einbringen. Wir können die Beteiligung an der Ausrichtung der Technologie erweitern. Und wir können wirklich geteilte Zukunftsvisionen nachstellen.

Chris Kutarna

Fußzeilengrafik

Quelle: Chris Kutarna