In einem kürzlich veröffentlichten Artikel habe ich vorgeschlagen, künstliche sexuelle Erfahrungen in der Zukunft mit der realen Sache zu vergleichen oder sie zu übertreffen. Die Angst vor der Versklavung durch intelligente Maschinen und die Angst vor Maschinen, die schlauer sind als wir, ist ein Grundpfeiler der Science-Fiction nach Isaac Asimovs Vorbild. Jetzt hat ein berühmter Wissenschaftler, Stephen Hawking, Angst. Sollte der Rest von uns sein?
Warum Hawking ausgeflippt ist
Hawkings Ausgangspunkt ist ein neuer Film, Transcendence, mit Johnny Depp. Der Film beinhaltet Roboterversionen von Menschen, die die gesamte Bandbreite menschlicher Emotionen mit analytischer Kraft ausdrücken, die die kollektive Intelligenz aller Menschen auf der Erde in der gesamten Geschichte übersteigt.
Wir erwarten natürlich, dass Science-Fiction übertreibt, aber es gibt ein Gefühl, in dem unsere schlimmsten Befürchtungen bereits erkannt wurden. Wir leben in einer Zeit, in der Computer bereits besser als Menschen im Schach sind und sogar in Gefahr geraten. Selbstfahrende Autos sind sicherer als solche, die von menschlichen Bedienern kontrolliert werden. Flugzeuge werden heute hauptsächlich von Computerprogrammen gesteuert und die Anordnung von Flugzeugen im Himmel, während sie auf Landebahnen warten, ist ein Wunder der digitalen Technologie.
Computer lesen einige medizinische Scans besser als Ärzte und sind sogar besser darin, wissenschaftliche Hypothesen zu testen als die meisten Wissenschaftler. Computer spielen immer noch wackelig beim Spielen dreidimensionaler Sportarten wie Fußball, aber sie verbessern sich schnell, auch dank der Entwicklung intelligenter Prothesen.
Näher zu Hause weiß Google, was ich suchen möchte, bevor ich meine Anfrage bearbeite. Bots zeichnen meine Bewegungen im Internet auf und folgen mir zu verschiedenen Seiten, die Produkte vorschlagen, die ich kaufen kann. Einige patrouillieren im Internet auf der Suche nach Schnäppchen, die auf meine Bedürfnisse zugeschnitten sind.
Technologie ist schon viel klüger als jeder von uns. Ob wir uns Sorgen machen müssen, ist weitgehend eine Frage der Frage, ob Roboter gegenüber Menschen gut eingestellt sind und ob diese Beziehung stabil ist. Dieses Problem wird durch die Beziehung zwischen Jeeves, dem Butler, und Bertie Wooster, dem Arbeitgeber, in den PG Wodehouse-Romanen gut erfasst.
Vertrauen auf Jeeves
Bertie Wooster konnte immer auf Jeeves vertrauen, und ihre Beziehung war sicherlich vorhersehbar und so stabil wie das britische Klassensystem, auf dem sie basierte. Selbst wenn Jeeves klüger als Wooster war und relevante Informationen aus der Umwelt besser einbezog, musste Wooster sich keine Sorgen machen, dass seine Position an sich gerissen wurde.
Einen intelligenten Butler zu haben war ein Vorteil, genauso wie es ein muskulöser Gärtner wäre, aber es war keine Bedrohung, weil Wooster Jeeves vertraute, seine Intelligenz für den Meister zu nutzen. Wooster sorgte sich nicht mehr darum, dass Jeeves die soziale Ordnung untergrub, als dass er sich Sorgen darum machte, dass der Gärtner die Fenstertüren betrat, um ihn mit dem Schlag einer Schaufel an der Seite des Kopfes niederzulegen. In Wodehouse gibt es keine Bauernrevolutionen.
Es gibt kein Äquivalent eines starren Klassensystems, das Roboter in Schach hält, obwohl Isaac Asimov vorschlug, dass Roboter immer so programmiert werden sollten, dass ihre Bemühungen darauf ausgerichtet waren, dem Wohl der Menschheit zu dienen. Das kann schwierig werden, besonders in einer zukünftigen Welt, in der Roboter sich selbst entwerfen.
Hawking erkennt an, dass zukünftige Technologien uns helfen können, die langjährigen menschlichen Probleme von Krieg, Krankheit und Armut zu beseitigen. Dennoch ist er vorsichtig vor potenziellen Problemen:
"Man kann sich vorstellen, dass eine solche Technologie die Finanzmärkte austrickst, menschliche Forscher erfindet und Waffen entwickelt, die wir nicht einmal verstehen können", sagt Hawking.
In einer Ära des Hochgeschwindigkeitshandels könnte argumentiert werden, dass eine dieser Hürden bereits überwunden ist und künstliche Intelligenz bereits sehr gut in der Wissenschaft ist. Und wer versteht wirklich, was an den Grenzen der neuen Waffenentwicklung passiert?
Die grundlegendste Frage, die man sich zur KI stellt, ist jedoch nicht, ob sie potentiell gefährlich ist, sondern ob sie vertrauenswürdig ist.
Warum sollten wir uns wirklich Sorgen machen?
Viele Science-Fiction-Dystopien denken, dass Roboter aufstehen und den menschlichen Führern die Kontrolle entziehen. Das ist wahrscheinlich das letzte, worüber wir uns Sorgen machen müssen, wenn die Roboter nicht von einer bösartigen menschlichen Intelligenz kontrolliert werden.
Es gibt viele Gründe, warum künstliche Intelligenz bedrohlich sein kann, aber ich würde Unfälle weit über die Bosheit hinausgehen. Einige Futuristen befürchten, dass winzige selbstreplizierende Entitäten die Welt umhüllen könnten, was zu einem ökologischen Kollaps führen könnte – eine nanotechnologische Apokalypse, die als "graue Goo-Hypothese" bekannt ist.
Es ist nicht schwer sich vorzustellen, wie Computerviren viele Kontrollsysteme infizieren könnten, so dass die Finanzmärkte einfrieren, das Stromnetz schwarz wird und Flugzeuge in der Luft über Flughäfen kollidieren, während selbstfahrende Autos in Wände einschlagen. Denken Sie nicht einmal an einen Roboter, der eine Herzoperation durchführt, wenn seine Software kompromittiert wird!
