Stephen Hawking und Elon Musk haben kürzlich künstliche Intelligenz als eine große Bedrohung für die Menschheit beschrieben. Ihre Sorge ist, dass schnelle Verbesserungen in der intelligenten Leistung von Computern sie so intelligent wie Menschen machen werden. Die Intelligenz der menschlichen Intelligenz könnte dann schnell zu Computern führen, die viel intelligenter sind als wir. Dieser Sprung ist plausibel, da Computer hinsichtlich Geschwindigkeit der Verarbeitung, Speicherung, Zugriff auf große Informationsmengen und einfacher Übertragung zwischen Computern Vorteile gegenüber uns haben. Sobald diese Art von Superintelligenz existiert, kann es sich herausstellen, dass sie Interessen und Handlungen hat, die denen der Menschen zuwiderlaufen, zu unserem Nachteil und möglicherweise sogar zu unserem Untergang. Wie besorgt sollten die Menschen über dieses Problem sein?
Ich lehre gerade einen Kurs, der systematisch Intelligenz in Maschinen, Menschen und anderen Tieren vergleicht. Für Menschen benutze ich, was ich denke, ist die beste aktuelle Theorie der Intelligenz: Chris Semians Semantic Pointer Architecture. Für Maschinen sucht die Klasse nach führenden Beispielen aktueller Programme für künstliche Intelligenz, darunter IBMs Watson, Googles fahrerlose Autos, CYC, Apples Siri und Google Translate.
Dieser Vergleich zeigt, dass es immer noch große Lücken zwischen menschlicher Intelligenz und künstlicher Intelligenz gibt. IBMs Watson ist sehr beeindruckend darin, Fragen zu beantworten, die gut genug sind, um exzellente menschliche Spieler im Fernsehspiel Jeopardy zu schlagen. Und es zeigt sogar einige Fähigkeiten für kreatives Problemlösen, wenn Chef Watson neue Rezepte generiert. Darüber hinaus sieht es so aus, als ob Watson wertvolle Beiträge zu vielen anderen Bereichen wie Wirtschaft und Medizin leisten wird. Nichtsdestoweniger liegt Watson auf absehbare Zeit weit hinter den menschlichen Fähigkeiten des Umgangs mit Wahrnehmungsdarstellungen, Bildern, Emotionen, Bewusstsein, Lernen, Sprache und der ganzen Bandbreite kreativer Problemlösung, die Menschen erreichen können. Andere aktuelle AI-Programme haben ähnliche Beschränkungen.
Daher denke ich, dass künstliche Intelligenz auf menschlicher Ebene in der Zukunft weiter entfernt ist, als viele Leute annehmen. Die Vorstellung, dass maschinelle Intelligenz durch einfaches Herunterladen der neuralen Verbindungen von Menschen in einen Computer entstehen kann, ist äußerst naiv hinsichtlich der Komplexität des menschlichen Gehirns, die nicht nur elektrische Verbindungen, sondern auch eine Vielzahl chemischer Prozesse mit Neurotransmittern, Hormonen und Gliazellen umfasst. Künstliche Intelligenz hat in den letzten 60 Jahren beeindruckende Fortschritte gemacht und Maschinen produziert, die Schach spielen und auf der Marsoberfläche navigieren können. Aber ich wette, dass es noch weitere 60 bis 100 Jahre dauern wird, bis sich die Maschinenintelligenz an die menschliche Intelligenz annähert und KI für die Menschheit eine weitaus geringere Bedrohung darstellt als globale Erwärmung, Pandemien und zunehmende Ungleichheit, die zu sozialen Konflikten führen.
Eine unmittelbarere Sorge über KI besteht darin, dafür zu sorgen, dass die Arten künstlicher Intelligenz, die von Gruppen wie dem US-Militär, Google und Facebook angenommen werden, zum Nutzen der Menschen eingesetzt werden. Ein kürzlich veröffentlichter offener Brief, der von Hawking, Musk und führenden KI-Forschern unterzeichnet wurde, macht einen starken und vernünftigen Appell, künstliche Intelligenz für menschliche Zwecke einzusetzen.
Obwohl ich keine Sorge habe, dass Maschinen die Menschheit in naher Zukunft verdrängen werden, gibt es eine Menge Plausibilität für die Behauptung, dass künstliche Intelligenz auf menschlicher Ebene schnell Superintelligenz erzeugen könnte, die tatsächlich eine Bedrohung für die Menschheit darstellen könnte. Der Sprung von der menschlichen Ebene zur Superintelligenz könnte aufgrund seiner wahrscheinlichen Fähigkeit, schneller zu expandieren als die menschliche Intelligenz, schnell geschehen. Computer können unsere Beschränkungen in Bezug auf Verarbeitungsgeschwindigkeit, Lernrate und Übertragbarkeit von Information vermeiden. Superintelligenz ist wirklich beängstigend, weil es keinen Grund gibt, zu glauben, dass es im Einklang mit menschlichen ethischen Prinzipien funktioniert.
Sie könnten denken, dass Sie ethische Prinzipien in den Computer programmieren könnten, aber jedes intelligente Programm könnte sich neu programmieren, um die Regeln zu beseitigen, die ihm zur Verfügung gestellt wurden. Ich bezweifle, dass die Superintelligenz den Antrieb zu ethischem Denken haben wird, der durch unsere emotionale Fähigkeit, sich umeinander zu kümmern, zu fast allen Menschen kommt. Die einflussreichsten philosophischen Ansichten haben versucht, die Ethik zur Vernunft zu bringen, zum Beispiel durch die Rechte und Pflichten Kants oder durch die Nützlichkeitsberechnungen des größten Nutzens für die größte Zahl. Ich finde die Ansicht von Hume und einigen feministischen Ethikern plausibler, dass Emotionen und Fürsorge die Grundlage unserer ethischen Urteile sind. Es kann nicht erwartet werden, dass die maschinelle Intelligenz die gleiche ethische Grundlage hat, weil Emotionen teilweise das Ergebnis von Physiologie sind, nicht nur die kognitive Bewertung von Situationen. John Hoagland hat einmal gesagt, dass das Problem mit Computern ist, dass es ihnen egal ist. Aus der Perspektive des langfristigen Nutzens von AI für die Menschheit besteht das Problem darin, dass sie uns einfach nicht schaden werden.
