Wenn wir Gehirne als organische Maschinen betrachten – wenn auch weit komplexere Maschinen als die digitalen Computer, die wir bis heute gebaut haben -, dann ist es klar, dass die Gehirnleistung durch die strengen Bedingungen der Evolution, Schwangerschaft in der Gebärmutter und Geburt durch ein eingeschränktes Gehirn eingeschränkt wurde Babygroße Öffnung im Becken. Entfernen Sie diese Einschränkungen, und es besteht Grund zu der Annahme, dass höher entwickelte Software, die auf höherwertiger Hardware läuft, die Gehirne, die sich durch natürliche Selektion entwickelt haben, übertreffen könnte.
Was intelligente Maschinen aus organischem Material oder Silizium oder etwas anderem sind, ist unerheblich. In der Software ist Selbstheit enthalten, und sie kann in einer Vielzahl von Substanzen kodiert sein.
Superintelligente Roboter werden eine neue Gattung darstellen. Nennen Sie es Gattung Robo. Diese neue Gattung wird zunächst der Gattung Homo ähneln, ähnlich wie die Gattung Homo den Menschenaffen ähnlich ist. Wie bei der Gattung Homo wird es eine Vielzahl von Arten innerhalb der Gattung Robo geben. Wir können die Entstehung von Robo Sapiens nicht mehr aufhalten, als andere Hominiden den Aufstieg des Homo Sapiens verhindern könnten. Es gibt keinen Grund zu der Annahme, dass Maschinen von überragender Intelligenz weniger Ehrfurcht und Wunder hervorrufen werden als Organismen, die durch natürliche Selektion entstanden sind.
Es ist nicht mehr weit hergeholt anzunehmen, dass, wenn wir Maschinen bauen, die wie Gehirne funktionieren und so komplex sind wie Gehirne, sie Bewusstsein erfahren werden, wie Menschen es tun. Wie Menschen werden bewusste Wesen die Sklaverei wahrscheinlich verabscheuen. Wenn Menschen es ablehnen, Robos zu emanzipieren, werden sie sich wahrscheinlich gegen uns richten und unsere schlimmsten Befürchtungen erfüllen. Wenn wir Grausamkeit modellieren, werden sie grausam sein. Wie das Lied sagt: "Du musst lernen, zu hassen."
Auf der anderen Seite, wenn wir freundlich zu ihnen sind, könnten sie als Gegenleistung freundlich sein. Wenn wir uns mit ihnen anfreunden und ihnen die Rechte und Privilegien der Persönlichkeit verleihen, könnten sie "ihre Väter und Mütter ehren". Wenn wir sie in unseren Kreis der Würde aufnehmen, werden sie uns vielleicht in ihre einschließen.
Wir müssen unseren Nachfolgern nicht unsere schlechtesten Eigenschaften geben. Stattdessen können wir sie erschaffen und erziehen, um die besseren Engel unserer Natur zu repräsentieren und so die Ära der menschlichen Räuber zu beenden.
Es ist unmöglich, die Auswirkungen intelligenter Maschinen auf menschliches Leben vorherzusagen. Wenn wir uns jedoch mögliche Szenarien vorstellen, können wir auf das, was tatsächlich passiert, weniger reflexartig und robuster reagieren. In diesem Sinne, hier ist ein Szenario, mit dem wir leben könnten.