Ben Shneiderman schrieb den Aufsatz, den ich unten poste; Ich bin der zweite Autor. Dieser Aufsatz reflektiert eine Reihe von Gesprächen, die Ben und ich im vergangenen Jahr genossen haben.
Ben ist ein angesehener Universitätsprofessor für Informatik an der Universität von Maryland und Mitglied der US National Academy of Engineering. Sein jüngstes Buch ist "The New ABCs of Research: Erzielen von bahnbrechenden Kooperationen". Kontaktiere ihn unter [email protected].
Gary Klein
_______________________
Kapitän Sullenberger (Sully) wird zu Recht für sein erstaunliches Können als erfahrener Pilot gefeiert. Als Vogelschläge beide Triebwerke abstellten, gelang es ihm, sein Flugzeug sicher im Hudson River zu landen. Sullenbergers bemerkenswerte Leistung beruhte auf seiner langjährigen Erfahrung als Pilot, der schnellen Einschätzung der Möglichkeiten und dem geschickten Umgang mit den Kontrollen.
Jeden Tag lösen erfahrene Krankenschwestern, Feuerwehrleute und Eltern auch echte Probleme, die Leben retten und denen, denen sie dienen, Trost spenden. Ebenso nutzen Ärzte, Lehrer und Installateure ihre Erfahrung, um anderen auf sinnvolle Weise zu helfen. Diese Experten handeln in schwierigen Situationen, in denen Informationen möglicherweise falsch und unvollständig sind und in denen die bestehenden Leitlinien möglicherweise unzureichend sind. Sie arbeiten dennoch daran, ihre Erfahrung in einer Vielzahl von Situationen mit dem zu kombinieren, was sie über das aktuelle Problem wissen, vertraute Muster zu erkennen und Anomalien schnell genug zu identifizieren, um Entscheidungen zu treffen und Maßnahmen zu ergreifen. Experten machen auch Fehler, manchmal schwerwiegende, aber ein sorgfältiges Studium dieser Fehler kann bestehende Praktiken verfeinern, Schulungen oder Checklisten verbessern und zu besseren Werkzeugen führen.
Experten sind geschickt darin, ausgeklügelte Werkzeuge wie 3D-Fetal-Sonogramme oder Flugleitsysteme zu verwenden, die das Verständnis für das Geschehen verbessern und ihre Kontrolle bewahren. Diese Tools können einen hohen Automatisierungsgrad aufweisen, solange die Experten die Aktionen der Tools nachvollziehen, vorhersagen und steuern können. Um dies zu erreichen, müssen die Designer berücksichtigen, dass ihre Technologien und Praktiken darauf abzielen, qualifizierte und erfahrene Benutzer zu unterstützen und zu stärken. Andernfalls birgt die von ihnen eingeführte Automatisierung das Risiko, das Fachwissen zu beeinträchtigen und die Leistung zu beeinträchtigen, wie dies bei einigen Flugzeug- und Medizinproduktdesigns der Fall war.
Leider scheinen zu viele Designer die Fähigkeiten und Bedürfnisse der Experten, die ihre Kreationen verwenden, nicht zu kennen. In diesem Aufsatz möchten wir einige Richtlinien für die Erstellung von Tools und automatisierten Hilfsmitteln aufzeigen, die die Entscheidungsfindung von Experten verbessern, anstatt sie zu verschlechtern.
Die Experten, die das Google Translate-Feature erstellt und dann verbessert haben, verdienen Anerkennung für ihre Beiträge. Sie haben klar verstanden, dass:
"Bei künstlicher Intelligenz geht es nicht darum, einen Geist aufzubauen; es geht um die Verbesserung von Werkzeugen zur Lösung von Problemen. "
Obwohl ihnen klar war, dass sie Werkzeuge bauten, bezeichneten viele Journalisten ihre Arbeit als eine weitere Demonstration, dass Menschen ersetzt werden könnten. Die irreführenden Berichte über die Rolle der Technologie haben das Vertrauen in menschliche Experten aus den 1947er Geschichten von "riesigen elektronischen Gehirnen" untergraben. Sogar der kürzlich veröffentlichte Bericht Artificial Intelligence-100 aus Stanford behauptete:
"Der Unterschied zwischen einem Rechenrechner und einem menschlichen Gehirn ist nicht von Art, sondern von Größe, Geschwindigkeit, Grad der Autonomie und Allgemeingültigkeit."
Wir stimmen dieser zentralen Aussage nicht zu. Menschliches Denken ist keine Berechnung oder Berechnung. Die menschliche Kreativität unterscheidet sich von der, die neuronale Netze und genetische Algorithmen erzeugen. Selbst Experten für künstliche Intelligenz lehnen die Idee ab, dass ihre Konferenzbeiträge durch maschinelle Lernprogramme überprüft werden sollten. Ironischerweise wissen diese menschlichen Experten, die sich der Entwicklung "intelligenter" und "intelligenter" Maschinen verschrieben haben, dass menschliche Experten besser darin sind, Entdeckungen und Innovationen zu schätzen.
Wir glauben, dass Experten mindestens drei bewundernswerte menschliche Eigenschaften aufweisen:
1) Grenzdenken: Menschen sind in der Lage, mit Wissensgrenzen umzugehen, wo unvollständige und falsche Informationen Verwirrung stiften und Zielsetzungen eine Schlüsselqualifikation darstellen. Selbst in diesen herausfordernden Umgebungen können Experten Probleme formulieren und lösen, um etwas Neues zu schaffen. Menschliche Experten machen oft erstaunliche Durchbrüche und eröffnen neue Wege zu überraschenden Forschungszielen. Sie optimieren mehr als nur die Leistung oder erkennen statistische Muster – sie schaffen völlig neue Produkte und Dienstleistungen, unterscheiden sich in Kategorien und sehen neue Arten von Beziehungen. Fähigkeiten an den Grenzen des Wissens und der Fähigkeit, an der Grenze vorbeizukommen, das haben die Menschen immer bewiesen. Sie produzieren unerwartete patentierbare Erfindungen, führen Debatten zur Förderung zwingender Ursachen und gründen Unternehmen, die revolutionäre Produkte und Dienstleistungen liefern.
2) Soziales Engagement: Menschen sind von Natur aus sozial, eine Fähigkeit, die sie nutzen, um zu lernen, Vertrauen aufzubauen, anderen zu helfen und um Gefälligkeiten zu bitten. Der menschliche Diskurs unterscheidet sich von der Frage nach Siri oder Google oder Alexa. Der menschliche Austausch informiert jeden Teilnehmer, klärt Probleme und baut Vereinbarungen auf. Menschliche Zusammenarbeit war ein Schlüssel zu seinen erstaunlichen Erfolgen während der Existenz unserer Spezies, von den komplexen Kollaborationen um Jagd, Nahrungssuche und Gemeinschaftsbildung bis zu den modernen Teams, die Firmen leiten und Wikipedia entwickeln. Menschliche Führung, um die Teilnahme zu motivieren, erfordert eine Kombination von Fähigkeiten, die große Unternehmen leiten, Städte transformieren und nationale Regierungen formen. Diese Führung kann auch bösartig, korrupt und kriegsähnlich sein, aber das ist die dunkle Seite des Menschseins. Die helle Seite menschlicher Expertise zeigt bedeutsamen Respekt, sucht echte Kompromisse und fördert Vertrauen. Menschen sind sehr geschickt darin, Gemeinsamkeiten zu schaffen und zu nutzen, um eine effiziente Kommunikation zu ermöglichen, und dann zu bemerken, wann Gemeinsamkeiten erodiert sind und repariert werden müssen.
3) Verantwortlichkeit für ihre Handlungen: Menschen sind verantwortliche Parteien, die Ehre verdienen, wenn sie Vorteile bringen und die verantwortlich sein sollten, wenn ihre Entscheidungen zu Schaden führen. Eine ehrliche Berichterstattung und eine zuverlässige Untersuchung von Fehlern fördert Verbesserungen, die einen besseren Schutz bieten. Außergewöhnliche Leistungen wie die von Sullenberger fördern das Verständnis, verbessern das Training und bringen Experten dazu, immer leistungsstärkere Leistungen zu erbringen. Verantwortlichkeit klärt das Produktdesign, da es Designer ermutigt, den Benutzern Kontrolle zu geben und den Ermittlern genügend Daten zur Verfügung zu stellen, um zu verstehen, was passiert ist. Wir übernehmen Verantwortung, die es anderen erlaubt, uns zu vertrauen. Wir engagieren uns auch in anderen vertrauensbildenden Aktivitäten: Wir versuchen, vorhersehbar zu sein. wir warnen andere, wenn unser Verhalten sie überraschen könnte, wir machen unnötige Schritte, um anderen zu helfen, und so weiter.
Wenn Designer diese menschlichen Eigenschaften erkennen, werden sich ihre Designs verbessern und zu sichereren, effektiveren und erfolgreicheren Technologien führen. Je eher Journalisten verstehen, dass Exzellenz im Technologiedesign entsteht, wenn diese menschlichen Eigenschaften eher unterstützt als verdrängt werden, desto eher werden ihre Schriften die Art und Weise feiern, wie bemerkenswerte menschliche Fähigkeiten durch fortschrittliche Systeme verbessert werden können.
Wir sehen eine Zukunft, in der die Wertschätzung für menschliche Experten wächst, während Designer leistungsfähigere Werkzeuge entwickeln. Die besten dieser Tools werden die Leistung von menschlichen Experten steigern, indem sie mehr ihrer kreativen Fähigkeiten nutzen. Und dafür müssen die Designer Wege finden, um uns alle, nicht nur die Experten, das Handeln unserer Werkzeuge zu verstehen, vorherzusagen und zu kontrollieren.
