Möchten Sie Benutzerverhalten entwerfen? Übergeben Sie zuerst den ‘Regret Test’

Was sind die ethischen Verantwortlichkeiten von Unternehmen, die manipulieren können?

Quelle: NirandFar

Welche ethischen Verantwortlichkeiten haben Unternehmen, die in der Lage sind, menschliches Verhalten massiv zu manipulieren? Es ist eine Frage, die sich Technologen und Designer bei der Entwicklung weltumspannender Produkte stellen – die aber nicht oft genug gefragt wurde.

Operative Konditionierung, intermittierende Verstärkung, die Suche nach Selbstverwirklichung – die Techniken, die von Produktmanagern in den größten Unternehmen der Welt verwendet werden, sind zu gleichen Teilen Psychologie und Technologie. Wie Sean Parker, der Gründungspräsident von Facebook, kürzlich bestätigte, beschäftigt sich das Unternehmen seit langem mit der “Ausnutzung einer Verletzlichkeit in der menschlichen Psychologie”.

• Zu früh aufhören
• Arten sehen: Ein neues Buch befasst sich mit Tieren in Medien
• 10 große Sprüche und 10 Schreckliche
• Gefährliche neue Welt
• Ian MacKayes viszerale Beziehung zum Leben

Unsere Gadgets und Apps sind überzeugender als je zuvor. Für die Macher dieser Technologien existieren jedoch nur wenige Richtlinien, wie das Nutzerverhalten ethisch verändert werden kann. Ohne einen Standard tendieren die Unternehmen dazu, in der nie endenden Suche nach mehr Engagement, mehr Wachstum und letztendlich mehr Profiten gedankenlos vorzugehen. Ein Gründungsgründer sagte mir: “Am Ende des Tages habe ich eine Verpflichtung gegenüber meinen Investoren und Mitarbeitern, und ich werde alles tun, was ich kann, wenn ich nicht gegen das Gesetz verstoße, um Leute dazu zu bringen, mein Produkt zu verwenden.”

Die Tech-Industrie muss mehr tun als die Gefängnisstrafe, um sich zu entscheiden, das Richtige zu tun.

Zum Glück arbeiten die meisten Technologen und Designer, die ich kenne, daran, das Leben der Menschen zu verbessern. Auf der ganzen Welt streben Unternehmer nach Produkten, die Kunden lieben. Egal, ob sie in einem großen Silicon Valley-Technologieunternehmen oder in einer Garage arbeiten, sie träumen davon, Menschen zum Handeln zu bewegen, indem sie ihnen die nächste unentbehrliche Verbesserung ihres Lebens bieten, und die meisten versuchen dies oberflächlich zu tun.

• Zerlegung des Gehirns, eine Zelle nach der anderen
• Die Zehn Leitlinien
• Die Art von Freiheit, die wir brauchen
• Denken Sie, dass es schwer ist, ein Cop zu sein? Versuchen Sie, mit einem verheiratet zu sein.
• Wer führt Autismus-Wissenschaft?

Wie es benutzt wird

Natürlich würden viele von ihnen auch nichts dagegen haben, reich zu werden. Aber diese Mischung – der Antrieb, sowohl einen Unterschied als auch einen Gewinn zu machen – ist, wie die Menschheit viele unserer ärgerlichsten Probleme gelöst hat. Es ist nichts falsch daran, Produkte zu bauen, die Menschen nutzen wollen, aber die Fähigkeit, Benutzerverhalten zu gestalten, sollte mit einem Standard ethischer Beschränkungen einhergehen.

Das Problem ist, dass die gleichen Techniken, die in bestimmten Fällen die Grenze überschreiten, in anderen zu erwünschten Ergebnissen führen. Zum Beispiel wurde Snapchats Verwendung von Streaks – die die Anzahl der aufeinanderfolgenden Tage, an denen Freunde Fotos geteilt haben – gezählt, dafür kritisiert, dass Teenager gezwungen werden, immer wieder zur App zurückzukehren. Aber die selbe Überzeugungstechnik wird von der Sprach-App Duolingo verwendet, um Leuten zu helfen, einen neuen Sprach-Stick mit dem Programm zu lernen.

Die gleichen variablen Belohnungen, die verwendet werden, um Geld von Spielern zu gewinnen, die elektronische Spielautomaten spielen, werden auch in Videospielen verwendet, die krebskranken Kindern helfen, sich abzulenken, wenn sie schmerzhafte Behandlungen erhalten.

Natürlich ist es nicht die Überredungskunst selbst, sondern das Problem – so wird die Technik eingesetzt.

Aber ohne einen Test, um den Unterschied zwischen guten und schlechten Anwendungen zu unterscheiden, ist es leicht zu sehen, wie Designer in die Irre gehen können.

Der Bedauernstest

Die Tech-Industrie braucht eine neue ethische Bar. Googles Motto “Sei nicht böse” ist zu vage. Die Goldene Regel, “Tu den anderen so, wie du sie dir tun lassen würdest”, lässt zu viel Raum für Rationalisierung.

Ich würde argumentieren, dass das, was wir sagen sollten, ist: “Tu den anderen nicht, was sie ihnen nicht antun wollen.” Aber wie können wir wissen, was Nutzer tun und was nicht?

Ich schlage demütig den “Bedauernstest” vor.

Wenn wir uns unsicher sind, eine ethisch fragwürdige Taktik zu verwenden: “Wenn die Leute alles wüssten, was der Produktdesigner weiß, würden sie dann das beabsichtigte Verhalten ausführen? Werden sie es wahrscheinlich bereuen? ”

Wenn Benutzer es bereuen würden, die Aktion zu ergreifen, versäumt die Technik den Bedauernstest und sollte nicht in das Produkt eingebaut werden, da sie Menschen manipulierte, etwas zu tun, was sie nicht tun wollten. Leute dazu zu bringen, etwas zu tun, was sie nicht tun wollten, ist nicht mehr überzeugend – es ist Zwang.

Wie können wir feststellen, ob die Leute es bereuen, ein Produkt zu verwenden? Einfach! Wir fragen sie.

So wie Unternehmen potenzielle Features testen, die sie ins Rollen bringen, könnten sie testen, ob eine fragwürdige Taktik etwas ist, auf das die Leute positiv reagieren würden, wenn sie wüssten, was als nächstes passieren würde.

Dieses Testkonzept ist nicht neu in der Branche – Produktdesigner testen ständig neue Funktionen. Aber der Bedauernstest würde eine weitere ethische Prüfung einführen, indem er eine repräsentative Stichprobe von Leuten fragt, ob sie eine Aktion durchführen würden, die alles weiß, was der Designer weiß.

Der Test würde nicht notwendigerweise viel zusätzlichen Aufwand oder zusätzliche Kosten erfordern. In einem kürzlich erschienenen Artikel schrieb Jakob Nielsen von der Nielsen Norman Group, dass er glaubt, dass Usability-Testergebnisse von Tests mit nur fünf Personen stammen können.

Schiffswracks

Die Geschichte der technologischen Innovation beinhaltet viele unbeabsichtigte Konsequenzen. Wie der Kulturtheoretiker Paul Virilio einmal sagte: “Die Erfindung des Schiffes war auch die Erfindung des Schiffsunglücks.” Das Schöne am Reue-Test ist, dass es helfen könnte, einige dieser unbeabsichtigten Konsequenzen auszumerzen und das unmoralische Design zu bremsen bevor sie für Millionen von Nutzern live geschaltet werden.

Der Bedauernstest könnte auch für regelmäßige Check-Ins verwendet werden. Wie viele andere Leute habe ich ablenkende Apps wie Facebook von meinem Handy entfernt, weil ich es bereue, dass ich meine Zeit damit verschwendet habe, durch meinen Feed zu scrollen, anstatt mit den Leuten, die mir wichtig sind, voll präsent zu sein. Wäre es nicht im Interesse von Facebook, über Leute wie mich zu wissen?

Wenn irgendein Unternehmen, sei es Facebook oder ein anderes Unternehmen, nicht auf Benutzer hört, die es aus dem einen oder anderen Grund zunehmend ärgern, riskiert es, dass mehr Menschen seinen Dienst komplett aufgeben. Und genau deshalb ist Verständnis Bedauern so wichtig. Menschen zu ignorieren, die es bedauern, Ihr Produkt zu verwenden, ist nicht nur eine schlechte Ethik, sondern auch schlecht für das Geschäft.

Nirs Anmerkung: Danke an Jason Amunwa, Rafael Arizaga Vaca, Ahmed Bouzid, Jamie Kimmel, Julie Li, Jennifer McDonald, Bo Ren, Irina Raicu, Julian Shapiro, Shannon Vallor, Anne Marie Ward, Susan Weinschenk, Guthrie Weinschenk und Casey Winters für Lesen von Versionen dieses Essays.

Illustrationen von John Devolle

Dieser Artikel wurde ursprünglich auf NirAndFar.com veröffentlicht