Können wir AGI alle Entscheidungen anvertrauen?

Das Trolley-Problem und die Komplexität moralischer Entscheidungen

Akademiker verwenden oft das ‘Trolley-Problem’ als Metapher für die ethischen Dilemmata, die realen Problemen innewohnen. Die klassische Version des Trolley-Problems beinhaltet eine außer Kontrolle geratene Straßenbahn, die auf eine Gruppe von Menschen zurast. Durch die Umleitung der Straßenbahn kann die Gruppe gerettet werden, aber ein unschuldiger Zuschauer wird tödlich getroffen. Welche Maßnahmen sollte der Fahrer ergreifen? Die alte Weisheit legt nahe, das kleinere von zwei Übeln zu wählen, doch wenn man mit einem solchen Dilemma in der Realität konfrontiert wird, ist die Entscheidung selten einfach. In ‘Decision Time’ postuliert der Autor Laurence Alison, dass man angesichts des Trolley-Problems danach streben sollte, die am wenigsten schädliche Entscheidung zu treffen. Wenn mehrere Optionen zur Auswahl stehen, die jeweils negative Ergebnisse liefern, sollte das Ziel darin bestehen, die Option auszuwählen, die den geringsten Schaden verursacht.

Das Trolley-Problem dient als vereinfachte Darstellung der vielfältigen Herausforderungen, denen Menschen täglich begegnen. Die Bewältigung dieser Herausforderungen beinhaltet nicht nur moralische Überlegungen, sondern auch eine tiefgreifende Auseinandersetzung mit den eigenen Werten. Die Entscheidungen, die wir treffen, spiegeln unsere Werturteile wider. Verschiedene Menschen werden unweigerlich unterschiedliche Entscheidungen treffen – und es ist wichtig zu erkennen, dass Untätigkeit auch eine Wahl ist –, weil es selten endgültige Antworten gibt.

Während wir die exponentielle Weiterentwicklung der KI-Fähigkeiten bestaunen, erinnert ‘Decision Time’ uns daran, dass viele Menschen Schwierigkeiten haben, entscheidende Urteile zu fällen, wenn sie mit komplexen und folgenschweren Angelegenheiten konfrontiert werden. Angesichts dynamischer Umgebungen fehlt es vielen normalen Menschen an der Fähigkeit, Vor- und Nachteile abzuwägen, entschlossen zu handeln und rechtzeitig Kurskorrekturen vorzunehmen. Wie können wir erwarten, dass Maschinen es besser machen? Dies soll nicht bedeuten, dass Maschinen die menschlichen Fähigkeiten nicht übertreffen können, sondern vielmehr betonen, dass Maschinen, wenn sie lediglich menschliche Entscheidungen nachahmen, unweigerlich auf eine Fülle von fehlerhaften Entscheidungen stoßen werden. Dieser Begriff ‘fehlerhaft’ oder ‘richtig’ impliziert nicht, dass es universell anwendbare Antworten auf die wichtigen Entscheidungen des Lebens gibt, sondern vielmehr, ob wir in unseren Entscheidungsprozessen eine vernünftige Argumentation anwenden, um häufige psychologische Fallstricke zu vermeiden.

Hindernisse für eine effektive Entscheidungsfindung

Was sind in Situationen, die von Volatilität, unvollständigen Informationen und Zeitdruck geprägt sind, die wichtigsten Hindernisse für eine effektive Entscheidungsfindung? ‘Decision Time’ identifiziert drei primäre Hindernisse:

• Angst vor Verantwortlichkeit: Abneigung, Verantwortung zu übernehmen, was zu Untätigkeit führt. Indem man passiv bleibt, vermeidet man die Rechenschaftspflicht für alle nachteiligen Folgen, die sich aus einer bestimmten Wahl ergeben. Neben der Angst vor Verantwortlichkeit ist eine weitere Sorge das Bedauern nach der Entscheidung – das Bedauern einer Entscheidung, nachdem man zusätzliche Informationen erhalten hat. Solche Personen neigen dazu, sich alternative Realitäten vorzustellen, in denen andere Entscheidungen möglicherweise günstigere Ergebnisse erzielt hätten.
• Wahlparalyse: Schwierigkeiten bei der Auswahl aus einer Vielzahl von Optionen, insbesondere wenn Entscheidungen Opfer erfordern. In solchen Fällen ist das oberste Prinzip, die am wenigsten schädliche Entscheidung zu treffen – das kleinere von zwei Übeln zu wählen. Das ist jedoch leichter gesagt als getan. Menschliche Entscheidungsfindung ist oft mit emotionalen Faktoren verknüpft, was das Phänomen der posttraumatischen Belastungsstörung (PTBS) bei Veteranen erklärt. Psychologischer Konflikt ist am akutesten, wenn widersprüchliche Werte aufeinanderprallen, wie das klassische Dilemma der Wahl zwischen Loyalität und kindlicher Pietät zeigt. Das ideale Szenario ist, die eigenen Handlungen mit tief verwurzelten Werten in Einklang zu bringen, aber oft sind Einzelpersonen gezwungen, Entscheidungen auf der Grundlage externer Werturteile zu treffen, was zu schwerem psychischem Leid führt.
• Verzögerte Ausführung: Eine übermäßige Verzögerung zwischen Entscheidung und Handlung. Fallschirmspringer werden bestätigen, dass der Moment der größten Unentschlossenheit eintritt, wenn man zum Sprung bereit ist, aber noch die Möglichkeit hat, sich zurückzuziehen. Dieses Phänomen ist bei vielen lebensverändernden Entscheidungen allgegenwärtig. Eine Frau, die in einer unglücklichen Ehe gefangen ist, kann nachdenken über Scheidung, nachdem ihre Kinder erwachsen geworden und ausgezogen sind. Sie mag endlos mit ihren Vertrauten über die Tugenden und Fehler ihres Mannes diskutieren, ähnlich einer Schallplatte, die wiederholt überlegt, ohne Maßnahmen zu ergreifen. Das Gegenteil davon ist die Angst, etwas zu verpassen (FOMO), die zu übereilten Entscheidungen führt, die durch die Angst, zurückgelassen zu werden, getrieben werden, was oft zu Misserfolgen führt.

Das STAR-Framework für strategische Entscheidungsfindung

Was kann also getan werden, um diese Hindernisse zu überwinden? ‘Decision Time’ schlägt das STAR-Framework vor, ein Akronym, das Folgendes umfasst:

• Szenario: Die Kultivierung des Situationsbewusstseins beinhaltet zunächst die Identifizierung dessen, was geschehen ist, dann das Verständnis, warum es geschehen ist, und schließlich die Vorhersage, was wahrscheinlich als Nächstes geschehen wird. Warum haben erfahrene Feuerwehrleute ein intuitives Verständnis für Brandsituationen? Weil sie auf zahlreiche Szenarien gestoßen sind und schnell auf ihre Erfahrungen zurückgreifen können, um fundierte Urteile zu fällen und sofort Maßnahmen zu ergreifen. Malcolm Gladwell untersucht ähnliche Beispiele in ‘Blink: The Power of Thinking Without Thinking’.
• Timing: Das Element ‘Timing’ befasst sich mit der Bedeutung des Handelns innerhalb eines angemessenen Zeitrahmens. Das Sprichwort, dass Nachdenken zu Untätigkeit führt, gilt hier. Eine nützliche Analogie ist der Foxtrott mit seinem ‘langsam, langsam, schnell, schnell’-Rhythmus. In den anfänglichen Phasen der Entscheidungsfindung ist es ratsam, vorsichtig vorzugehen, Impulsivität zu vermeiden und sich nicht ausschließlich auf die Intuition zu verlassen. Streben Sie stattdessen danach, ausreichend Informationen zu erhalten. In den späteren Phasen der Ausführung ist jedoch schnelles Handeln von größter Bedeutung, da perfekte Informationen nicht erreichbar sind und der Grenznutzen einer längeren Informationsbeschaffung abnimmt.
• Annahmen: Eine klare Artikulation der Annahmen ist entscheidend. Oft neigen Einzelpersonen dazu, selektiv Informationen wahrzunehmen, die mit ihren vorgefassten Meinungen übereinstimmen, während sie widersprüchliche Beweise und alternative Möglichkeiten ignorieren. Der Hamas-Angriff auf Israel im Jahr 2023 deckte ein Versagen strategischer Annahmen auf. Israelische Führer, von Premierminister Netanjahu bis hinunter zu Militär- und Geheimdienstbeamten, versäumten es, den Angriff zu antizipieren. Dies war nicht auf einen Mangel an Frühwarnsignalen zurückzuführen, sondern auf ein Versäumnis, die Möglichkeit eines solchen Ereignisses angemessen in Betracht zu ziehen. Was wir glauben, ist oft weniger wichtig als das, was wir uns vorstellen.
• Revision: Die Fähigkeit, sich kontinuierlich anzupassen und anzupassen, ist unerlässlich. In einigen Fällen sind Widerstandsfähigkeit und unerschütterliche Ausdauer erforderlich – die Angst vor dem Scheitern sollte einen nicht davon abhalten, bedeutende Anstrengungen zu unternehmen. In anderen Fällen sind rechtzeitige Anpassungen und die Fähigkeit, Verluste zu begrenzen, erforderlich, um zu verhindern, dass versunkene Kosten nachfolgende Entscheidungen beeinflussen. Die Herausforderung besteht jedoch darin, zu erkennen, wie man solche Urteile in mehrdeutigen Situationen fällt. Häufige Fallstricke sind ein Mangel an Ausdauer, der zu verpassten Gelegenheiten führt, oder übermäßige Ausdauer, die zur Verschwendung von Ressourcen führt.

Integration von KI in den Entscheidungsprozess

Nachdem wir das STAR-Framework untersucht haben, ist es nun entscheidend, seine Auswirkungen auf KI zu berücksichtigen und wie Maschinen unsere Entscheidungsfähigkeiten verbessern können. Dies führt uns zurück zu der ursprünglichen Frage: Können wir AGI alle Entscheidungen anvertrauen?

In den kommenden Jahren wird KI die Arbeit zunehmend modularisieren. Viele Aufgaben werden von Menschen und Maschinen gemeinsam ausgeführt, wobei jeder seine jeweiligen Stärken in vier Schlüsselbereichen nutzt:

1. Komplexität: Je höher die Komplexität, desto größer die Anpassungsfähigkeit des Menschen. Komplexität manifestiert sich in zwei Dimensionen: Unsicherheit (unvollständige Informationen) und das Fehlen klarer oder optimaler Entscheidungen. Erfahrene Personen können auch dann mutige Entscheidungen treffen, wenn Informationen knapp sind. Menschen besitzen die Autonomie, Kompromisse abzuwägen und Werturteile zu fällen.
2. Häufigkeit: Je häufiger ähnliche Aufgaben auftreten, desto besser sind Maschinen gerüstet, um sie zu bewältigen. Selbst in Notrufzentralen können Maschinen von erfahrenen Helfern lernen und fundierte Entscheidungen treffen, insbesondere bei häufig auftretenden Ereignissen wie Autounfällen.
3. Koordination: Aufgaben in der realen Welt sind selten isoliert. Sie beinhalten Zusammenarbeit und erfordern umfangreiche Kommunikation. Jedes Element des STAR-Frameworks beruht auf Kommunikation. Die Frage ist, können Maschinen die Kommunikationseffektivität und -effizienz verbessern? Während die menschliche Kommunikation ihre Mängel aufweist, können die informellen und ungeplanten Interaktionen entscheidend sein. Können Maschinen diese Nuancen verstehen?
4. Kosten des Scheiterns: Wie hoch sind die Kosten des Scheiterns, insbesondere wenn KI einen Fehler macht? In Organisationen ist Verantwortlichkeit entscheidend. Auch bei der Förderung von KI-Anwendungen müssen Entscheidungsträger die potenziellen Kosten des Scheiterns berücksichtigen.

Wie KI die Entscheidungsfindung verbessern kann

KI kann auf drei Arten helfen:

1. Aufbrechen kognitiver Engpässe: KI zeichnet sich durch die Verarbeitung riesiger Datenmengen aus und lindert Bedenken hinsichtlich kognitiver Überlastung. KI kann beim ‘Foxtrott’-Tanz helfen und verhindern, dass Intuition und Vorurteile unser Verständnis des Gesamtbildes einschränken.
2. Nutzung kollektiver Intelligenz: KI kann Urteile aus verschiedenen Quellen zusammenführen und Entscheidungshilfe für Anfänger leisten.
3. Abschwächung psychologischer Schwächen: KI kann Handlungsempfehlungen geben und bei der Definition klarer Regeln und Prozesse helfen, wodurch ein Teil der psychologischen Belastung reduziert wird. In Situationen, in denen entschlossenes Handeln erforderlich ist, kann KI die Zügel übernehmen.

Maschinen haben immer noch Schwierigkeiten mit komplexen Situationen, denen definitive Antworten und Entscheidungen auf der Grundlage von Autonomie und Werturteilen fehlen. Sie haben auch Schwierigkeiten mit Nuancen und Kompromissen. Letztendlich liegt die endgültige Entscheidung beim Menschen. Wir können lernen, bessere Entscheidungen zu treffen, wobei Maschinen als unentbehrliche Verbündete dienen.