Kunnen we beslissingen aan AGI toevertrouwen?

Het Trolleyprobleem en de Complexiteit van Morele Keuzes

Academici gebruiken vaak het ‘trolleyprobleem’ als een metafoor voor de ethische dilemma’s die inherent zijn aan echte problemen. De klassieke versie van het trolleyprobleem omvat een op hol geslagen trolley die op een groep mensen afstormt. Door de trolley om te leiden, kan de groep worden gered, maar een onschuldige omstander zal dodelijk worden getroffen. Welke actie moet de bestuurder ondernemen? Het eeuwenoude gezegde suggereert het kiezen van het minste van twee kwaden, maar wanneer je in werkelijkheid met zo’n dilemma wordt geconfronteerd, is de beslissing zelden eenvoudig. In ‘Decision Time’ stelt auteur Laurence Alison dat men in het geval van het trolleyprobleem moet streven naar de minst schadelijke beslissing. Wanneer je wordt geconfronteerd met meerdere opties, die elk negatieve resultaten opleveren, moet het doel zijn om de optie te selecteren die de minste schade toebrengt.

Het trolleyprobleem dient als een vereenvoudigde weergave van de veelzijdige uitdagingen die mensen dagelijks tegenkomen. Het navigeren door deze uitdagingen omvat niet alleen morele overwegingen, maar ook een diepgaand onderzoek van iemands waarden. De keuzes die we maken, weerspiegelen onze waardeoordelen. Verschillende individuen zullen onvermijdelijk verschillende keuzes maken – en het is cruciaal om te erkennen dat niets doen ook een keuze is – omdat er zelden definitieve antwoorden zijn.

Terwijl we ons verwonderen over de exponentiële vooruitgang van AI-mogelijkheden, herinnert ‘Decision Time’ ons eraan dat veel individuen moeite hebben om beslissende oordelen te vellen wanneer ze worden geconfronteerd met complexe en ingrijpende zaken. Geconfronteerd met dynamische omgevingen, missen veel gewone individuen het vermogen om voor- en nadelen af te wegen, besluitvaardig te handelen en tijdig koerscorrecties aan te brengen. Hoe kunnen we verwachten dat machines het beter doen? Dit wil niet zeggen dat machines de menselijke capaciteiten niet kunnen overtreffen, maar eerder om te benadrukken dat als machines slechts menselijke keuzes emuleren, ze onvermijdelijk een overvloed aan gebrekkige beslissingen zullen tegenkomen. Dit idee van ‘gebrekkig’ of ‘correct’ impliceert niet dat er universeel toepasbare antwoorden zijn op de belangrijke beslissingen in het leven, maar eerder of we gezonde redeneringen gebruiken in onze besluitvormingsprocessen om veelvoorkomende psychologische valkuilen te vermijden.

Barrières voor Effectieve Besluitvorming

In situaties die worden gekenmerkt door volatiliteit, onvolledige informatie en tijdsdruk, wat zijn de belangrijkste belemmeringen voor effectieve besluitvorming? ‘Decision Time’ identificeert drie primaire obstakels:

• Angst voor Verantwoording: Aversie tegen het nemen van verantwoordelijkheid, wat resulteert in inactiviteit. Door passief te blijven, vermijdt men verantwoording voor eventuele negatieve gevolgen die voortvloeien uit een bepaalde keuze. Naast de angst voor verantwoording is een andere zorg spijt na de beslissing – spijt van een beslissing na het verkrijgen van aanvullende informatie. Dergelijke personen hebben de neiging om zich alternatieve realiteiten voor te stellen waarin verschillende keuzes mogelijk gunstigere resultaten zouden hebben opgeleverd.
• Keuzeverlamming: Moeite met het selecteren uit een veelvoud aan opties, vooral wanneer keuzes offers met zich meebrengen. In dergelijke gevallen is het belangrijkste principe om de minst schadelijke beslissing te nemen – het kiezen van het minste van twee kwaden. Dit is echter gemakkelijker gezegd dan gedaan. Menselijke besluitvorming is vaak verweven met emotionele factoren, wat het fenomeen posttraumatische stressstoornis (PTSS) bij veteranen verklaart. Psychologisch conflict is het meest acuut wanneer conflicterende waarden botsen, zoals geïllustreerd door het klassieke dilemma van kiezen tussen loyaliteit en kinderlijke vroomheid. Het ideale scenario is om iemands acties af te stemmen op diepgewortelde waarden, maar vaak worden individuen gedwongen om beslissingen te nemen op basis van externe waardeoordelen, wat resulteert in ernstige psychologische nood.
• Uitgestelde Uitvoering: Een buitensporige vertraging tussen beslissing en actie. Parachutisten zullen bevestigen dat het moment van de grootste besluiteloosheid zich voordoet wanneer men op het punt staat te springen, maar nog steeds de optie heeft om zich terug te trekken. Dit fenomeen is alomtegenwoordig bij veel levensveranderende beslissingen. Een vrouw die gevangen zit in een ongelukkig huwelijk, kan overwegen te scheiden nadat haar kinderen zijn opgegroeid en het huis hebben verlaten. Ze kan eindeloos deugden en gebreken van haar man met haar vertrouwelingen bespreken, als een gebroken plaat, herhaaldelijk beraadslagen zonder actie te ondernemen. Het tegenovergestelde hiervan is de Fear of Missing Out (FOMO), die leidt tot overhaaste beslissingen, gedreven door de angst om achter te blijven, wat vaak resulteert in mislukking.

Het STAR-Raamwerk voor Strategische Besluitvorming

Dus, wat kan er worden gedaan om deze obstakels te overwinnen? ‘Decision Time’ stelt het STAR-raamwerk voor, een acroniem dat omvat:

• Scenario: Het cultiveren van situationeel bewustzijn omvat eerst het identificeren van wat er is gebeurd, vervolgens het begrijpen van waarom het is gebeurd en ten slotte het voorspellen van wat er waarschijnlijk zal gebeuren. Waarom hebben doorgewinterde brandweerlieden een intuïtief begrip van brandsituaties? Omdat ze talloze scenario’s zijn tegengekomen en snel gebruik kunnen maken van hun ervaring om gezonde oordelen te vellen en onmiddellijk actie te ondernemen. Malcolm Gladwell onderzoekt vergelijkbare voorbeelden in ‘Blink: The Power of Thinking Without Thinking’.
• Timing: Het element ‘timing’ behandelt het belang van handelen binnen een redelijk tijdsbestek. Het gezegde dat beraadslaging tot inactiviteit leidt, is hier van toepassing. Een nuttige analogie is de foxtrot, met zijn ‘langzaam, langzaam, snel, snel’-ritme. In de beginfase van de besluitvorming is het verstandig om voorzichtig te werk te gaan, impulsiviteit te vermijden en te weerstaan om uitsluitend op intuïtie te vertrouwen. Streef er in plaats daarvan naar om voldoende informatie te verkrijgen. In de latere stadia van uitvoering is snelle actie echter van het grootste belang, aangezien perfecte informatie onbereikbaar is en de marginale voordelen van langdurige informatieverzameling afnemen.
• Aannames: Een duidelijke articulatie van aannames is cruciaal. Vaak hebben individuen de neiging om selectief informatie waar te nemen die aansluit bij hun vooropgezette ideeën, terwijl ze tegenstrijdig bewijs en alternatieve mogelijkheden negeren. De aanval van Hamas op Israël in 2023 legde een falen in strategische aannames bloot. Israëlische leiders, van premier Netanyahu tot militaire en inlichtingenofficieren, zagen de aanval niet aankomen. Dit was niet te wijten aan een gebrek aan vroege waarschuwingssignalen, maar eerder aan een falen om de mogelijkheid van zo’n gebeurtenis adequaat te overwegen. Wat we ervoor kiezen te geloven is vaak minder belangrijk dan wat we ervoor kiezen ons voor te stellen.
• Revisie: Het vermogen om voortdurend aan te passen en aan te passen is essentieel. In sommige gevallen zijn veerkracht en onwrikbare volharding vereist – angst voor falen mag iemand er niet van weerhouden om significante inspanningen te proberen. In andere gevallen zijn tijdige aanpassingen en het vermogen om verliezen te beperken noodzakelijk om te voorkomen dat verzonken kosten latere keuzes beïnvloeden. De uitdaging ligt echter in het onderscheiden van de manier om dergelijke oordelen te vellen in ambigue situaties. Veelvoorkomende valkuilen zijn een gebrek aan volharding, wat leidt tot gemiste kansen, of buitensporige volharding, wat resulteert in het verspillen van middelen.

Integratie van AI in het Besluitvormingsproces

Na het STAR-raamwerk te hebben onderzocht, is het nu cruciaal om de implicaties ervan voor AI te overwegen en hoe machines onze besluitvormingsmogelijkheden kunnen verbeteren. Dit brengt ons terug naar de oorspronkelijke vraag: Kunnen we alle beslissingen toevertrouwen aan AGI?

In de komende jaren zal AI het werk steeds meer modulariseren. Veel taken zullen gezamenlijk worden uitgevoerd door mensen en machines, waarbij elk hun respectievelijke sterke punten benut op vier belangrijke gebieden:

1. Complexiteit: Hoe hoger de complexiteit, hoe groter het menselijk vermogen om zich aan te passen. Complexiteit manifesteert zich in twee dimensies: onzekerheid (onvolledige informatie) en de afwezigheid van duidelijke of optimale keuzes. Ervaren personen kunnen gedurfde beslissingen nemen, zelfs als er weinig informatie beschikbaar is. Mensen bezitten de autonomie om afwegingen te maken en waardeoordelen te vellen.
2. Frequentie: Hoe vaker het voorkomen van vergelijkbare taken, hoe beter machines zijn uitgerust om ze af te handelen. Zelfs in noodsituatiescenario’s kunnen machines leren van ervaren hulpverleners en gezonde keuzes maken, vooral bij het omgaan met hoogfrequente gebeurtenissen zoals auto-ongelukken.
3. Coördinatie: Taken in de echte wereld zijn zelden geïsoleerd. Ze omvatten samenwerking en vereisen uitgebreide communicatie. Elk element van het STAR-raamwerk is afhankelijk van communicatie. De vraag is, kunnen machines de effectiviteit en efficiëntie van communicatie verbeteren? Hoewel menselijke communicatie zijn gebreken heeft, kunnen de informele en ongeplande interacties cruciaal zijn. Kunnen machines die nuances begrijpen?
4. Kosten van Falen: Wat zijn de kosten van falen, vooral wanneer AI een fout maakt? In organisaties is verantwoording cruciaal. Zelfs bij het promoten van AI-toepassingen moeten besluitvormers rekening houden met de potentiële kosten van falen.

Hoe AI de Besluitvorming Kan Verbeteren

AI kan op drie belangrijke manieren helpen:

1. Het Doorbreken van Cognitieve Knopen: AI blinkt uit in het verwerken van enorme hoeveelheden gegevens, waardoor zorgen over cognitieve overbelasting worden weggenomen. AI kan helpen bij de ‘foxtrot’-dans, waardoor intuïtie en vooroordelen ons begrip van het algehele landschap niet beperken.
2. Het Benutten van Collectieve Intelligentie: AI kan oordelen uit verschillende bronnen samenvoegen en beslissingsondersteuning bieden aan beginners.
3. Het Verminderen van Psychologische Zwakheden: AI kan actiebegeleiding bieden en helpen bij het definiëren van duidelijke regels en processen, waardoor een deel van de psychologische last wordt verlicht. In situaties waarin daadkrachtig handelen vereist is, kan AI de leiding nemen.

Machines worstelen nog steeds met complexe situaties zonder definitieve antwoorden en keuzes op basis van autonomie en waardeoordelen. Ze worstelen ook met nuances en afwegingen. Uiteindelijk ligt de uiteindelijke beslissing bij mensen. We kunnen leren betere keuzes te maken, waarbij machines dienen als onmisbare bondgenoten.