트롤리 문제와 도덕적 선택의 복잡성
학계에서는 종종 ‘트롤리 문제’를 현실 세계의 윤리적 딜레마에 대한 은유로 사용합니다. 트롤리 문제의 고전적인 버전은 통제 불능의 트롤리가 사람들을 향해 돌진하는 상황을 제시합니다. 트롤리의 방향을 바꾸면 사람들을 구할 수 있지만, 무고한 방관자가 치명적인 부상을 입게 됩니다. 운전자는 어떤 조치를 취해야 할까요? 오래된 격언은 둘 중 더 나쁜 것을 선택하라고 제안하지만, 실제로 그러한 딜레마에 직면했을 때 결정은 결코 간단하지 않습니다. ‘Decision Time’의 저자인 Laurence Alison은 트롤리 문제에 직면했을 때 가장 해로운 결정을 내리기 위해 노력해야 한다고 주장합니다. 여러 가지 선택 사항이 제시될 때 각각 부정적인 결과가 발생하면 피해를 최소화하는 옵션을 선택해야 합니다.
트롤리 문제는 인간이 매일 직면하는 다면적인 과제를 단순화한 표현입니다. 이러한 과제를 해결하려면 도덕적 고려 사항뿐만 아니라 자신의 가치에 대한 심오한 검토도 필요합니다. 우리가 내리는 선택은 우리의 가치 판단을 반영합니다. 서로 다른 개인은 필연적으로 다른 선택을 할 것입니다. 그리고 행동하지 않는 것도 선택이라는 점을 인정하는 것이 중요합니다. 왜냐하면 명확한 답은 거의 없기 때문입니다.
AI 기능의 기하급수적인 발전에 감탄하면서 ‘Decision Time’은 많은 사람들이 복잡하고 중대한 문제에 직면했을 때 결정적인 판단을 내리는 데 어려움을 겪고 있음을 상기시켜줍니다. 역동적인 환경에 직면했을 때 많은 평범한 개인은 장단점을 평가하고, 결정적으로 행동하고, 시기적절하게 방향을 수정할 능력이 부족합니다. 기계가 어떻게 더 잘할 수 있을까요? 이것은 기계가 인간의 능력을 능가할 수 없다는 것을 의미하는 것이 아니라 기계가 단순히 인간의 선택을 모방한다면 필연적으로 결함이 있는 결정이 풍부하게 발생할 것임을 강조하기 위한 것입니다. 이러한 ‘결함’ 또는 ‘정확’이라는 개념은 삶의 중요한 결정에 보편적으로 적용 가능한 답이 있다는 것을 의미하는 것이 아니라 일반적인 심리적 함정을 피하기 위해 의사 결정 과정에서 건전한 추론을 사용하는지 여부를 의미합니다.
효과적인 의사 결정의 장벽
변동성, 불완전한 정보 및 시간 제약이 특징인 상황에서 효과적인 의사 결정의 주요 장애물은 무엇일까요? ‘Decision Time’은 세 가지 주요 장애물을 식별합니다.
- 책임 회피에 대한 두려움: 책임을 지는 것을 꺼려 행동하지 않는 결과. 수동적으로 남아 있으면 특정 선택으로 인해 발생하는 불리한 결과에 대한 책임을 회피할 수 있습니다. 책임 회피에 대한 두려움 외에도 또 다른 우려는 의사 결정 후 후회입니다. 추가 정보를 얻은 후 결정을 후회하는 것입니다. 이러한 개인은 종종 다른 선택이 더 유리한 결과를 가져왔을 대체 현실을 상상하는 경향이 있습니다.
- 선택 마비: 특히 선택에 희생이 따르는 경우 다양한 옵션 중에서 선택하는 데 어려움이 있습니다. 이러한 경우 가장 중요한 원칙은 가장 해로운 결정을 내리는 것, 즉 둘 중 더 나쁜 것을 선택하는 것입니다. 그러나 말처럼 쉽지 않습니다. 인간의 의사 결정은 종종 감정적인 요인과 얽혀 있으며, 이는 참전 용사들 사이에서 외상 후 스트레스 장애 (PTSD) 현상을 설명합니다. 심리적 갈등은 충성심과 효도 사이의 고전적인 딜레마에서 예시되는 것처럼 상충되는 가치가 충돌할 때 가장 심각합니다. 이상적인 시나리오는 자신의 행동을 깊이 간직한 가치와 일치시키는 것이지만, 종종 개인은 외부 가치 판단에 따라 결정을 내려야하며, 심각한 심리적 고통을 초래합니다.
- 실행 지연: 결정과 행동 사이의 과도한 지연. 낙하산 부대원은 뛰어내릴 준비가 되었지만 여전히 후퇴할 수 있는 옵션이 있을 때 가장 큰 우유부단함의 순간이 발생한다고 증언할 것입니다. 이 현상은 많은 인생을 바꾸는 결정에 만연해 있습니다. 불행한 결혼 생활에 갇힌 여성은 자녀가 자라서 집을 떠난 후 이혼을 고려할 수 있습니다. 그녀는 남편의 장점과 단점에 대해 끊임없이 친한 친구와 논의 할 수 있으며, 고장난 레코드와 비슷하게 행동없이 반복적으로 숙고합니다. 이것의 반대는 뒤쳐질 것에 대한 불안감에 의해 촉발된 성급한 결정으로 이어지는 놓치는 것에 대한 두려움 (FOMO)이며, 종종 실패로 이어집니다.
전략적 의사 결정을위한 STAR 프레임워크
그렇다면 이러한 장애물을 극복하기 위해 무엇을 할 수 있을까요? ‘Decision Time’은 STAR 프레임워크를 제안합니다. 이는 다음을 포함하는 약어입니다.
- 시나리오: 상황 인식을 함양하는 것은 먼저 무슨 일이 일어났는지 식별하고, 왜 발생했는지 이해하고, 마지막으로 다음에 발생할 가능성이 있는 일을 예측하는 것을 포함합니다. 노련한 소방관은 왜 화재 상황에 대한 직관적인 이해를 가지고 있을까요? 왜냐하면 그들은 수많은 시나리오를 겪었고 자신의 경험을 신속하게 활용하여 건전한 판단을 내리고 즉시 조치를 취할 수 있기 때문입니다. Malcolm Gladwell은 ‘Blink: 생각없이 생각하는 힘’에서 유사한 예를 탐구합니다.
- 타이밍: ‘타이밍’ 요소는 합리적인 시간내에 행동하는 것의 중요성을 다룹니다. 숙고는 행동하지 않음으로 이어진다는 격언이 여기에 적용됩니다. 유용한 비유는 ‘느리게, 느리게, 빠르게, 빠르게’ 리듬을 가진 폭스트롯입니다. 의사 결정의 초기 단계에서는 신중하게 진행하고, 충동성을 피하고, 직감에만 의존하는 것을 자제하는 것이 현명합니다. 대신 충분한 정보를 얻기 위해 노력하십시오. 그러나 실행의 후반 단계에서는 완벽한 정보를 얻을 수 없고, 장기간 정보 수집의 한계 이점이 감소함에 따라 신속한 조치가 가장 중요합니다.
- 가정: 가정에 대한 명확한 설명은 매우 중요합니다. 종종 개인은 자신의 선입견과 일치하는 정보를 선택적으로 인식하는 경향이 있는 반면, 모순되는 증거와 대안적인 가능성은 무시합니다. 2023년 하마스의 이스라엘 공격은 전략적 가정의 실패를 드러냈습니다. 네타냐후 총리부터 군 및 정보 관계자에 이르기까지 이스라엘 지도자들은 공격을 예상하지 못했습니다. 이는 조기 경고 신호가 부족해서가 아니라 그러한 사건의 가능성을 적절히 고려하지 못했기 때문입니다. 우리가 믿기로 선택하는 것은 종종 우리가 상상하기로 선택하는 것보다 덜 중요합니다.
- 수정: 지속적으로 조정하고 적응하는 능력은 필수적입니다. 어떤 경우에는 회복력과 흔들리지 않는 끈기가 필요합니다. 실패에 대한 두려움은 중요한 노력을 시도하는 것을 막아서는 안됩니다. 다른 경우에는 시기적절한 조정과 손실을 줄이는 능력이 매몰 비용이 후속 선택에 영향을 미치지 않도록 방지하는 데 필요합니다. 그러나 어려운 점은 모호한 상황에서 그러한 판단을 내리는 방법을 식별하는 데 있습니다. 일반적인 함정으로는 끈기 부족으로 인해 기회를 놓치거나 과도한 끈기로 인해 자원을 낭비하는 경우가 있습니다.
의사 결정 프로세스에 AI 통합
STAR 프레임워크를 검토했으므로 AI에 대한 영향과 기계가 의사 결정 능력을 향상시킬 수 있는 방법을 고려하는 것이 중요합니다. 이는 우리를 원래 질문으로 되돌립니다. AGI에 모든 결정을 맡길 수 있을까요?
향후 몇 년 동안 AI는 점점 더 모듈화된 작업을 수행할 것입니다. 많은 작업이 인간과 기계에 의해 공동으로 실행될 것이며, 각 작업은 네 가지 주요 영역에서 각각의 강점을 활용합니다.
- 복잡성: 복잡성이 높을수록 인간의 적응 능력이 커집니다. 복잡성은 불확실성(불완전한 정보)과 명확하거나 최적의 선택이 없는 두 가지 차원에서 나타납니다. 경험이 풍부한 개인은 정보가 부족할 때도 과감한 결정을 내릴 수 있습니다. 인간은 장단점을 따져보고 가치 판단을 내릴 수 있는 자율성을 가지고 있습니다.
- 빈도: 유사한 작업의 발생 빈도가 높을수록 기계는 더 잘 처리할 수 있습니다. 응급 파견 시나리오에서도 기계는 경험이 풍부한 응급 구조대원으로부터 배우고, 특히 자동차 사고와 같은 고빈도 사건을 처리할 때 건전한 선택을 할 수 있습니다.
- 조정: 실제 작업은 드물게 격리됩니다. 협업이 필요하고 광범위한 커뮤니케이션이 필요합니다. STAR 프레임워크의 각 요소는 커뮤니케이션에 의존합니다. 문제는 기계가 커뮤니케이션 효과와 효율성을 향상시킬 수 있는지 여부입니다. 인간의 커뮤니케이션에는 결함이 있지만 비공식적이고 계획되지 않은 상호 작용이 중요할 수 있습니다. 기계가 이러한 뉘앙스를 이해할 수 있을까요?
- 실패 비용: 특히 AI가 오류를 범할 때 실패 비용은 얼마일까요? 조직에서 책임은 매우 중요합니다. AI 애플리케이션을 홍보할 때도 의사 결정자는 잠재적인 실패 비용을 고려해야 합니다.
AI가 의사 결정을 향상시킬 수 있는 방법
AI는 세 가지 주요 방법으로 지원할 수 있습니다.
- 인지적 병목 현상 해소: AI는 방대한 양의 데이터를 처리하는 데 탁월하여 인지적 과부하에 대한 우려를 완화합니다. AI는 ‘폭스트롯’ 춤을 지원하여 직관과 편견이 전반적인 풍경에 대한 이해를 제한하지 못하도록 방지합니다.
- 집단 지성 활용: AI는 다양한 출처의 판단을 집계하여 초보자를 위한 의사 결정 지원을 제공할 수 있습니다.
- 심리적 약점 완화: AI는 행동 지침을 제공하고 명확한 규칙과 프로세스를 정의하는 데 도움이 되어 일부 심리적 부담을 완화할 수 있습니다. 결정적인 조치가 필요한 상황에서 AI는 고삐를 잡을 수 있습니다.
기계는 여전히 명확한 답과 자율성 및 가치 판단에 기반한 선택이 없는 복잡한 상황에 어려움을 겪고 있습니다. 또한 뉘앙스와 절충안에도 어려움을 겪고 있습니다. 궁극적으로 최종 결정은 인간에게 달려 있습니다. 기계를 필수적인 동맹자로 삼아 더 나은 선택을 하는 방법을 배울 수 있습니다.