Проблема вагонетки и сложность морального выбора
Академики часто используют ‘проблему вагонетки’ в качестве метафоры этических дилемм, присущих реальным проблемам. Классическое представление проблемы вагонетки включает в себя неуправляемую вагонетку, несущуюся на группу людей. Отклонив вагонетку, группу можно спасти, но невинный прохожий будет смертельно сбит. Какой курс действий должен предпринять водитель? Старая поговорка предлагает выбирать меньшее из двух зол, но, столкнувшись с такой дилеммой в реальности, решение редко бывает простым. В книге ‘Decision Time’ автор Лоуренс Элисон утверждает, что перед лицом проблемы вагонетки следует стремиться к принятию наименее вредного решения. Когда представлены несколько вариантов, каждый из которых приводит к неблагоприятным результатам, целью должно быть выбор варианта, который наносит наименьший вред.
Проблема вагонетки служит упрощенным представлением многогранных проблем, с которыми люди сталкиваются ежедневно. Преодоление этих проблем включает в себя не только моральные соображения, но и глубокое изучение своих ценностей. Выбор, который мы делаем, отражает наши ценностные суждения. Разные люди неизменно будут делать разный выбор – и крайне важно признать, что бездействие – это тоже выбор – потому что редко бывают однозначные ответы.
По мере того, как мы восхищаемся экспоненциальным развитием возможностей ИИ, ‘Decision Time’ напоминает нам, что многим людям трудно принимать решительные суждения, когда они сталкиваются со сложными и важными вопросами. Столкнувшись с динамичной средой, многие обычные люди не обладают способностью взвешивать все за и против, действовать решительно и своевременно вносить коррективы. Как мы можем ожидать, что машины справятся с этим лучше? Это не говорит о том, что машины не могут превзойти человеческие возможности, а скорее подчеркивает, что если машины просто имитируют человеческий выбор, они неизбежно столкнутся с обилием ошибочных решений. Это понятие ‘ошибочного’ или ‘правильного’ не подразумевает, что существуют универсальные ответы на важные жизненные решения, а скорее то, используем ли мы здравые рассуждения в наших процессах принятия решений, чтобы избежать распространенных психологических ловушек.
Барьеры для эффективного принятия решений
В ситуациях, характеризующихся нестабильностью, неполной информацией и временными ограничениями, каковы ключевые препятствия для эффективного принятия решений? ‘Decision Time’ выделяет три основных препятствия:
- Страх ответственности: Отвращение к принятию ответственности, приводящее к бездействию. Оставаясь пассивным, человек избегает ответственности за любые неблагоприятные последствия, вытекающие из определенного выбора. В дополнение к страху ответственности, еще одной проблемой является сожаление после принятия решения – сожаление о решении после получения дополнительной информации. Такие люди склонны представлять альтернативные реальности, в которых другой выбор мог бы привести к более благоприятным результатам.
- Паралич выбора: Трудность в выборе из множества вариантов, особенно когда выбор влечет за собой жертву. В таких случаях главным принципом является принятие наименее вредного решения – выбор меньшего из двух зол. Однако это легче сказать, чем сделать. Человеческое принятие решений часто переплетается с эмоциональными факторами, что объясняет феномен посттравматического стрессового расстройства (ПТСР) среди ветеранов. Психологический конфликт наиболее острый, когда сталкиваются противоречивые ценности, как это показано в классической дилемме выбора между верностью и сыновней почтительностью. Идеальный сценарий – согласовать свои действия с глубоко укоренившимися ценностями, но часто люди вынуждены принимать решения на основе внешних ценностных суждений, что приводит к серьезному психологическому стрессу.
- Задержка исполнения: Чрезмерная задержка между решением и действием. Парашютисты подтвердят, что момент наибольшего нерешительности наступает тогда, когда человек готов прыгнуть, но все еще имеет возможность отступить. Это явление широко распространено во многих жизненно важных решениях. Женщина, попавшая в несчастливый брак, может задуматься о разводе после того, как ее дети вырастут и покинут дом. Она может бесконечно обсуждать достоинства и недостатки своего мужа со своими доверенными лицами, напоминая сломанную пластинку, неоднократно обдумывая, не предпринимая никаких действий. Антитезом этого является страх упустить выгоду (FOMO), который приводит к поспешным решениям, вызванным тревогой остаться позади, что часто приводит к неудаче.
Структура STAR для стратегического принятия решений
Итак, что можно сделать, чтобы преодолеть эти препятствия? ‘Decision Time’ предлагает структуру STAR, аббревиатуру, включающую в себя:
- Сценарий (Scenario): Развитие ситуационной осведомленности включает в себя сначала определение того, что произошло, затем понимание того, почему это произошло, и, наконец, прогнозирование того, что, вероятно, произойдет дальше. Почему опытные пожарные обладают интуитивным пониманием пожарных ситуаций? Потому что они сталкивались с многочисленными сценариями и могут быстро использовать свой опыт, чтобы выносить здравые суждения и предпринимать немедленные действия. Малкольм Гладуэлл исследует аналогичные примеры в книге ‘Blink: The Power of Thinking Without Thinking’.
- Время (Timing): Элемент ‘время’ касается важности действий в разумные сроки. Здесь применима поговорка о том, что размышления приводят к бездействию. Полезной аналогией является фокстрот с его ритмом ‘медленно, медленно, быстро, быстро’. На начальных этапах принятия решений благоразумно действовать осторожно, избегать импульсивности и сопротивляться тому, чтобы полагаться исключительно на интуицию. Вместо этого стремитесь получить достаточно информации. Однако на более поздних этапах исполнения быстрое действие имеет первостепенное значение, поскольку идеальная информация недостижима, а предельные выгоды от длительного сбора информации уменьшаются.
- Предположения (Assumptions): Четкая формулировка предположений имеет решающее значение. Часто люди склонны избирательно воспринимать информацию, которая соответствует их предвзятым представлениям, игнорируя противоречивые доказательства и альтернативные возможности. Нападение ХАМАС на Израиль в 2023 году выявило провал в стратегических предположениях. Израильские лидеры, от премьер-министра Нетаньяху до военных и разведывательных чиновников, не предвидели нападения. Это произошло не из-за отсутствия ранних предупреждающих сигналов, а скорее из-за неспособности адекватно рассмотреть возможность такого события. То, во что мы предпочитаем верить, часто менее важно, чем то, что мы предпочитаем воображать.
- Пересмотр (Revision): Способность постоянно корректировать и адаптироваться имеет важное значение. В некоторых случаях требуется устойчивость и непоколебимая настойчивость – страх неудачи не должен удерживать от попыток совершить значительные усилия. В других случаях необходимы своевременные корректировки и способность сократить убытки, чтобы предотвратить влияние невозвратных издержек на последующий выбор. Однако проблема заключается в том, чтобы понять, как выносить такие суждения в неоднозначных ситуациях. Распространенные ловушки включают в себя отсутствие настойчивости, приводящее к упущенным возможностям, или чрезмерную настойчивость, приводящую к растрате ресурсов.
Интеграция ИИ в процесс принятия решений
Рассмотрев структуру STAR, теперь крайне важно рассмотреть ее последствия для ИИ и того, как машины могут улучшить наши возможности принятия решений. Это возвращает нас к первоначальному вопросу: можем ли мы доверить все решения AGI?
В ближайшие годы ИИ будет все больше модулировать работу. Многие задачи будут совместно выполняться людьми и машинами, при этом каждый будет использовать свои сильные стороны в четырех ключевых областях:
- Сложность (Complexity): Чем выше сложность, тем больше способность человека адаптироваться. Сложность проявляется в двух измерениях: неопределенность (неполная информация) и отсутствие четкого или оптимального выбора. Опытные люди могут принимать смелые решения даже тогда, когда информации мало. Люди обладают автономией, чтобы взвешивать компромиссы и выносить ценностные суждения.
- Частота (Frequency): Чем чаще происходят аналогичные задачи, тем лучше машины подготовлены для их обработки. Даже в сценариях экстренной диспетчеризации машины могут учиться у опытных операторов и делать здравый выбор, особенно при работе с частотными событиями, такими как автомобильные аварии.
- Координация (Coordination): Реальные задачи редко бывают изолированными. Они включают в себя сотрудничество и требуют обширного общения. Каждый элемент структуры STAR опирается на общение. Вопрос в том, могут ли машины повысить эффективность и результативность общения? Хотя в человеческом общении есть свои недостатки, неформальные и незапланированные взаимодействия могут иметь решающее значение. Могут ли машины понять эти нюансы?
- Цена ошибки (Cost of Failure): Какова цена ошибки, особенно когда ИИ допускает ошибку? В организациях ответственность имеет решающее значение. Даже при продвижении приложений ИИ лица, принимающие решения, должны учитывать потенциальную цену ошибки.
Как ИИ может улучшить принятие решений
ИИ может помочь тремя ключевыми способами:
- Преодоление когнитивных узких мест: ИИ превосходно справляется с обработкой огромных объемов данных, смягчая опасения по поводу когнитивной перегрузки. ИИ может помочь в танце ‘фокстрот’, не позволяя интуиции и предвзятостям ограничивать наше понимание общей картины.
- Использование коллективного интеллекта: ИИ может агрегировать суждения из различных источников, предоставляя поддержку принятия решений для новичков.
- Смягчение психологических слабостей: ИИ может предоставить руководство по действиям и помочь в определении четких правил и процессов, облегчая некоторое психологическое бремя. В ситуациях, когда требуются решительные действия, ИИ может взять бразды правления в свои руки.
Машины по-прежнему испытывают трудности со сложными ситуациями, в которых отсутствуют однозначные ответы и выбор, основанный на автономии и ценностных суждениях. Они также испытывают трудности с нюансами и компромиссами. В конечном счете, окончательное решение остается за людьми. Мы можем научиться делать лучший выбор, при этом машины будут служить незаменимыми союзниками.