Có Nên Giao Quyền Quyết Định Cho AGI?

Trong bối cảnh đầy biến động, thông tin không đầy đủ và thời gian suy nghĩ hạn chế, điều gì tạo nên tội lỗi lớn nhất trong việc ra quyết định? Hoặc, những trở ngại đáng kể nào cản trở việc ra quyết định hiệu quả? ‘Thời Gian Quyết Định’ cung cấp một phân tích toàn diện về những câu hỏi này từ nhiều góc độ.

Sự ra đời của Trí Tuệ Nhân Tạo Tổng Quát (AGI) đang sẵn sàng cách mạng hóa nhiều lĩnh vực, và trong vài năm tới, có thể hình dung rằng AGI có thể thay thế phần lớn nhân viên trung tâm cuộc gọi, chỉ để lại một lực lượng lao động khung để giải quyết các vấn đề đặc biệt mà máy móc không thể giải quyết. Trong kỷ nguyên đang phát triển của AGI, dự đoán này hầu như không có vẻ gì là cấp tiến. Tuy nhiên, một câu hỏi thích hợp hơn đặt ra: AGI có thể thay thế hiệu quả người điều phối khẩn cấp hoặc nhân viên dịch vụ y tế khẩn cấp không? Trước khi trả lời, chúng ta phải đi sâu hơn vào sự phức tạp của một đề xuất như vậy. Những người ứng phó khẩn cấp phải đối mặt với vô số tình huống độc đáo và phát triển nhanh chóng, đòi hỏi đánh giá và phán đoán nhanh chóng. Chúng ta có thể tự tin ủy thác những quyết định quan trọng như vậy cho máy móc không?

Vấn Đề Xe Điện và Sự Phức Tạp Của Các Lựa Chọn Đạo Đức

Các học giả thường sử dụng ‘vấn đề xe điện’ như một phép ẩn dụ cho những tình huống khó xử về đạo đức vốn có trong những khó khăn thực tế. Phiên bản cổ điển của vấn đề xe điện liên quan đến một chiếc xe điện mất kiểm soát lao về phía một nhóm người. Bằng cách chuyển hướng xe điện, nhóm có thể được cứu, nhưng một người ngoài cuộc vô tội sẽ bị đánh chết. Nên hành động như thế nào? Câu ngạn ngữ lâu đời cho rằng nên chọn điều ít xấu hơn trong hai điều xấu, nhưng khi đối mặt với một tình huống khó xử như vậy trong thực tế, quyết định hiếm khi đơn giản. Trong ‘Thời Gian Quyết Định’, tác giả Laurence Alison cho rằng khi đối mặt với vấn đề xe điện, người ta nên cố gắng đưa ra quyết định ít gây tổn hại nhất. Khi được trình bày với nhiều lựa chọn, mỗi lựa chọn mang lại kết quả bất lợi, mục tiêu là chọn lựa chọn gây ra ít tổn hại nhất.

Vấn đề xe điện đóng vai trò như một đại diện đơn giản cho những thách thức nhiều mặt mà con người gặp phải hàng ngày. Vượt qua những thách thức này không chỉ liên quan đến các cân nhắc về đạo đức mà còn là một cuộc kiểm tra sâu sắc về các giá trị của một người. Những lựa chọn chúng ta đưa ra phản ánh các phán đoán giá trị của chúng ta. Những cá nhân khác nhau chắc chắn sẽ đưa ra những lựa chọn khác nhau - và điều quan trọng là phải thừa nhận rằng không hành động cũng là một lựa chọn - bởi vì hiếm khi có câu trả lời dứt khoát.

Khi chúng ta kinh ngạc trước sự tiến bộ theo cấp số nhân của khả năng AI, ‘Thời Gian Quyết Định’ nhắc nhở chúng ta rằng nhiều cá nhân phải vật lộn để đưa ra các phán đoán quyết định khi đối mặt với các vấn đề phức tạp và hệ quả. Đối mặt với môi trường năng động, nhiều cá nhân bình thường thiếu khả năng cân nhắc ưu và nhược điểm, hành động quyết đoán và thực hiện các điều chỉnh khóa học kịp thời. Làm thế nào chúng ta có thể mong đợi máy móc làm tốt hơn? Điều này không có nghĩa là máy móc không thể vượt qua khả năng của con người, mà là để nhấn mạnh rằng nếu máy móc chỉ đơn thuần mô phỏng các lựa chọn của con người, chúng chắc chắn sẽ gặp phải vô số quyết định sai lầm. Quan niệm về ‘sai sót’ hoặc ‘chính xác’ này không ngụ ý rằng có những câu trả lời được áp dụng phổ quát cho các quyết định quan trọng của cuộc sống, mà là liệu chúng ta có sử dụng lý luận hợp lý trong các quy trình ra quyết định của mình để tránh những cạm bẫy tâm lý phổ biến hay không.

Các Rào Cản Đối Với Việc Ra Quyết Định Hiệu Quả

Trong các tình huống được đặc trưng bởi sự biến động, thông tin không đầy đủ và hạn chế về thời gian, những trở ngại chính đối với việc ra quyết định hiệu quả là gì? ‘Thời Gian Quyết Định’ xác định ba trở ngại chính:

  • Sợ Trách Nhiệm: Ám ảnh việc chịu trách nhiệm, dẫn đến không hành động. Bằng cách giữ thái độ thụ động, người ta tránh chịu trách nhiệm về bất kỳ hậu quả bất lợi nào phát sinh từ một lựa chọn cụ thể. Ngoài nỗi sợ trách nhiệm, một mối quan tâm khác là sự hối tiếc sau quyết định - hối tiếc một quyết định sau khi có thêm thông tin. Những cá nhân như vậy có xu hướng hình dung ra những thực tế thay thế, nơi những lựa chọn khác có thể mang lại kết quả thuận lợi hơn.
  • Tê Liệt Lựa Chọn: Khó khăn trong việc lựa chọn từ vô số lựa chọn, đặc biệt khi các lựa chọn đòi hỏi sự hy sinh. Trong những trường hợp như vậy, nguyên tắc tối quan trọng là đưa ra quyết định ít gây tổn hại nhất - chọn điều ít xấu hơn trong hai điều xấu. Tuy nhiên, nói dễ hơn làm. Việc ra quyết định của con người thường gắn liền với các yếu tố cảm xúc, điều này giải thích hiện tượng rối loạn căng thẳng sau chấn thương (PTSD) ở các cựu chiến binh. Xung đột tâm lý trở nên gay gắt nhất khi các giá trị xung đột xung đột, như được minh họa bằng tình huống khó xử cổ điển khi lựa chọn giữa lòng trung thành và lòng hiếu thảo. Kịch bản lý tưởng là điều chỉnh hành động của một người với các giá trị được nắm giữ sâu sắc, nhưng thường thì các cá nhân bị buộc phải đưa ra quyết định dựa trên các phán đoán giá trị bên ngoài, dẫn đến đau khổ tâm lý nghiêm trọng.
  • Thực Thi Chậm Trễ: Sự chậm trễ quá mức giữa quyết định và hành động. Những người nhảy dù sẽ chứng thực rằng khoảnh khắc do dự lớn nhất xảy ra khi một người sẵn sàng nhảy nhưng vẫn có tùy chọn rút lui. Hiện tượng này lan rộng trong nhiều quyết định thay đổi cuộc sống. Một người phụ nữ bị mắc kẹt trong một cuộc hôn nhân không hạnh phúc có thể cân nhắc ly hôn sau khi con cái của cô ấy lớn lên và rời khỏi nhà. Cô ấy có thể thảo luận vô tận về những đức tính và khuyết điểm của chồng mình với những người bạn tâm giao của cô ấy, giống như một bản thu âm bị hỏng, liên tục cân nhắc mà không hành động. Điều trái ngược với điều này là Nỗi Sợ Bỏ Lỡ (FOMO), dẫn đến những quyết định vội vàng do lo lắng bị bỏ lại phía sau, thường dẫn đến thất bại.

Khuôn Khổ NGÔI SAO Để Ra Quyết Định Chiến Lược

Vậy, có thể làm gì để vượt qua những trở ngại này? ‘Thời Gian Quyết Định’ đề xuất khuôn khổ NGÔI SAO, một từ viết tắt bao gồm:

  • Tình Huống: Trau dồi nhận thức về tình huống liên quan đến việc đầu tiên xác định những gì đã xảy ra, sau đó hiểu tại sao nó xảy ra và cuối cùng, dự đoán những gì có khả năng xảy ra tiếp theo. Tại sao những lính cứu hỏa dày dạn kinh nghiệm lại có sự hiểu biết trực quan về các tình huống hỏa hoạn? Bởi vì họ đã gặp vô số tình huống và có thể nhanh chóng rút ra kinh nghiệm của mình để đưa ra các phán đoán đúng đắn và hành động ngay lập tức. Malcolm Gladwell khám phá những ví dụ tương tự trong ‘Blink: Sức Mạnh Của Tư Duy Không Cần Suy Nghĩ’.
  • Thời Gian: Yếu tố ‘thời gian’ đề cập đến tầm quan trọng của việc hành động trong một khung thời gian hợp lý. Câu ngạn ngữ rằng cân nhắc dẫn đến không hành động áp dụng ở đây. Một phép loại suy hữu ích là foxtrot, với nhịp điệu ‘chậm, chậm, nhanh, nhanh’ của nó. Trong các giai đoạn ban đầu của việc ra quyết định, nên thận trọng tiến hành, tránh bốc đồng và chống lại việc chỉ dựa vào trực giác. Thay vào đó, hãy cố gắng thu thập nhiều thông tin. Tuy nhiên, trong các giai đoạn sau của việc thực hiện, hành động nhanh chóng là tối quan trọng, vì không thể có được thông tin hoàn hảo và lợi ích cận biên của việc thu thập thông tin kéo dài sẽ giảm đi.
  • Giả Định: Một sự trình bày rõ ràng về các giả định là rất quan trọng. Thông thường, các cá nhân có xu hướng chọn lọc thông tin phù hợp với các khái niệm định sẵn của họ, đồng thời bỏ qua các bằng chứng mâu thuẫn và các khả năng thay thế. Cuộc tấn công Hamas năm 2023 vào Israel đã phơi bày một sự thất bại trong các giả định chiến lược. Các nhà lãnh đạo Israel, từ Thủ tướng Netanyahu đến các quan chức quân sự và tình báo, đã không lường trước được cuộc tấn công. Điều này không phải do thiếu các tín hiệu cảnh báo sớm, mà là do không xem xét đầy đủ khả năng của một sự kiện như vậy. Những gì chúng ta chọn tin thường ít quan trọng hơn những gì chúng ta chọn tưởng tượng.
  • Sửa Đổi: Khả năng liên tục điều chỉnh và thích ứng là rất cần thiết. Trong một số trường hợp, khả năng phục hồi và sự kiên trì không ngừng là cần thiết - nỗi sợ thất bại không nên ngăn cản một người cố gắng thực hiện những nỗ lực quan trọng. Trong các trường hợp khác, việc điều chỉnh kịp thời và khả năng cắt lỗ là cần thiết để ngăn chi phí chìm ảnh hưởng đến các lựa chọn tiếp theo. Tuy nhiên, thách thức nằm ở việc phân biệt cách đưa ra những phán đoán như vậy trong các tình huống mơ hồ. Những cạm bẫy phổ biến bao gồm thiếu sự kiên trì, dẫn đến bỏ lỡ các cơ hội hoặc sự kiên trì quá mức, dẫn đến lãng phí tài nguyên.

Tích Hợp AI Vào Quy Trình Ra Quyết Định

Sau khi kiểm tra khuôn khổ NGÔI SAO, bây giờ điều quan trọng là phải xem xét các tác động của nó đối với AI và cách máy móc có thể nâng cao khả năng ra quyết định của chúng ta. Điều này đưa chúng ta trở lại câu hỏi ban đầu: Chúng ta có thể giao tất cả các quyết định cho AGI không?

Trong những năm tới, AI sẽ ngày càng mô-đun hóa công việc. Nhiều nhiệm vụ sẽ được đồng thực hiện bởi con người và máy móc, với mỗi bên tận dụng các điểm mạnh tương ứng của họ trong bốn lĩnh vực chính:

  1. Độ Phức Tạp: Độ phức tạp càng cao, khả năng thích ứng của con người càng lớn. Độ phức tạp biểu hiện ở hai chiều: sự không chắc chắn (thông tin không đầy đủ) và sự vắng mặt của các lựa chọn rõ ràng hoặc tối ưu. Những cá nhân có kinh nghiệm có thể đưa ra những quyết định táo bạo ngay cả khi thông tin khan hiếm. Con người có quyền tự chủ để cân nhắc sự đánh đổi và đưa ra các phán đoán giá trị.
  2. Tần Suất: Tần suất xảy ra các nhiệm vụ tương tự càng nhiều, máy móc càng được trang bị tốt hơn để xử lý chúng. Ngay cả trong các tình huống điều phối khẩn cấp, máy móc có thể học hỏi từ những người ứng phó có kinh nghiệm và đưa ra những lựa chọn đúng đắn, đặc biệt khi đối phó với các sự kiện có tần suất cao như tai nạn xe hơi.
  3. Phối Hợp: Các nhiệm vụ trong thế giới thực hiếm khi bị cô lập. Chúng liên quan đến sự hợp tác và yêu cầu giao tiếp rộng rãi. Mỗi yếu tố của khung NGÔI SAO đều dựa trên giao tiếp. Câu hỏi đặt ra là, liệu máy móc có thể nâng cao hiệu quả và hiệu quả giao tiếp hay không? Mặc dù giao tiếp của con người có những thiếu sót, nhưng các tương tác không chính thức và không có kế hoạch có thể rất quan trọng. Máy móc có thể hiểu được những sắc thái đó không?
  4. Chi Phí Thất Bại: Chi phí thất bại là gì, đặc biệt khi AI gây ra lỗi? Trong các tổ chức, trách nhiệm giải trình là rất quan trọng. Ngay cả khi quảng bá các ứng dụng AI, những người ra quyết định phải xem xét chi phí tiềm ẩn của sự thất bại.

Cách AI Có Thể Nâng Cao Việc Ra Quyết Định

AI có thể hỗ trợ theo ba cách chính:

  1. Phá Vỡ Các Nút Thắt Cổ Chai Nhận Thức: AI vượt trội trong việc xử lý lượng lớn dữ liệu, giảm bớt lo ngại về quá tải nhận thức. AI có thể hỗ trợ trong điệu nhảy ‘foxtrot’, ngăn trực giác và thành kiến hạn chế sự hiểu biết của chúng ta về bối cảnh tổng thể.
  2. Khai Thác Trí Tuệ Tập Thể: AI có thể tổng hợp các phán đoán từ nhiều nguồn khác nhau, cung cấp hỗ trợ quyết định cho người mới bắt đầu.
  3. Giảm Thiểu Điểm Yếu Tâm Lý: AI có thể cung cấp hướng dẫn hành động và hỗ trợ xác định các quy tắc và quy trình rõ ràng, giảm bớt một số gánh nặng tâm lý. Trong các tình huống cần hành động quyết đoán, AI có thể nắm quyền.

Máy móc vẫn phải vật lộn với các tình huống phức tạp thiếu câu trả lời dứt khoát và các lựa chọn dựa trên quyền tự chủ và phán đoán giá trị. Chúng cũng phải vật lộn với các sắc thái và sự đánh đổi. Cuối cùng, quyết định cuối cùng thuộc về con người. Chúng ta có thể học cách đưa ra những lựa chọn tốt hơn, với máy móc đóng vai trò là đồng minh không thể thiếu.