Bolehkah Kita Serahkan Semua Keputusan kepada AGI?

Masalah Troli dan Kerumitan Pilihan Moral

Ahli akademik sering menggunakan ‘masalah troli’ sebagai metafora untuk dilema etika yang wujud dalam permasalahan dunia nyata. Rendisi klasik masalah troli melibatkan sebuah troli yang tidak terkawal menghala ke arah sekumpulan orang. Dengan mengalihkan troli, kumpulan itu dapat diselamatkan, tetapi seorang pejalan kaki yang tidak bersalah akan terbunuh. Apakah tindakan yang harus diambil oleh pemandu? Pepatah lama mencadangkan untuk memilih yang kurang mudarat, namun apabila berhadapan dengan dilema sedemikian dalam realiti, keputusan itu jarang sekali mudah. Dalam ‘Decision Time,’ pengarang Laurence Alison menyatakan bahawa dalam menghadapi masalah troli, seseorang harus berusaha untuk membuat keputusan yang paling kurang merugikan. Apabila dihadapkan dengan pelbagai pilihan, setiap satunya menghasilkan hasil yang buruk, objektifnya haruslah untuk memilih pilihan yang menyebabkan jumlah kemudaratan yang paling sedikit.

Masalah troli berfungsi sebagai perwakilan yang dipermudahkan mengenai cabaran pelbagai aspek yang dihadapi oleh manusia setiap hari. Menavigasi cabaran ini melibatkan bukan sahaja pertimbangan moral tetapi juga pemeriksaan yang mendalam terhadap nilai-nilai seseorang. Pilihan yang kita buat mencerminkan pertimbangan nilai kita. Individu yang berbeza pasti akan membuat pilihan yang berbeza - dan adalah penting untuk mengakui bahawa tidak bertindak juga adalah satu pilihan - kerana jarang sekali terdapat jawapan yang pasti.

Sambil kita mengagumi kemajuan eksponen keupayaan AI, ‘Decision Time’ mengingatkan kita bahawa ramai individu bergelut untuk membuat pertimbangan yang tegas apabila berhadapan dengan perkara yang kompleks dan penting. Dihadapkan dengan persekitaran yang dinamik, ramai individu biasa tidak mempunyai keupayaan untuk menimbang baik dan buruk, bertindak dengan tegas, dan membuat pembetulan haluan yang tepat pada masanya. Bagaimana kita boleh menjangkakan mesin untuk berfungsi dengan lebih baik? Ini bukan untuk mencadangkan bahawa mesin tidak boleh mengatasi keupayaan manusia, tetapi lebih kepada menekankan bahawa jika mesin hanya meniru pilihan manusia, mereka pasti akan menemui banyak keputusan yang cacat. Tanggapan ‘cacat’ atau ‘betul’ ini tidak membayangkan bahawa terdapat jawapan yang boleh digunakan secara universal untuk keputusan penting dalam hidup, tetapi lebih kepada sama ada kita menggunakan penaakulan yang baik dalam proses membuat keputusan kita untuk mengelakkan perangkap psikologi yang biasa.

Halangan kepada Membuat Keputusan yang Berkesan

Dalam situasi yang dicirikan oleh ketidakstabilan, maklumat yang tidak lengkap, dan kekangan masa, apakah halangan utama kepada membuat keputusan yang berkesan? ‘Decision Time’ mengenal pasti tiga halangan utama:

• Ketakutan terhadap Akauntabiliti: Keengganan untuk bertanggungjawab, mengakibatkan tidak bertindak. Dengan kekal pasif, seseorang mengelakkan akauntabiliti untuk sebarang akibat buruk yang timbul daripada pilihan tertentu. Selain daripada ketakutan terhadap akauntabiliti, kebimbangan lain ialah penyesalan selepas keputusan - menyesali keputusan selepas memperoleh maklumat tambahan. Individu sedemikian cenderung untuk membayangkan realiti alternatif di mana pilihan yang berbeza mungkin menghasilkan hasil yang lebih baik.
• Kelumpuhan Pilihan: Kesukaran dalam memilih daripada pelbagai pilihan, terutamanya apabila pilihan melibatkan pengorbanan. Dalam keadaan sedemikian, prinsip yang paling penting ialah membuat keputusan yang paling kurang merugikan - memilih yang kurang mudarat. Walau bagaimanapun, ini lebih mudah diucapkan daripada dilakukan. Membuat keputusan manusia seringkali berkait rapat dengan faktor emosi, yang menjelaskan fenomena gangguan tekanan selepas trauma (PTSD) dalam kalangan veteran. Konflik psikologi adalah paling akut apabila nilai-nilai yang bertentangan bercanggah, seperti yang ditunjukkan oleh dilema klasik memilih antara kesetiaan dan bakti. Senario yang ideal adalah untuk menyelaraskan tindakan seseorang dengan nilai-nilai yang dipegang teguh, tetapi selalunya, individu terpaksa membuat keputusan berdasarkan pertimbangan nilai luaran, mengakibatkan tekanan psikologi yang teruk.
• Pelaksanaan Tertangguh: Kelewatan yang berlebihan antara keputusan dan tindakan. Juruterbang payung terjun akan membuktikan bahawa saat yang paling besar ketidakpastian berlaku apabila seseorang bersedia untuk melompat tetapi masih mempunyai pilihan untuk berundur. Fenomena ini berleluasa dalam banyak keputusan yang mengubah hidup. Seorang wanita yang terperangkap dalam perkahwinan yang tidak bahagia mungkin mempertimbangkan perceraian selepas anak-anaknya telah dewasa dan meninggalkan rumah. Dia mungkin tidak henti-henti membincangkan kebaikan dan keburukan suaminya dengan teman-teman rapatnya, menyerupai rekod yang rosak, berulang kali mempertimbangkan tanpa mengambil tindakan. Antitesis ini ialah Ketakutan Terlepas (FOMO), yang membawa kepada keputusan terburu-buru yang didorong oleh kebimbangan ketinggalan, selalunya mengakibatkan kegagalan.

Rangka Kerja STAR untuk Membuat Keputusan Strategik

Jadi, apakah yang boleh dilakukan untuk mengatasi halangan ini? ‘Decision Time’ mencadangkan rangka kerja STAR, akronim yang merangkumi:

• Senario: Memupuk kesedaran situasi melibatkan pertama sekali mengenal pasti apa yang telah berlaku, kemudian memahami mengapa ia berlaku, dan akhirnya, meramalkan apa yang mungkin berlaku seterusnya. Mengapa anggota bomba yang berpengalaman mempunyai pemahaman intuitif tentang situasi kebakaran? Kerana mereka telah menemui banyak senario dan boleh dengan cepat memanfaatkan pengalaman mereka untuk membuat pertimbangan yang baik dan mengambil tindakan segera. Malcolm Gladwell meneroka contoh yang serupa dalam ‘Blink: The Power of Thinking Without Thinking.’
• Pemasaan: Elemen ‘pemasaan’ menangani kepentingan bertindak dalam tempoh masa yang munasabah. Pepatah bahawa perbincangan membawa kepada tidak bertindak terpakai di sini. Analogi yang berguna ialah foxtrot, dengan ritma ‘perlahan, perlahan, cepat, cepat’nya. Dalam fasa awal membuat keputusan, adalah bijak untuk meneruskan dengan berhati-hati, mengelakkan impulsiviti, dan menahan diri daripada bergantung semata-mata pada intuisi. Sebaliknya, berusaha untuk memperoleh maklumat yang mencukupi. Walau bagaimanapun, dalam peringkat pelaksanaan kemudian, tindakan pantas adalah yang paling penting, kerana maklumat yang sempurna tidak dapat dicapai, dan faedah marginal daripada pengumpulan maklumat yang berpanjangan berkurangan.
• Andaian: Penyataan yang jelas tentang andaian adalah penting. Selalunya, individu cenderung untuk memilih secara terpilih maklumat yang sejajar dengan tanggapan prasangka mereka, sambil mengabaikan bukti yang bercanggah dan kemungkinan alternatif. Serangan Hamas 2023 ke atas Israel mendedahkan kegagalan dalam andaian strategik. Pemimpin Israel, dari Perdana Menteri Netanyahu hinggalah pegawai tentera dan perisikan, gagal menjangkakan serangan itu. Ini bukan disebabkan kekurangan isyarat amaran awal, tetapi lebih kepada kegagalan untuk mempertimbangkan secukupnya kemungkinan kejadian sedemikian. Apa yang kita pilih untuk percayai selalunya kurang penting daripada apa yang kita pilih untuk bayangkan.
• Semakan: Keupayaan untuk terus menyesuaikan diri dan menyesuaikan diri adalah penting. Dalam sesetengah kes, daya tahan dan ketabahan yang tidak berbelah bahagi diperlukan - ketakutan kegagalan tidak seharusnya menghalang seseorang daripada mencuba usaha yang penting. Dalam keadaan lain, pelarasan tepat pada masanya dan keupayaan untuk mengurangkan kerugian adalah perlu untuk mengelakkan kos tenggelam daripada mempengaruhi pilihan berikutnya. Walau bagaimanapun, cabarannya terletak pada menentukan bagaimana untuk membuat pertimbangan sedemikian dalam situasi yang samar-samar. Perangkap biasa termasuk kekurangan ketabahan, yang membawa kepada peluang yang terlepas, atau ketabahan yang berlebihan, mengakibatkan pembaziran sumber.

Mengintegrasikan AI ke dalam Proses Membuat Keputusan

Setelah meneliti rangka kerja STAR, kini adalah penting untuk mempertimbangkan implikasinya terhadap AI dan bagaimana mesin boleh meningkatkan keupayaan membuat keputusan kita. Ini membawa kita kembali kepada soalan asal: Bolehkah kita mempercayakan semua keputusan kepada AGI?

Dalam tahun-tahun akan datang, AI akan semakin memodularkan kerja. Banyak tugas akan dilaksanakan bersama oleh manusia dan mesin, dengan masing-masing memanfaatkan kekuatan masing-masing dalam empat bidang utama:

1. Kerumitan: Semakin tinggi kerumitan, semakin besar keupayaan manusia untuk menyesuaikan diri. Kerumitan menjelma dalam dua dimensi: ketidakpastian (maklumat yang tidak lengkap) dan ketiadaan pilihan yang jelas atau optimum. Individu yang berpengalaman boleh membuat keputusan yang berani walaupun maklumatnya terhad. Manusia mempunyai autonomi untuk menimbang trade-off dan membuat pertimbangan nilai.
2. Kekerapan: Semakin kerap berlakunya tugas yang serupa, semakin baik mesin dilengkapi untuk mengendalikannya. Malah dalam senario penghantaran kecemasan, mesin boleh belajar daripada responden yang berpengalaman dan membuat pilihan yang baik, terutamanya apabila berurusan dengan peristiwa frekuensi tinggi seperti kemalangan kereta.
3. Penyelarasan: Tugas dunia nyata jarang sekali terpencil. Mereka melibatkan kerjasama dan memerlukan komunikasi yang meluas. Setiap elemen rangka kerja STAR bergantung pada komunikasi. Persoalannya ialah, bolehkah mesin meningkatkan keberkesanan dan kecekapan komunikasi? Walaupun komunikasi manusia mempunyai kelemahannya, interaksi tidak formal dan tidak dirancang boleh menjadi penting. Bolehkah mesin memahami nuansa tersebut?
4. Kos Kegagalan: Apakah kos kegagalan, terutamanya apabila AI melakukan kesilapan? Dalam organisasi, akauntabiliti adalah penting. Walaupun ketika mempromosikan aplikasi AI, pembuat keputusan mesti mempertimbangkan potensi kos kegagalan.

Bagaimana AI Boleh Meningkatkan Membuat Keputusan

AI boleh membantu dalam tiga cara utama:

1. Memecahkan Kesesakan Kognitif: AI cemerlang dalam memproses sejumlah besar data, mengurangkan kebimbangan tentang beban kognitif. AI boleh membantu dalam tarian ‘foxtrot,’ menghalang intuisi dan berat sebelah daripada mengehadkan pemahaman kita tentang landskap keseluruhan.
2. Memanfaatkan Kecerdasan Kolektif: AI boleh mengagregatkan pertimbangan daripada pelbagai sumber, menyediakan sokongan keputusan untuk pemula.
3. Mengurangkan Kelemahan Psikologi: AI boleh menyediakan panduan tindakan dan membantu dalam mentakrifkan peraturan dan proses yang jelas, mengurangkan beberapa beban psikologi. Dalam situasi di mana tindakan tegas diperlukan, AI boleh mengambil alih tampuk pemerintahan.

Mesin masih bergelut dengan situasi kompleks yang tidak mempunyai jawapan dan pilihan yang pasti berdasarkan autonomi dan pertimbangan nilai. Mereka juga bergelut dengan nuansa dan trade-off. Akhirnya, keputusan akhir terletak pada manusia. Kita boleh belajar untuk membuat pilihan yang lebih baik, dengan mesin berfungsi sebagai sekutu yang sangat diperlukan.

Di era transformasi AGI, landskap pembuatan keputusan mengalami evolusi yang mendalam. Walaupun AGI berjanji untuk memperkemas proses dan meningkatkan kecekapan, adalah penting untuk menilai dengan teliti implikasi menyerahkan semua keputusan kepada sistem automatik ini. Artikel ini menyelidiki dilema etika, halangan psikologi dan rangka kerja strategik yang berkaitan dengan penyepaduan AGI ke dalam proses membuat keputusan.

Penting untuk disedari bahawa AGI bukan sahaja alat tetapi entiti berpotensi berkuasa yang mampu membuat keputusan yang boleh memberi kesan ketara kepada individu, organisasi dan masyarakat secara keseluruhan. Oleh itu, perlu mempertimbangkan dengan teliti peranan yang harus dimainkan oleh AGI dalam membuat keputusan dan had yang mesti dikenakan untuk memastikan hasil yang bertanggungjawab dan beretika.

Salah satu kebimbangan utama yang berkaitan dengan menyerahkan keputusan kepada AGI ialah kekurangan akauntabiliti dan ketelusan. Apabila AGI membuat keputusan, mungkin sukar untuk memahami sepenuhnya penaakulan di sebalik keputusan tersebut, terutamanya jika sistem itu kompleks dan buram. Kekurangan ketelusan ini boleh membawa kepada ketidakpercayaan dan keraguan, kerana individu mungkin bergelut untuk menerima keputusan yang dibuat oleh AGI tanpa pemahaman yang jelas tentang bagaimana mereka dicapai.

Tambahan pula, terdapat kebimbangan tentang potensi berat sebelah dan diskriminasi dalam sistem AGI. Sistem AGI dilatih pada sejumlah besar data, dan jika data ini berat sebelah atau tidak lengkap, AGI boleh belajar untuk membuat keputusan yang berat sebelah atau tidak adil. Ini amat membimbangkan dalam bidang seperti pengambilan kerja, pinjaman dan keadilan jenayah, di mana keputusan yang berat sebelah boleh memberi kesan yang mendalam kepada kehidupan individu.

Untuk menangani kebimbangan ini, adalah penting untuk membangunkan rangka kerja dan garis panduan yang kukuh untuk penyepaduan AGI ke dalam proses membuat keputusan. Rangka kerja ini harus menangani isu-isu seperti akauntabiliti, ketelusan, berat sebelah dan etika untuk memastikan bahawa AGI digunakan secara bertanggungjawab dan beretika.

Salah satu komponen utama rangka kerja ini ialah keperluan untuk akauntabiliti. Harus ada individu atau entiti yang bertanggungjawab terhadap keputusan yang dibuat oleh AGI, dan mereka harus dipegang bertanggungjawab terhadap sebarang akibat yang buruk yang timbul daripada keputusan tersebut. Ini boleh dicapai melalui pelbagai mekanisme, seperti audit, pengawasan dan rangka kerja liabiliti.

Ketelusan juga penting untuk membina kepercayaan dan keyakinan dalam sistem AGI. Sistem AGI harus direka bentuk untuk menjadi setelus yang mungkin, membenarkan individu memahami bagaimana keputusan dibuat dan menilai potensi berat sebelah atau ralat. Ini boleh dicapai melalui teknik seperti penjelasan, visualisasi dan model yang boleh ditafsirkan.

Berat sebelah ialah kebimbangan penting lain yang mesti ditangani dalam sistem AGI. Data latihan yang digunakan untuk melatih sistem AGI harus dipilih dengan teliti dan diselia untuk memastikan bahawa ia tidak berat sebelah atau diskriminasi. Tambahan pula, sistem AGI harus direka bentuk untuk mengesan dan memitigasi berat sebelah dalam membuat keputusan mereka.

Etika merupakan pertimbangan utama yang mesti dibimbing penyepaduan AGI ke dalam proses membuat keputusan. Sistem AGI harus direka bentuk untuk menghormati nilai dan prinsip manusia, dan mereka tidak boleh digunakan untuk membuat keputusan yang tidak beretika atau berbahaya. Ini memerlukan pertimbangan yang teliti tentang implikasi etika AGI dalam pelbagai domain dan pembangunan garis panduan dan piawaian etika untuk penggunaannya.

Selain menangani isu-isu ini, adalah penting untuk mengenal pasti had AGI dan memastikan bahawa manusia kekal berada di dalam gelung dalam situasi kritikal. AGI harus digunakan untuk meningkatkan keupayaan manusia, bukan menggantikannya sepenuhnya. Manusia harus kekal terlibat dalam membuat keputusan, terutamanya apabila melibatkan pertimbangan kompleks, pertimbangan etika atau potensi akibat yang teruk.

Rangka kerja STAR, yang merangkumi senario, pemasaan, andaian dan semakan, menyediakan pendekatan berstruktur untuk membuat keputusan strategik yang boleh meningkatkan keberkesanan sistem AGI. Dengan mempertimbangkan senario yang berbeza, menilai pemasaan tindakan, membuat andaian yang jelas dan sentiasa menyemak keputusan, AGI boleh membuat keputusan yang lebih termaklum dan bernas.

Walau bagaimanapun, penting untuk disedari bahawa rangka kerja STAR bukanlah penyelesaian yang sempurna dan ia harus digunakan dengan berhati-hati dan pertimbangan. Rangka kerja ini tidak boleh menggantikan pertimbangan manusia dan kepakaran, dan ia harus digunakan sebagai alat untuk meningkatkan keupayaan membuat keputusan, bukan menggantikannya.

Kesimpulannya, era AGI berpotensi untuk merevolusikan membuat keputusan di pelbagai domain. Walau bagaimanapun, adalah penting untuk meneruskan penyepaduan AGI ke dalam proses membuat keputusan dengan berhati-hati dan pertimbangan, menangani isu-isu seperti akauntabiliti, ketelusan, berat sebelah dan etika untuk memastikan hasil yang bertanggungjawab dan beretika. Dengan membangunkan rangka kerja dan garis panduan yang kukuh dan mengekalkan manusia di dalam gelung dalam situasi kritikal, kita boleh memanfaatkan kuasa AGI untuk meningkatkan keupayaan membuat keputusan kita dan mewujudkan masa depan yang lebih baik untuk semua.

Ketika kita mempertimbangkan penyepaduan AGI ke dalam proses membuat keputusan, adalah penting untuk merangkul pandangan holistik yang merangkumi bukan sahaja aspek teknikal tetapi juga implikasi sosial, etika dan ekonomi. Ini memerlukan kerjasama antara pihak berkepentingan daripada pelbagai bidang, termasuk penyelidik AI, pakar dasar, ahli etika dan orang ramai.

Dengan bekerjasama, kita boleh membangunkan pemahaman yang lebih komprehensif tentang potensi manfaat dan risiko AGI dan memastikan bahawa ia digunakan secara bertanggungjawab dan adil. Ini juga memerlukan pendidikan dan kesedaran yang berterusan, kerana orang ramai harus memahami bagaimana AGI berfungsi dan bagaimana ia boleh memberi kesan kepada kehidupan mereka.

Tambahan pula, adalah penting untuk mewujudkan persekitaran peraturan dan dasar yang menggalakkan inovasi sambil melindungi daripada potensi bahaya. Ini boleh melibatkan pembangunan piawaian, garis panduan dan undang-undang yang menangani isu-isu seperti berat sebelah, privasi dan akauntabiliti dalam sistem AGI.

Di samping itu, adalah penting untuk melabur dalam penyelidikan dan pembangunan untuk memajukan pemahaman kita tentang AGI dan meningkatkan keupayaan serta hadnya. Ini termasuk meneroka teknik baharu untuk menjadikan AGI lebih telus, boleh dipercayai dan sejajar dengan nilai manusia.

Penyepaduan AGI ke dalam proses membuat keputusan juga menimbulkan soalan tentang masa depan kerja dan kemahiran yang akan diperlukan dalam pasaran kerja automatik. Ketika AGI mengambil alih lebih banyak tugas, adalah penting untuk melabur dalam program pendidikan dan latihan untuk membantu individu memperoleh kemahiran baharu dan menyesuaikan diri dengan landskap pekerjaan yang berubah-ubah.

Akhir sekali, adalah penting untuk mengekalkan pandangan jangka panjang apabila mempertimbangkan implikasi AGI. AGI masih merupakan teknologi yang berkembang, dan impaknya ke atas masyarakat akan dibentuk oleh pilihan yang kita buat hari ini. Dengan melibatkan diri dalam perbincangan dan perdebatan yang teliti dan beretika, kita boleh memastikan bahawa AGI digunakan untuk kebaikan dan bahawa faedahnya dikongsi secara meluas.

Pendekatan yang bertanggungjawab dan berwawasan untuk menyepadukan AGI ke dalam proses membuat keputusan berpotensi untuk membuka peluang baharu untuk kemajuan manusia, produktiviti dan kesejahteraan. Walau bagaimanapun, ia juga memerlukan pertimbangan yang teliti, kerjasama dan komitmen untuk memastikan bahawa AGI digunakan secara bertanggungjawab, beretika dan selaras dengan nilai kita.

Ketika kita bergerak ke hadapan, mari kita merangkul kuasa AGI sambil kekal berwaspada tentang had dan potensi risikonya. Bersama-sama, kita boleh membentuk masa depan di mana AGI meningkatkan keupayaan kita, memperkasakan masyarakat kita dan menyumbang kepada dunia yang lebih adil dan makmur untuk semua.