Masalah Petikan Tidak Tepat
Satu kajian baru-baru ini mendedahkan kekurangan ketara dalam generasi semasa alat carian AI generatif: ia sering gagal memberikan petikan yang tepat untuk artikel berita. Batasan ini berfungsi sebagai peringatan penting tentang sempadan teknologi yang berkembang pesat ini, terutamanya apabila platform media sosial semakin mengintegrasikannya ke dalam pengalaman pengguna.
The Tow Center for Digital Journalism menjalankan kajian itu, dan penemuannya membimbangkan. Penyelidikan menunjukkan bahawa majoriti enjin carian AI terkemuka bergelut dengan memetik artikel berita dengan betul. Alat tersebut kerap memalsukan pautan rujukan atau tidak dapat memberikan jawapan apabila ditanya tentang sumber.
Kajian itu secara visual mewakili prestasi pelbagai chatbot AI dalam carta, mendedahkan kekurangan kebolehpercayaan secara umum dalam menyediakan petikan yang relevan. Terutama, chatbot Grok xAI, yang dipromosikan oleh Elon Musk sebagai AI ‘paling benar’, adalah antara sumber yang paling tidak tepat atau boleh dipercayai dalam hal ini.
Laporan itu menyatakan:
“Secara keseluruhan, chatbot memberikan jawapan yang salah kepada lebih daripada 60% pertanyaan. Merentasi platform yang berbeza, tahap ketidaktepatan berbeza-beza, dengan Perplexity menjawab 37% daripada pertanyaan dengan salah, manakala Grok mempunyai kadar ralat yang jauh lebih tinggi, menjawab 94% daripada pertanyaan dengan salah.”
Ini menyerlahkan perbezaan ketara dalam tahap ketepatan alat AI yang berbeza, dengan sesetengahnya berprestasi jauh lebih teruk daripada yang lain.
Mengakses Kandungan Terhad
Satu lagi aspek membimbangkan yang didedahkan oleh laporan itu berkaitan dengan keupayaan alat AI untuk mengakses dan menyediakan maklumat daripada sumber yang telah melaksanakan langkah-langkah untuk menghalang pengikisan AI.
Laporan itu menyatakan:
“Pada beberapa keadaan, chatbot sama ada menjawab dengan salah atau enggan menjawab pertanyaan daripada penerbit yang membenarkan mereka mengakses kandungan mereka. Sebaliknya, mereka kadangkala menjawab dengan betul pertanyaan tentang penerbit yang kandungannya tidak sepatutnya mereka akses.”
Pemerhatian ini menunjukkan bahawa penyedia AI tertentu mungkin tidak menghormati arahan robots.txt yang direka untuk menyekat mereka daripada mengakses bahan berhak cipta. Ia menimbulkan persoalan tentang implikasi etika dan undang-undang alat AI yang memintas sekatan ini.
Pergantungan yang Meningkat pada AI untuk Penyelidikan
Isu teras terletak pada peningkatan pergantungan pada alat AI sebagai enjin carian, terutamanya dalam kalangan pengguna yang lebih muda. Ramai orang muda kini membesar dengan ChatGPT sebagai alat penyelidikan utama mereka. Trend ini membimbangkan, memandangkan ketidakbolehpercayaan alat AI yang ditunjukkan dalam menyediakan maklumat yang tepat dan mendidik pengguna secara pasti mengenai topik utama.
Penemuan penyelidikan berfungsi sebagai peringatan yang jelas bahawa respons yang dijana AI tidak selalunya bernilai atau boleh digunakan. Bahaya sebenar terletak pada mempromosikan alat ini sebagai pengganti penyelidikan tulen dan jalan pintas kepada pengetahuan. Bagi pengguna yang lebih muda khususnya, ini boleh membawa kepada generasi individu yang kurang bermaklumat, kurang dilengkapi, dan terlalu bergantung pada sistem yang berpotensi cacat.
AI sebagai Alat, Bukan Penyelesaian
Mark Cuban, seorang ahli perniagaan yang terkenal, merumuskan cabaran ini dengan berkesan semasa sesi di SXSW. Beliau menekankan:
“AI tidak pernah menjadi jawapannya. AI adalah alat. Apa sahaja kemahiran yang anda ada, anda boleh menggunakan AI untuk menguatkannya.”
Perspektif Cuban menekankan bahawa walaupun alat AI boleh menawarkan kelebihan dan harus diterokai untuk potensinya untuk meningkatkan prestasi, ia bukanlah penyelesaian yang berdiri sendiri.
AI boleh menjana kandungan video, tetapi ia tidak mempunyai kapasiti untuk membangunkan naratif yang menarik, elemen yang paling penting. Begitu juga, AI boleh menghasilkan kod untuk membantu dalam pembangunan aplikasi, tetapi ia tidak boleh membina aplikasi sebenar itu sendiri.
Batasan ini menyerlahkan peranan yang sangat diperlukan dalam pemikiran kritis dan kepakaran manusia. Output AI sudah pasti boleh membantu dalam pelbagai tugas, tetapi ia tidak boleh menggantikan keperluan asas untuk kepintaran dan kemahiran manusia.
Keperluan untuk Penilaian Kritikal dan Pembangunan Kemahiran
Kebimbangan, terutamanya dalam konteks penyelidikan ini, ialah orang muda dipimpin untuk mempercayai bahawa alat AI boleh memberikan jawapan yang pasti. Walau bagaimanapun, kajian itu, bersama-sama dengan banyak usaha penyelidikan lain, secara konsisten menunjukkan bahawa AI tidak begitu mahir dalam hal ini.
Daripada mempromosikan AI sebagai pengganti kaedah penyelidikan tradisional, tumpuan harus diberikan kepada mendidik individu tentang cara sistem ini boleh meningkatkan kebolehan sedia ada mereka. Untuk memanfaatkan AI dengan berkesan, pengguna mesti terlebih dahulu mempunyai kemahiran penyelidikan dan analisis yang kukuh, serta kepakaran dalam bidang yang berkaitan.
Menyelami Lebih Dalam Implikasi
Implikasi penyelidikan ini melangkaui kebimbangan segera petikan yang tidak tepat. Ia menimbulkan persoalan yang lebih luas tentang peranan AI dalam membentuk pemahaman kita tentang dunia dan potensi maklumat salah untuk tersebar dengan cepat.
1. Penghakisan Kepercayaan terhadap Sumber Maklumat:
Apabila alat AI secara konsisten memberikan petikan yang salah atau direka, ia menghakis kepercayaan dalam ekosistem maklumat secara keseluruhan. Pengguna mungkin menjadi semakin ragu-ragu terhadap semua sumber, menjadikannya sukar untuk membezakan antara maklumat yang boleh dipercayai dan tidak boleh dipercayai.
2. Kesan terhadap Pendidikan dan Pembelajaran:
Pergantungan pada alat AI untuk penyelidikan, terutamanya dalam kalangan pengguna yang lebih muda, boleh memberi kesan buruk kepada pendidikan dan pembelajaran. Pelajar mungkin membangunkan pemahaman yang cetek tentang subjek, kurang kemahiran berfikir kritis yang diperlukan untuk menilai maklumat dengan berkesan.
3. Tanggungjawab Etika Pembangun AI:
Penemuan kajian ini menyerlahkan tanggungjawab etika pembangun AI. Mereka mesti mengutamakan ketepatan dan ketelusan dalam sistem mereka dan memastikan bahawa alat AI tidak digunakan untuk menyebarkan maklumat salah atau menjejaskan integriti sumber maklumat.
4. Keperluan untuk Literasi Media dan Pemikiran Kritis:
Dalam era yang dikuasai oleh kandungan yang dijana AI, literasi media dan kemahiran berfikir kritis adalah lebih penting daripada sebelumnya. Individu mesti dilengkapi untuk menilai maklumat secara kritis, mengenal pasti berat sebelah, dan membezakan antara sumber yang boleh dipercayai dan tidak boleh dipercayai.
5. Masa Depan AI dalam Penyelidikan dan Perolehan Maklumat:
Penyelidikan ini menggariskan keperluan untuk pembangunan dan penghalusan berterusan alat AI untuk penyelidikan dan perolehan maklumat. Walaupun AI berpotensi untuk merevolusikan bidang ini, adalah penting untuk menangani batasan semasa dan memastikan bahawa alat ini digunakan secara bertanggungjawab dan beretika.
Mengembangkan Kebimbangan Khusus
Mari kita mendalami lagi beberapa kebimbangan khusus yang dibangkitkan oleh penyelidikan:
A. Masalah ‘Halusinasi’:
Chatbot AI terkenal dengan kecenderungannya untuk ‘berhalusinasi’, atau menjana maklumat yang direka sepenuhnya. Ini amat bermasalah dalam konteks petikan, di mana ketepatan adalah terpenting. Penemuan kajian bahawa alat AI sering membuat pautan rujukan menyerlahkan betapa seriusnya isu ini.
B. Masalah Bias:
Model AI dilatih pada set data yang luas, yang mungkin mengandungi bias yang mencerminkan prasangka masyarakat atau perspektif yang berat sebelah. Bias ini boleh nyata dalam respons AI, yang membawa kepada maklumat yang tidak tepat atau mengelirukan. Ini amat membimbangkan apabila alat AI digunakan untuk menyelidik topik sensitif atau kontroversi.
C. Masalah Ketelusan:
Cara kerja dalaman banyak model AI selalunya legap, menjadikannya sukar untuk memahami cara ia mencapai kesimpulannya. Kekurangan ketelusan ini menjadikannya mencabar untuk mengenal pasti dan membetulkan ralat atau bias dalam sistem.
D. Masalah Hak Cipta:
Penemuan kajian bahawa sesetengah alat AI mengakses kandungan daripada sumber yang telah menyekat mereka menimbulkan kebimbangan hak cipta yang serius. Pembangun AI mesti menghormati hak harta intelek dan memastikan bahawa alat mereka tidak digunakan untuk melanggar hak cipta.
Laluan Ke Hadapan: Pembangunan dan Pendidikan AI yang Bertanggungjawab
Laluan ke hadapan memerlukan pendekatan dua serampang: pembangunan AI yang bertanggungjawab dan pendidikan yang komprehensif.
1. Pembangunan AI yang Bertanggungjawab:
Pembangun AI mesti mengutamakan ketepatan, ketelusan dan pertimbangan etika dalam reka bentuk dan pelaksanaan sistem mereka. Ini termasuk:
- Meningkatkan Ketepatan Petikan: Membangunkan teknik untuk memastikan alat AI menyediakan petikan yang tepat dan boleh disahkan.
- Menangani Bias: Melaksanakan kaedah untuk mengurangkan bias dalam model AI dan memastikan ia menyediakan maklumat yang adil dan seimbang.
- Meningkatkan Ketelusan: Menjadikan model AI lebih telus dan boleh dijelaskan, membolehkan pengguna memahami cara ia mencapai kesimpulannya.
- Menghormati Hak Cipta: Memastikan alat AI menghormati hak harta intelek dan tidak mengakses atau menggunakan bahan berhak cipta tanpa kebenaran.
2. Pendidikan Komprehensif:
Individu, terutamanya golongan muda, mesti dididik tentang keupayaan dan batasan alat AI. Ini termasuk:
- Mempromosikan Literasi Media: Mengajar kemahiran berfikir kritis dan keupayaan untuk menilai maklumat daripada pelbagai sumber.
- Menekankan Kemahiran Penyelidikan: Mengukuhkan kepentingan kaedah penyelidikan tradisional dan keupayaan untuk mengesahkan maklumat secara bebas.
- Memahami Batasan AI: Mendidik pengguna tentang potensi AI untuk menjana maklumat yang tidak tepat atau berat sebelah.
- Menggalakkan Penggunaan Bertanggungjawab: Mempromosikan penggunaan alat AI yang bertanggungjawab dan beretika.
Dengan menggabungkan pembangunan AI yang bertanggungjawab dengan pendidikan yang komprehensif, kita boleh memanfaatkan potensi AI sambil mengurangkan risikonya. Matlamatnya adalah untuk mencipta masa depan di mana AI berfungsi sebagai alat yang berharga untuk pembelajaran dan penemuan, dan bukannya sumber maklumat salah dan kekeliruan. Penemuan kajian ini memberikan peringatan penting tentang kerja yang perlu dilakukan. Perjalanan ke arah masyarakat yang benar-benar bermaklumat dan celik AI memerlukan kewaspadaan berterusan, penilaian kritikal, dan komitmen terhadap inovasi yang bertanggungjawab.