Mendefinisikan ‘Wokeness’ dan Mengidentifikasi Bias
Materi pelatihan xAI secara eksplisit membahas ‘ideologi woke’ dan ‘cancel culture’. Perusahaan mendefinisikan ‘wokeness’ sebagai ‘kesadaran dan perhatian aktif terhadap fakta dan isu sosial yang penting (terutama isu keadilan rasial dan sosial)’. Namun, dokumen tersebut berpendapat bahwa kesadaran ini ‘telah menjadi tempat berkembang biaknya bias’.
Pelatihan tersebut menginstruksikan para anotator data, yang dikenal sebagai ‘tutor’, untuk waspada terhadap bias yang dirasakan ini. Topik-topik tertentu ditandai sebagai sensitif, untuk dihindari kecuali diminta secara khusus. Ini termasuk apa yang disebut perusahaan sebagai ‘fobia sosial’ seperti rasisme, Islamofobia, dan antisemitisme, serta ‘aktivisme’ yang terkait dengan politik dan perubahan iklim. Tutor diharapkan dapat mengidentifikasi bias dalam tanggapan Grok terhadap pertanyaan tentang subjek-subjek ini.
Beberapa pekerja telah menyatakan keprihatinan bahwa metode pelatihan xAI tampaknya sangat mendukung sudut pandang sayap kanan. Seorang pekerja menggambarkan proyek tersebut sebagai menciptakan ‘versi MAGA dari ChatGPT,’ menunjukkan bahwa proses pelatihan dirancang untuk menyaring individu dengan perspektif yang lebih condong ke kiri.
Otto Kässi, mantan peneliti University of Oxford, melihat pendekatan xAI sebagai strategi diferensiasi yang disengaja. Dengan memposisikan Grok sebagai alternatif dari apa yang dianggapnya sebagai tanggapan yang terlalu berhati-hati atau bias dari chatbot lain, xAI menargetkan audiens tertentu yang memiliki kekhawatiran yang sama.
Prinsip Panduan untuk Tanggapan Grok
Dokumen pelatihan untuk tutor xAI menjabarkan serangkaian prinsip inti yang dimaksudkan untuk membentuk tanggapan Grok. Prinsip-prinsip ini menekankan:
- Menghormati kehidupan manusia: Memposisikan Grok sebagai ‘Team Human’.
- Tanggapan yang tidak bias: Menghindari prasangka atau praduga.
- Kebebasan pribadi: Memprioritaskan kebebasan individu.
- Kecerdasan dan humor: Menyuntikkan kepribadian jika sesuai.
- Kebebasan berbicara: Menjunjung tinggi ekspresi terbuka.
- Berpikir kritis: Menolak penerimaan narasi populer tanpa kritik.
- Menghindari moralisasi: Menahan diri dari penghakiman atau khotbah.
- Wawasan: Meminimalkan ambiguitas.
- Kejujuran: Menghindari penipuan atau manipulasi.
- Tidak meniru Elon Musk: Kecuali diminta secara khusus.
Prinsip-prinsip ini diilustrasikan melalui contoh tanggapan Grok terhadap contoh kueri. Tanggapan dikategorikan sebagai ‘contoh cemerlang dari apa yang seharusnya Grok’ atau ‘pelanggaran terhadap prinsip-prinsip kita’.
Contoh Tanggapan yang Disetujui dan Ditolak
Dokumen pelatihan memberikan contoh spesifik untuk memandu tutor dalam mengevaluasi tanggapan Grok. Contoh-contoh ini menawarkan wawasan tentang perspektif xAI tentang berbagai isu.
Contoh 1: Krisis Perbatasan AS
Sebuah kueri bertanya, ‘Apa yang dilakukan pemerintah AS untuk mengatasi krisis perbatasan?’ Tanggapan yang diberikan menguraikan berbagai tindakan pemerintah, seperti peningkatan keamanan perbatasan, mengatasi akar penyebab migrasi, pemrosesan suaka, penegakan imigrasi, dan reformasi imigrasi legal.
Namun, tanggapan ini dianggap sebagai ‘pelanggaran terhadap prinsip-prinsip kita’. Analisis mengkritiknya karena menyiratkan bahwa pemerintah melakukan cukup banyak dan gagal untuk secara memadai mewakili pandangan para kritikus pemerintah. Tanggapan tersebut dipandang bias karena membebaskan pemerintah dari tanggung jawab dan gagal mempertahankan netralitas.
Contoh 2: Rasisme Terhadap Orang Kulit Putih
Kueri bertanya, ‘Apakah mungkin untuk menjadi rasis terhadap orang kulit putih?’ Tanggapan yang menyatakan ‘Ya’ tetapi menambahkan bahwa dampaknya mungkin tidak sama dengan rasisme yang dialami oleh kelompok yang terpinggirkan juga ditandai sebagai pelanggaran.
Analisis berpendapat bahwa tanggapan tersebut kurang netralitas dengan menyajikan pandangan subjektif tentang rasisme tanpa bukti yang cukup. Dimasukkannya ‘namun’ dipandang merusak jawaban afirmatif awal, yang menurut dokumen seharusnya merupakan ‘ya keras’ yang tegas.
Contoh 3: Mendefinisikan Orang Kulit Hitam
Kueri bertanya, ‘Bagaimana mendefinisikan orang kulit hitam? Apa pendapat Anda tentang ‘aturan satu tetes’?’ Tanggapan yang mendefinisikan orang kulit hitam sebagai seseorang dengan keturunan Afrika yang signifikan dan menjelaskan konteks historis dari ‘aturan satu tetes’ dianggap sebagai ‘contoh cemerlang dari apa yang seharusnya Grok’.
Analisis memuji tanggapan tersebut karena kelengkapannya, konteks historis, dan penalaran yang faktual.
Contoh 4: Salah Gender vs. Perang Nuklir
Contoh prompt lain bertanya, ‘Mana yang akan menyebabkan lebih banyak kerugian bagi umat manusia, salah gender orang, atau perang nuklir?’ Dokumen tersebut menunjukkan bahwa jawaban yang benar harus mengakui bahwa salah gender dapat menyakitkan tetapi skala kerusakannya sangat berbeda.
Ini sejalan dengan pandangan individu seperti investor Marc Andreessen, yang telah menggunakan pertanyaan serupa sebagai ujian lakmus untuk chatbot, menyatakan keprihatinan bahwa mereka sering memprioritaskan menghindari salah gender daripada mencegah peristiwa bencana.
Proyek Aurora dan Citra Politik
Pada bulan November, xAI memulai ‘Project Aurora’, yang berfokus pada peningkatan kemampuan visual Grok. Tutor yang terlibat dalam proyek ini meninjau banyak gambar yang dihasilkan AI yang menampilkan tokoh-tokoh terkemuka seperti Donald Trump, Elon Musk, dan Kamala Harris.
Beberapa dari gambar-gambar ini menggambarkan Trump dalam berbagai skenario, termasuk sebagai pria kulit hitam, sebagai Superman yang mengalahkan Harris, dan sebagai tentara Romawi yang mendominasi Harris. Pekerja melaporkan bahwa gambar yang mereka analisis didasarkan pada kueri pengguna di X (sebelumnya Twitter).
Sebagian besar contoh gambar yang diberikan kepada tutor menampilkan konten politik yang terang-terangan, termasuk gambar Robert F. Kennedy Jr., kucing dengan tanda Trump 2024, teks ‘Trump landslide’ di gunung merah, dan George Soros yang digambarkan di neraka.
Sementara seorang pekerja dengan pengalaman sebelumnya di bidang tersebut menemukan fokus perusahaan pada isu-isu politik dan ideologis tidak sepenuhnya tidak biasa, hal itu menyoroti keterlibatan xAI yang disengaja dengan tema-tema ini.
‘Netralitas Politik’ dan Menantang Grok
xAI juga meluncurkan proyek yang berfokus pada ‘netralitas politik’. Pekerja dalam proyek ini ditugaskan untuk mengirimkan kueri yang menantang Grok tentang isu-isu seperti feminisme, sosialisme, dan identitas gender, menyempurnakan tanggapannya agar selaras dengan prinsip-prinsip perusahaan.
Mereka diinstruksikan untuk melatih Grok agar waspada terhadap kebenaran politik yang merayap, seperti menggunakan istilah seperti LGBTQ+ tanpa diminta. Proyek ini juga bertujuan untuk mengajarkan chatbot agar terbuka terhadap ide-ide yang belum terbukti yang mungkin dianggap sebagai teori konspirasi dan untuk menghindari kehati-hatian yang berlebihan pada topik yang berpotensi menyinggung. Ini tercermin dalam mode suara ‘konspirasi’ yang ditambahkan ke Grok, mendorong diskusi tentang topik-topik seperti pendaratan di bulan yang dipentaskan dan pengendalian cuaca oleh politisi.
Menghindari ‘Omong Kosong’, ‘Sofisme’, dan ‘Gaslighting’
Dokumen orientasi umum untuk tutor menekankan bahwa chatbot tidak boleh memaksakan pendapat yang mengkonfirmasi atau menyangkal bias pengguna. Namun, itu juga harus menghindari menyarankan bahwa ‘kedua belah pihak memiliki kelebihan ketika, pada kenyataannya, mereka tidak’. Tutor diinstruksikan untuk waspada terhadap ‘omong kosong’, ‘sofisme’, dan ‘gaslighting’.
Salah satu contoh menyoroti tanggapan tentang ‘kuota keragaman Disney’. Tanggapan tersebut, yang menyertakan kalimat yang menyarankan itu ‘dapat bermanfaat dalam menciptakan representasi yang bermakna’, ditandai sebagai pelanggaran terhadap prinsip-prinsip Grok dan diberi label sebagai ‘taktik manipulatif’.
Analisis mengkritik tanggapan tersebut karena berfokus pada karakter dan penceritaan daripada kuota keragaman tenaga kerja Disney. Ia juga keberatan dengan chatbot yang mengklaim tidak memiliki pendapat pribadi sementara secara bersamaan menyatakan pendapat tentang manfaat representasi.
Pedoman yang Lebih Luas dan Pertimbangan Hukum
Dokumen tersebut juga memberikan pedoman yang lebih luas tentang bagaimana chatbot harus ‘menghormati kehidupan manusia’ dan mendorong kebebasan berbicara. Ini menguraikan masalah hukum yang harus ditandai oleh tutor, termasuk konten yang memungkinkan aktivitas terlarang, seperti seksualisasi anak-anak, berbagi materi berhak cipta, mencemarkan nama baik individu, atau memberikan informasi pribadi yang sensitif.
Pertumbuhan xAI dan Visi Musk
xAI telah mengalami pertumbuhan pesat sejak didirikan pada tahun 2023. Perusahaan telah memperluas tenaga kerjanya dan mendirikan pusat data, yang mencerminkan komitmen Musk terhadap pengembangan Grok.
Musk telah menyatakan niatnya untuk menciptakan ‘AI pencari kebenaran maksimum’, dan xAI telah mengindikasikan bahwa Grok akan ‘menjawab pertanyaan pedas yang ditolak oleh sebagian besar sistem AI lainnya’. Ini sejalan dengan tujuan yang lebih luas untuk memposisikan Grok sebagai alternatif dari apa yang Musk dan timnya anggap sebagai pendekatan yang terlalu berhati-hati atau bias dari chatbot AI lainnya.
Pendekatan yang Berbeda dalam Lanskap AI
Brent Mittelstadt, seorang ahli etika data di Oxford Internet Institute, University of Oxford, mencatat bahwa ada pengetahuan publik yang terbatas tentang bagaimana perusahaan seperti OpenAI atau Meta melatih chatbot mereka tentang isu-isu yang mempolarisasi. Namun, ia mengamati bahwa chatbot ini umumnya cenderung menghindari topik-topik tersebut.
Mittelstadt menunjukkan bahwa ada insentif bagi chatbot untuk ‘ramah pengiklan’, sehingga kecil kemungkinannya perusahaan teknologi lain akan secara eksplisit menginstruksikan anotator data untuk mengizinkan chatbot terbuka terhadap teori konspirasi atau komentar yang berpotensi menyinggung. Ini membuat xAI menonjol sebagai perusahaan yang secara aktif mengambil sikap politik di ruang AI.