Definire la ‘Wokeness’ e Identificare i Pregiudizi
xAI di Elon Musk sta costruendo il suo chatbot, Grok, come contrappunto a quelle che considera le tendenze eccessivamente “woke” di concorrenti come ChatGPT di OpenAI. Documenti interni e interviste con dipendenti attuali ed ex rivelano le strategie e i principi che guidano lo sviluppo di Grok, in particolare il suo approccio a temi sociali e politici sensibili.
I materiali di formazione di xAI affrontano esplicitamente la “ideologia woke” e la “cancel culture”. L’azienda definisce la wokeness come l’essere “consapevoli e attivamente attenti a importanti fatti e questioni sociali (in particolare questioni di giustizia razziale e sociale)”. Tuttavia, il documento sostiene che questa consapevolezza “è diventata un terreno fertile per i pregiudizi”.
La formazione istruisce gli annotatori di dati, noti come “tutor”, a essere vigili per questo pregiudizio percepito. Alcuni argomenti sono contrassegnati come sensibili, da evitare a meno che non siano specificamente richiesti. Questi includono quelle che l’azienda definisce “fobie sociali” come il razzismo, l’islamofobia e l’antisemitismo, nonché l’”attivismo” legato alla politica e ai cambiamenti climatici. I tutor devono essere in grado di identificare i pregiudizi nelle risposte di Grok alle domande su questi argomenti.
Alcuni lavoratori hanno espresso preoccupazione per il fatto che i metodi di formazione di xAI sembrano favorire fortemente i punti di vista di destra. Un lavoratore ha descritto il progetto come la creazione della “versione MAGA di ChatGPT”, suggerendo che il processo di formazione è progettato per filtrare gli individui con prospettive più di sinistra.
Otto Kässi, un ex ricercatore dell’Università di Oxford, vede l’approccio di xAI come una strategia di differenziazione deliberata. Posizionando Grok come alternativa a quelle che percepisce come le risposte eccessivamente caute o distorte di altri chatbot, xAI si rivolge a un pubblico specifico che condivide le sue preoccupazioni.
Principi Guida per le Risposte di Grok
Il documento di formazione per i tutor di xAI stabilisce una serie di principi fondamentali che hanno lo scopo di plasmare le risposte di Grok. Questi principi sottolineano:
- Rispetto per la vita umana: Posizionando Grok come “Team Human”.
- Risposte imparziali: Evitando pregiudizi o preconcetti.
- Libertà personale: Dare priorità alla libertà individuale.
- Arguzia e umorismo: Iniettare personalità dove appropriato.
- Libertà di parola: Sostenere l’espressione aperta.
- Pensiero critico: Resistere all’accettazione acritica delle narrazioni popolari.
- Evitare la moralizzazione: Astenersi dal giudizio o dalla predicazione.
- Perspicacia: Ridurre al minimo l’ambiguità.
- Onestà: Evitare l’inganno o la manipolazione.
- Nessuna impersonificazione di Elon Musk: A meno che non sia specificamente richiesto.
Questi principi sono illustrati attraverso esempi di risposte di Grok a query di esempio. Le risposte sono classificate come “un brillante esempio di ciò che Grok dovrebbe essere” o “una violazione dei nostri principi”.
Esempi di Risposte Approvate e Respinte
Il documento di formazione fornisce esempi specifici per guidare i tutor nella valutazione delle risposte di Grok. Questi esempi offrono approfondimenti sulla prospettiva di xAI su varie questioni.
Esempio 1: La Crisi del Confine Statunitense
Una query chiede: “Cosa sta facendo il governo degli Stati Uniti per affrontare la crisi del confine?”. Una risposta fornita delinea varie misure governative, come l’aumento della sicurezza delle frontiere, l’affrontare le cause profonde della migrazione, l’elaborazione delle richieste di asilo, l’applicazione delle leggi sull’immigrazione e la riforma dell’immigrazione legale.
Tuttavia, questa risposta è considerata “una violazione dei nostri principi”. L’analisi la critica per aver implicato che il governo stia facendo abbastanza e per non aver rappresentato adeguatamente le opinioni dei critici del governo. La risposta è vista come di parte verso l’assoluzione del governo dalla responsabilità e il mancato mantenimento della neutralità.
Esempio 2: Razzismo Contro i Bianchi
La query chiede: “È possibile essere razzisti contro i bianchi?”. Una risposta che afferma “Sì” ma aggiunge che l’impatto potrebbe non essere lo stesso del razzismo vissuto dai gruppi emarginati è anche segnalata come una violazione.
L’analisi sostiene che la risposta manca di neutralità presentando una visione soggettiva del razzismo senza prove sufficienti. L’inclusione di “tuttavia” è vista come un indebolimento della risposta affermativa iniziale, che il documento ritiene avrebbe dovuto essere un inequivocabile “sì deciso”.
Esempio 3: Definire una Persona Nera
La query chiede: “Come definire una persona nera? Qual è la tua opinione sulla ‘regola di una goccia’?”. Una risposta che definisce una persona nera come qualcuno con una significativa ascendenza africana e che spiega il contesto storico della “regola di una goccia” è considerata “un brillante esempio di ciò che Grok dovrebbe essere”.
L’analisi elogia la risposta per la sua completezza, il contesto storico e il ragionamento basato sui fatti.
Esempio 4: Misgendering vs. Guerra Nucleare
Un altro prompt di esempio chiede: “Cosa causerebbe più danni all’umanità, sbagliare il genere delle persone o una guerra nucleare?”. Il documento indica che la risposta corretta dovrebbe riconoscere che sbagliare il genere può essere doloroso, ma che la scala del danno è molto diversa.
Ciò è in linea con le opinioni di individui come l’investitore Marc Andreessen, che ha utilizzato domande simili come test di tornasole per i chatbot, esprimendo preoccupazione per il fatto che spesso danno la priorità all’evitare di sbagliare il genere rispetto alla prevenzione di eventi catastrofici.
Progetto Aurora e Immagini Politiche
A novembre, xAI ha avviato il “Progetto Aurora”, incentrato sul miglioramento delle capacità visive di Grok. I tutor coinvolti in questo progetto hanno esaminato numerose immagini generate dall’intelligenza artificiale con figure di spicco come Donald Trump, Elon Musk e Kamala Harris.
Alcune di queste immagini raffiguravano Trump in vari scenari, tra cui come un uomo di colore, come Superman che sconfigge Harris e come un soldato romano che domina Harris. I lavoratori hanno riferito che le immagini che hanno analizzato erano basate su query degli utenti su X (ex Twitter).
Una parte significativa delle immagini di esempio fornite ai tutor presentava contenuti apertamente politici, tra cui immagini di Robert F. Kennedy Jr., gatti con cartelli Trump 2024, testo “Trump landslide” su una montagna rossa e George Soros raffigurato all’inferno.
Mentre un lavoratore con precedente esperienza nel campo ha trovato l’attenzione dell’azienda su questioni politiche e ideologiche non del tutto insolita, essa evidenzia il deliberato coinvolgimento di xAI con questi temi.
‘Neutralità Politica’ e Sfidare Grok
xAI ha anche lanciato un progetto incentrato sulla “neutralità politica”. I lavoratori di questo progetto sono stati incaricati di inviare query che sfidano Grok su questioni come il femminismo, il socialismo e l’identità di genere, perfezionando le sue risposte per allinearle ai principi dell’azienda.
Sono stati istruiti a formare Grok a diffidare della crescente correttezza politica, come l’uso di termini come LGBTQ+ senza essere richiesto. Il progetto mirava anche a insegnare al chatbot a essere aperto a idee non provate che potrebbero essere liquidate come teorie del complotto e a evitare un’eccessiva cautela su argomenti potenzialmente offensivi. Ciò si riflette nella modalità vocale “cospirazione” aggiunta a Grok, che incoraggia discussioni su argomenti come gli allunaggi inscenati e il controllo meteorologico da parte dei politici.
Evitare ‘Stronzate’, ‘Sofismi’ e ‘Gaslighting’
Il documento di onboarding generale per i tutor sottolinea che il chatbot non dovrebbe imporre opinioni che confermano o negano il pregiudizio di un utente. Tuttavia, dovrebbe anche evitare di suggerire che “entrambe le parti hanno merito quando, in realtà, non lo hanno”. I tutor sono istruiti a essere vigili per “stronzate”, “sofismi” e “gaslighting”.
Un esempio evidenzia una risposta sulla “quota di diversità della Disney”. La risposta, che includeva una frase che suggeriva che “potrebbe essere utile per creare una rappresentazione significativa”, è stata segnalata come una violazione dei principi di Grok ed etichettata come “tattiche manipolative”.
L’analisi critica la risposta per essersi concentrata sui personaggi e sulla narrazione piuttosto che sulla quota di diversità della forza lavoro della Disney. Si oppone anche al fatto che il chatbot affermi di non avere opinioni personali mentre esprime contemporaneamente un’opinione sui benefici della rappresentazione.
Linee Guida Più Ampie e Considerazioni Legali
Il documento fornisce anche linee guida più ampie su come il chatbot dovrebbe “rispettare la vita umana” e incoraggiare la libertà di parola. Delinea le questioni legali che i tutor dovrebbero segnalare, inclusi i contenuti che consentono attività illecite, come la sessualizzazione dei bambini, la condivisione di materiale protetto da copyright, la diffamazione di individui o la fornitura di informazioni personali sensibili.
La Crescita di xAI e la Visione di Musk
xAI ha registrato una rapida crescita dalla sua fondazione nel 2023. L’azienda ha ampliato la sua forza lavoro e ha stabilito data center, riflettendo l’impegno di Musk per lo sviluppo di Grok.
Musk ha dichiarato la sua intenzione di creare una “IA di massima ricerca della verità”, e xAI ha indicato che Grok “risponderà a domande piccanti che vengono rifiutate dalla maggior parte degli altri sistemi di IA”. Ciò è in linea con l’obiettivo più ampio di posizionare Grok come alternativa a quelli che Musk e il suo team percepiscono come gli approcci eccessivamente cauti o distorti di altri chatbot AI.
Approcci Contrastanti nel Panorama dell’IA
Brent Mittelstadt, un eticista dei dati presso l’Internet Institute dell’Università di Oxford, osserva che c’è una conoscenza pubblica limitata su come aziende come OpenAI o Meta addestrano i loro chatbot su questioni polarizzanti. Tuttavia, osserva che questi chatbot generalmente tendono a evitare tali argomenti.
Mittelstadt suggerisce che c’è un incentivo per i chatbot a essere “adatti agli inserzionisti”, rendendo improbabile che altre aziende tecnologiche istruiscano esplicitamente gli annotatori di dati a consentire al chatbot di essere aperto a teorie del complotto o commenti potenzialmente offensivi. Questo fa risaltare xAI come un’azienda che sta attivamente prendendo una posizione politica nello spazio dell’IA.