In 2019 pitchte Karen Hao, een ervaren verslaggever bij MIT Technology Review, een verhaal aan haar redacteur over OpenAI, een bedrijf dat toen grotendeels onder de radar opereerde. Wat volgde was een reis vol onverwachte wendingen, die onthulde in hoeverre de ambities van OpenAI waren afgeweken van de oorspronkelijke doelen.
Ik zette voor het eerst voet in de kantoren van OpenAI op 7 augustus 2019. Greg Brockman, de toenmalige CTO van het bedrijf, begroette me met een aarzelende glimlach, en erkende dat het verlenen van zo’n uitgebreide toegang ongekend was voor hen.
Hoewel OpenAI misschien relatief onbekend was bij het grote publiek, had ik, als verslaggever die het steeds evoluerende landschap van artificiële intelligentie beslaat, de ontwikkelingen nauwlettend in de gaten gehouden.
OpenAI’s vroege dagen en veranderende tijden
Voor 2019 werd OpenAI beschouwd als een buitenbeentje in de AI-onderzoeksgemeenschap. De gedurfde claim om binnen tien jaar Artificial General Intelligence (AGI) te bereiken, werd door velen met scepsis ontvangen. Ondanks aanzienlijke financiering ontbrak het het bedrijf aan een duidelijke richting, en de marketinginspanningen werden vaak gezien als het overhypen van onderzoek dat door andere experts als onorigineel werd beschouwd. Desalniettemin trok OpenAI ook afgunst. Als non-profit verklaarde het geen interesse te hebben in commercialisering, waardoor een unieke omgeving voor intellectuele verkenning ontstond, vrij van de beperkingen van financiële druk.
Echter, in de zes maanden voorafgaand aan mijn bezoek, duidde een reeks snelle veranderingen op een significante verschuiving in de richting van OpenAI. Het eerste teken was de controversiële beslissing om GPT-2 achter te houden, ondanks het publiceren van de mogelijkheden ervan. Vervolgens kwam de aankondiging van Sam Altmans aanstelling als CEO, na zijn vertrek bij Y Combinator (YC), samen met de creatie van een “capped-profit” structuur. Te midden van deze ontwikkelingen onthulde OpenAI een samenwerking met Microsoft, waarbij de techgigant prioriteit kreeg bij het commercialiseren van OpenAI’s technologieën en exclusief gebruik van Microsoft Azure cloud services.
Elk van deze aankondigingen genereerde controverse, speculatie en toenemende aandacht, die verder reikte dan de grenzen van de techindustrie. Naarmate de veranderingen zich ontvouwden, was het moeilijk om de betekenis ervan volledig te vatten. Het was echter duidelijk dat OpenAI aanzienlijke invloed begon uit te oefenen op AI-onderzoek en de manier waarop beleidsmakers de technologie begrepen. De beslissing om over te gaan naar een gedeeltelijk for-profit bedrijf zou zeker wijdverspreide gevolgen hebben voor de industrie en de overheid.
Op een avond, aangemoedigd door mijn redacteur, nam ik contact op met Jack Clark, de beleidsdirecteur van OpenAI, met wie ik eerder had gesproken. Ik stelde een profiel over OpenAI voor, in de wetenschap dat het een cruciaal moment was in de geschiedenis van het bedrijf. Clark bracht me in contact met het hoofd communicatie, die een uitnodiging stuurde om leiderschap te interviewen en drie dagen binnen het bedrijf te zitten.
Binnen OpenAI: Missie en Ambitie
Brockman en ik werden vergezeld door hoofdwetenschapper Ilya Sutskever in een glazen vergaderruimte. Ze zaten naast elkaar en vulden elkaars rollen aan. Brockman, de programmeur en implementator, leek graag een positieve indruk te maken, terwijl Sutskever, de onderzoeker en filosoof, meer ontspannen en afstandelijk leek.
Ik begon met het vragen naar OpenAI’s missie: het verzekeren van voordelige AGI. Waarom miljarden investeren in dit probleem boven andere?
Brockman, goed thuis in het verdedigen van OpenAI’s positie, verklaarde dat AGI cruciaal was voor het oplossen van complexe problemen die de menselijke mogelijkheden overstijgen. Hij noemde klimaatverandering en geneeskunde als voorbeelden, en illustreerde het potentieel van AGI om enorme hoeveelheden gegevens te analyseren en de vooruitgang op deze kritieke gebieden te versnellen.
Hij vertelde over de ervaring van een vriend met een zeldzame aandoening, en benadrukte hoe AGI de diagnostiek en behandeling zou kunnen stroomlijnen door specialisten efficiënt met elkaar in contact te brengen.
Vervolgens vroeg ik naar het onderscheid tussen AGI en AI.
AGI, ooit een nicheconcept, had aan populariteit gewonnen, grotendeels dankzij de invloed van OpenAI. AGI verwijst naar een hypothetische AI die de menselijke intelligentie in de meeste economisch waardevolle taken evenaart of overtreft. Hoewel onderzoekers vooruitgang hadden geboekt, bleven er discussies bestaan over de mogelijkheid om het menselijk bewustzijn te simuleren.
AI daarentegen verwees naar zowel de huidige technologie als de nabije toekomstige mogelijkheden, waarmee toepassingen in klimaatverandering en gezondheidszorg werden aangetoond.
Sutskever voegde eraan toe dat AGI mondiale uitdagingen zou kunnen oplossen door intelligente computers in staat te stellen efficiënter dan mensen te communiceren en samen te werken, waarbij incentiveproblemen worden omzeild.
Deze verklaring bracht me ertoe me af te vragen of AGI bedoeld was om mensen te vervangen. Brockman antwoordde dat technologie mensen zou moeten dienen en “economische vrijheid” zou moeten garanderen met behoud van hun levenskwaliteit.
Brockman betoogde dat OpenAI’s rol er niet in bestond te bepalen of AGI zou worden gebouwd, maar eerder de omstandigheden te beïnvloeden waaronder het werd gecreëerd. Hij benadrukte dat hun missie was om ervoor te zorgen dat AGI de hele mensheid ten goede komt door het te bouwen en de economische voordelen ervan te verdelen.
Ons gesprek ging in cirkels rond, met weinig succes in het verkrijgen van concrete details. Ik probeerde een andere aanpak en vroeg naar de mogelijke nadelen van de technologie.
Brockman noemde deepfakes als een mogelijke negatieve toepassing.
Ik bracht de milieu-impact van AI zelf ter sprake.
Sutskever erkende het probleem, maar betoogde dat AGI de milieukosten zou kunnen compenseren. Hij benadrukte de noodzaak van groene datacenters.
"Datacenters zijn de grootste energieverbruiker, van elektriciteit," vervolgde Sutskever.
"Het is wereldwijd 2 procent," bood ik aan.
"Is Bitcoin niet zoiets als 1 procent?" zei Brockman.
Sutskever zou later zeggen: "Ik denk dat het vrij waarschijnlijk is dat het niet lang zal duren voordat het hele oppervlak van de aarde bedekt zal zijn met datacenters en elektriciteitscentrales." Er zou "een tsunami van computing . . . bijna als een natuurlijk fenomeen" zijn.
Ik daagde hen uit dat OpenAI aan het gokken was dat het met succes voordelige AGI zou bereiken om de opwarming van de aarde tegen te gaan voordat het dat zou doen, het zou kunnen verergeren.
Brockman zei haastig: "De manier waarop we erover denken is de volgende: We zitten op een helling van AI-vooruitgang. Dit is groter dan OpenAI, toch? Het is het veld. En ik denk dat de samenleving er eigenlijk baat bij heeft."
"De dag dat we de deal aankondigden," zei hij, verwijzend naar Microsofts nieuwe investering van $ 1 miljard, "ging de marktkapitalisatie van Microsoft met $ 10 miljard omhoog. Mensen geloven dat er zelfs op korte termijn een positieve ROI is op technologie."
OpenAI’s strategie was dus vrij eenvoudig, legde hij uit: om die vooruitgang bij te houden.
Later die dag herhaalde Brockman dat niemand echt wist hoe AGI eruit zou zien, en voegde eraan toe dat hun taak was om vooruit te blijven gaan, om de vorm van de technologie stap voor stap bloot te leggen.
Achter de Schermen: Transparantie en controle
Ik zou oorspronkelijk lunchen met werknemers in de kantine, maar me werd verteld dat ik buiten het kantoor moest zijn. Brockman zou mijn begeleider zijn.
Dit patroon herhaalde zich gedurende mijn bezoek: beperkte toegang tot bepaalde gebieden, vergaderingen die ik niet kon bijwonen en onderzoekers die naar het hoofd communicatie keken om er zeker van te zijn dat ze geen disclosurebeleidsregels overtraden. Na mijn bezoek stuurde Jack Clark een strenge waarschuwing naar werknemers op Slack om niet verder met me te praten dan goedgekeurde gesprekken. De bewaker ontving ook mijn foto, zodat ze naar me konden uitkijken als ik zonder toestemming op het terrein verscheen. Dit gedrag stond in contrast met OpenAI’s toewijding aan transparantie, wat vragen opriep over wat er werd verborgen.
Tijdens de lunch en in de dagen die volgden, ondervroeg ik Brockman over zijn motieven om OpenAI mede op te richten. Hij verklaarde dat hij geobsedeerd was geraakt door het idee om menselijke intelligentie te repliceren na een paper van Alan Turing. Het inspireerde hem. Hij codeerde een Turing-testspel en zette het online, wat zo’n 1.500 hits opleverde. Het gaf hem een geweldig gevoel. "Ik realiseerde me gewoon dat dat het soort ding was dat ik wilde nastreven," zei hij.
Hij trad in 2015 in dienst bij OpenAI als mede-oprichter en merkte op dat hij alles zou doen om AGI tot bloei te brengen, zelfs als het betekende dat hij een conciërge zou zijn. Toen hij vier jaar later trouwde, hield hij een burgerlijke ceremonie in het kantoor van OpenAI voor een aangepaste bloemenmuur met de vorm van het zeshoekige logo van het lab. Sutskever trad op als ambtenaar van de burgerlijke stand.
"Fundamenteel wil ik de rest van mijn leven aan AGI werken," vertelde Brockman me.
Ik vroeg wat hem motiveerde.
Brockman noemde de kansen om tijdens zijn leven aan een transformerende technologie te werken. Hij geloofde dat hij in een unieke positie verkeerde om die transformatie te bewerkstelligen. "Waar ik me echt toe aangetrokken voel, zijn problemen die niet op dezelfde manier zullen verlopen als ik niet meedoe," zei hij.
Hij wilde AGI leiden en hunkerde naar erkenning voor zijn prestaties. In 2022 werd hij president van OpenAI.
Winst, Missie en Concurrentie
Tijdens onze gesprekken beweerde Brockman dat OpenAI’s structurele veranderingen de kernmissie niet veranderden. De capped-profit structuur en nieuwe investeerders versterkten het. "We zijn erin geslaagd om deze missiegerichte investeerders te krijgen die bereid zijn om prioriteit te geven aan de missie boven rendementen. Dat is waanzinnig," zei hij.
OpenAI had nu de middelen om zijn modellen op te schalen en de concurrentie voor te blijven. Als dat niet zou lukken, zou dat de missie kunnen ondermijnen. Het was deze aanname die alle acties van OpenAI en hun verreikende gevolgen in gang zette. Het zette een tikkende tijdbom op elk van OpenAI’s onderzoeksvorderingen, niet gebaseerd op de tijdschaal van zorgvuldige beraadslaging, maar op het meedogenloze tempo dat nodig is om als eerste de finish te halen. Het rechtvaardigde OpenAI’s consumptie van een onvoorstelbare hoeveelheid middelen.
Brockman benadrukte het belang van het herverdelen van de voordelen van AGI.
Ik vroeg naar historische voorbeelden van technologieën die de voordelen met succes aan het publiek hebben verdeeld.
"Nou, ik denk eigenlijk dat het eigenlijk interessant is om zelfs naar internet te kijken als voorbeeld," zei hij. "Er zijn ook problemen, toch?" Zei hij als een voorbehoud. "Telkens wanneer je iets super transformerends hebt, is het niet eenvoudig om erachter te komen hoe je positief kunt maximaliseren, negatief kunt minimaliseren.
"Vuur is een ander voorbeeld," voegde hij eraan toe. "Het heeft ook een aantal echte nadelen. We moeten dus uitzoeken hoe we het onder controle kunnen houden en gedeelde normen hebben.
"Auto’s zijn een goed voorbeeld," vervolgde hij. "Veel mensen hebben auto’s, profiteren er veel van. Ze hebben ook een aantal nadelen. Ze hebben een aantal externaliteiten die niet noodzakelijkerwijs goed zijn voor de wereld," eindigde hij aarzelend.
"Ik denk gewoon het ding dat we willen voor AGI is niet zo anders dan de positieve kanten van internet, positieve kanten van auto’s, positieve kanten van vuur. De implementatie is echter heel anders, omdat het een heel ander type technologie is."
Zijn ogen lichtten op met een nieuw idee. "Kijk maar naar nutsvoorzieningen. Energiebedrijven, elektriciteitsbedrijven zijn zeer gecentraliseerde entiteiten die goedkope, hoogwaardige dingen leveren die het leven van mensen zinvol verbeteren."
Brockman leek opnieuw onduidelijk over hoe OpenAI zichzelf zou omvormen tot een nutsvoorziening.
Hij keerde terug naar het enige dat hij zeker wist. OpenAI was toegewijd aan het herverdelen van de voordelen van AGI en het geven van economische vrijheid aan iedereen. "Dat menen we echt," zei hij.
"De manier waarop we erover denken is: technologie is tot nu toe iets dat alle boten doet stijgen, maar het heeft dit echte concentrerende effect", zei hij. "AGI zou extremer kunnen zijn. Wat als alle waarde op één plek wordt opgesloten? Dat is het traject waarop we ons bevinden als samenleving. En we hebben dat extreme ervan nog nooit gezien. Ik denk niet dat dat een goede wereld is. Dat is geen wereld die ik wil helpen bouwen."
Fallout en Reactie
In februari 2020 publiceerde ik mijn profiel voor MIT Technology Review en onthulde een discrepantie tussen het publieke imago van OpenAI en de interne praktijken. Ik zei dat "het in de loop van de tijd een felle concurrentie en toenemende druk voor steeds meer financiering heeft toegestaan om de fundamentele idealen van transparantie, openheid en samenwerking uit te hollen."
Elon Musk reageerde met drie tweets:
"OpenAI zou imo opener moeten zijn"
"Ik heb geen controle en slechts een zeer beperkt inzicht in OpenAI. Het vertrouwen in Dario voor veiligheid is niet groot", zei hij, verwijzend naar Dario Amodei, de directeur van onderzoek.
"Alle organisaties die geavanceerde AI ontwikkelen, moeten worden gereguleerd, waaronder Tesla"
Altman stuurde een e-mail naar de werknemers van OpenAI.
"Hoewel zeker niet catastrofaal, was het duidelijk slecht", schreef hij over het MIT Technology Review artikel.
Hij schreef dat het "een eerlijke kritiek" was, dat het stuk een disconnectie had geïdentificeerd tussen de perceptie van OpenAI en de realiteit ervan. Hij stelde voor dat Amodei en Musk elkaar ontmoeten om Musks kritiek uit te werken. Om elke twijfel weg te nemen, het werk van Amodei en AI-veiligheid waren cruciaal voor de missie, schreef hij. "Ik denk dat we ergens in de toekomst een manier moeten vinden om ons team publiekelijk te verdedigen (maar de pers niet het publieke gevecht geven waar ze nu dol op zouden zijn)."
Na het artikel wilde OpenAI drie jaar lang niet meer met me spreken.