Meta's AI Ontwaakt op Windows 98: Echo's uit het Verleden

In een fascinerende botsing van technologische tijdperken is een verhaal ontstaan dat de begindagen van wijdverspreide thuiscomputers verbindt met de voorhoede van kunstmatige intelligentie. Marc Andreessen, een prominent figuur in de techwereld en medeoprichter van de invloedrijke durfkapitaalfirma Andreessen Horowitz, vestigde onlangs de aandacht op een opmerkelijke prestatie: een compacte versie van Meta’s Llama kunstmatige intelligentiemodel werd succesvol gedraaid op een computer met het eerbiedwaardige Windows 98 besturingssysteem, uitgerust met slechts 128 megabytes RAM. Deze onthulling dient als een krachtige herinnering aan technologisch potentieel en roept intrigerende vragen op over het historische traject van de computertechnologie.

Het idee alleen al om een geavanceerde AI, zelfs een verkleinde versie, te draaien op hardware van meer dan een kwart eeuw oud lijkt bijna paradoxaal. Moderne generatieve AI, de technologie achter tools zoals ChatGPT en Microsoft’s eigen Copilot, wordt doorgaans geassocieerd met krachtige processors, aanzienlijke geheugentoewijzingen en vaak cloud-gebaseerde infrastructuur. Microsoft zelf heeft zwaar geïnvesteerd in het diep integreren van AI-mogelijkheden, met name zijn Copilot-assistent, in zijn nieuwste besturingssysteem, Windows 11, en een nieuwe generatie hardware genaamd Copilot+ PCs, expliciet ontworpen met AI-workloads in gedachten. Dit contrast maakt het Windows 98-experiment des te opvallender. Het daagt onze aannames uit over de middelen die echt nodig zijn voor bepaalde AI-functies en biedt een glimp van een alternatieve technologische tijdlijn.

Het Verleden Ophalen: De Herculesinspanning Achter het Experiment

Hoewel Andreessen bredere aandacht aan deze prestatie gaf, lijkt het technische zware werk voort te komen uit eerder werk, met name door het team van Exo Labs. Hun reis om een moderne AI op zulke vintage machines te krijgen was verre van eenvoudig; het was een oefening in digitale archeologie en creatieve probleemoplossing, die de enorme verschillen tussen computergebruik toen en nu benadrukte.

De eerste horde betrof basislogistiek en hardwarecompatibiliteit. Het vinden van functionele hardware uit het Windows 98-tijdperk is al een uitdaging op zich. Maar naast het opstarten van de machine had het team randapparatuur nodig. Moderne USB-interfaces, vandaag de dag alomtegenwoordig, waren geen standaard in de hoogtijdagen van Windows 98. Dit vereiste het vinden van compatibele invoerapparaten met de oudere PS/2-connectoren – toetsenborden en muizen die veel jongere tech-enthousiastelingen misschien nog nooit hebben gezien.

Nadat de fysieke opstelling was aangepakt, was het volgende belangrijke obstakel gegevensoverdracht. Hoe krijg je de benodigde AI-modelbestanden en ontwikkeltools op een machine die moderne connectiviteitsopties zoals snelle USB-poorten of naadloze netwerkintegratie mist? Dit betekende waarschijnlijk terugvallen op oudere, langzamere methoden, misschien bestanden branden op cd’s of gebruikmaken van beperkte netwerkprotocollen uit die tijd, waardoor een eenvoudige bestandskopie een potentieel tijdrovend proces werd.

De kern van de technische uitdaging lag echter in het compileren van moderne code voor een oude omgeving. Het AI-model, gebaseerd op Meta’s Llama-architectuur, is gebouwd met hedendaagse programmeerpraktijken en -talen. Om deze code begrijpelijk en uitvoerbaar te maken voor Windows 98 was een compiler nodig – een programma dat broncode vertaalt naar machinetaal – die op het oude besturingssysteem kon draaien en de complexiteit van de AI-code aankon.

Exo Labs wendde zich aanvankelijk tot Borland C++ 5.02, zelf een stukje softwaregeschiedenis – een 26 jaar oude combinatie van geïntegreerde ontwikkelomgeving (IDE) en compiler die native op Windows 98 draaide. Deze keuze vertegenwoordigde een potentiële brug tussen de moderne codebase en het vintage besturingssysteem. Het pad was echter bezaaid met complicaties. De fijne kneepjes van moderne C++-standaarden en bibliotheken bleken moeilijk te verenigen met de mogelijkheden en beperkingen van de Borland-compiler en de Windows 98-omgeving. Compatibiliteitsproblemen deden zich voor, waardoor het team moest uitwijken.

Hun oplossing bestond uit het terugvallen op een oudere versie van de programmeertaal C. Hoewel C een fundamentele taal is en de voorloper van C++, betekende het gebruik van een oudere C-standaard het opofferen van enkele van de hogere-niveau abstracties en gemakken van C++. Dit vereiste een moeizamer codeerproces, waarbij elementen zoals functies en variabelen, die C++ eleganter afhandelt, handmatig moesten worden beheerd. De voortgang was onvermijdelijk langzamer en vereiste nauwgezette aandacht voor detail om fouten te voorkomen die de oudere ontwikkeltools misschien niet gemakkelijk zouden opmerken.

De Geheugenkrapte: Llama Temmen voor Beperkte Middelen

Misschien wel de meest ontmoedigende beperking was het extreem beperkte Random Access Memory (RAM). De doelmachine bezat slechts 128 megabytes RAM. Om dit in perspectief te plaatsen: moderne smartphones worden routinematig geleverd met 8, 12 of zelfs 16 gigabytes RAM (een gigabyte is ongeveer 1000 megabytes). High-end pc’s ontworpen voor gaming of professioneel werk hebben vaak 32 GB, 64 GB of meer. Het draaien van een complexe applicatie zoals een AI-model binnen zo’n minuscule geheugenvoetafdruk is vergelijkbaar met het uitvoeren van ingewikkelde chirurgie in een bezemkast.

Meta’s Llama-familie van modellen, hoewel over het algemeen beschouwd als efficiënter qua resources dan giganten zoals OpenAI’s GPT-4, omvat nog steeds versies met miljarden parameters. De Llama 2-architectuur bevat bijvoorbeeld modellen die opschalen tot 70 miljard parameters. Deze grotere modellen vereisen aanzienlijke rekenkracht en, cruciaal, enorme hoeveelheden geheugen om de modelgewichten te laden en de berekeningen te beheren die betrokken zijn bij het verwerken van informatie en het genereren van reacties. Een standaard Llama 2-model zou absoluut niet kunnen draaien binnen een beperking van 128 MB.

Daarom hing het succes van het experiment af van het gebruik of de ontwikkeling van een zeer geoptimaliseerde, significant kleinere iteratie van de Llama-architectuur. Deze gespecialiseerde versie moest specifiek worden aangepast om te functioneren onder zware hardwarebeperkingen. Het omvatte waarschijnlijk technieken zoals modelkwantisatie (het verminderen van de precisie van de getallen die worden gebruikt in de berekeningen van het model) en snoeien (het verwijderen van minder belangrijke delen van het neurale netwerk) om de geheugen- en rekenvoetafdruk drastisch te verkleinen. Exo Labs stelde hun aangepaste versie beschikbaar op GitHub, waarmee de specifieke benodigde aanpassingen werden getoond.

Deze kleine AI, draaiend op verouderde hardware, zou niet de brede kennis of genuanceerde conversatievaardigheden bezitten van zijn grotere, cloud-gebaseerde neven. Zijn mogelijkheden zouden beperkt zijn. Toch vertegenwoordigt het feit dat het kon draaien en basale generatieve taken kon uitvoeren een significante technische prestatie. Het toont aan dat de kernconcepten van grote taalmodellen in principe drastisch kunnen worden verkleind, zelfs als de praktische bruikbaarheid bij zulke extremen beperkt is.

Andreessen’s Provocatie: Een Verloren Tijdlijn voor Conversational Computing?

Marc Andreessen greep deze technische demonstratie aan om een breder, provocerender punt te maken over de geschiedenis en de potentiële toekomst van computergebruik. Zijn reflectie ging niet alleen over de technische nieuwsgierigheid van het draaien van nieuwe software op oude hardware; het was een overpeinzing over een mogelijke alternatieve geschiedenis van mens-computer interactie.

Hij verwoordde dit door te suggereren dat de succesvolle werking van Llama op een 26 jaar oude Dell PC een gemiste kans impliceert die decennia overspant. “Al die oude pc’s hadden letterlijk al die tijd slim kunnen zijn,” stelde Andreessen. “We hadden nu al 30 jaar met onze computers kunnen praten.”

Deze uitspraak nodigt ons uit om ons een wereld voor te stellen waarin het traject van AI-ontwikkeling anders samenviel met de opkomst van personal computing. In plaats van dat pc’s voornamelijk gereedschappen waren voor berekeningen, documentcreatie en uiteindelijk toegang tot het internet, hadden ze misschien veel eerder kunnen evolueren tot gesprekspartners. Het opgeroepen beeld is dat van gebruikers die interageren met hun Windows 95, 98 of zelfs eerdere machines via natuurlijke taal, vragen stellen, hulp krijgen en dialogen aangaan op een manier die pas mainstream realiteit werd met de komst van moderne digitale assistenten en geavanceerde LLM’s.

Natuurlijk is dit een significante contrafeitelijke sprong. Generatieve AI, zoals we die vandaag de dag begrijpen, met zijn afhankelijkheid van enorme datasets, geavanceerde neurale netwerkarchitecturen (zoals de Transformer-architectuur die ten grondslag ligt aan Llama- en GPT-modellen), en immense rekenkracht voor training, is een relatief recent fenomeen. Het AI-onderzoek van de jaren 80 en 90, hoewel ambitieus, richtte zich op andere paradigma’s, zoals expertsystemen en symbolisch redeneren. De hardware van die tijd, hoewel in staat om de uitgeklede Llama te draaien die door Exo Labs werd gedemonstreerd, was ordes van grootte minder krachtig dan de systemen van vandaag, en de enorme digitale datasets die nodig waren om capabele generatieve modellen te trainen, bestonden simpelweg niet in een toegankelijke vorm.

Andreessen erkende deze context en merkte het optimisme op van de AI-hausse in de jaren 80: “Veel slimme mensen in de jaren 80 dachten dat dit allemaal toen zou gebeuren.” Dat tijdperk zag aanzienlijke investeringen en onderzoek in kunstmatige intelligentie, maar het leidde uiteindelijk tot een “AI-winter” – een periode van verminderde financiering en interesse toen de technologie er niet in slaagde haar meest ambitieuze beloften waar te maken. De beperkingen in rekenkracht, beschikbaarheid van gegevens en algoritmische benaderingen waren diepgaand.

Daarom moet Andreessen’s opmerking misschien het best worden begrepen, niet als een letterlijke bewering dat geavanceerde, mensachtige AI haalbaar was op hardware uit de jaren 90 zoals we die nu ervaren, maar eerder als een gedachte-experiment. Het benadrukt het potentieel dat mogelijk ontsloten had kunnen worden als onderzoeksprioriteiten, algoritmische doorbraken en hardwareontwikkeling een andere koers hadden gevolgd. Het onderstreept het idee dat de bouwstenen voor een vorm van intelligente interactie technisch haalbaar hadden kunnen zijn, zelfs als het resultaat veel eenvoudiger zou zijn geweest dan de AI van vandaag.

Contrasterende Tijdperken: Van Inbeldromen tot AI-Doordrenkte Realiteit

Het Windows 98-experiment dient als een schril contrastpunt met het huidige landschap van AI-integratie. Vandaag de dag verschuift AI snel van een cloud-centrische dienst naar diep ingebed zijn in het besturingssysteem en zelfs de hardware zelf.

Microsoft’s push met Copilot en Copilot+ PCs illustreert deze trend. Windows 11 bevat tal van toegangspunten voor Copilot, die AI-assistentie bieden voor taken variërend van het samenvatten van documenten en het opstellen van e-mails tot het genereren van afbeeldingen en het aanpassen van systeeminstellingen. De nieuwe Copilot+ PC-specificatie vereist de opname van een Neural Processing Unit (NPU) – gespecialiseerde silicium ontworpen om AI-berekeningen efficiënt te versnellen. Dit betekent een fundamentele verschuiving waarbij AI-verwerking een kernfunctie van de personal computer wordt, lokaal afgehandeld in plaats van uitsluitend te vertrouwen op externe servers.

Deze moderne benadering veronderstelt, en maakt gebruik van, overvloedige middelen. Copilot+ PCs vereisen minimaal 16 GB RAM en snelle solid-state opslag, specificaties die de bescheiden 128 MB van de Windows 98-machine ver overtreffen. De gebruikte AI-modellen, hoewel geoptimaliseerd voor uitvoering aan de clientzijde, zijn veel complexer en capabeler dan de miniatuur Llama-versie die in het experiment werd gebruikt. Ze profiteren van decennia van algoritmische verfijning, massale trainingsdatasets en hardware die specifiek is ontworpen voor hun behoeften.

Het contrast belicht verschillende punten:

1. Softwareoptimalisatie vs. Bloat: Het Exo Labs-experiment is een bewijs van extreme optimalisatie, waarbij moderne algoritmen in een zeer beperkte omgeving worden gedwongen. Het bekritiseert impliciet de neiging van moderne software om uit te gaan van steeds toenemende hardwarebronnen, wat soms leidt tot inefficiëntie of “bloat”.
2. Evolutie van Hardware: Het enorme verschil in rekenkracht en geheugen tussen een typische pc uit 1998 en een Copilot+ PC uit 2024 is verbluffend, en vertegenwoordigt meerdere generaties van de Wet van Moore en architectonische innovatie.
3. Toegankelijkheid van Gegevens: De training van moderne LLM’s is afhankelijk van datasets op internetschaal die ondenkbaar waren in het Windows 98-tijdperk. Het digitale universum was toen simpelweg te klein en te gefragmenteerd.
4. Algoritmische Doorbraken: De ontwikkeling van architecturen zoals het Transformer-model in 2017 was een cruciaal moment, dat de schaalbaarheid en prestaties mogelijk maakte die we zien in de generatieve AI van vandaag. Eerdere AI-benaderingen hadden fundamentele beperkingen.

Hoewel Andreessen droomt van pratende computers 30 jaar geleden, is de realiteit dat de samenloop van hardwarekracht, beschikbaarheid van gegevens en algoritmische innovatie die nodig is voor de AI-ervaring van vandaag pas veel recenter plaatsvond.

Wat Betekent Dit Allemaal? Reflecties Voorbij Nostalgie

Is de succesvolle implementatie van een Llama-model op Windows 98 slechts een slimme hack, een nostalgische stunt voor tech-enthousiastelingen? Of heeft het een diepere betekenis? Het dient aantoonbaar verschillende doelen:

• Demonstratie van Extreme Schaalbaarheid: Het bewijst dat de fundamentele principes achter grote taalmodellen kunnen worden aangepast om te werken onder ongelooflijk krappe resourcebeperkingen. Dit heeft potentiële implicaties voor het implementeren van AI op low-power embedded systemen, IoT-apparaten of oudere hardware die nog steeds in gebruik is in verschillende delen van de wereld.
• Benadrukken van de Kracht van Beperkingen: Werken binnen ernstige beperkingen dwingt vaak tot innovatie en efficiëntie. Het Exo Labs-team moest creatieve oplossingen vinden en meedogenloos optimaliseren, vaardigheden die zelfs in omgevingen met overvloedige middelen waardevol zijn.
• Uitdagen van Aannames: Het zet aan tot reflectie over de vraag of alle rekenkracht en geheugen die door moderne applicaties worden gebruikt, strikt noodzakelijk zijn voor de waarde die ze bieden. Zou sommige software slanker en efficiënter kunnen zijn?
• Illustreren van de Contingentie van Technologische Paden: De geschiedenis volgt zelden een rechte lijn. Het feit dat enige rudimentaire AI mogelijk was op oudere hardware onderstreept hoe verschillende keuzes, onderzoeksrichtingen of zelfs toevallige ontdekkingen ons langs een ander technologisch pad hadden kunnen leiden.

Dit experiment herschrijft de geschiedenis niet, noch betekent het dat de geavanceerde AI-ervaringen van 2024 op de een of andere manier haalbaar waren in 1998. De kloof in de ondersteunende technologieën – verwerkingskracht, geheugen, data, algoritmen – blijft immens. Het levert echter wel een fascinerend datapunt op, een bewijs van technisch vernuft en een katalysator voor het overdenken van de kronkelige weg van technologische vooruitgang. Het herinnert ons eraan dat de beperkingen van gisteren soms kunnen worden overwonnen met de kennis van vandaag, wat verrassende resultaten oplevert en ons ertoe aanzet opnieuw te overwegen wat mogelijk is, zowel nu als in de toekomst. De geest in de oude machine fluistert niet alleen over wat was, maar misschien ook over onbenut potentieel dat schuilt in eenvoud en efficiëntie.