De Opkomst van ERNIE Bot: China's AI-strategie

De technologische arena is een strijdtoneel geworden, met name tussen de VS en China. Ondanks strenge westerse sancties die bedoeld zijn om China’s technologische vooruitgang te belemmeren, overleven Chinese bedrijven niet alleen, maar bloeien ze ook op. Een treffende illustratie van deze veerkracht is Baidu’s ERNIE Bot, een AI-model dat symbool staat voor China’s verzet tegen de Amerikaanse inspanningen om zijn technologische opmars in te perken.

Westerse sancties, met name die welke door de regering-Biden zijn ingevoerd, waren erop gericht China’s AI-sector te belemmeren door de toegang tot geavanceerde halfgeleiders te beperken. Deze beperkingen hebben echter onbedoeld de groei van China’s binnenlandse AI-ecosysteem gestimuleerd, waardoor een infrastructuur is ontstaan die steeds onafhankelijker wordt van westerse invloed.

Inheemse Chipontwikkeling

Aanvankelijk verraste Huawei wereldwijde analisten door zijn Ascend-chips te introduceren. Deze chips naderen de hardwareprestaties van NVIDIA in AI-toepassingen. Onafhankelijke tests in Shenzhen onthulden dat de Ascend 910B-chips ongeveer 80% van de prestaties van de NVIDIA H100 bereiken bij het trainen van uitgebreide taalmodellen - een prestatie die slechts een paar jaar geleden als onhaalbaar werd beschouwd, gezien de technologische beperkingen.

Baidu heeft meer dan 15 miljard yuan (ongeveer $ 2,1 miljard) geïnvesteerd in de ontwikkeling van zijn Kunlun-acceleratoren. De Kunlun II, een chip van de tweede generatie, beschikt over 512 cores en 77 miljard transistors, die 256 TOPS (tera operations per seconde) leveren terwijl hij aanzienlijk minder stroom verbruikt dan zijn voorganger. Specifiek ontworpen voor vectorgebaseerde wiskundige bewerkingen die vereist zijn door uitgebreide taalmodellen, stelt de Kunlun II Baidu in staat zijn taalmodellen onafhankelijk te trainen, waardoor de afhankelijkheid van Amerikaanse leveranciers afneemt.

Alibaba’s halfgeleiderdivisie, Pingtouge, heeft haar engineeringteam in slechts twee jaar tijd uitgebreid van 200 tot meer dan 2.000 medewerkers. Het bedrijf vierde onlangs de succesvolle tests van zijn baanbrekende 5-nanometerchip, wat een belangrijke stap markeert in het dichten van de technologische kloof.

Strategieën om Sancties te Omzeilen

Chinese entiteiten gebruiken diverse strategieën om sancties te omzeilen, waaronder ingewikkelde netwerken van shellbedrijven die actief zijn in de Verenigde Arabische Emiraten, Singapore en Maleisië. Deze entiteiten kopen geavanceerde NVIDIA A100- en H100-chips en leiden ze om naar Chinese onderzoekscentra. In 2023 schatte het Amerikaanse ministerie van Handel dat meer dan 10.000 high-end AI-chips via deze geheime kanalen naar China zijn gegaan.

Shellbedrijven

Meer dan 300 bedrijven, die optreden als tussenpersonen voor de aankoop van Amerikaanse chips, zijn geïdentificeerd. Deze bedrijven veranderen vaak hun naam en eigendomsstructuren om detectie te voorkomen. Een in Dubai gevestigd bedrijf, geregistreerd als een importeur van medische apparatuur, kocht NVIDIA-chips ter waarde van meer dan $ 200 miljoen en distribueerde ze onder Chinese AI-startups. Intrigerend genoeg werd Mountain Summit Technologies kort na het opleggen van de Amerikaanse sancties opgericht.

Chipmodificatie

Een anderetactiek omvat het formeel wijzigen van chips om sancties te omzeilen. NVIDIA ontwikkelde speciale versies van zijn chips, de A800 en H800, om te voldoen aan de Amerikaanse regelgeving, zij het met verminderde prestaties. Chinese ingenieurs hebben echter methoden bedacht om hun rekenkracht gedeeltelijk te herstellen, waardoor dit een klassiek kat-en-muisspel is geworden. Naarmate fabrikanten de chip prestaties verminderen, optimaliseren ingenieurs de software om deze beperkingen tegen te gaan.

Wederverkoopmarkt

De wederverkoopmarkt is naar voren gekomen als een onverwachte bron van geavanceerde componenten. Chinese bedrijven kopen actief gebruikte servers en werkstations met krachtige processors en grafische kaarten, met name oudere NVIDIA-grafische kaarten zoals de V100-serie, die aanzienlijke rekenkracht bieden zonder onder de sancties te vallen. In 2023 verkochten grote Amerikaanse bedrijven onbewust buiten gebruik gestelde datacenters aan tussenpersonen, die vervolgens de grafische kaarten doorverkochten aan Chinese bedrijven.

Innovatieve Computing Architecturen

China’s meest ambitieuze reactie op sancties is de ontwikkeling van nieuwe computing architecturen die zijn geoptimaliseerd voor AI, maar gebaseerd zijn op andere principes dan de dominante westerse oplossingen. Een in Shanghai gevestigd AI-lab, in samenwerking met de Fudan University, ontwikkelt een neuromorfe processor die de structuur van het menselijk brein nabootst. Dit neuromorfe computing platform (NCP) gebruikt een netwerk van kunstmatige neuronen en synapsen, dat een verbeterde energie-efficiëntie biedt in vergelijking met traditionele grafische processors.

ERNIE Bot: Een Symbool van China’s AI-Succes

ERNIE (Enhanced Representation through Knowledge Integration) Bot van Baidu illustreert de effectiviteit van China’s AI-strategie. De nieuwste versie, ERNIE 4.0, heeft in het Westen de aandacht getrokken. Onafhankelijke tests van de Tsinghua University in China toonden aan dat ERNIE 4.0 GPT-4 overtreft in taken die kennis van de Chinese culturele context vereisen, terwijl het in andere gebieden vergelijkbare resultaten behaalt.

Gebouwd op de Transformer-architectuur, bevat ERNIE 4.0 significante innovaties. Een van die innovaties is de "Knowledge Transformer with Enhanced Depth", die encyclopedische kennis uit Chinese bronnen zoals Baidu Baike integreert in het trainingsproces van het model. Een ander opmerkelijk kenmerk is het vermogen van ERNIE 4.0 tot "continu leren", waardoor het kan worden getraind met nieuwe gegevens zonder eerder opgedane kennis te verliezen, een belangrijke vooruitgang ten opzichte van westerse modellen.

ERNIE Bot geniet een fundamenteel voordeel op de Chinese markt dankzij de ontwikkeling die is afgestemd op Chinese gebruikers, rekening houdend met lokale taalkundige en culturele nuances. Dit is met name duidelijk in tests met betrekking tot Chinese idiomen en culturele toespelingen, waar ERNIE 4.0 een nauwkeurigheid van 95% behaalt, vergeleken met 45% voor GPT-4.

Censuur als een Katalysator

Ironisch genoeg hebben de Chinese censuurvereisten mogelijk bijgedragen aan de ontwikkeling van ERNIE Bot. Terwijl westerse modellen zoals GPT-4 worden getraind met strikte beveiligingen en filters die hun mogelijkheden beperken, wordt ERNIE, hoewel onderworpen aan censuur, getraind volgens andere normen, waardoor een grotere flexibiliteit in bepaalde gebieden mogelijk is. Chinese modellen hebben een andere definitie van toegestane en verboden inhoud, waardoor een interessante asymmetrie ontstaat waarbij ERNIE Bot onderwerpen kan bespreken die taboe zijn voor GPT-4, terwijl politiek gevoelige kwesties binnen China worden vermeden.

Baidu’s Uitgebreide Ecosysteem

Baidu heeft een uitgebreid ecosysteem rond ERNIE opgebouwd, waardoor het moeilijk is voor westerse concurrenten om dit te repliceren. ERNIE Bot beschikt over belangrijke voordelen, waaronder:

  • Toegang tot Uitgebreide Chineestalige Datasets: Baidu’s zoekmachine biedt een unieke verzameling Chinese teksten, zoekopdrachten en interacties van meer dan 20 jaar.
  • Diepe Integratie met Baidu’s App Ecosysteem: ERNIE Bot is geïntegreerd met meer dan 50 Baidu-apps, waardoor een gesloten lus van gegevens en interacties ontstaat.
  • Beter Begrip van de Chinese Culturele Context: Het model is getraind op Chinese literatuur, geschiedenis en lokale media.
  • Overheidssteun en Protectionistische Beleidsmaatregelen: De Chinese wetgeving geeft de voorkeur aan binnenlandse oplossingen in strategische sectoren.
  • Geoptimaliseerd voor Chinese Hardware: ERNIE Bot is geoptimaliseerd voor Chinese processors zoals Kunlun.

Baidu’s strategie reikt verder dan de binnenlandse markt door middel van partnerschappen in Zuidoost-Azië en Afrika. ERNIE Bot is beschikbaar in lokale taalversies in Maleisië, Thailand en Nigeria. Als onderdeel van het initiatief "Digital Silk Road" biedt Baidu speciale toegangsvoorwaarden tot zijn AI-technologieën voor overheden en bedrijven in ontwikkelingslanden. In Kenia en Ethiopië werkt Baidu samen met lokale telecom operators om toegang te bieden tot ERNIE Bot via SMS-interfaces.

Baidu’s Chief Technology Officer, Wang Haifen, legt uit dat hun oplossingen rekening houden met de specifieke kenmerken van opkomende markten en modellen bieden die minder bandbreedte vereisen en op minder krachtige hardware kunnen draaien. In Indonesië kreeg ERNIE Bot binnen drie maanden meer dan 8 miljoen actieve gebruikers dankzij de integratie met lokale apps.

Investeringen in AI

Volgens IDC zijn de Chinese investeringen in AI het afgelopen jaar met 58% gestegen tot meer dan $ 120 miljard, terwijl de Verenigde Staten een groei van 35% zagen. In juni 2023 kondigde het Chinese ministerie van Wetenschap en Technologie een speciaal fonds aan ter waarde van 800 miljard yuan (ongeveer $ 111 miljard) dat is bestemd voor binnenlandse AI-technologieën. Regionale en gemeentelijke overheden stellen ook hun eigen steunprogramma’s op, zoals Shanghai’s toezegging om tegen 2025 100 miljard yuan ($ 14 miljard) te investeren in zijn lokale AI-ecosysteem.

Ook particuliere investeringen zijn aanzienlijk, waarbij Chinese AI-startups in 2023 $ 45 miljard aan financiering hebben opgehaald, een stijging van 75%. Investeerders zijn vooral geïnteresseerd in quantum computing, AI-chips en multimodale modellen. Sequoia China, nu HongShan, heeft toegezegd $ 8 miljard exclusief te investeren in Chinese AI-startups.

De Impact van Sancties

Experts merken op dat sancties paradoxaal genoeg de ontwikkeling van het AI-ecosysteem in China hebben versneld, waardoor bedrijven zelfvoorzienend zijn geworden en intensiever in onderzoek hebben geïnvesteerd. Hoewel er nog steeds een technologische kloof bestaat, wordt deze snel kleiner. Vóór de sancties vertrouwden Chinese bedrijven op westerse technologieën, maar de Amerikaanse beperkingen creëerden een existentiële bedreiging die middelen en talent mobiliseerde.

De Chinese overheid lanceerde het programma "Lokale Innovaties", dat belastingvoordelen en preferentiële leningen biedt aan bedrijven die investeren in binnenlandse AI-technologieën, en trok meer dan 5.000 bedrijven aan die zich inzetten voor het lokaliseren van hun toeleveringsketens.

Daarnaast is er een trend dat Chinese AI-specialisten uit het buitenland terugkeren. In 2023 keerden meer dan 3.000 Chinese onderzoekers en ingenieurs die gespecialiseerd zijn in AI terug naar China, meer dan het dubbele van het aantal in 2020.

Sancties hebben ook gevolgen gehad voor Amerikaanse bedrijven. NVIDIA verloor de toegang tot de Chinese markt, die jaarlijks meer dan $ 10 miljard waard is, en heeft de lobbyactiviteiten opgevoerd om de beperkingen te versoepelen. Intel en AMD rapporteerden ook aanzienlijke omzetverliezen, waarbij Amerikaanse halfgeleiderbedrijven collectief meer dan $ 25 miljard verloren als gevolg van de sancties, wat leidde tot lagere budgetten voor onderzoek en ontwikkeling.

De Toekomst van AI

Terwijl de wereld zich concentreert op OpenAI, Anthropic en Google, kan de echte uitdaging voor de Amerikaanse dominantie in AI uit China komen. ERNIE Bot en andere Chinese modellen zouden wereldwijde alternatieven kunnen worden voor westerse oplossingen.

McKinsey voorspelt dat Chinese AI-modellen tegen 2028 wereldwijd concurrerend zullen zijn in de meeste toepassingen en dominant in niches zoals beeldherkenning en verwerking van Aziatische talen. Dr. Sarah Miller van het Center for Strategic and International Studies waarschuwt voor een mogelijke verdeling in twee invloedssferen: een westerse sfeer die wordt gedomineerd door GPT en Claude, en een oosterse sfeer die wordt gedomineerd door ERNIE Bot. Dit scenario kan gevolgen hebben voor technologie, geopolitiek, handel en wereldwijde ethische normen.

Baidu’s CEO, Robin Li, gelooft dat externe beperkingen de ontwikkeling kunnen vertragen, maar de innovatie niet kunnen stoppen. Hij ziet ERNIE Bot als bewijs dat het Chinese AI-ecosysteem bestand is tegen sancties en ze kan omzetten in een katalysator voor zijn ontwikkeling.

Ondanks de politieke instabiliteit betreedt de technologische Koude Oorlog tussen de VS en China een beslissende fase.