Ik gebruik AI elke dag, maar hoe het werkt snapte ik pas onlangs. Het begint bij een simpele zin over een bank en eindigt bij de reden waarom AI zo duur, traag en energieverslindend is. Intussen claimt een onbekende startup dat het 56 keer sneller kan. Te mooi om waar te zijn?
Ik snapte niet hoe AI werkt. Tot vanochtend.
En nu ik het weet, kijk ik er heel anders tegen aan.
Claude van Athropic gebruik ik elke dag. Naast een aantal andere tools. Privé en zakelijk. Maar 90% van de mensen die AI gebruiken, doen dat vooral (nog) via tekst. Je stelt ChatGPT een vraag, en ze antwoordt.
Maar hoe weet AI nu wat je bedoelt? Hoe werkt zo’n AI taalmodel (LLM) nou eigenlijk?
Vanochtend las ik AI nieuws waardoor ik het snapte. Maar straks het nieuws, nu eerst de werking.
Een Large Language Model (LLM) of AI taalmodel denkt niet in woorden. Een computer begrijpt alleen getallen. Dus het eerste wat AI doet als jij een zin invoert, is elk woord omzetten naar een getal.
Niet een willekeurig getal, maar een (groot) getal dat informatie bevat over de betekenis van dat woord. ‘Bank’ en ‘stoel’ krijgen getallen die dicht bij elkaar liggen. Bij ‘Bank’ en ‘vliegtuig’ is het verschil groter.
Logisch tot zover?
Om de betekenis van een zin te begrijpen, vermenigvuldigt het model elk getal met elk ander getal. Dus, elk woord met elk ander woord.
Neem de zin: “Ik zit op de bank.” Vijf woorden.
Dat betekent:
Ik × Ik,
Ik × zit,
Ik × op,
Ik × de,
Ik × bank.
Dan: zit × Ik,
zit × zit,
zit × op
…en zo verder. Elk woord, met elk ander woord. Dat zijn 25 vermenigvuldigingen voor vijf woorden. Die vermenigvuldiging is een meting over de samenhang tussen ‘bank’ en ‘zit’.
In “Ik zit op de bank” scoort bank × zit hoog → het model begrijpt: meubel.
In “Ik zet geld op de bank” scoort bank × geld hoog → het model begrijpt: financiële instelling.
Zelfde woord, andere uitkomst, dus compleet andere betekenis.
Het model heeft nooit geleerd wat een bank is. Het heeft alleen in miljarden zinnen gezien dat “bank” en “zit” enorm vaak samen voorkomen. De getallen zijn daar op afgesteld. Pure patroonherkenning maar zo consistent uitgevoerd dat het lijkt op begrijpen.
Een zin van vijf woorden is easy. Dat zijn 25 vermenigvuldigingen; behapbaar.
Maar voeg woorden toe, en het gaat hard. Heel hard. Elke keer dat er één woord bijkomt, moet dat nieuwe woord vermenigvuldigd worden met alle(!) woorden die er al waren.
Verdubbel het aantal woorden en het aantal berekeningen verviervoudigt.
Een gemiddelde LinkedIn-post in 2026 telt 172 woorden.
Dat betekent: elke keer als AI zo’n post schrijft, worden er ergens in een datacenter 172 x 172 = 29.584 berekeningen uitgevoerd om te begrijpen wat jij bedoelt.
Een tekst van 10.000 woorden, bijv. een lang rapport of een grote codebase, kost bijna 100.000.000 vermenigvuldigingen. En niet één keer. Elke keer dat je het AI taalmodel ernaar laat kijken.
Dit is de reden dat AI zo duur is. Traag. En energieverslindend. Het is niet persé slim. Het is grondig. Letterlijk elke mogelijke combinatie wordt bekeken.
Dit mechanisme heet ‘dense attention’ en het zit in vrijwel elk groot taalmodel dat je kent: ChatGPT, Claude, Gemini.
Het werkt goed. Heel goed zelfs. Maar het schaalt slecht. Want meer tekst betekent exponentieel meer berekeningen. En de rekening, in geld, energie en tijd, loopt hard op.
Dan het AI nieuws van vanochtend.
Vorige maand kwam het in Miami gevestigde AI-bedrijf Subquadratic uit de anonimiteit met een forse claim: zij zouden dit probleem hebben opgelost. Hun model, SubQ, gebruikt ‘sparse attention’ in plaats van ‘dense attention’. In plaats van elk woord met elk ander woord te vermenigvuldigen, selecteert het model alleen de combinaties die er werkelijk toe doen.
Dat idee is niet nieuw. Anderen hebben het al geprobeerd. Het probleem was altijd dat ‘sparse attention’ de betekenis van een tekst minder goed vastlegde dan ‘dense attention’.
Subquadratic beweert dat het nu wel is gelukt. Dynamisch, per tekst, berekent het model welke combinaties relevant zijn.
De resultaten zijn bijzonder. Onafhankelijke tests wijzen uit dat SubQ 56 keer sneller is dan vergelijkbare modellen. En waar het $2.600 kost om een gangbare Anthropic-test te draaien op hun topmodel, kostte diezelfde test op SubQ slechts acht dollar.
Te mooi om waar te zijn? Misschien.
Het model is nauwelijks beschikbaar, de tests zijn beperkt, en het bedrijf gebruikte bestaande bouwstenen van een Chinees open-source model in plaats van alles vanaf nul te bouwen. Sceptici wijzen erop dat het publieke bewijs de grote claims nog niet volledig ondersteunt.
Maar… het idee klopt. En de richting is duidelijk.
‘Dense attention’ werkt en is nuttig, maar onbetaalbaar op grote schaal. De vraag is niet óf er een efficiënter alternatief komt, maar wanneer. En wie het als eerste echt goed doet.
Ik weet in ieder geval nu hoe het werkt.
Dat voelt al als winst. Al voelt het ook alsof we nog in de Middeleeuwen leven omdat er nog zoveel grote stappen kunnen worden gemaakt.
Dit is de link naar het hele artikel: https://www.technologyreview.com/2026/06/19/1139313/a-startup-claims-it-broke-through-a-bottleneck-thats-holding-back-llms/
