Is dit de groenste AI ter wereld?

"Mensen proberen het energieverbruik van ChatGPT in te schatten," vertelde Keus eerder dit jaar aan Change.inc. "Dat kan gewoon niet. Daarvoor heb je echt toegang nodig tot de ruwe data van de chips."

Het kantelpunt kwam ongeveer een jaar geleden, toen het Chinese open-source model DeepSeek verscheen. "Vanaf toen zijn opensource-modellen beter en beter geworden," zegt Keus. Goed genoeg om op te bouwen. Goed genoeg om zelf te hosten. Goed genoeg om daadwerkelijk te meten wat erin gebeurt. Dus bouwde hij GreenPT, een platform dat je in real time laat zien hoeveel energie elk AI-gesprek kost.

Een spellcheck op een document? 1,57 wattuur. Een uitgebreid gesprek over je marketingstrategie? Meer. Hoeveel meer hangt af van iets wat de meeste mensen niet weten. En daar wordt het interessant voor iedereen die AI-producten bouwt.

Wat niemand je vertelt over AI-gesprekken

Elke keer dat je een vervolgvraag stelt in ChatGPT of een andere AI-chat, verwerkt het model niet alleen je nieuwe vraag. Het verwerkt het hele gesprek opnieuw. Elke eerdere vraag, elk eerder antwoord, alles wordt opnieuw door het model gehaald. Keus zegt het recht voor z'n raap: "Als je een vraag stelt over een ander onderwerp, is dat nergens voor nodig en kun je beter een nieuw gesprek starten."

Bedenk wat dat betekent op schaal. Een bedrijf met 500 medewerkers die de hele dag losjes met AI chatten, elk in één lang gespreksvenster, brandt exponentieel meer rekenkracht door bij elke follow-up. Niet omdat de vragen moeilijker worden, maar omdat het contextvenster blijft groeien. Het is alsof je je hele archiefkast kopieert elke keer dat je er één document aan wilt toevoegen.

Dit soort inzichten worden pas zichtbaar als je meet. En meten is precies wat GreenPT anders doet dan de rest.

Servers in zwembaden (en waarom dat niet genoeg was)

GreenPT begon op LeafCloud, een Nederlandse startup met een concept dat bijna te elegant klinkt. Ze plaatsen servers in de technische ruimtes van appartementencomplexen, verzorgingshuizen en zwembaden. De servers moeten toch draaien. Gebouwen hebben toch warmte nodig. LeafCloud vangt de restwarmte van het rekenen op en gebruikt die om water te verwarmen. Het resultaat is een energie-efficiëntie die ongeveer tien keer beter is dan een conventioneel datacenter.

Voor een founder die het groenste AI-platform ter wereld wil bouwen, was het een perfecte match. Tot het dat niet meer was.

LeafCloud kon niet snel genoeg opschalen. "We groeiden naar een punt waar we infrastructuur nodig hadden voor duizend betalende klanten," zegt Keus. LeafCloud's gedistribueerde model, prachtig in theorie, kon dat niet leveren. Hij moest een keuze maken die elke founder die bouwt op principes uiteindelijk tegenkomt: puur blijven en klein blijven, of een compromis sluiten en groeien.

Hij koos voor Scaleway, een Franse aanbieder. Luchtgekoelde datacenters, grotendeels hernieuwbare energie, een deel kernenergie dat elders wordt gecompenseerd. "Daarom is het op papier 100 procent duurzame energie," vertelde Keus aan Change.inc, en hij koos de woorden "op papier" zorgvuldig. Geen warmtehergebruik, geen revolutionaire infrastructuur. Gewoon solide, gecertificeerd, schaalbaar.

Voor iemand die de groenste AI-aanbieder ter wereld wilde bouwen, is het het soort pragmatische beslissing dat geen geweldige kop oplevert. Maar het is eerlijk. En eerlijkheid, zo blijkt, is misschien wel meer waard dan perfectie.

Waarom dit ertoe doet als je AI bouwt in Nederland

De EU AI Act vereist nu rapportage over energieverbruik. Nederlandse datacenters slurpen al meer dan vier procent van de landelijke elektriciteit. De meeste AI-startups hier hebben geen idee wat hun producten daadwerkelijk kosten in energietermen.

GreenPT's CTO Cas Burggraaf perst 20 tot 30 procent meer efficiëntie uit hun stack door modelcompressie, quantisatie en werklastverdeling. Ze draaien open-source modellen van Mistral en OpenAI. Het concurrentievoordeel zit niet in het model. Het zit in hoe efficiënt je het draait.

Het platform draait drie dingen: een chatinterface, een API voor developers, en een tool waarmee bedrijven hun eigen chatbots kunnen bouwen. Alles zelf gehost op Europese infrastructuur, geen externe API-calls. Gebruikersdata verlaat hun servers nooit. In een markt waar Amerikaanse platforms blijven struikelen over GDPR, en de EU AI Act nu energierapportage eist, wordt die combinatie stilletjes een verkoopargument.

Ongeveer duizend gebruikers betalen nu voor GreenPT. Overheidsinstellingen, missiegedreven organisaties, mensen die erom geven waar hun data staat. Geen enorme aantallen, maar genoeg om te bewijzen dat er een markt is. "We gebruiken AI te veel voor simpele dingen," zegt Keus. Hij weet dat elke nieuwe klant de voetafdruk vergroot. De modellen zijn niet duurzaam getraind. Bij niemand niet. Maar inferentie, het daadwerkelijk draaien van queries, is waar het meeste energieverbruik zit en waar je nog verschil kunt maken.

Google publiceerde onlangs voor het eerst echte energiedata. Een mediane Gemini-query kost nu 0,24 wattuur. Een jaar eerder kostte dezelfde query 33 keer meer. Zo snel beweegt dit, en zo weinig weet iemand er eigenlijk van.

Dus hier is de vraag. Als energierapportage verplicht wordt, en dat gaat gebeuren, kun jij je klanten dan vertellen wat jouw product kost om te draaien? GreenPT kan dat al. Kun jij dat?

Willem Blom
Founder Dutchstartup.ai