Het gebruik van kunstmatige intelligentie kan voelen alsof je werkt in een ‘wolkje’ in de lucht – niet alsof je een handeling verricht die ook een fysieke realiteit en een fysieke impact heeft.

Toch is dat wel zo. Elke prompt wordt namelijk verwerkt in datacenters, die draaien op grijze of groene stroom, water verbruiken en CO2-uitstoot teweegbrengen. Helaas zijn er maar weinig AI-aanbieders die voldoende transparant werken om hun gebruikers de nodige inzichten te geven over hun eigen verbruik. Robert Keus wil daar met GreenPT verandering in brengen.

Maatschappelijke missie

Robert: ‘Als techondernemer heb ik verschillende bedrijven opgericht, waaronder Brthrs, Digitaal Toegankelijk en nu GreenPT. Door de jaren heen ging ik steeds vaker samenwerken met klanten met een maatschappelijke missie. Ik wil hen helpen om de technologie zo voor hen te laten werken dat zij er maatschappelijke problemen mee kunnen oplossen of verkleinen. Bijvoorbeeld op het gebied van duurzaamheid en digitale toegankelijkheid.

Sinds enkele jaren stellen onze klanten ons vragen over AI, vaak zijn dit vragen rondom privacy. Zelf was ik daarnaast ook erg nieuwsgierig naar het energieverbruik en de duurzaamheidsvraagstukken die erbij komen kijken. Toen we als team op onderzoek uitgingen, liepen we tegen een muur aan: AI-bedrijven zijn niet transparant over hun energieverbruik en duurzaamheid. Na een tijdje besloten we om zelf die transparante aanbieder te worden.’

Kwaliteit

GreenPT heeft nu verschillende apps (een chat, translator, grammar check, writing coach), een API voor ontwikkelaars en een adviestak voor organisaties die willen verduurzamen. Robert: ‘Bij onze bedrijfsvoering staan transparantie, duurzaamheid en privacy centraal. Uiteraard vinden we kwaliteit ook heel belangrijk, want niemand zal een model gebruiken dat niet goed genoeg werkt. Gelukkig zit het kwaliteit wel goed: onze AI is gebouwd met open-source modellen, die amper onderdoen aan grote taalmodellen als ChatGPT.’

Transparantie

‘We hosten onze modellen zelf en weten precies welke verwerkers erbij betrokken zijn. We werken met datacenters uit Frankrijk (Scaleway) en Finland (Verda), die aan ons rapporteren over hun water- en energieverbruik. 

Onze gebruikers krijgen via een dashboard inzicht in hun gedrag en verbruik. In dit dashboard worden jouw zoekopdrachten omgerekend naar je ecologische voetafdruk (milieu-impact), die je kunt inzien in termen van elektriciteitsverbruik, CO2-uitstoot en inferentie (reactiesnelheid).’

Privacy

‘We hebben GreenPT gebouwd met privacy als uitgangspunt. Het werkt wezenlijk anders dan andere AI-systemen. De meeste AI-aanbieders trainen stilletjes nieuwe modellen op wat je typt, bewaren je gesprekken op Amerikaanse servers, en je data kan terechtkomen bij externe partijen.

Wij doen dit allemaal niet. Elk gesprek blijft binnen de Europese Unie, wordt nooit gebruikt om een model te trainen, en wordt nooit met iemand gedeeld voor eigen doeleinden. We hosten elk model zelf op Europese infrastructuur, dus er is geen enkele Amerikaanse cloudprovider en geen externe AI-API die ooit je data ziet. Met onze klanten stellen we indien gewenst een eigen verwerkersovereenkomst op, die is afgestemd op de eigen eisen en situatie.’

Energie en duurzaamheid

‘Energie en duurzaamheid zijn twee verschillende dingen. Een datacenter kan zuinig zijn, maar intussen de groene stroom verbruiken die de huizen in de buurt eigenlijk nodig hebben. Als deze huizen vervolgens op fossiele energie moeten terugvallen, kun je wat mij betreft niet spreken van duurzaamheid.

Daarom is de keuze voor het land waarin een datacenter staat zo belangrijk – het draait om de energiemix. In Polen draait alles op kolen, dus daar stoot een datacenter veel meer uit dan een datacenters in Frankrijk (die draaien op kernenergie) of Scandinavië (waar veel waterkracht zit). GreenPT werkt samen met twee datacenters: eentje in Finland en eentje in Frankrijk. Het datacenter uit Frankrijk/Finland rapporteert open naar buiten, het andere datacenter niet, maar we hebben uitonderhandeld dat zij wel aan ons de benodigde gegevens rapporteren. Dat was onze voorwaarde om klant te worden.’

Water

‘Ook het waterverbruik van datacenters is belangrijk om naar te kijken. Wereldwijd vragen datacenters om toenemende hoeveelheden water, wat ten koste gaat van lokale ecosystemen (natuurwater) én van de lokale bevolking (drinkwater). Terwijl dat helemaal niet nodig is: ons Franse datacenter koelt bijvoorbeeld met lucht, in een gesloten systeem dat je kunt vergelijken met een cv-ketel: je vult ’m één keer met water, en daarna hoef je ’m alleen af en toe bij te vullen. Hierdoor ligt ons waterverbruik op 0,25 liter per kilowattuur, tegenover 1,8 gemiddeld in de sector.

De oplossing voor het enorme waterverbruik in de sector bestaat dus al. Toch wordt er lang niet altijd voor gekozen, omdat de bouw op deze manier duurder is. Hier ligt een belangrijke taak voor de overheid: kom met wet- en regelgeving, maak de duurzamere optie verplicht.’

Kleiner, korter, slimmer

‘Een model trainen kost veel energie. Wij trainen onze AI-modellen niet zelf, omdat we bestaande open-source modellen hosten. Hoe langer en op hoe meer plekken zo’n model wordt gebruikt, hoe milieubewuster dat is. Daarom is ons aanbod bewust beperkt en verwijderen we oude modellen ook weer.

Daarnaast zorgen we ervoor dat we de beschikbare capaciteit zo optimaal mogelijk benutten. Modellen worden gecomprimeerd, wat 20 tot 30 procent stroom kan schelen. Bij GreenPT is het een automatische instelling dat antwoorden korter gemaakt worden. Hoe korter de server aan staat, hoe minder energie het kost.

Als gebruiker krijg je zelf ook tips om GreenPT zo duurzaam mogelijk te gebruiken: in de chat kies je tussen een klein, middelgroot en groot model. ‘Boodschappen hoef je niet te doen in een Ferrari’, zeg ik altijd.’

Het problematische van big tech

‘Er zijn veel te weinig spelers die deze technologie maken, ook in Europa. De grote techbedrijven hebben veel te veel geld en hierdoor ook veel te veel macht. Zij lenen dat geld op basis van beloftes die ze niet kunnen waarmaken. En voor het maatschappelijk belang hebben ze geen aandacht. De manier waarop datacenters in de Verenigde Staten worden gebouwd, zonder oog voor natuur en voor omwonenden, dat is tekenend voor de situatie.

Mijn grootste kritiekpunt op deze grote techbedrijven is dat het geld dat erin omgaan niet terugvloeit naar de samenleving. We zouden het zo anders kunnen inrichten. We zouden miljarden moeten investeren om te verduurzamen, niet om een paar rijke mensen nóg rijker te maken.’

Een laatste advies van Robert van GreenPT

‘De prijzen van AI zijn nu erg laag, dat is om zo veel mogelijk gebruikers afhankelijk te maken van de technologie. Ik verwacht dat deze prijzen binnen een jaar gaan stijgen. Dit is iets om nu al goed over na te denken. Hoe afhankelijk wil je zijn van deze technologie? Hoever kun en wil je meegaan met deze prijsstijgingen? Wat doe je om vendor lock-in te voorkomen?’

Lees meer artikelen over technologie of kunstmatige intelligentie: