speerpunten ai sovereignty
- controle en veiligheid van de data. OpenAI en Google mogen in principe je data niet afluisteren of gebruiken wat je opstuurt, maar je hebt geen garantie dat zij dit niet doen. Als je de servers zelf in beheer hebt kan je garanderen naar je klanten dat hun data niet wordt gelekt, gebruikt of verkocht
- controle over de functionaliteit. Ja, de modellen worden steeds “beter” maar als je een specifieke functionaliteit bouwt die gebruik maakt van een language model wil je niet dat deze functionaliteit binnen 6 maanden weer kapot gaat als chatgpt besluit het oude model niet meer te ondersteunen. Er zijn nu al wijzigingen doorgevoerd waardoor gpt4 minder goed performed dan hoe de dienst eerder was, mede door cost cutting aan hun zijde. Als je de infra zelf beheerst bepaal je zelf wanneer je een volgende versie van een language model gaat adopteren
- kosten continuiteit. een server met gpu zijn duur via azure (3000 per maand), goedkoper via google (300 per maand) en nog goedkoper via een kleinschalige dienst (minder dan 300 per maand), en veel goedkoper dan heel veel losse calls naar chatgpt waar je per token betaalt