Wordt AI echt goedkoper? De tokenkostenillusie
Stelt u zich een CFO voor die de driemaandelijkse cloud uitgaven bekijkt. Het AI team presenteert een overtuigende grafiek: de inferentiekosten per token zijn 75% jaar-op-jaar gedaald. De modellen zijn sneller, de API's zijn goedkoper en de leverancier biedt volumekortingen aan. Alles wijst in de richting van besparingen. Dan komt de echte factuur, en het totaal is hoger dan vorig kwartaal.






