ICD: Sam Altman noemt het 'nauwelijks acceptabel' dat mensen schaarse DRAM in hun eigen pc houden voor lokale AI
De AI-geheugenschaarste (DRAM) is nu ook een kosten- en leveringsraam in het AI-debat: als datacenter-gebaseerde AI de standaard wordt, stijgen de API- en GPU-kosten die je voor AI-services factureert, terwijl lokale AI op eigen hardware het alternatief blijft dat privacy en data-soevereiniteit beter afdekt. Houd voor MKB-klanten beide modellen in beeld: waar gevoelige data in het spel is, is een lokale of op eigen infrastructuur draaiende AI-oplossing vaak het sterkere argument, en waar schaal telt, is datacenter-AI momenteel goedkoper per token.
International Cyber Digest deelt de opmerkingen van OpenAI-topman Sam Altman over het gebruik van schaarse DRAM-geheugenchips voor lokale AI. Altman noemt het 'nauwelijks acceptabel' dat mensen de werelds schaarse DRAM in hun eigen computers laten zitten. Hij pleit ervoor om AI liever in datacenters te draaien, omdat een thuis-pc het geheugenchip volgens hem slechts 5% van de tijd gebruikt. 'Het intuïtieve gevoel van veel mensen is precies het tegenovergestelde', merkt hij op.
De context is de mondiale DRAM-knelpunt: vraag naar geheugenchips voor AI-datacenters drijft de prijzen op en beïnvloedt de levertermijnen voor alles van laptops tot servers. In het debat dat onder de posting volgde werd de '5%'-figuur meteen aangevallen: er is geen studie of dataset achter, en voor bedrijven die AI-workloads draaien is de nuttige-gebruikscijfer per chip een heel andere vraag dan voor een thuis-pc.
Voor een IT-bedrijf dat AI voor MKB-klanten inricht is de les dat beide opties op tafel blijven: datacenter-AI is per token goedkoper en schaalt, maar lokaal draaiende AI op eigen hardware (of op een eigen Europese datacenter) is het antwoord op privacy- en data-sovereiniteitsvragen. De geheugenschaarste betekent bovendien dat hardwareprijzen en levertermijnen meespelen in je prijsopgaven — reken het mee in je AI-oplossingen en verdedig je keuze voor lokaal versus cloud-expliciet aan de klant.