Teknologi

OpenAI-sjef Sam Altman sier RAM-uttalelsen ble tatt ut av kontekst. Transkripsjonen gir ham halvveis rett

Han svarte på et spørsmål om lokal AI-inferens, ikke spill-PC-er. Argumentet hans plasserer fortsatt den knappe minnene i datasentre.
Adrian Kessler
Legg oss til på Google

Sam Altman vil ha det protokollført at han står på siden til folk som kjøper minne til sine egne datamaskiner. OpenAI-sjefen sier at en uttalelse om at hjemme-PC-er beslaglegger verdens knappe DRAM-ressurser, ble tatt ut av sammenheng, og at han lenge har arbeidet for at bransjen skal produsere mer. Hele samtalen viser at han har delvis rett. Sammenhengen endrer hva han mente. Men den endrer ikke hvor argumentet hans sender brikkene mens mangelen varer.

Han kom med denne forklaringen på X etter flere dager med vitser på hans bekostning, og tok selv del i spøken. En bruker ba ham endre kontonavnet sitt til «Ram Altman». Han svarte «ok ja» og endret visningsnavnet sitt. Så forklarte han seg: «Jeg vil faktisk at verden skal ha masse minne, og at folk skal kunne putte så mye de vil i datamaskinene sine. Det er jævlig irriterende at dette ble tatt ut av sammenheng.» Han la til: «Jeg har lenge argumentert for at verden må øke minneproduksjonen.»

Dette sa Altman faktisk på Cheeky Pint

Uttalelsen stammer fra Cheeky Pint, podkasten til Stripe-medgründeren John Collison, som publiserer fullstendige transkripsjoner. Avsnittet lyder: «Men sett fra et globalt fordelingsperspektiv er det faktisk ganske forferdelig at alle har en stor del av verdens begrensede DRAM-forsyning liggende i sin egen datamaskin. Og bruker den […] 5 prosent av tiden. Hvis du prøver å håndtere denne situasjonen med svært begrenset tilgang, vil du ha maksimal utnyttelse i skyen.»

Mesteparten av mediedekningen begynte med dette sitatet. Men det som kom før, er viktig. Collison hadde spurt hvorfor de høye minneprisene ikke lokket nye produsenter inn i markedet. Altman svarte at «den usynlige hånden svikter akkurat nå». I flere tiår, sa han, ville en DRAM-produsent «investere 20 milliarder dollar i kapitalutgifter for å tjene 19 milliarder» og komme seg gjennom oppturer og nedturer. Nå som hver av dem etter hans anslag kan tjene «rundt 100 milliarder dollar i fri kontantstrøm på ett år», «husker de alle historien sin. Hvor mange ganger de nesten gikk konkurs fordi de bygde for mange fabrikker.» Først da vendte han seg til folk som ønsker å kjøre KI lokalt: å kjøre KI-modeller med åpen kildekode på sine egne maskiner, i håp om at dette avlaster datasentrene. Uttalelsen om at det var «ganske forferdelig», var hans svar på den antakelsen.

Senere i den samme samtalen sier han at kostnadene for energi og brikker «bør gå ned», at «hvis de ikke går ned, blir jeg veldig lei meg», og at «tilbudet må økes kraftig». På det snevre punktet holder forklaringen hans mål. Han snakket om KI-kjøring hjemme, ikke spill-PC-er eller videoredigering, og i samme episode ba han om økt produksjon.

Her slutter sammenhengen å hjelpe

I et marked med knapp tilgang er et argument om fordeling også et argument om hvem som får brikkene. «Maksimal utnyttelse i skyen» sender dem til datasentrene, og OpenAI er en av de største kjøperne i dette markedet. Samsung og SK Hynix har signert intensjonsavtaler om å levere minne til OpenAIs infrastrukturprosjekt Stargate. The Register anslo at dette tilsvarer rundt 900 000 DRAM-waferstarter i måneden. Avtalene er ikke bindende, men de viser hvor mye av markedet OpenAI har tenkt å kjøpe. Notebookcheck påpekte at argumentet også passer OpenAIs forretningsmodell: lukkede modeller som kjører i selskapets datasentre og selges gjennom abonnement.

Selv den tydeligste formuleringen i episoden om overflod kommer ikke fra Altman. «Overfloden av regnekraft», der «alle som vil ha en datamaskin, uansett grunn, kan få en», er Collisons oppsummering av Altmans syn. Altman svarte ikke direkte på dette. I stedet snakket han om datasentre og kostnaden for fem år med én gigawatt kapasitet, som han anslo til rundt 70 milliarder dollar, og som han gjerne ville se redusert til 20.

5-prosenttallet har ingen kilde

Tallet som utløste striden, er ikke underbygget av noen måling. PC Games Hardware påpekte at det beskriver hvor stor del av tiden minnet er i bruk, ikke hvor mye en maskin trenger: Et operativsystem beholder data i hurtigbufferen, og programmer ber om mer minne i korte perioder. En gigabyte som ligger ubrukt over natten, må likevel være tilgjengelig når et spill eller en lokal modell lastes inn. Folk bruker også KI på sin egen maskinvare av grunner som ikke fanges opp av et utnyttelsestall, for eksempel personvern, kontroll over en modell en leverandør ikke i det stille kan endre, og en engangskostnad i stedet for et abonnement.

Elon Musk kastet seg inn i diskusjonen på X med «Folk fortjener også å ha RAM-en sin!» Hans eget KI-selskap driver datasenteret Colossus i Memphis, påpekte PC Games Hardware.

Mangelen merkes allerede i butikkprisene. 2. november satte Raspberry Pi opp prisen på 16 GB-modellen Raspberry Pi 5 med 80 dollar, til 385 dollar, med henvisning til «mangel på alternative leverandører av 16 GB DRAM». PC Gamer, som med sin sak gjorde X-utvekslingen kjent for et bredt publikum, skrev at teknologientusiaster og spillere er blitt «priset ut av markedet for ny maskinvare» av OpenAI og resten av KI-bransjen. Episoden av Cheeky Pint ble publisert 29. oktober, og Altman svarte på X de første dagene i november.

Altmans løsning på alt dette er flere fabrikker. Ifølge ham selv husker selskapene som måtte bygge dem, at de nesten gikk konkurs sist noen fortalte dem at denne oppgangstiden var annerledes. Inntil de ombestemmer seg, fordeles minnet allerede slik han beskrev: til kjøperen som betaler mest og utnytter det best. Og den kjøperen er et datasenter, ikke en stasjonær PC.

Tagger: , , , ,

Legg oss til på Google

Diskusjon

Det er 0 kommentarer.