Google vil fordoble AI‑kapacitet hvert halve år

En ledende chef hos Google har meddelt, at selskabet fremover skal fordoble sin kapacitet til at betjene AI‑anmodninger hver sjette måned for at følge med den stigende brug af selskabets AI‑produkter som Gemini.

Det blev fremført under et internt møde i begyndelsen af november, hvor vicepræsident Amin Vahdat understregede, at Google arbejder ud fra et mål om at øge denne kapacitet 1000 gange over de næste fire til fem år.

Det er ikke selve træningskapaciteten, som er det største problem i øjeblikket.

I stedet handler det om den såkaldte serving capacity. Det er evnen til at gøre AI‑modellerne tilgængelige og effektive for mange brugere på én gang.

Denne kapacitet er afgørende for, at avancerede AI‑modeller kan give svar hurtigt og pålideligt, når millioner af brugere sender forespørgsler samtidig.

En talsperson for Google har forklaret, at efterspørgslen på AI‑tjenester betyder, at der skal leveres væsentligt mere computerkraft, hvilket forsøges opnået gennem en kombination af hardware‑ og softwareoptimering samt nye investeringer i egne teknologier.

Google nævner blandt andet virksomhedens egne chips som et led i denne strategi.

Fase to af AI: Infrastruktur og fysisk begrænsning

Ifølge analytikere er AI‑udviklingen nu trådt ind i en ny fase, hvor det ikke længere kun handler om at kunne bygge de største modeller, men om at kunne betjene dem effektivt.

En strateg hos et analysefirma har udtalt, at serving capacity nu er vigtigere end compute, fordi det ikke er nok at kunne træne en model. Den skal også kunne distribueres hurtigt og i stor skala.

Denne nye udfordring handler om mere end blot teknologi.

Der er en række fysiske og logistiske begrænsninger, som skal håndteres.

Blandt andet nævnes strømforbrug, kølingsbehov, netværksbåndbredde og tiden det tager at opføre store datacentre.

Disse faktorer sætter naturlige grænser for, hvor hurtigt selskaber som Google kan skalere deres infrastruktur op.

Selvom Google har betydelige investeringer og strategiske fordele, er selskabet ikke alene om disse udfordringer.

Hele branchen oplever, at behovet for at servicere AI‑produkter i realtid vokser i takt med, at flere brugere tager teknologierne i brug.

Det gælder ikke kun tekst‑ og billedbehandling, men i stigende grad også video og komplekse søgeanmodninger.

Efterspørgsel som modbillede til AI‑skepsis

Nogle markedseksperter peger på, at Googles behov for at opskalere AI‑kapaciteten så hurtigt er et tegn på, at den store efterspørgsel på AI ikke blot er resultatet af hype.

Tværtimod vurderes det, at der er tale om reel og konkret efterspørgsel, som i øjeblikket overstiger det, teknologivirksomhederne kan levere.

Chef markedsstrateg Shay Boloor fra Futurum Equities udtaler, at dette ikke handler om spekulation, men om en reel efterspørgsel, der venter på at blive dækket.

Han peger samtidig på, at hvis væksten i AI‑området midlertidigt skulle bremse en smule, skyldes det ikke manglende interesse, men fysiske flaskehalse i kapacitet og infrastruktur.

– Flaskehalsen er ikke fordi vi er overambitiøse, det er i bund og grund fysiske begrænsninger som vi har set med kraften, køle-evnerne, netværksfarten og den tid det har krævet at bygge data centrene, sagde han.