TPU: miért fenyegeti a Google chipek forradalma az AI-ipar GPU-dominanciáját?

Az AI-láz közepén sokan automatikusan a GPU-kra gondolnak, de most egyre hangosabb a kérdés: mi lesz, ha a TPU átveszi a vezetést bizonyos feladatoknál? A Google új generációs megoldása, az Ironwood, és az, hogy más nagy szereplők is vásárolnak belőle, elég nagy hullámokat ver. Nem meglepő: ha a TPU tényleg hatékonyabb a mátrixszámításoknál, akkor a költségek is csökkenhetnek.

Én is azt látom, hogy az AI-infrastruktúra világa egyre kevésbé “csak hardver”, és egyre inkább stratégia. A kérdés már nem az, hogy milyen chip erősebb, hanem az, hogy mire optimalizált.

Mi is az a TPU (Tensor Processing Unit)?

A TPU nem teljesen más varázslat, mint a GPU, de más irányba van hangolva. A GPU eredetileg grafikához és párhuzamos számoláshoz készült, ezért jól működik sok szám egyszerre történő feldolgozásánál.

Az AI-modellek tanítása és futtatása viszont rengeteg mátrixszorzást igényel. Itt jön képbe a TPU: a Google 2016 óta fejleszti ezeket a chipeket úgy, hogy a mátrixszámítás legyen a “szupererő”. Emiatt sok feladatra hatékonyabb lehet, mint egy általánosabb GPU.

TPU vs. GPU: jobb-e tényleg mindenre?

Technológiailag a TPU inkább “szűkebb fókusz”, nem külön univerzum. Kutatók szerint a két megoldás sok ponton hasonlít, de a TPU célzottan az AI tanításra és következtetésre (inference) optimalizált.

Ez az optimalizálás pénzt jelenthet: tens vagy akár hundreds of millions dolláros megtakarítás is elképzelhető jól illeszkedő feladatoknál. Viszont jön a másik oldal: a specializáció néha rugalmassági veszteség.

Mi történik, ha változik a modell?

Ha a következő generációs AI-modellek jelentősen átalakulnak, a TPU kevésbé “ültethető át” közvetlenül. Ilyenkor előfordulhat, hogy CPU-n kell kiegészítő számításokat végezni, ami látványosan lassíthat.

Szerintem ez olyan, mint amikor egy játékhoz tökéletesen hangolt beállításaid vannak, de jön egy nagy patch, és a régi setup hirtelen kevésbé működik. Nem biztos, hogy végleg rossz, csak épp át kell hangolni.

Ki gyárt TPU-kat (és miért kezdenek el saját chipeket)?

A Google indította el a TPU-t, de közben a “hyperscalerek” és kisebb start-upok is mozgásba lendültek. Többen saját megoldásokat is fejlesztenek, mert a GPU-s piac időnként drága és szűk keresztmetszetekkel küzdött.

Nem csak technológiai, hanem üzleti döntés: a TPU mint alternatíva csökkentheti a kiszolgáltatottságot, és erősebb tárgyalási pozíciót adhat.

Hogyan rázza meg a piacot az Ironwood?

Az Ironwood a Google hetedik generációs TPU-ja. A hírek szerint olyan rendszereket szolgál ki, mint a Gemini vagy az AlphaFold.

Az igazán érdekes rész viszont az, hogy most már nem csak a Google használja. Több nagy cég — például Meta és Anthropic — is számottevően vásárolhat Google-féle számítási kapacitást. Ez azt jelezheti, hogy a TPU nem marad “belsős” megoldás, hanem ténylegesen belép az iparági versenybe.

Ha ez így folytatódik, vajon a következő nagy AI-generációs fejlesztések központi kérdése már nem is az lesz, hogy milyen modellt építesz, hanem hogy milyen chippel futtatod?