A Google speciális célhardverje, a Tensor Processing Unit, ami egy kifejezetten mélytanulást segítő ASIC, még 2015 folyamán mutatkozott be, fejlesztése pedig már 6 évvel ezelőtt megkezdődött, hiszen a Google szakemberei már akkoriban látták, lesz igény a chipre. Tavaly magát az eszközt, illetve a vele felszerelt szervert is meg lehetett tekinteni.
A Tensor Processing Unit elsősorban a mélytanulással kapcsolatos folyamatoknak egy speciális, úgynevezett inference, azaz következtetéseken alapuló részét gyorsítja. A szakemberek előzetesen azt várták, hogy a TPU segítségével a hagyományos grafikus processzorokhoz és központi egységekhez képest sikerül jelentősen, tízszeres mértékben növelni a teljesítmény/fogyasztás arányt, most azonban kiderült, hogy ennél sokkal komolyabb előrelépést kínál a termék.
A Google által emlegetett tízszeres javulás a jelek szerint csak egy óvatos becslés volt, ugyanis ezen a téren terheléstől függően harmincszoros és nyolcvanszoros közötti mértékű javulás mérhető a hagyományos grafikus processzorokhoz és központi egységekhez képest, ami igen jól hangzik. Nyers sebesség terén a hagyományos hardverkomponensekhez képest 15x-30x gyorsabb tud lenni a TPU. Ennek a gyorsulásnak jelentős része a Google TensorFlow keretrendszere adja, amit kifejezetten mélytanuláshoz fejlesztettek ki és számos olyan optimalizációt kapott, amelyeknek köszönhetően ki tudja aknázni a TPU egységekben rejlő lehetőségeket.
A TPU sebességét és energiahatékonyságát több célra is felhasználhatja a Google. Egyrészt gyorsíthatja meglévő szolgáltatásait, mint például a Képkeresőt, a Fordítót, illetve számos egyéb szolgáltatást is, például hatékonyabbá teheti beszédfelismerő algoritmusait. Utóbbiak kapcsán érdemes megemlíteni, hogy a Google mérnökei szerint amennyiben a felhasználók napi három percet használnák a hangalapú kereső funkciót, és ehhez nem lehetne igénybe venni a TPU előnyeit, a cégnek kétszer több adatközpontra lenne szüksége, hogy biztosíthassa a szükséges számítási teljesítményt.
