A gépi tanulást forszírozzák a számítógépekben
A Google keresőóriás által kifejlesztett áramkör valójában nem egyértelműen processzor, hanem egy alkalmazás specifikus áramkör, amely gyakorlatilag egy mátrixokkal dolgozó CISC processzornak tekinthető. A Google szervereinek sebességét a saját hardvernek köszönhetően 35szörösére sikerült felgyorsítani az Intel csúcs Xeonjához képest és ami még ennél is fontosabb, hogy jelentősen javult az új hardvernek köszönhetően a teljesítmény / fogyasztás arány.
A Google által fejlesztett TPU (Tensor Processing Unit) fő tervezője sem kisebb személy, mint Normann Jouppi, aki korábban a MIPS processzorok tervezésében vett részt. A kutatók a szerver processzor tervezésekor eleinte az FPGA megvalósítását látták célravezetőnek, azonban a programozható kapumátrixok túl nagy teljesítménycsökkenést eredményeztek volna, a chipek bár nagy rugalmasságot kínálnak, cserébe relatíve alacsony órajelre képesek, emellett a fogyasztás/teljesítmény mutatójuk gyenge. A Google számára fontos volt, hogy az elkészült hardver rugalmas legyen, ezért a TPU egy sztenderd CPU-hoz vagy GPU-hoz hasonlóan programozható, az a gépi tanulási rendszerek és műveletek egész sorát képes gyorsítani.
A Google processzor működése
A keresőóriás által gyártott processzor semmiféle programrészletet nem tárol, csupán szimplán végrehajtja a gazdaprocesszor felől beérkező műveletek és parancsokat. A CPU és a TPU közötti összeköttetést valószínűleg egy egyszerű PCI Express busz segítségével valósította meg a Google. A TPU két memóriatípust tartalmaz: a processzor gyorsítótárát és DRAM memóriát is, ez a mátrixszorzóba betöltődő gépi tanulási paramétereket is tartalmazza. A chip szerepét egy DDR3-as komponens tölti be.
A gépi tanulásra fejlesztett számítógépes rendszereknél a számítási kapacitás és a teljesítmény mellett a válaszidő is fontos. A Google által gyártott TPU-val szerelt rendszer 7 milliszekundum alatt 225 000 IPS-t produkált, ami az elméleti teljesítmény 80 százaléka, maximális teljesítményen pedig 10 milliszekundumra növekszik a válaszidő.
