- Google izstrādā "TorchTPU", lai padarītu savas mākslīgā intelekta mikroshēmas pilnībā saderīgas ar PyTorch un atvieglotu migrāciju no Nvidia GPU.
- Šī soļa mērķis ir pārvērst TPU par vispārpieņemtu alternatīvu mākonī un lokālajās vidēs, samazinot atkarību no Nvidia CUDA ekosistēmas.
- Google cieši sadarbojas ar Meta, PyTorch pārvaldnieku, un apsver iespēju daļu no šī steka padarīt par atvērtā koda versiju, lai paātrinātu ieviešanu.
- Spēcīgāks PyTorch atbalsts varētu samazināt izmaksas un tehniskos šķēršļus uzņēmumiem, kas vēlas dažādot savu mākslīgā intelekta infrastruktūru.
Google klusībā pārveido savu stratēģiju mākslīgā intelekta skaitļošanas sacensībās . Pēc vairākiem gadiem, kad uzņēmums koncentrējās uz saviem iekšējiem zīmoliem, tagad uzņēmums pievērš lielu uzmanību tam, lai tā mākslīgā intelekta mikroshēmas nemanāmi darbotos ar PyTorch — atvērtā pirmkoda rīku komplektu, kas ir kļuvis par noklusējuma izvēli lielākajai daļai mākslīgā intelekta izstrādātāju visā pasaulē.
Šīs pārmaiņas pamatā ir projekts, kas iekšēji pazīstams kā “TorchTPU” — centieni mazināt plaisu starp to, kā Google aparatūra ir uzbūvēta, un to, kā klienti faktiski veido savas mākslīgā intelekta sistēmas. Paaugstinot PyTorch atbalstu līdz pirmklasīgam līmenim savos Tensor procesoros (TPU), Google vēlas izmantot milzīgo priekšrocību, ko Nvidia ir izveidojusi, izmantojot savu CUDA programmatūras ekosistēmu.
Google pārvērš TPU par nopietnu konkurentu Nvidia GPU
Google TPU jau sen tiek reklamēti kā augstas veiktspējas mikroshēmas, kas pielāgotas mākslīgā intelekta darba slodzēm , taču tie nav spējuši līdzināties Nvidia GPU visuresamībai. Viens no galvenajiem iemesliem ir tas, ka Nvidia pavadīja gadus, nodrošinot, ka PyTorch darbojas izcili labi uz tās aparatūras, kamēr Google galvenokārt koncentrējās uz saviem rīkiem un iekšējām darbplūsmām.
Alphabet ietvaros TPU ir kļuvuši par kritiski svarīgu Google Cloud izaugsmes dzinējspēku . Piekļuves pārdošana šiem mikroshēmām, izmantojot mākoņplatformu, tagad ir centrālā daļa no tā, kā Google cenšas pierādīt investoriem, ka tā ieguldījumi mākslīgajā intelektā var novest pie taustāmiem ieņēmumiem, ne tikai pētniecības prestiža vai eksperimentālu produktu gūšanas.
Tomēr aparatūra vien nepietiek, lai pārliecinātu izstrādātājus. Uzņēmumi, kas apsver TPU, ir vairākkārt teikuši Google, ka programmatūras saderība ir bijis strīdīgs punkts : komandas, kas ir ievērojami standartizējušas PyTorch, nevēlas pārveidot savu kodu vai pārkvalificēt darbiniekus tikai tāpēc, lai izmēģinātu jaunu mikroshēmu.
Šeit noder TorchTPU. Šīs iniciatīvas mērķis ir panākt, lai no izstrādātāja viedokļa TPU lietošana ar PyTorch būtu tikpat vienkārša kā mūsdienās Nvidia GPU . Mērķis ir panākt, lai esošos PyTorch modeļus un cauruļvadus varētu pārvietot ar minimālām izmaiņām, tādējādi strauji samazinot TPU eksperimentēšanas izmaksas un risku.
Google Cloud pārstāvis izvairījās iedziļināties tehniskās specifikācijās, taču apstiprināja, ka vispārējais mērķis ir sniegt klientiem daudz lielāku elastību AI darba slodzes pārvaldībā neatkarīgi no izvēlētās aparatūras.
Ko TorchTPU patiesībā maina PyTorch izstrādātājiem
PyTorch, ko sākotnēji izveidoja un reklamēja Meta, ir kļuvis par faktisko standarta ietvaru mūsdienu mākslīgā intelekta sistēmu veidošanai . Lielākā daļa inženieru Silīcija ielejā un ārpus tās neveic manuālu kodolu kodēšanu Nvidia, AMD vai Google mikroshēmām; tā vietā viņi paļaujas uz PyTorch un līdzīgiem ietvariem, kas nodrošina iepriekš izveidotu komponentu un apmācības utilītu slāņus.
Kopš izlaišanas 2016. gadā PyTorch izaugsme ir bijusi cieši saistīta ar CUDA un tās apkārtējām bibliotēkām — programmatūras steku, ko daudzi Volstrītas analītiķi uzskata par Nvidia vissvarīgāko stratēģisko aktīvu. Nvidia inženieri ir ieguldījuši ievērojamus līdzekļus, lai nodrošinātu, ka PyTorch darbojas ar maksimālu efektivitāti viņu GPU, padarot šo pāri par noklusējuma izvēli liela mēroga AI modeļu apmācībai un ieviešanai.
Turpretī Google gadiem ilgi atbalstīja Jax — citu programmatūras ietvaru, kas bija īpaši iecienīts tā pētniecības un produktu komandu vidū. TPU izmantoja kompilatora slāni ar nosaukumu XLA , lai efektīvi palaistu uz Jax balstītu kodu, un liela daļa Google iekšējās mākslīgā intelekta programmatūras pakotnes un veiktspējas optimizācijas tika veidota, balstoties uz šo kombināciju.
Rezultātā pieaug neatbilstība starp to, kā pats Google izmanto savas mikroshēmas , un to, kā lielākā daļa ārējo klientu dod priekšroku darbam. Daudzi uzņēmumi ir gandrīz pilnībā standartizējuši savu darbību, izmantojot PyTorch, kas nozīmē, ka pāreja uz TPU parasti nozīmēja revolucionāras izmaiņas rīku, koda un izstrādātāju prasmēs.
Ar TorchTPU Google cenšas novērst šo berzi. Projekta mērķis ir nodrošināt pilnvērtīgu PyTorch atbalstu TPU , lai uzņēmumi varētu turpināt paļauties uz pazīstamām bibliotēkām, apmācības cilpām un izvietošanas modeļiem, vienlaikus mainot tikai pamatā esošo aparatūras mērķi. Tas varētu ievērojami samazināt gan inženiertehnisko darbu, gan mācīšanās līkni komandām, kas vēlas novērtēt TPU veiktspēju vai izmaksu priekšrocības.
Vairāk resursu, atvērtā pirmkoda programmatūra un dziļāka apņemšanās
Saskaņā ar cilvēkiem, kas ir pazīstami ar iniciatīvu, TorchTPU nav tikai vēl viens papildu eksperiments. Atšķirībā no dažiem iepriekšējiem mēģinājumiem panākt, lai PyTorch darbotos TPU, Google tagad ir piešķīris šim centienam lielāku organizatorisku uzmanību, budžetu un stratēģisku nozīmi , uzskatot to par centrālo pīlāru savā mākslīgā intelekta infrastruktūras ceļvedī, nevis par nišas saderības projektu.
Viens no ievērojamākajiem apsveramajiem elementiem ir TorchTPU programmatūras steka daļu atvērtā pirmkoda versija . Izlaižot kopienai galvenos komponentus, Google cer paātrināt ieviešanu, piesaistīt ārējos līdzstrādniekus un veidot uzticību lielo klientu vidū, kuri vēlas pārredzamību un ilgtermiņa stabilitāti savās mākslīgā intelekta platformās.
Šī atvērtākā attieksme ir paredzēta arī, lai pārliecinātu uzņēmumus, kuri ir uzskatījuši TPU atbalstu par pārāk cieši saistītu ar Google iekšējo darbības veidu. Dodot ārējiem izstrādātājiem iespēju pārbaudīt, paplašināt un atkļūdot TorchTPU komponentus, TPU varētu justies mazāk kā patentēta sala un vairāk kā pirmās klases pilsoņi plašākā PyTorch ekosistēmā.
Uzņēmumiem tas ir praktiski svarīgi. Ja TorchTPU gūs panākumus, tas varētu ievērojami samazināt migrācijas izmaksas no Nvidia GPU uz Google TPU , padarot skaitļošanas infrastruktūras dažādošanu reālāku, neveicot vairāku gadu programmatūras pārrakstīšanu.
Klienti ir vairākkārt teikuši Google, ka vēsturiskā prasība pāriet uz Jax bija būtisks šķērslis. PyTorch jau dominē mākslīgā intelekta izstrādātāju vidū, un strauji mainīgajos tirgos tikai dažas organizācijas ir gatavas apturēt produktu izstrādes, kamēr to komandas pielāgojas jaunam ietvaram tikai tāpēc, lai piekļūtu alternatīvai aparatūrai.
No iekšējās aparatūras līdz plašam uzņēmumu piedāvājumam
Ilgu laiku Alphabet lielāko daļu savas TPU jaudas paturēja iekšējai lietošanai Google iekšienē , nodrošinot meklēšanu, tulkošanu, ieteikumu sistēmas un agrīnus mākslīgā intelekta pētījumus. Šī nostāja sāka mainīties 2022. gadā, kad mākoņdatošanas nodaļai tika piešķirtas lielākas pilnvaras pār TPU produktu veidošanu un pārdošanu.
Kopš tā laika TPU pieejamība, izmantojot Google Cloud, ir ievērojami palielinājusies . Tā kā uzņēmumu interese par mākslīgo intelektu ir pieaugusi, Google ir pozicionējis savas mikroshēmas kā veidu, kā klienti var piekļūt augstas klases skaitļošanas jaudai, nepārvaldot savus cieši savienotos GPU klasterus.
Pavisam nesen Google ir spēris soli tālāk, pārdodot TPU tieši izvietošanai klientu datu centros , ne tikai izmantojot savu publisko mākoni. Šī pāreja ļauj lielākām organizācijām ar stingrām normatīvajām vai latentuma prasībām integrēt TPU savā lokālajā infrastruktūrā, vienlaikus gūstot labumu no Google aparatūras plāna.
Šī paplašināšanās arī maina Google iekšējās prioritātes. Uzņēmumam ir nepieciešama TPU jauda gan savu mākslīgā intelekta produktu — sākot no Gemini tērzēšanas robota līdz mākslīgā intelekta darbinātām meklēšanas funkcijām — darbībai, gan ārējo Google Cloud klientu apkalpošanai, tostarp tādiem augsta līmeņa mākslīgā intelekta uzņēmumiem kā Anthropic, kas paļaujas uz nomātu TPU jaudu.
Lai visu šo koordinētu, Google ir paaugstinājis mākslīgā intelekta infrastruktūras vadību: par mākslīgā intelekta infrastruktūras vadītāju tika iecelts pieredzējušais vadītājs Amins Vahdats , kurš tagad ir tieši pakļauts izpilddirektoram Sundaram Pičai . Šī pakļautības līnija uzsver, cik centrālu lomu Google plašākajās mākslīgā intelekta ambīcijās ir ieņēmis aparatūras un programmatūras komplekts.
Sadarbojoties ar Meta, lai stiprinātu PyTorch TPU platformās
Google netiecas pēc TorchTPU vienatnē. Saskaņā ar cilvēkiem, kuriem ir informācija par sarunām, uzņēmums cieši sadarbojas ar Meta, PyTorch izveidotāju un pārvaldnieku , lai paātrinātu TPU atbalstu un saskaņotu tehniskos virzienus, kas ir izdevīgi abiem partneriem.
Uzņēmumu diskusijās ir iekļautas vienošanās, kas nodrošinātu Meta piekļuvi lielākai TPU jaudai . Iepriekšējie priekšlikumi, kā ziņots, to ietvēra kā pārvaldītus pakalpojumus: Google izvietos savas mikroshēmas vidēs, kur Meta varētu darbināt savu programmatūru un modeļus, Google uzņemoties lielu daļu darbības izmaksu.
Uzņēmumam Meta stratēģiski svarīgi ir panākt, lai PyTorch darbotos efektīvi plašākā aparatūras klāstā. Uzņēmumam ir skaidrs stimuls samazināt secinājumu izmaksas un dažādot savu darbību, atsakoties no ekskluzīvas atkarības no Nvidia GPU , gan lai samazinātu savus izdevumus, gan lai stiprinātu savu pozīciju sarunās par turpmākajiem mikroshēmu iepirkumiem.
Sadarbojoties ar Google, Meta var palīdzēt nodrošināt, ka PyTorch paliek aparatūras ziņā neitrāls un plaši optimizēts , nevis tiek uzskatīts par cieši saistītu ar viena pārdevēja ekosistēmu. Tas savukārt nostiprina PyTorch statusu kā kopienas standartu un saglabā ietvaru pievilcīgu gan pētniekiem, gan uzņēmumiem.
Meta līdz šim ir atteikusies publiski komentēt šīs konkrētās vienošanās, taču interešu sakritība ir skaidra : sociālo mediju un mākslīgā intelekta gigants vēlas iespējas ārpus Nvidia, savukārt Google vēlas, lai PyTorch justos dzimtā valodā tā TPU, lai vairāk klientu būtu gatavi tos izmēģināt.
Nvidia CUDA priekšrocību izmantošana
Nvidia dominance mākslīgā intelekta jomā nav tikai jaudīgu grafisko procesoru (GPU) piegāde. Daudzu gadu laikā uzņēmums ir izveidojis plašu programmatūras steku, kas balstīts uz , un ir dziļi integrēts tādos ietvaros kā PyTorch. Šī aparatūras un programmatūras kombinācija ir kļuvusi par noklusējuma apmācības un secinājumu platformu modernākajiem mākslīgā intelekta modeļiem.
Šīs ciešās integrācijas dēļ daudzas organizācijas uzskata, ka atteikšanās no Nvidia ir riskanta un dārga . Kodbāzes, darbplūsmas un darbinieku zināšanas ir pielāgotas CUDA, padarot alternatīvas mikroshēmas par potenciālu berzes avotu, pat ja tās uz papīra sola labāku cenu vai veiktspēju.
Google TorchTPU ieviešana ir tiešs mēģinājums mazināt šo priekšrocību. Ja PyTorch var darboties TPU procesoros ar līdzīgu viegluma un veiktspējas regulēšanas līmeni kā Nvidia GPU procesoros, uzņēmumi iegūst ticamu alternatīvu lielām mākslīgā intelekta darba slodzēm . Tirgū, kur strauji pieaug pieprasījums pēc mākslīgā intelekta skaitļošanas un bieži sastopami piegādes ierobežojumi, vēl viena nopietna iespēja varētu būt ļoti pievilcīga.
Vienlaikus Google lēmums apsvērt TorchTPU steka galveno daļu atvērtā pirmkoda izmantošanu signalizē par atšķirīgu pieeju no Nvidia vertikāli integrētākā stila. Koplietojot vairāk pamatā esošās programmatūras, Google mērķis ir vairot uzticību izstrādātāju vidū, kuri novērtē pārredzamību un pārnesamību.
Nekas no tā negarantē, ka TPU aizstās GPU, taču tas maina aprēķinus. Tā vietā, lai izvēlētos starp Nvidia nobriedušo ekosistēmu un alternatīvu, kurai nepieciešama pilnīga rīku komplekta migrācija, klienti varētu apsvērt veiktspēju, izmaksas un pieejamību, vienlaikus paliekot pazīstamajā PyTorch vidē.
Gan mākoņpakalpojumos, gan lokālajos risinājumos šī pāreja varētu atvieglot organizācijām aparatūras piegādātāju apvienošanu laika gaitā, nevis pēc noklusējuma piesaistīt savus mākslīgā intelekta plānus vienam piegādātājam.
Tā kā Google padziļina savu apņemšanos attiecībā uz PyTorch, izmantojot TorchTPU, paplašina uzņēmumu piekļuvi TPU un nostiprina sadarbību ar Meta, konkurences ainava mākslīgā intelekta infrastruktūras jomā kļūst arvien mainīgāka. Nvidia pārsvars, kas balstīts uz daudzu gadu pieredzi aparatūras un CUDA integrācijā, joprojām ir ievērojams, taču klienti tagad redz reālistiskākus veidus, kā dažādot mākslīgā intelekta darba slodzes un to, cik daudz viņi maksā par pamatā esošajiem skaitļošanas resursiem.
