Koľko energie spotrebujú vaše AI výzvy? Google práve zverejnil svoje čísla o Gemini.

Nárast využívania AI nástrojov po celom svete je exponenciálne rastúci, avšak dopad na životné prostredie nie je často podrobne vyjadrený zo strany spoločností, ktoré tieto nástroje vyrábajú.

Avšak Google práve publikoval technický dokument, ktorý podrobne popisuje merania energie, emisií a spotreby vody jeho Gemini AI príkazov — a vplyv jedného príkazu je, podľa jeho tvrdení, zanedbateľný. Podľa jeho metodológie na meranie dopadu AI je spotreba energie jedného príkazu približne rovná sledovaniu televízie menej ako 9 sekúnd.

To je dosť nízke, ale zvážte rôznorodosť chatbotov, ktoré sa používajú, a že miliardy príkazov sú denne ľahko odosielané.

Dobrou správou je, že technológia za týmito príkazmi sa v posledných 12 mesiacoch stala efektívnejšou. Google uvádza, že energia jedného Gemini textového príkazu sa znížila o 33-krát a celková uhlíková stopa sa znížila o 44-krát. To nie je zanedbateľné, a tento typ dynamiky bude potrebné udržiavať aj do budúcnosti, tvrdí Google.

Google okamžite nereagoval na žiadosť CNET o ďalší komentár.

Metóda výpočtu Google zohľadňuje oveľa viac

Vyhľadávací gigant tvrdí, že bežný výpočet nákladov na energiu pri AI príkaze končí na aktívnom stroji, na ktorom bol vykonaný, čo ukazuje oveľa menšiu uhlíkovú stopu na príkaz. Ale Google’s metóda merania vplyvu príkazu pokrýva oveľa širší rozsah faktorov, ktoré vytvárajú jasnejší obraz, vrátane dynamickej spotreby energie celého systému, nečinných strojov, prevádzkových nákladov dátových centier, spotreby vody a ďalších.

Pre porovnanie, odhaduje sa, že pri použití len aktívneho TPU a GPU spotreby, jeden Gemini príkaz spotrebuje 0.10Wh energie, 0.12mL vody a emituje 0.02 gCO2e. Toto je malé a sľubné číslo, ale širšia metodológia Google hovorí iný príbeh. S väčším počtom faktorov zohľadnených, textový príkaz Gemini využíva 0.24Wh energie, 0.26mL vody a emituje 0.03 gCO2e — takmer dvojnásobok vo všetkých ohľadoch.

Udržia nové efektívnosti krok s využívaním AI?

Cez viacúrovňovú sériu efektívností, Google neustále pracuje na spôsoboch, ako zmenšiť dopad AI. Od efektívnejších architektúr modelov a dátových centier po prispôsobený hardvér, Google sa snaží riešiť dopad AI na svet komplexným prístupom.

S múdrejšími modelmi, prípadmi použitia a nástrojmi, ktoré sa každý deň objavujú, budú tieto efektívnosti veľmi potrebné všade, keď sa hlbšie ponoríme do našej novej AI reality.

Pre viac informácií by ste sa mali prestávať používať ChatGPT na tieto veci.


Zdroj: www.cnet.com

Tagy:

Zdieľať na:

Najnovšie recenzie

Najnovšie články