W obliczu rosnącego wpływu sztucznej inteligencji na środowisko, branża technologiczna wprowadza przełomowe narzędzie – AI Energy Score. Ten innowacyjny system oceny, opracowany przez konsorcjum Salesforce, Hugging Face, Cohere i Carnegie Mellon University, standaryzuje pomiar zużycia energii podczas inferencji modeli AI, oferując pięciogwiazdkowy system rankingowy i publiczny leaderboard. Mechanizm ten pozwala na obiektywne porównywanie 166 modeli w 10 kategoriach zadaniowych, uwzględniając zarówno rozwiązania open-source.
Architektura Systemu Oceny
Podstawą AI Energy Score jest ścisła kontrola warunków testowych. Wszystkie benchmarki wykonuje się na kartach NVIDIA H100 80GB z zachowaniem identycznych parametrów: rozmiaru batcha=1, precyzji obliczeń (FP32 dla większości zadań, FP16 dla generacji tekstu) oraz wyłączonych technik optymalizacyjnych. Do pomiarów wykorzystano połączenie frameworków Optimum Benchmark i CodeCarbon, które śledzą zużycie energii z dokładnością do poszczególnych faz przetwarzania – preprocess, prefill i decode.
„Standaryzacja na poziomie sprzętowym i programistycznym eliminuje zmienne zakłócające, pozwalając na porównania typu 'jabłko do jabłka'” – wyjaśnia dr Sasha Luccioni z Hugging Face.
Klasyfikacja Modeli i Metodyka Testów
Dla zadania generacji tekstu wprowadzono trójstopniowy podział modeli oparty na zużyciu pamięci GPU:
| Klasa | Sprzęt | Pamięć (GB) | Maks. parametry |
|---|---|---|---|
| A | NVIDIA RTX 4090 | 24 | 20 mld |
| B | NVIDIA H100 | 80 | 66 mld |
| C | Klastry H100 | >80 | >66 mld |
Każdy model przechodzi 10 iteracji testowych na zestawie 1,000 próbek, z których obliczana jest średnia energia GPU w watogodzinach.
Wdrożenie AI Energy Score rewolucjonizuje procesy zakupowe w sektorze enterprise. Przykładowe zapytanie ofertowe RFP zawiera teraz
W sektorze publicznym inicjatywa wpisuje się w europejskie rozporządzenia AI Act, wprowadzając mechanizmy certyfikacji środowiskowej. Producenci tacy jak Salesforce już teraz publikują karty techniczne swoich modeli z uwzględnieniem ocen energetycznych.
