Sztuczna inteligencja coraz śmielej przenosi się z chmury obliczeniowej bezpośrednio na urządzenia, z których korzystamy na co dzień. Aby sprostać wyzwaniom związanym z wydajnością i zużyciem energii, Google zaprezentowało Coral NPU – kompletną platformę sprzętowo-programową zaprojektowaną do budowy nowej generacji energooszczędnych urządzeń brzegowych (edge AI).
Architektura AI-First i Otwarty Standard
Do tej pory projektanci systemów wbudowanych mierzyli się z kompromisem między elastycznymi procesorami ogólnego przeznaczenia (CPU) a wyspecjalizowanymi akceleratorami AI. CPU brakowało wydajności do złożonych zadań ML, a dedykowane układy były nieelastyczne i trudne w programowaniu. Coral NPU rozwiązuje ten problem, odwracając tradycyjne podejście – rdzeniem architektury jest silnik do obliczeń macierzowych, co optymalizuje ją pod kątem inferencji AI od samego krzemu.
Platforma bazuje na otwartej i rozszerzalnej architekturze RISC-V, oferując projektantom SoC elastyczność w modyfikacji lub wykorzystaniu gotowego projektu NPU. Ujednolicone środowisko programistyczne, oparte o nowoczesne kompilatory jak IREE i MLIR, ułatwia wdrażanie modeli z popularnych frameworków, takich jak TensorFlow, JAX czy PyTorch.
| Parametr | Specyfikacja |
| Architektura | RISC-V ISA |
| Wydajność (wersja bazowa) | ~512 GOPS (gigaoperacji na sekundę) |
| Pobór mocy | Kilka miliwatów |
| Kluczowa cecha | Zoptymalizowana pod kątem małych modeli transformatorowych (LLM) |
Zastosowania i Bezpieczeństwo Danych
Głównym celem Coral NPU jest umożliwienie całodziennego działania AI na urządzeniach zasilanych bateryjnie, takich jak smartwatche, urządzenia ubieralne czy IoT. Minimalizacja zużycia energii jest tu kluczowa, otwierając drogę do implementacji zaawansowanych funkcji:
- Stałe nasłuchiwanie otoczenia (ambient sensing): Inteligentne czujniki reagujące na kontekst.
- Tłumaczenie w czasie rzeczywistym: Przetwarzanie mowy bez opóźnień związanych z komunikacją z chmurą.
- Zaawansowane audio: Aktywna redukcja szumów i precyzyjne rozpoznawanie mowy.
- Wizja komputerowa: Detekcja obiektów i segmentacja obrazu bezpośrednio na urządzeniu.
Google kładzie również nacisk na bezpieczeństwo. Architektura została zaprojektowana z myślą o wsparciu dla technologii takich jak CHERI, która pozwala na sprzętową izolację wrażliwych modeli AI i danych osobowych w tzw. piaskownicy (sandbox), chroniąc je przed atakami na poziomie pamięci.
Otwarty Ekosystem i Strategiczne Partnerstwo
Powodzenie projektów open hardware zależy od silnej współpracy w ramach branży. Google dąży do stworzenia wspólnego, otwartego standardu, który przyspieszy innowacje w obszarze edge computing, jednocześnie unikając fragmentacji technologicznej.
Pierwszym strategicznym partnerem jest firma Synaptics, która ogłosiła nową linię procesorów Astra™ SL2610. Zawierają one podsystem Torq™ NPU, będący pierwszym komercyjnym wdrożeniem architektury Coral NPU.
Współpraca ta potwierdza zaangażowanie w budowę jednolitego doświadczenia dla deweloperów, opartego na kompilatorze i środowisku uruchomieniowym open source (IREE/MLIR). To ważny krok w kierunku stworzenia otwartego standardu dla inteligentnych, świadomych kontekstu urządzeń nowej generacji.
