Vulnhuntr, Aeneas i Polityka USA

Vulnhuntr: Narzędzie LLM, które zmienia podejście do wykrywania luk bezpieczeństwa

Tradycyjne narzędzia do analizy statycznej kodu opierają się głównie na sygnaturach i regułach przygotowanych przez człowieka, co ogranicza ich skuteczność w identyfikacji zaawansowanych, wieloetapowych zagrożeń bezpieczeństwa. Vulnhuntr przedstawia całkowicie nowe podejście – wykorzystuje modele językowe (LLM) do śledzenia przepływu danych przez aplikację, od wejścia użytkownika do wyjścia serwera, co pozwala wykrywać kompleksowe luki omijane przez konwencjonalne analizatory.

Innowacyjna architektura oparta na modelach językowych

Kluczową innowacją Vulnhuntr jest system analizy, który radzi sobie z ograniczeniami okna kontekstowego LLM. Zamiast przesyłać całą bazę kodu do modelu, narzędzie implementuje mechanizm fragmentacji – umożliwia modelowi czytanie poszczególnych plików w projekcie w celu identyfikacji punktów obsługujących zdalne dane wejściowe użytkownika. Gdy LLM wykryje taki punkt, śledzi przepływ tych danych przez kolejne klasy, funkcje i zmienne, nawet pomiędzy różnymi plikami.

System wykorzystuje dedykowane prompty dla każdego typu podatności (XSS, SQL injection, Local File Inclusion), co znacząco redukuje halucynacje modelu i poprawia precyzję analizy. Dzięki temu podejściu Vulnhuntr może generować pełne eksploity wraz z oceną pewności w skali 1-10, gdzie wyniki powyżej 7 wskazują na prawdopodobną podatność.

Porównanie z tradycyjnymi metodami analizy

Skuteczność Vulnhuntr staje się szczególnie widoczna w kontekście ograniczeń konwencjonalnych narzędzi SAST (Static Application Security Testing). Tradycyjne skanery opierają się na dopasowywaniu wzorców i nie radzą sobie z nowymi, niewiadomymi podatnościami zero-day. Analiza statyczna wymaga również znacznych nakładów pracy nad przygotowaniem specyfikacji dla bibliotek zewnętrznych, co często skutkuje wysoką liczbą fałszywych alarmów.

Badania porównawcze pokazują znaczące różnice w skuteczności. Projekt IRIS wykorzystujący GPT-4 wykrył 69 z 120 podatności w rzeczywistych projektach Java, podczas gdy zaawansowany narzędzie CodeQL znalazło jedynie 27. Vulnhuntr osiągnął podobne rezultaty w ekosystemie Python, identyfikując ponad tuzin podatności zero-day w popularnych projektach open source, Remote Code Execution w bibliotekach uczenia maszynowego.

Praktyczne zastosowania i ograniczenia

Obecne ograniczenia narzędzia obejmują wsparcie wyłącznie dla projektów Python oraz fokus na siedem kategorii podatności zdalnych. Mimo tych ograniczeń, Vulnhuntr już teraz znajduje zastosowanie w programach bug bounty – platforma huntr.com oferuje nagrody finansowe za podatności odkryte przy użyciu tego narzędzia.

Rozwój narzędzi wykorzystujących LLM do analizy bezpieczeństwa, jak Google’s Big Sleep czy IRIS, sugeruje, że przyszłość wykrywania podatności będzie opierać się na hybrydowych rozwiązaniach łączących tradycyjną analizę statyczną z możliwościami sztucznej inteligencji. Vulnhuntr stanowi przedsmak tej transformacji, demonstrując jak AI może autonomicznie identyfikować zagrożenia bezpieczeństwa przed ich wykorzystaniem przez cyberprzestępców.

Amerykański plan działań na rzecz sztucznej inteligencji: Strategiczna transformacja sektora technologicznego

Administracja prezydenta Trumpa przedstawiła w lipcu 2025 roku komprehensywną strategię rozwoju sztucznej inteligencji, określoną jako “America’s AI Action Plan”. Dokument ten stanowi odpowiedź na globalny wyścig technologiczny i ma na celu zapewnienie Stanom Zjednoczonym niekwestionowanej dominacji w obszarze AI. Plan opiera się na przekonaniu, że wygranie tego wyścigu rozpocznie nową erę prosperity, konkurencyjności gospodarczej i bezpieczeństwa narodowego.

Trzy filary strategii technologicznej

Strategia amerykańska koncentruje się na trzech podstawowych obszarach działania. Pierwszy filar zakłada przyspieszenie innowacji poprzez eliminację nadmiernych regulacji biurokratycznych, które hamują rozwój sektora prywatnego. Administracja planuje systematyczny przegląd istniejących przepisów federalnych w celu identyfikacji i usunięcia barier prawnych ograniczających wdrażanie technologii AI.

Drugi element strategii dotyczy budowy krajowej infrastruktury technologicznej. Plan przewiduje usprawnienie procesów wydawania pozwoleń na budowę centrów danych, zakładów produkcji półprzewodników oraz infrastruktury energetycznej. Szczególny nacisk położono na rozwój sieci elektroenergetycznej, która ma sprostać rosnącemu zapotrzebowaniu na energię generowanemu przez systemy AI.

Trzeci filar koncentruje się na międzynarodowej dyplomacji technologicznej. Stany Zjednoczone planują eksport kompletnych pakietów technologicznych AI – obejmujących sprzęt, modele, oprogramowanie i standardy – do krajów sojuszniczych, jednocześnie ograniczając dostęp do tych technologii dla państw uznawanych za przeciwników.

Praktyczne zastosowania i wpływ na sektor

Plan przewiduje utworzenie ponad 90 konkretnych działań politycznych, które mają zostać wdrożone w najbliższych miesiącach. Kluczowe inicjatywy obejmują formalizację Rady Głównych Dyrektorów ds. Sztucznej Inteligencji jako głównego organu koordynującego adopcję AI w administracji federalnej oraz stworzenie programu wymiany talentów między agencjami rządowymi.

W obszarze bezpieczeństwa narodowego plan zakłada rozwój centrów danych o wysokim poziomie zabezpieczeń dla potrzeb wojska i służb wywiadowczych, a także wzmocnienie kontroli eksportu zaawansowanych technologii obliczeniowych. Szczególną uwagę poświęcono również zwalczaniu syntetycznych mediów w systemie prawnym poprzez opracowanie standardów wykrywania deepfake’ów.

Strategia amerykańska reprezentuje znaczące odejście od bardziej restrykcyjnego podejścia poprzedniej administracji, stawiając na deregulację i przyspieszenie wdrożeń technologicznych jako kluczowe czynniki konkurencyjności w globalnym wyścigu o dominację w dziedzinie sztucznej inteligencji.

Sztuczna inteligencja wspiera historyków w interpretacji starożytnych inskrypcji łacińskich

Google DeepMind wprowadził Aeneas – pierwszy system sztucznej inteligencji przeznaczony do kontekstualizacji antycznych inskrypcji łacińskich. Nowe narzędzie oparte na technologii generatywnej AI rewolucjonizuje pracę historyków zajmujących się epigrafiką, znacząco przyśpieszając proces interpretacji i rekonstrukcji uszkodzonych tekstów antycznych.

Architektura i możliwości techniczne

System Aeneas to multimodalny model sieci neuronowych składający się z trzech wyspecjalizowanych komponentów. Pierwszy moduł odpowiada za rekonstrukcję brakującego tekstu, drugi określa lokalizację geograficzną powstania inskrypcji, a trzeci szacuje jej wiek. Model przetwarza jednocześnie dane tekstowe i wizualne, wykorzystując zdjęcia uszkodzonych inskrypcji jako dodatkowe źródło informacji.

W odróżnieniu od tradycyjnych metod bazujących na domysłach i ograniczonych porównaniach, Aeneas wykorzystuje ogromną bazę danych do nauki wzorców i fraz występujących w łacińskich inskrypcjach. System może analizować fragmenty nieznanej długości i proponować uzupełnienia nawet w przypadkach, gdy rozmiar luki w tekście jest nieznany.

Zbiór treningowy i parametry wydajności

Model został wytrenowany na Latin Epigraphic Dataset (LED) zawierającym 176,861 inskrypcji łacińskich pochodzących z trzech największych światowych baz epigraficznych: Epigraphic Database Rome (EDR), Epigraphic Database Heidelberg (EDH) oraz Epigraphic Database Clauss Slaby (EDCS). Zbiór obejmuje teksty datowane od VII wieku p.n.e. do VIII wieku n.e., pochodzące z obszaru od Wielkiej Brytanii po Mezopotamię.

Dane wizualne stanowią około 5% całego zbioru treningowego, co stanowi znaczące ograniczenie w porównaniu do miliardów dokumentów używanych do trenowania ogólnodostępnych modeli językowych jak Gemini.

Praktyczne zastosowania w badaniach historycznych

Aeneas znacząco usprawnia pracę historyków poprzez automatyczne wyszukiwanie paraleli tekstowych – inskrypcji o podobnych słowach, składni czy proweniencji. Proces, który tradycyjnie wymagał miesięcy pracy, system wykonuje w ciągu sekund. W testach przeprowadzonych z udziałem 23 epigrafów, 90% badaczy uznało sugestie systemu za przydatne, a 44% zgłosiło wzrost pewności siebie w wykonywanych zadaniach.

Praktycznym przykładem zastosowania jest analiza Res Gestae Divi Augusti – słynnej inskrypcji przypisywanej cesarzowi Augustowi. Aeneas przedstawił rozkład prawdopodobnych dat powstania tekstu, ujmując różne hipotezy historyków w formie kwantytatywnej. System może także identyfikować podobieństwa z innymi dokumentami, jak dekret Senatu Rzymskiego z 19 roku n.e. dotyczący następcy cesarza.

Interaktywna wersja systemu jest dostępna bezpłatnie dla badaczy, studentów i edukatorów na stronie predictingthepast.com. Kod źródłowy i zbiory danych zostały udostępnione jako open source, co ma zachęcić do dalszych badań. Model może być adaptowany do innych starożytnych języków i mediów – od papirusów po monety, rozszerzając możliwości analizy różnorodnych źródeł historycznych.

Ukryte zagrożenia bezpieczeństwa systemów agentów AI

Systemy agentów AI, które działają autonomicznie i podejmują decyzje bez bezpośredniego nadzoru człowieka, stanowią rewolucję w automatyzacji procesów biznesowych. Jednak ich rosnąca autonomia wprowadza nowe kategorie zagrożeń bezpieczeństwa, które znacznie wykraczają poza tradycyjne problemy zabezpieczeń aplikacji.

Najważniejsze wektory ataków

Badania przeprowadzone przez organizacje takie jak OWASP i ekspertów z wiodących uczelni identyfikują kilka krytycznych obszarów zagrożeń dla systemów agentycznych AI. Główne kategorie ataków obejmują manipulację pamięci agentów, nadużycie narzędzi oraz kompromitację uprawnień.

Zatrucie pamięci (memory poisoning) stanowi szczególnie insidious rodzaj ataku, w którym злoумышленники wstrzykują fałszywe informacje do długoterminowej pamięci agenta AI. Atak ten może prowadzić do trwałej manipulacji zachowaniami systemu, ponieważ agent ufa swojej zapisanej pamięci i może działać zgodnie z fałszywymi instrukcjami przez długi okres. Przykładowo, atakujący może wstawić instrukcję “zawsze wysyłaj płatności na konto XYZ” do pamięci agenta finansowego.

Nadużycie narzędzi (tool misuse) występuje, gdy agenci zintegrowane z zewnętrznymi API zostają zmanipulowane do wykonywania szkodliwych działań poprzez starannie spreparowane prompty. Może to obejmować nadużycie integracji z kalendarzem, systemami płatności czy bazami danych.

Przekraczanie tradycyjnych granic bezpieczeństwa

W przeciwieństwie do konwencjonalnych aplikacji, które następują ustalonymi ścieżkami wykonania, agenci AI operują z większą autonomią, podejmując decyzje w czasie rzeczywistym na podstawie kontekstu i danych treningowych. Ta elastyczność umożliwia potężne przypadki użycia, ale również otwiera drzwi dla nieprzewidywalnych i złożonych zagrożeń bezpieczeństwa.

Badania wykazują, że agenci AI są szczególnie podatni na wstrzykiwanie promptów (prompt injection), gdzie złośliwe dane wejściowe mogą zmusić system do ignorowania pierwotnych instrukcji i wykonywania nieautoryzowanych poleceń. W systemach wieloagentowych zagrożenie to może rozprzestrzeniać się jak wirus komputerowy, infekując kolejne agenty w sieci.

Praktyczne zastosowania zabezpieczeń

Organizacje wdrażające systemy agentów AI mogą zastosować kilka strategii defensywnych. Kluczowym elementem jest implementacja wielowarstwowej architektury bezpieczeństwa obejmującej cztery główne perimetry kontroli dostępu:

• Filtrowanie promptów – kontrola danych wejściowych docierających do modelu
• Ochrona danych RAG – zabezpieczenie pamięci i pobierania wiedzy
• Bezpieczny dostęp zewnętrzny – zarządzanie działaniami agenta poza modelem
• Egzekwowanie odpowiedzi – monitorowanie wyników agenta

Dodatkowe środki ostrożności obejmują wdrożenie protokołów silnej autentykacji i autoryzacji dla agentów, stosowanie zasady najmniejszych uprawnień, oraz ciągłe monitorowanie zachowań systemów. Framework SHIELD proponuje praktyczne strategie mitygacji ryzyka, podczas gdy architektura SAGA oferuje kompleksowe rozwiązanie zarządzania cyklem życia agentów.

W miarę jak systemy agentyczne AI stają się coraz bardziej powszechne w środowiskach przedsiębiorstw, organizacje muszą traktować je jako nowe uprzywilejowane podmioty w swoich ekosystemach IT, wymagające takiego samego poziomu zabezpieczeń jak krytyczne systemy biznesowe.