01
Bezpieczeństwo agentów AI
Przeglądy i testy adwersarialne agentów, narzędzi i serwerów MCP: prompt injection, nadużycia narzędzi, nadmierna autonomia i eskalacja uprawnień w łańcuchach wywołań.
Bezpieczeństwo AI i zgodność z AI Act
Zabezpieczamy autonomiczne systemy AI.
Modelujemy zagrożenia, testujemy i wzmacniamy systemy oparte na agentach i LLM. Zastawiamy pułapki, które wykrywają atakującego, zanim dotrze do Twoich danych, i pomagamy spełnić wymagania AI Act.
Cztery obszary, jedna specjalizacja.
02
Modelowanie zagrożeń
Modele zagrożeń klasy audytowej dla systemów LLM, RAG i agentowych. Mechanizmy kontrolne wiążemy z obowiązkami wynikającymi z AI Act.
OWASP LLM
MITRE ATLAS
MAESTRO
03
Deception dla AI
Fałszywe narzędzia, dokumenty-pułapki w bazie RAG i honeytokeny w pamięci agenta. Alarmują w chwili, gdy ktoś próbuje przejąć kontrolę nad Twoim systemem.
04
Doradztwo AI Act
Ustalamy kategorię ryzyka Twojego systemu i wynikające z niej obowiązki. Pomagamy przygotować system zarządzania ryzykiem, dokumentację techniczną i mechanizmy kontrolne, dzięki którym wykażesz zgodność.
EU AI Act
ISO/IEC 42001
Jak pracujemy
Najczęstsze pytania
Czy mój system to AI wysokiego ryzyka?
To zależy od zastosowania, a nie od technologii. AI Act uznaje za systemy wysokiego ryzyka m.in. AI używaną w rekrutacji, ocenie zdolności kredytowej, edukacji i infrastrukturze krytycznej (załącznik III) oraz AI będącą elementem bezpieczeństwa produktów regulowanych (załącznik I). Chatbot lub asystent zwykle podlega tylko obowiązkom przejrzystości. Pomagamy ustalić klasyfikację i ją udokumentować.
Od kiedy muszę spełniać wymagania AI Act?
Zakazane praktyki obowiązują od 2 lutego 2025 r., obowiązki dla modeli ogólnego przeznaczenia od 2 sierpnia 2025 r., a obowiązki przejrzystości od 2 sierpnia 2026 r. Po nowelizacji (Digital Omnibus) wymagania dla systemów wysokiego ryzyka z załącznika III obowiązują od 2 grudnia 2027 r., a z załącznika I od 2 sierpnia 2028 r.
Czy AI Act dotyczy mnie, jeśli korzystam z gotowego modelu?
Tak, choć w innym zakresie. AI Act nakłada obowiązki nie tylko na dostawców modeli, ale też na podmioty stosujące AI. Jeśli budujesz własny produkt na cudzym modelu, np. przez API, możesz być dostawcą systemu AI w rozumieniu rozporządzenia.
Czym test bezpieczeństwa AI różni się od klasycznego pentestu?
Klasyczny pentest sprawdza aplikację i infrastrukturę. Test systemu AI obejmuje dodatkowo zachowanie modelu i agenta: prompt injection, nadużycia narzędzi, wycieki danych przez RAG i manipulację pamięcią agenta. Łączymy oba podejścia.
Czym jest deception dla AI?
To pułapki wbudowane w system: fałszywe narzędzia, dokumenty-kanarki i honeytokeny. Uprawniony użytkownik nigdy z nich nie korzysta, więc każde ich użycie to sygnał ataku, praktycznie bez fałszywych alarmów.
Budujesz z AI? Porozmawiajmy.
Opisz krótko swój system. Pracujemy po polsku i po angielsku.
team@spulico.com