| Lakera |
Gandalf |
Gra edukacyjna i symulator ataków/red-teaming AI, uczy o podatnościach LLM poprzez wyzwania w formie prompt injection i bardziej zaawansowanych technik (np. agentic AI) - edukacja AI security. |
https://gandalf.lakera.ai/ |
| Embrace the Red |
The Month of AI Bugs |
Inicjatywa/seria artykułów prezentująca różne błędy i podatności w AI, szczególnie agentowych AI, mająca na celu podniesienie świadomości w branży. |
https://monthofaibugs.com/ |
| Microsoft |
AI Red Team Training |
Oficjalna seria szkoleń Microsoft o atakach i obronie dla generatywnych modeli AI, obejmuje techniki ataków (np. prompt injection), case studies i narzędzia do obrony (np. PyRIT). |
https://learn.microsoft.com/en-us/security/ai-red-team/training |
| PortSwigger |
Web Security Academy - Web LLM Attacks |
Ścieżka nauki Web Security Academy poświęcona atakom na integracje LLM z web (prompt injection, API abuse itp.) – interaktywne laboratoria i teoria. |
https://portswigger.net/web-security/learning-paths/llm-attacks |
| Feedox |
Wild LLaMa |
Mini-gra / wyzwania prompt engineering testujące umiejętności manipulowania LLM w kolejnych poziomach. |
https://feedox.com/wild-llama |
| OWASP GenAI Security Project |
FinBot Agentic AI CTF Application |
Projekt OWASP oferujący interaktywną aplikację CTF symulującą podatności agentowych AI (FinBot) oraz flagi do zdobycia na potrzeby edukacji/projektów bezpieczeństwa. |
https://genai.owasp.org/resource/finbot-agentic-ai-capture-the-flag-ctf-application/ |
| Dreadnode |
Crucible |
Platforma z wyzwaniami AI red-teaming, pozwalająca ćwiczyć techniki ataku i zabezpieczeń w kontrolowanym środowisku CTF (prompt injection, evasion, etc.). |
https://dreadnode.io/crucible |
| VirtualSteve-Star |
Steve’s Chat Playground |
Przeglądarkowa piaskownica do eksperymentowania z modelami czatu, filtrami i stereotypami bezpieczeństwa (prompt injection i filtrowanie). |
https://virtualsteve-star.github.io/chat-playground/ |