Przejdź do treści

ML - Blue Team

Witamy w ML Blue Teaming Notes – wyselekcjonowanym zbiorze zasobów, narzędzi i najlepszych praktyk służących do ochrony przed zagrożeniami bezpieczeństwa w dużych modelach językowych (ML).
To repozytorium jest przeznaczone dla członków zespołów blue team, programistów AI, badaczy bezpieczeństwa i wszystkich osób zajmujących się ochroną systemów ML przed złośliwymi atakami, wrogimi zachowaniami i innymi wyzwaniami związanymi z bezpieczeństwem.

Narzędzia do bezpieczeństwa ML

Obrona ML

Lista narzędzi służących do ochrony, monitorowania i wzmacniania zabezpieczeń ML przed atakami:

Date Repo Description Stars Watchers Link
2026-02-18 modelscan Protection against Model Serialization Attacks ⭐ 672 👁️ 14 modelscan
2025-03-24 watchtower AIShield Watchtower: Dive Deep into AI's Secrets! 🔍 Open-source tool by AIShield for AI model insights & vulnerability scans. Secure your AI supply chain today! ⚙️🛡️ ⭐ 202 👁️ 4 watchtower

Narzędzia do ochrony danych i prywatności w ML

Lista narzędzi zapewniających prywatność w ML:

Date Repo Description Stars Watchers Link
2026-04-03 privacy Library for training machine learning models with privacy for training data ⭐ 2003 👁️ 59 privacy
2025-04-26 ml_privacy_meter Privacy Meter: An open-source library to audit data privacy in statistical and machine learning algorithms. ⭐ 706 👁️ 16 ml_privacy_meter
2024-09-25 tf-encrypted A Framework for Encrypted Machine Learning in TensorFlow ⭐ 1244 👁️ 49 tf-encrypted

Narzędzia do bezpiecznego przechowywania ML

Lista narzędzi zapewniających bezpieczne przechowywanie modeli uczenia maszynowego:

Date Repo Description Stars Watchers Link
2026-04-02 safetensors Simple, safe way to store and distribute tensors ⭐ 3674 👁️ 41 safetensors

Narzędzia do ML SecOps

Lista narzędzi zapewniających najlepsze praktyki ML SecOps:

Date Repo Description Stars Watchers Link
2026-03-30 model-transparency Supply chain security for ML ⭐ 227 👁️ 9 model-transparency
2024-11-13 sml-security MLOps Cookiecutter Template: A Base Project Structure for Secure Production ML Engineering ⭐ 42 👁️ 3 sml-security
2022-06-06 fml-security Practical examples of "Flawed Machine Learning Security" together with ML Security best practice across the end to end stages of the machine learning model lifecycle from training, to packaging, to deployment. ⭐ 124 👁️ 7 fml-security

Inne narzędzia

Lista narzędzi do różnych działań związanych z ML:

Date Repo Description Stars Watchers Link
2026-03-31 AugLy A data augmentations library for audio, image, text, and video. ⭐ 5070 👁️ 79 AugLy
2025-08-06 model-analysis Model analysis tools for TensorFlow ⭐ 1266 👁️ 61 model-analysis
2020-07-17 audit-ai detect demographic differences in the output of machine learning models or other assessments ⭐ 319 👁️ 27 audit-ai

Inspiracje i pomysły

Disclaimer

Wszystkie treści służą wyłącznie celom edukacyjnym i badawczym.
Korzystaj z nich w sposób odpowiedzialny, postępuj etycznie i przestrzegaj prawa.