adversarial machine learning

Adversarial machine learning to dziedzina zajmująca się badaniem ataków na modele uczenia maszynowego oraz metodami obrony przed nimi. Polega ona na manipulowaniu danymi wejściowymi w taki sposób, aby zmylić algorytm i doprowadzić do błędnej klasyfikacji lub nieprawidłowego działania systemu przy zachowaniu pozornej poprawności danych dla człowieka.