Membership inference (wnioskowanie o przynależności) to rodzaj ataku na prywatność danych, w którym napastnik próbuje ustalić, czy konkretny rekord danych został wykorzystany do wytrenowania danego modelu uczenia maszynowego. Wykorzystuje on fakt, że modele często zachowują się inaczej w kontakcie z danymi treningowymi niż z nowymi informacjami, co pozwala na wykrycie wzorców sugerujących obecność wrażliwych danych w zbiorze uczącym. Jest to szczególnie niebezpieczne w przypadku baz medycznych lub finansowych, gdyż samo potwierdzenie obecności danej osoby w zbiorze może ujawnić poufne informacje o jej stanie zdrowia lub statusie majątkowym.
📖 Dowiedz się więcej w kontekście:
Reklama
