Support Vector Machines (SVM)

Support Vector Machines (SVM) to zaawansowany algorytm uczenia nadzorowanego wykorzystywany głównie do zadań klasyfikacji oraz regresji. Działanie metody opiera się na znalezieniu optymalnej hiperpłaszczyzny, która dzieli dane na osobne klasy, maksymalizując przy tym margines, czyli odległość między granicą decyzyjną a najbliższymi punktami treningowymi zwanymi wektorami nośnymi. W przypadku problemów nieliniowych algorytm stosuje tzw. trik kernelowy (kernel trick), który przenosi dane do przestrzeni o wyższym wymiarze, umożliwiając ich liniowe rozdzielenie. Dzięki koncentracji na punktach granicznych SVM charakteryzuje się dużą odpornością na przeuczenie, przez co jest efektywny nawet przy pracy z mniejszymi, lecz złożonymi zbiorami danych.