SVM(Support Vector Machine) 모델이란?

SVM(Support Vector Machine)은 기계 학습 및 패턴 인식 분야에서 널리 사용되는 지도 학습 알고리즘 중 하나이다.  SVM은 주로 분류 및 회귀 문제에 적용되며, 주어진 데이터를 두 개 또는 그 이상의 클래스로 분류하는 데 사용된다.

SVM의 주요 개념은 데이터 포인트를 고차원 공간으로 매핑하여 클래스를 분리하는 최적의 Decision Boundary을 찾는 것으로, 이때 Decision Boundary은 데이터 포인트 간의 거리를 최대화하는 원리에 기반하며, SVM은 다음과 같은 특징을 갖는다.

  1. 최적 분리: SVM은 최대 마진(Maximum Margin) 분류를 지향합니다. 이는 Decision Boundary 주변에 가장 가까운 데이터 포인트들을 서포트 벡터라고 하며, 이들과의 거리(margin)를 최대화하려 한다.
  2. 비선형 분류: SVM은 선형적으로 구분되지 않는 데이터에 대해서도 잘 작동할 수 있도록 커널 기법을 사용한다. 커널은 데이터를 고차원 공간으로 사상하여 선형 분류 가능한 상태로 만들어 준다.
  3. 오류 처리: SVM은 데이터 포인트를 분류하는 동안 일부 오류를 허용하지만, 이를 최소화하도록 조절할 수 있다.
  4. 다중 클래스 분류: 이진 분류를 다중 클래스 분류로 확장하는 다양한 방법이 있으며, 일대다(One-vs-Rest) 및 일대일(One-vs-One) 방식이 가장 일반적이다.

SVM은 다양한 응용 분야에서 사용되며, 텍스트 분류, 이미지 분류, 얼굴 인식 등 다양한 분야에서 효과적으로 활용되고 있다. SVM은 모델의 일반화 능력이 뛰어나며, 과적합을 피하기 위해 매개 변수 조정이 필요한 경우가 상대적으로 적다는 특징이 있다.