[빅데이터 분석 기사 필기 요약] Chapter08 분석기법 적용- 1.분석기법(3)

인공신경망의 개념
인공신경망은 사람 두뇌의 신경세포인 뉴런이 전기신호를 전달하는 모습을 모방한 기계학습 모델

퍼셉트론 개념
퍼셉트론은 인간의 신경망에 있는 뉴런의 모델을 모방하여 입력층, 출력층으로 구성한 인공신경망 모델

퍼셉트론의 구성 요소
Input->가중치->전송함수,결합함수->활성화함수->Output
<신호수용>-><신호처리>-><신호변환>->

퍼셉트론의 학습 과정
순 입력함수 값을 활성 함수의 임계값과 비교하여 예측값 1 또는 -1을 출력
활성 함수의 예측값이 실제 결과와 다를 경우 가중치를 업데이트하며, 위 과정을 반복하여 학습

역전파 알고리즘
역방향으로 가중치 갱신을 통해 오차를 최소화 시키도록 학습시키는 알고리즘

퍼셉트론의 구성요소
입력값, 가중치, 순 입력함수, 활성 함수, 예측값(출력값)

다층 퍼셉트론의 문제점
과대 적합(Over-fitting), 기울기 소실

활성화 함수 유형
계단 함수, 부호함수, 시그모이드 함수, tanh 함수, ReLU 함수, Leaky ReLU 함수, 소프트맥스 함수

서포트 벡터 개념
서포트 벡터 머신은 벡터 공간에서 학습 데이터가 속한 2개의 그룹을 분류하는 선형 분리자를 찾는 기하학적 모델
데이터를 분리하는 초평면(Hyperplane) 중에서 데이터들과 거리가 가장 먼 초평면을 선택하여 분리하는 지도 학습 기반의 이진 선형 분류 모델
한마디로 SVM은 y=f(x)

초평면 개념
데이터 분류를 위해서는
- 2개의 분리하는 결정영역이 있어야 하고, 이 결정영역을 결정짓기 위해서는 초평면 선택 필요
초평면은 데이터 임베딩 공간에서 한 차원 낮은 부분 공간(Subspace)
-3차원 공간의 초평면 : 2차원 평면, 2차원 공간의 초평면 : 1차원 평면
최적의 초평면이 되기 위한 조건
- 초평면과 결정영역 근처의 데이터와의 거리가 최대가 되어야 하고,
- 두꺼운 결정 영역 클래스 사이에 놓아서 선택의 가짓수를 줄여야 함

서포트 벡터 머신의 분류 원인
서포트 벡터 머신은 결정 영역의 초평면을 둘러싸고 있는 마진(Margin)을 최대화 시켜야 함
SVM은 서포트 벡터만을 사용하여 분류를 할 수 있음
-SVM은 서포트 벡터들만 이용하여 클래스 결정 함수를 나타낼 수 있음
- 즉, 모델 파라미터의 개수를 크게 줄일 수 있음
서포트 벡터 머신 분류기 형식 : y = sign(wtx+b)

서포트 벡터 머신의 구성 요소
두음 : 결초마서슬
결정경계, 초평면, 마진, 서포트 벡터, 슬랙 변수

하드 마진 SVM
마진의 안쪽이나 바깥쪽에 절대로 잘못 분류된 오 분류를 허용하지 않는 SVM
노이즈로 인하여 최적의 결정 경계를 잘못 구할 수도 있고, 못찾을 경우도 발생할 수가 있음

소프트 마진 SVM
마진의 안쪽이나 바깥쪽에 절대로 잘못 분류된 오 분류를 허용하는 SVM
하드 마진 SVM은 적용ㄴ하기가 어려우므로 어느 정도의 오류를 허용하는 소프트마진 SVM 을 주로 이용

서포트 벡터 머신 적용 기준
선형으로 분리 가능한 SVM
선형으로 분리 불가능한 SVM