선형회귀의 확장

선형회귀의 확장이란

입력값 x와 출력값 y의 관계를 선형으로 매핑할 수 없는 문제에 대해, 데이터들을 선형회귀로 표현할 수 있게, 적절히 선형화(linearization) 과정을 거쳐 x’ 와 y’로 변형ㄴ한 후, 이들의 매핑 관계를 설명하는 선형 항수 y' = mx' + b 를 찾는 방식을 의미한다.

즉, 데이터를 선형회귀에 맞추는 방법!

선형회귀의 확장 방법

데이터의 분포 및 입출력 매핑 형태에 따라서 선형회귀의 확장은 여러 가지 방법을 적용한다.

선형화 방법 설명
(1) 데이터에 자연로그를 취해 선형화 지수함수와 같은 데이터 형태에 대해 자연로그를 취해 선형화
(2) 데이터에 로그를 취해 선형화 거듭제곱과 가튼 데이터 형태에 대해 로그를 취해 선형화
(3) 데이터에 역수를 취해 선형화 포화된 증가 형태 데이터에 대해 역수를 취해 선형화
(4) 다항 회귀 고차 다항식 사용한 회귀 방법
(5) 비선형 입력 변환함수를 사용한 선형회귀 비선형 기저 함수 사용
(6) 비선형 회귀 신경망과 같은 복잡한 비선형함수를 사용하는 방법
커널을 이용해 고차원 공간으로 매핑하는 SVM적용

Reference

머신러닝 (이관용, 박혜영 공저)