Machine Learning

Machine Learning 종류

지도 학습 ( Supervised learning )	입력과 labeling된 결과를 함께 학습시켜 특정 입력에 대한 특정 출력(label)이 나오도록 하는  규칙을 찾아내는 학습 방법 입력과 출력 쌍으로 구성되는 학습 데이터를 통해 규칙(rule)을 발견하고 이를 바탕으로 새로운 데이터를 추정(predict)하는 것이 학습의 목표 좋은 학습 결과를 얻기 위해서는 많은 양의 훈련 데이터를 갖고 있어야 하며, 훈련 데이터가 범용성(generalization)을 갖고 있어야 한다. ex ) 회귀 [ regression ]
비지도 학습 ( Unsupervised learning )	입력은 있지만 정해진 출력이 없는 경우 순수하게 데이터를 갖고 있는 속성들을 이용해 그룹으로 나누는 경우 사용되는 학습 방법 일반적으로 시장 조사, 컴퓨터 클러스터링, 그림이나 동영상 auto-taggin등에 사용 ex ) 분류 [ Clustrering ] , 차원 축소 [ Dimensionality Reduction ]
강화 학습 ( Reinforcement learning )	어떤 환경 안에서 정의된 에이전트가 현재의 상태를 인식하여, 선택 가능한 행동들 중 보상을 최대화하는 행동 혹은 행동 순서를 선택하는 방법 입출력 쌍으로 이루어진 훈련 집합이 제시되지 않으며, 잘못된 행동에 대해서도 명시적으로 정정이 일어나지 않는다 강화학습의 초점은 학습 과정에서의(on-line) 성능이며, 이는 탐색(exploration)과 이용(exploitation)의 균형을 맞춤으로써 제고

---

Linear Regression

• Supervised learning의 아주 간단한 방법으로 다른 통계방법에 비해 간단하지만 해석력이 뛰어나다.
• 단순 선형회귀 (simple linear regression)
  • 독립변수와 종속변수의 관계를 설명할 때 가장 많이 쓰이는 가장 단순한 모델
  • hypothesis :  
  • Θ0과 Θ1은 우리가 추정하고자 하는 모델의 계수(parameter)이다.
  • 우리가 가진 데이터에 가장 잘 맞는 선형 식을 구하기 위해 계수를 구해야 한다. 이때 계수를 구하는 방식이 least Cost Function을 찾는 것이다.

cost function J(Θ0, Θ1)
	예측값과 실제값의 차이가 최소가 되는 Θ0과 Θ1를 찾기 위한 것이기 때문에 예측값과 실제값의 차이를 제곱한 값들의 총합이 가장 작은 Θ0과 Θ1를 찾게 된다.

• 선형(linear)
  • linear은 x의 1차 다항식을 의미하는 것이 아니다. 여러 자료에서 독립 변수(x)와 종속 변수(y) 간의 관계가 일차식인 것을 선형 회귀 모델이라고 설명하며 독립 변수를 제곱근이나 로그 함수 등을 이용해서 적당히 변환하면 비선형 모델을 선형 모델로 만들 수 있다고 하지만 이는 잘못된 설명이다.
  • 선형 회귀 모델에서 linear은 회귀 계수(regression coefficient)를 선형 결합으로 표현할 수 있는 모델을 말한다.

<그림 1> 선형 가능 회귀 모델 = 선형 회귀 모델