머신 러닝은 데이터가 주어지면, 기계가 스스로 데이터로부터 규칙성을 찾는 것에 집중한다. 주어진 데이터로부터 규칙성을 찾는 과정을 우리는 훈련(training) 또는 학습(learning)이라고 한다.
Improves their performance P
at some task T
with experience E
A well defined learning task is given by < P,T,E >
모델은 결국 어떤 함수고, 그 함수에는 매개변수(model parameter) 들이 있다. 모델은 주어진 데이터를 학습하며, 그 데이터에 맞게 매개변수를 조절하며 학습을 진행한다.
규칙성을 발견하고나면, 그 후에 들어오는 새로운 데이터에 대해서 발견한 규칙성을 기준으로 정답을 찾아내는데 이는 기존의 프로그래밍 방식으로 접근하기 어려웠던 문제의 해결책이 되기도 한다.
전통적인 알고리즘은 분석을 통해 즉각적인 해답을 내놓는 역할을 했다. 머신러닝은 이와 다르게 주어진 데이터를 학습해 일반화를 하는 것이 목적으로, 출력을 생성할 수 있는 모델을 반환한다.

머신러닝은 다음과 같은 상황들에서 진가를 발휘한다.
머신러닝 모델의 학습 시스템은 다음과 같은 과정을 통해 구축된다.

