간단하게 머신러닝 발전의 역사를 살펴보면 다음과 같다.
퍼셉트론(신경망 모델)이란 뇌의 구조를 모사한 정보처리 방식을 말한다. 즉, 뉴런이 수상돌기를 통해서 입력받아 출력을 생성하는 과정을 모델링한 것이다. 여기서 w를 바이어스 항이다!
위와 같은 용어를 사용하여 이야기 하도록한다.
1) 데이터
3) E (오차)
4) 가중치
이때 임계논리, 선형, 시그모이드 유닛은 f함수가 다르다. 임계논리의 경우, 함수는 -1 또는 +1 의 값을 갖는다. 선형유닛은 f 가 s = W*X 와 같다. 시그모이드 유닛은
여기서 포인트는 함수값이 달라짐에 따라 오차가 달라진다는 것이다. 오차의 식에서도 볼수 있듯이. 또한 오차항이 달라지면 가중치 W 도 달라지게 된다.
 의 알고리즘){kind=link}