인공 신경망 소개

1. 생물학적 뉴런에서 인공 뉴런까지
1. 퍼셉트론
1. 퍼셉트론은 TLU라는 인공 뉴런을 기반으로 한다.
2. 입력과 출력이 숫자이고, 각각의 입력 연결은 가중치와 연관되어 있다.
3.  TLU는 입력의 가중치 합을 계산한 후 계단 함수를 적용하여 결과를 출력한다.
4. TLU
1. 
5. 퍼셉트론은 층이 하나뿐인 TLU로 구성된다.
   각 뉴런은 모든 입력 뉴런에 입력되어 있다.
6. 퍼셉트론은 연결된 뉴런이 동일한 출력을 낼 때마다 연결 가중치가 증가하는 방식으로 학습된다.

잘못된 출력을 만드는 연결은 강화 시키지 않는다.

7. 퍼셉트론 학습 규칙
1. 
8. 다층 퍼셉트론을 사용하여 일반 퍼셉트론의 일부 제약을 줄일 수 있다.

2. 다층 퍼셉트론과 역전파
1. 다층 퍼셉트론은 입력층, 은닉층, 출력층으로 구성된다.
   출력층을 제외한 모든 층은 편향 뉴런을 포함하며 다음 층과 완전히 연결되어 있다.
2. 다층 퍼셉트론을 훈련에는 역전파 알고리즘이 사용되며,

이를 잘 작동시키기 위해서 로지스틱 등의 활성화 함수를 사용한다.

3. 활성화 함수와 해당 도함수
1. 

2. 신경망 하이퍼파라미터 튜닝하기
1. 은닉층의 수
1. 심층 신경망은 얕은 신경망보다 파라미터 효율성이 좋다.
   복잡한 함수를 모델링 할 때 얕은 신경망보다 훨씬 적은 수의 뉴런을 사용하기 때문에 더 빠르게 훈련된다.
2. 계층 구조는 심층 신경망이 좋은 솔루션으로 빨리 수렴하게 도와줄 뿐만 아니라
   새로운 데이터에 일반화 되는 능력도 향상시킨다.