[혼공족] 혼자 공부하는 머신러닝 + 딥러닝 6주차 Ch07

07 딥러닝을 시작합니다.

07-1 인공 신경망

MNIST 패션데이터 분류

• 데이터 준비

 

로지스틱 회귀로 패션 아이템 분류

인공 신경망으로 모델 만들기

• 데이터 준비

 

인경 신경망으로 패션 아이템 분류

 

기본 미션 07-1 확인 문제

1. 어떤 인공 신경망의 입력 특성이 100개이고 밀집층에 있는 뉴런 개수가 10개일 때 필요한 모델 파라미터의 개수는?

정답: 1010개

절편(b) 10+ 100*10=1010

 

2. 케라스의 Dense 클래스를 사용해 신경망의 출력층을 만들려고 합니다. 이 신경망이 이진 분류 모델이라면 activation 매개변수에 어떤 활성화 함수를 지정해야 하나요?

정답: 2번 sigmoid

 

3. 케라스 모델에서 손실함수와 측정 지표 등을 지정하는 메서드는 무엇인가요?

정답: 4번 compile()

 

4. 정수 레이블을 타깃으로 가지는 다중 분류 문제일 때 케라스 모델의 compile() 메소드에 지정할 손실 함수로 적절한 것은 무엇인가요?

정답: 1번 sparase_categorical_crossentropy

 

 

07-2 심층 신경망

• 데이터 준비

 

심층 신경망 만들기

• 2개의 층

 

층을 추가하는 다른 방법

 

• 모델 훈련

 

렐루 활성화 함수

• 활성화 함수를 렐루로 교체

 

옵티마이저

• SGD 옵티마이저를 추가한다.

• 학습

 

07-3 신경망 모델 훈련

• 데이터 준비

• 모델 

검증 손실

• loss  곡선이 train에서 감소하지만 val에서는 증가
• 과대적합

• 옵티마이저 adam 변경 후 안정적

 

드롭아웃

• 드롭아웃을 적용해 과적합을 방지한다

모델 저장과 복원

 

콜백

• ModelCheckpoint: 매 체크포인트마다 저장
• 최적의 검증 점수 모델 저장
• EarlyStopping: 조기종료 과대적합 이전에 훈련을 미리 중지