모델의 변형 & 적용 -1-

안녕하세요?

 

지금까지는 sigmoid 함수와 linear함수만을 동원하기는 했는데, 이것만 가지고서는 안되고 다른 형태로 모델을 만드는 방법에 대해서 한번 찾아보고 나서 자료를 얻기는 얻었습니다. 이제 다음으로 해 봐야 하는 것으로는 역시나 이론상으로 완전하.........자니 전공이 전공이다 보니 수학, 통계학에 거기다가 컴퓨터 공학까지 곁들이려니 생명과학 전공인 저로서는 매우 어렵습니다. 결국 Trial & Error로 최적의 무언가를 찾아가야 할듯 합니다.

 

일단 처음에 한 것은 sigmoid 함수를 제거해 주도록 하고, 그 다음으로 한 것으로 Dropout이라는 함수로 20%의 무언가를 버린다고 해야 할까요? 일단 쓸모없어 보이는 것을 버리라는 명령을 주도록 합니다.

 

그리고 나서 다으믕로 해야 하는 것으로는 weight_decay라는 부분을 주도록 하고, 학습 비율을 0.001로 높이도록 했습니다. 이게 어떤 결과를 줄지는 저도 모릅니다.

 

 

그렇게 해서 일단 처음으로 작업을 걸어보는데, 기계학습으로 우선 2000에포크만 걸어 보도록 합니다. 그리고 나서 기다리기만 하면.........

 

위 스크린샷에서 나오는 결과를 일단은 얻을 수 있기는 있었습니다. 이제 이것보다 어떻게 하면 더 좋은 결과가 나올지에 대해서 잠시 생각해 봤습니다.

 

그래서 이번에는 위 스크린샷에서 볼 수 있는 것처럼, 우선 학습에 들어가는 에포크의 숫자를 한번 크게 늘려 보도록 했습니다. 아예 6000으로 늘려 보았습니다.

 

학습이 완료되고 나서, 다음으로 할 것은 이 결과를 가지고 예측을 해 보는 것인데, 일단 위 스크린샷에서 볼 수 있는 것처럼 우선 시작을 해 봅니다.

 

이렇게 해서 결과가 나오기는 나옸는데, 한눈에 보기에는 어느쪽이 더 좋아진 것인지 모르겠다는 생각이 듭니다. 일단 이에 대해서 한번 생각을 하기는 해 보아야 합니다. 아무튼 이건 겨우 시작일 뿐이고, 다음 포스팅에서 여러가지 시도를 이어서 하고, 그 내용을 올려 보도록 하겠습니다.