안녕하세요?


지난번 포스팅에서 어떻게 펀드이기는 하지만, 그래도 트러스 제7호라는 종목코드가 140890인 종목이 유망해 보인다는 결과를 얻는데 성공했습니다. 그래서 이번 포스팅에서는 우선 1000에포크를 기준으로 해서 한번 강화학습을 시켜 보도록 하고, 그 결과를 올리고자 합니다.



먼저 pytrader를 실행시킨 다음에, 트러스 제7호에 대한 1분봉차트를 가지고 오도록 합니다.



일단 따로 조작을 할 필요는 없이, 그냥 지금 가지고 있는 데이터만 가지고서도 충분히 강화학습을 하는데 지장이 없겠다는 판단이 들어서, 한번 그대로 들어가 보도록 합니다.



다음으로 yellowoperation으로 가서, 위 스클긴샷처럼 데이터 베이스의 이름과 종목코드의 코드번호를 바꾸어 주도록 합니다. 그리고 나서 당연하다면 당연하게도 구글 코랩에서 강화학습을 하기 위해서 구글 드라이브에 올려 보도록 합니다.



일단 구글 코랩에서 구글 드라이브와 연동을 시킨 다음에, 강화학습에 들어가 보도록 합니다.



첫번재 강화학습은 3시간 35분이라는 상당히 많은 시간이 지난 다음에야 완성이 되는 것을 확인할 수 있었습니다.




다음으로 두번째 강화학습을 시도하였는데, 이번 강화학습에서는 시간이 단축이 되어서 2시간 30분이 걸리지 않았습니다.



다음으로는 세번째 강화학습을 시도하였는데, 이번에는 2시간 반이 넘게 걸리는 것을 확인할 수 있기는 있었습니다.



이번에는 시간이 너무 오래 걸렸기 때문에, 하는 수 없이 단 3개의 모델만을 얻어서 한번 백테스트에 들어가 보고자 합니다.



구글 드라이브에서 강화학습의 모델파일을 다운로드 받은 다음에, RLTrader를 이용해서, 강화학습에 사용되지 않은 50%의 데이터를 가지고서 백테스트에 들어가 보도록 합니다.



지난번 조흥과는 다르게 이번에는 0.9%정도의 수익이지만, 그래도 수익이 나오는 것을 확인할 수 있기는 있었습니다. 그러나 유감스럽게도 나머지 두개의 모델은 전혀 수익이 나오지 않았습니다.



실제로 백테스트의 결과를 보여주는 그래프를 보았을 때에도, 어느정도 수익을 내다가 잃어버리는 경향이 있는 것을 확인할 수 있기는 있었습니다.




일단 수익이 나온 첫번째 모델의 강화학습 과정입니다. 이 과정에서 200에포크까지는 전혀 수익을 내기는 내는데 꾸준히 내지는 못하는 모습을 보여주고 있습니다. 다만 600에포크 부터는 수익을 그런데로 내는 모습을 보여주고 있습니다.



다음으로 수익을 내지 못한 두번째 모델의 강화학습 과정인데, 이번 강화학습을 무언가가 잘못이 되었는지, 학습하는 과정 내내 수익을 거의 잘 내지 못하는 모습을 보여주고 있습니다.



마지막 강화학습 모델의 강화학습 과정입니다. 일단 200에포크 까지는 전혀 수익다운 수익이라고 할만한 것을 내지 못하다가, 600에포크부터 어떻게 수익이 나올 수 있는 것을 확인할 수 있었습니다. 일단 이것이 너무 많이 과적합이 된 것이 아닌가 하는 생각이 드는데, 원숭이 투자자(MT)를 하고나서 조금 더 신중하게 판단을 내리도록 하겠습니다.


+ Recent posts

티스토리 툴바