안녕하세요?


지난번 포스팅에서 분단위 단타매매를 위한 분봉차트를 가지고서 한번 강화학습을 시행해 보았으며, 여기서 나온 모델을 가지고서 한번 백테스트를 한 다음에, 그 결과를 이번 포스팅에서 올려 보고자 합니다. 그럼 일단 간단하면서도 어딘가 골치가 아픈 결과가 나온 포스팅을 시작합니다.



기존에 만들어 놓은 RLTrader를 실행시킨 다음에, 한번 백테스트를 진행시킨 결과입니다. 그 결과 일단 나왔는 PV가 10만원을 넣고서 무려 1천 4백만원이 나왔다는 결론이 나왔습니다. 이게 단위가 잘못된 것인지, 아니면 파이썬 코딩이 잘못된 것인지 모르겠습니다만, 이렇게 결과가 나왔다는 것이 더 신기합니다.



다음으로는 두번째 모델을 백테스트를 해서 나온 결과입니다. 그런데 이번에는 PV가치가 0이기는 커녕 오히려 수수료 때문인지 몰라도 마이너스 값이 나오는 것을 볼 수 있었습니다. 이게 어떻게 된 것인지 전혀 모르겠다는 생각이 듭니다.



세번째 모델도 수익은 커녕 마이너스 58만원이 나오는 것을 볼 수 있었습니다. 이 결과를 뭐라고 해석해야 할지 모르겠다는 생각이 듭니다만, 저는 분명히 신용거래 같은 것을 여기서 넣어둔 적이 없습니다.



다음으로 네번째 모델입니다. 이 모델의 경에는 수익이 나왔는데, 여기서도 수익이 무려 천6백만원이 나오는 것을 볼 수 있습니다. 이것도 무언가 수상하기는 수상하다는 생각이 듭니다. 저는 분명히 초기 자본금을 10만원만 넣어서 이렇게 많은 PV가치의 상승은 도저히 무리라는 생각이 듭니다.




5번째 모델에서도 수익이 나기는 했는데, 하루안에, 그것도 매도가 한건도 없으면서 어떻게 해서 저렇게 큰 수익이 나오는 것이 가능이나 한 것인가 하는 생각이 듭니다.



6번째 모델에서는 손해가 나오는 것을 볼 수 있었습니다. 여기서는 원금인 10만원은 물론이고, 58만원을 추가로 까먹었다는 것을 볼 수 있습니다.



마지막 7번째 모델도 손해가 나왔는데, 여기서도 약 58만원의 손해를 봤다는 것을 볼 수 있습니다. 이렇게 해서 보면, 이게 도대체 가능한 것이 맞는지 의문이 듭니다.



그래서 일단 첫번째 모델의 강화학습 결과를 보고자 합니다. 일단 50과 100에포크에서는 랜덤한 행동이 상당히 많다는 것을 알 수 있지만, 마지막으로 200에포크에 가까워 질수록 랜덤한 행동은 줄어들고, 다음으로 꾸준히 주식 보유량을 늘리려고 한다는 것을 볼 수 있습니다.




두번째 모델인데, 이 모델도 역시 앞서 첫번째 모델의 행동가 비슷하게 점점 랜덤한 행동이 줄어들고 있으며, 여기서는 어떻게 된 것인지 모르겠지만, 일단 주식의 보유량을 마냥 늘리려고 하지 않는다는 것을 볼 수 있습니다.



그리고 나서 세번째 모델의 강화학습 모습니다. 여기서는 어떻게 균형있게 주식을 보유도 하면서 처분도 한다는 것을 볼 수 있습니다만...... 글쎄요........ 여기서도 PV가치가 0이 되어 버리는 현상이 관측이 되는 것을 볼 수 있었습니다.



네번째 모델의 강화학습 결과인데, 여기서는 초반 에포크에서는 주식의 보유량을 늘리려고 하다가, 150에포크에 가서는 주식을 후반에는 주로 판매를 한다는 것을 볼 수 있습니다. 그리고 나서 마지막 에포크에서는 점점 주식 보유량을 늘려 간다는 것을 볼 수있습니다.



5번째 모델의 강화학습의 결과입니다. 여기서도 에포크가 진행이 되면 될수록 점점 랜덤한 행동이 줄어드는 것을 볼 수 있으며, 다음으로 점점 주식 보유량을 늘려가는 경향이 보이는 듯 합니다.




6번째 모델의 강화학습 결과입니다. 이 결과에서는 약간은 특이하게 초반에는 보유를 했다가, 나중에는 판매를 하는 경향을 보여주고 있습니다.



마지막 7번째 모델의 강화학습 결과도 특별히 언급할 것이 없다는 생각이 듭니다. 다만 꾸준하다면 꾸준하게도 강화학습 내내 PV의 값이 마이너스를 만드는 것을 볼 수 있었습니다.



다음으로 백 테스트 결과입니다. 일단 수익이 나온 모델1번-첫번째 모델의 경우인데, 이 모델의 경우에도 마이너스 PV값을 기록했다가 다시 수익을 크게 내는 것을 몇번이나 반복하는 것을 볼 수 있었습니다.



마지막으로 수익이 나온 4번째와 5번째 모델도 역시나 수익이 나오다가 마이너스 PV값을 나오는 것을 보여주기도 하는 것을 보아서, 그다지 안심할 상황은 아니라는 생각이 듭니다. 아무튼 간에 이를 미루어 보아서, 이 모델이 안정적으로 수익을 내어 주는 것은 아니라는 생각이 듭니다만, 과연 이 모델을 적용해서 수익을 낼 수 있을지는 모르겠습니다.

+ Recent posts