본문 바로가기

프로그래밍377

Ray를 사용하는 작업에 들어가 보기 -10- 안녕하세요? 이번 포스팅에서는 어떻게 해서 24개의 프로세스를 동시에 구름 IDE에서 ray를 사용해서 돌려 보기 위해서, 한번 작업에 들어가 보도록 하겠습니다. 그런데 이런 시도가 일단 다 100% 성공하는 것도 아니기는 아니라서, 이번 포스팅에서는 아마도 절반만 성공한 기록이 될 듯 합니다. 일단 이 작벙르 하기 위해서 메모리가 지속적으로 치솟는 것을 방지하기 위해서, gc.collect()라는 것을 가지고 오도록 합니다. 이렇게 해서 가지고 와서, 다음의 작업에 사용해 보도록 합니다. 그리고 나서 너무나 속도가 느려지는 감이 있어서 60%를 넘게 메모리가 사용되면, 자동으로 메모리를 확보하는 명령어를 사용해 보도록 합니다. 그런데 이렇게 하고서도, 상황이 해결이 되지 않은 것이, 일단 속도는 빨라진.. 2020. 7. 24.
뜻밖의 사고가 발생했습니다. 안녕하세요? 원래라면 이번 포스팅부터 일련의 20period로 계산을 했는 결과를 가지고서 한번 포스팅을 올려야 하는 시리즈를 올려야 하지만, 그게 문제가 생겼습니다. 이게 무슨 문제인가 하면, 일단 python의 환경을 바꾸어서 생긴 문제인지는 모르겠습니다만, 테스트가 마무리 되고 나서 결과가 모두 다 저장이 되지 않는 문제점이 발생했습니다. 일단 하나하나의 3개의 파트로 나누어 놓은 테스트는 제대로 진행이 되기는 되었습니다. 이렇게 해서 일단 작업이 되기는 되었는 것은 확인할 수 있었습니다만........ 이렇게 하도고 하나하나의 테스트가 10시간이 넘거나, 가장 짧게 걸린 것도 9시간을 넘은 것을 생각해 보면, 절대로 시간이 짧게 걸린 것은 아니라는 것을 확인할 수 있었습니다. 그런데 이렇게 하고나.. 2020. 7. 20.
구름 IDE를 이용한 작전 -1- 안녕하세요? 이제까지 구글 코랩을 이용한 작전의 포스팅에서 간간히 언급이 되었는 구름 IDE라는 것이 있었습니다. 이것도 비슷한 것이기는 하지만, 아무튼 이 구름 IDE라는 것은 일종의 클라우드 IDE라고 해서, 개발자의 컴퓨터에서 직접 구동을 하는 것이 아니라, 서버를 빌려서, 서버안의 일정한 자원을 먹고서 서버 컴퓨터에서 작업을 하도록 하는 것이 특징입니다. 그런데 이제까지 이걸 작업하면서 무엇이 문제인가 하면, 바로 주식의 데이터 베이스 크기가 문제라면 문제였습니다. 일단 구름IDE에서는 20MB까지 업로드할 파일의 용량 제한이 있었습니다. 그래서 이걸 가지고서 기존에는 분활압축을 해서 올린 다음, 리눅스 환경에서 압축해제를 하면 CRC에러가 나와서 답이 없기는 했습니다. 그래서 인터넷에서 자료를 .. 2020. 7. 19.
2라운드의 구글 코랩(google colab)작전 -11- 안녕하세요? 지난번 구글 코랩의 작업은 절반의 성공이라고 이야기를 했습니다. 이렇게 된 이유는 일단 구글 코랩에서 돌리는 것 까지는 어떻게 성공하기는 했습니다만, 문제는 그 속도가 상상이하로 느렸기 때문입니다. 그래서 어떻게 더 빠르게 할 수 있는 것이 없는지 한번 작업을 해 보고자 합니다. 먼저 시도를 한 것은 구글 코랩에서 GPU를 동원해서, 이걸로 하드웨어를 가속하면 어떤 변화가 나오는지 한번 알아보고자 했습니다. 일단 이렇게 구글 코랩에서 2번째 실험이 진행되고 있는 동안에, 다음으로 진행을 하고자 하는 것으로는 위 스크린샷에서 볼 수 있는 것처럼 어떻게 데이터 베이스 파일에 문제가 생긴 것이 확실해서 가지가지 압축을 풀기 위해서 시도란 시도는 다 해보고 있었습니다. 그런데 계속해서 계속해도 어떻.. 2020. 7. 18.

티스토리툴바