본문 바로가기

전체 글

(20)
REINFORCE Policy Gradient Algorithms (tistory.com) Policy Gradient Algorithms 이 글은 아래 링크에 있는 페이지의 내용을 공부를 위해 한글로 번역(의역)한 것임을 알립니다. 나름의 이해를 돕기위해 첨언은 파란색으로 나타내겠습니다. =============================================== altheacom.tistory.com 본문에 표기된 알고리즘은 다음과 같습니다. Policy Parameter $\theta$를 랜덤으로 초기화합니다. Policy $\pi_\theta$의 경로 하나를 생성합니다. : $S_1, A_1, R_2, S_2, A_2, \cdots, S_T$ For t=1, 2, $\cdots$, T: Return $G_..
Policy Gradient Algorithms 원래는 아래 링크가 한글로 번역된 것을 찾을 수가 없어서 번역을 작성하고 공부하며 코드를 작성하려고 하였습니다. 그런데 어쩌다 보니 번역이 되어있는 페이지를 찾게되어 번역은 더이상 하지 않아도 되었습니다. 해당 링크를 공유하도록 하겠습니다. 그러나 실제로 한글로 구현하는 과정이 잘 설명되어 있는 곳도 없는 것 같고, 이미 관련 학과를 수료하신 전문적인 분들이 이론적으로 다루는 것이 대부분입니다. 저도 나름대로 국내 최고 전문가인 분들께 배우긴 했는데, 생각해보니 배경지식이 미흡한데 강화학습의 기반이 되는 이론을 배운 것이라 이해하기 힘들었습니다. 그래도 관련 업무를 해야하기에 관심은 많아 공부를 하려고 책이나 구현된 코드등을 검색해도 알고리즘 그 자체를 설명하면서 구현한 사람은 없어 보입니다. 저는 솔직..
비트코인 모니터링 프로젝트 : 03 환경설정2 공부를 하며 개발을 계속 준비중인데, 개발환경을 세팅하는데 나름 공을 들이고 있습니다. (21.02.16) 결과적으로 jupyter + code-server 의 조합으로 진행될 것 같습니다. jupyter : 테스트용 code-server : 개발용 code-server를 따로 노트북에서 열게되니 저는 별로 신경쓰지 않는 보안 문제로 Extension이 동작하질 않습니다. ㅠㅠ 알아보니까 http 프로토콜에서 https 프로토콜로 변경해야하고 인증서도 설치해야한다는데... 이쪽 방면에는 지식이 전무합니다. 나름 찾아서 정리한 내용을 작성합니다. 일단 code-server의 파일을 수정합니다. vim ~/.config/code-server/config.yaml 이렇게 하면 기존에 외부에서 접속되는 것이 내..
비트코인 모니터링 프로젝트 : 05 업비트에서 비트코인 데이터 얻기 저는 이번에 업비트 가입했습니다. 이거 하려고 가입한 건 아니었는데 얼결에 파이썬 라이브러리가 있는 것을 발견해서 자동매매 만들어보고자 합니다. pip install pyupbit 지금까지 저와같은 진행을 하셨다면 다음과 같은 에러를 볼 수 있는데 무시하셔도 될것 같습니다. code-server를 설치했지만 테스트로는 쥬피터 만한게 없으니 쥬피터로 일단 코드 테스트 진행하겠습니다. ===================================================================== 비트코인 자동 프로그램 만드는 것이.. 나름대로 알고리즘을 구현하여 테스트 해봤지만 손실만 봐서 해당 프로젝트는 더이상 진행하지 않겠습니다. ㅠㅠ
비트코인 모니터링 프로젝트 : 04 라이브러리 지속 업데이트될 예정입니다. 수시로pkg upgrade && pkg update [파이썬] - python39 (21.02.10)numpy - 데이터 계산용 (21.02.10)pandas - 데이터 viewer 및 계산용 (21.02.10)wheel - 각종 라이브러리 설치용 (21.02.10)setuptools - 각종 라이브러리 설치용 (21.02.10)cryptography==3.1.1 : 이렇게 설치 안하면 Apache-Ariflow가 설치 안됩니다. (21.02.10)apache-airflow : 데이터 모음 자동화 (DAG : Directed Acyclic Graph) - 같이 엄청나게 많은 라이브러리가 설치됩니다. (21.02.10)matplotlib : 혹시 모를 plot 용 (21.02...
비트코인 모니터링 프로젝트 : 03 환경설정 vim으로 진행하려다가, vscode-server라는 오픈소스가 있어서 공유하면서 저도 쓰려고 합니다. 아래와 같은 순서로 진행하시면 됩니다. (21.02.10) pkg update pkg install nodejs pkg install nodejs-lts pkg install build-essential pkg install python pkg install yarn pkg install git yarn global remove code-server : 처음 설치 했다면 당연히 에러납니다. yarn global add code-server : 본래 github에 있는 명령어를 사용하시면 권한 문제로 fail됩니다. 이렇게되면 설치가 된 것이고 한번 실행을 해주셔야 설정파일이 생성이 됩니다. 실행방법 :..
비트코인 모니터링 프로젝트 : 02 SSH 설치 계획이 디테일하진 않지만, 최대한 FM대로 개발하려고 하고 있습니다. 개발 환경을 세팅하기전에 휴대폰에서 깨짝깨작 개발하긴 쉽지 않으니 원격으로 개발 할 수 있는 세팅을 하고자 합니다. Terminal을 사용할 수 있게 ssh server를 설치하고 사용하는 방법까지 포스팅 하고자 합니다. pkg install openssh를 하시면 설치를 할 수 있습니다. (아마 이 전에 pkg upgrade 를 실행하셔야할 겁니다.) 설치가 완료된 이후에 sshd를 기입하시면 ssh가 실행이 됩니다. (ps -e | grep ssh 명령어로 확인 가능) ssh에 접속하는 방법이 2가지 있습니다. 1. ID/PW 방식 2. 공개키 방식 시작은 ID/PW 방식이 편하니 ID/PW 방식의 접속 준비를 소개하겠습니다. wh..
비트코인 모니터링 프로젝트 : 01 시작 최근에 Termux에 버젼이 업데이트 됬나봅니다. (21.02.10에 작성) 한동안 활용처를 찾다가 유야무야 지나가게 됬는데, 다시 Termux를 설치해보니 python은 3.9가 됬고 numpy랑 pandas가 그냥 설치가 되더라구요.(이전엔 잘 안되서..ㅠ) 이번에 새로운 프로젝트를 시작해볼까합니다. Termux + Python 으로 비트코인 자동매매! 공부의 목적이 상당히 강함을 미리 밝혀둡니다. 스마트폰이 인터넷이 되긴 하지만 server 기능으로 활용할 수는 없습니다. 통신사에서 막았다고 하는데, 내부에서 보는건 상관 없으니까... 천천히 시작해보겠습니다. (원래 주식을 하려고 했는데... 비트코인 API가 있더라구요. 그래서 기존에 썼던 포스팅 다 지우고 시작합니다.)