전체 글

오늘 pip install deepspeed를 시도하는데, 다운이 되지 않았다. 에러 메시지는 아래와 같았다. 참고로, 위 사진에서는 '/mnt/hdd/~~~~/nvcc' 디렉토리가 없다고 에러가 뜨는데 이것은 내가 삽질하다가 나온 에러이고 원래 에러는 아래와 같다. assert cuda_home is not None, "CUDA_HOME does not exist, unable to compile CUDA op(s)" AssertionError: CUDA_HOME does not exist, unable to compile CUDA op(s) 맨 처음에는 위와 같이 CUDA_HOME 환경변수가 설정되어 있지 않다고 되어있었다. 이와 관련된 에러는 deepspeed 이슈에서 굉장히 많아 찾아볼 수 있었다..

저번 학기부터 Diffusion 분야를 처음 공부했다. 처음엔 너무 어려워서 무슨 소리인지 잘 몰랐는데, 계속 인터넷으로 공부하다 보니 내가 이해한건지 아니면 이해한다고 착각하는건지... 아무튼 나름대로 공부를 했다. 인터넷에 정말 방대한 소스가 있는데, 내가 공부할 때 가장 큰 도움이 되었던 블로그 4개를 기록해두었다. 솔직히, 다른 블로그 볼 필요 없이 아래 3개만 보면 된다. 특히, 1-2번째 블로그를 보며 속는셈 치고 모든 수식을 한 번만 따라해보았는데 큰 도움이 되었다. 내가 diffusion을 공부한 이후에 이해한게 맞는지 아리송할 때가 있었다. 그럴 때마다 DDPM의 forward process, backward process, loss function을 적어보고 classifier-free..

여름방학이 되었다. 대학원에 입학한지 벌써 한 학기가 지나갔다. 최근들어 논문을 너무 많이 읽다보니 자주 까먹는다. 정리하기엔 너무 시간이 오래걸릴거같아서 논문만 읽었더니, 계속해서 잊어버린다. 논문이나 공부했던 것들을 블로그에 조금씩 정리를 해둘까 한다. 우선 9월달까지 논문을 하나 써보기로 다짐했기 때문에 열심히 공부해봐야지.

이번 학기에 들었던 컴퓨터 네트워크 수업을 잊어버리기 전에 정리해보면 좋을 것 같아서 블로그에 정리해보고자 한다. 학교에서 배웠던 수업 자료 ppt를 활용해 기억나는대로 리뷰를 해볼 생각이다. 사전에 교수님께 메일로 수업 자료를 블로그에 사용해도 된다는 허락을 받았다! 중간고사는 Transport layer에서 congestion flow 이전까지 다루었었고, 기말고사는 mobile network까지 다뤘다. 교재는 Computer Networking _ A Top Down Approach, 7th, converted 이다.