Rolling Snowball

A. $ watch -n 0.1 nvidia-smi 나같은 경우는 vscode 아래에 터미널 창을 띄워놓고 상단의 노트북에서 열심히 작업을 굴리면서 모니터링을 한다. 다시 일반적인 CLI 입력창으로 나가고 싶으면 ctl+z 키를 입력하면 된다. *추가 : terminal에서 비주얼적으로 gpu 사용량을 확인할 수있는 nvtop이라는 프로그램이 훨씬 직관적이다. https://rollingsnowball.tistory.com/309 다만 nvidai-smi이든 nvtop이든 현재 사용하고 있는 상황을 실시간 모니터링 하는 것이기 때문에 학습기간 전반의 gpu 메모리 사용량을 확인하고 싶다면 로그를 남기는 것이 좋다. (그라파나를 활용할 수 있다고...)

처음 파이썬을 배우게 되면 보통 파이썬 다운로드와 환경 세팅을 위해서 아나콘다를 다운받아서 사용하라고 한다. 특히 주피터 노트북 사용이나 가상환경 사용을위해서 이를 더 강조하는데, 내 생각엔 대부분의 작업이 콘다 없이 가능한데 굳이 무거운데다 가상환경 경로까지 관리하기 귀찮은 콘다를 굳이 사용할 필요가 없다는 생각이다. 이번에 이직을 하게 되면서 새 노트북을 받아 세팅하게 되었는데, 대부분의 참고 포스팅이 콘다를 활용하도록 가이드하고 있어, 콘다 없이 세팅한 과정을 공유하고자 한다. 환경 맥북 프로 18, 1 (애플 M1 Pro 칩, 메모리 16GB) 맥 OS (Monterey 12.5.1) 10-core CPU with 8 performance cores and 2 efficiency cores 16-..

자연어 처리: 텍스트 전처리 자연어 처리란 자연어의 의미를 컴퓨터로 분석해서 특정 작업을 위해 사용할 수 있도록 하는 것 응용분야 기계번역, 감성 분석, 문서 분류, 질의응답 시스템, 챗봇, 언어 생성(ex> GPT), 음성인식, 추천 시스템 등... 최근의 딥러닝 분야의 인기 성장은 컴퓨터 비전 분야의 발전과 성공의 영향이 컸다. 자연어 처리에서는 비전만큼의 성공을 거두지 못해왔다. 그러다가 비전에 사용하던 알고리즘을 자연어 문제에 적용시켜서 성능 향상이 이뤄지기 시작했고, 요즘에는 성공적인NLP의 기술(ex> transformer model, BERT model)을 컴퓨터 비전에 적용시켜 발전시키고 있다. 참고 자료 Speech and Language Processing: http://web.stan..