IT 썸네일형 리스트형 chatGPT 모델 종류 및 API 사용 비용(fine tuning model, ChatGPT3.5, ChatGPT4, ada, babbage, curi, danvinci) 온 세상이 ChatGPT로 떠들썩 합니다. 한번 사용해본 사람은 그 경이로운 성능에 빠져 헤어나오질 못하고 있는 것 같습니다. 대부분의 사용자들은 OpenAI에 가입해서 무료로 웹상에서 채팅을 하는 방식으로 사용을 하고 있겠지만 발빠른 사용자들은 유료 ChatGPT API를 사용해서 단 몇개월 만에 어마어마하게 많은 플러그인 서비스를 쏟아내고 있습니다. 그정도의 비용은 충분히 감수할 수 있다는 거겠죠? 비교를 좀 해볼까요? 1. ChatGPT3.5와 ChatGPT4의 차이 OpenAI에서 개발한 언어 모델인 chatGPT의 3.5와 4의 차이점은 크게 세 가지로 나눌 수 있습니다. (1) chatGPT 4는 chatGPT 3.5보다 더 큰 모델입니다. chatGPT 4는 1,760억 개의 파라미터를 가지.. 더보기 python 가상환경, venv, conda 사용법 비교 venv와 conda는 모두 파이썬 가상 환경을 관리하기 위한 도구입니다. venv는 파이썬 3.3 버전부터 제공되는 가상 환경 도구로, 파이썬 프로젝트를 위한 독립적인 가상 환경을 만들 수 있으며 각 프로젝트별로 필요한 파이썬 패키지를 별도의 가상 환경에 설치하여 프로젝트 간 충돌을 방지할 수 있습니다. venv는 파이썬 표준 라이브러리에 포함되어 있으며, 파이썬 인터프리터와 함께 제공됩니다. 반면에, conda는 파이썬 패키지 관리 도구인 Anaconda의 일부로 개발된 가상 환경 도구이며 파이썬 패키지뿐만 아니라 R, Julia 등 다양한 프로그래밍 언어의 패키지도 관리할 수 있습니다. conda는 Anaconda와 함께 제공되고 윈도우, macOS, 리눅스 등 다양한 운영 체제에서 사용할 수 있습.. 더보기 CentOS 지원중단, Rocky Linux, Alma Linux 차이 CentOS는 Red Hat Enterprise Linux (RHEL)의 무료 클론 배포판으로, RHEL과 동일한 소스 코드를 기반으로 개발되었습니다. 그러나, 2020년 12월 Red Hat은 CentOS의 라이프 사이클을 변경하고, CentOS 8의 지원을 2021년 12월에서 2021년 12월 31일로 줄이는 것을 발표했습니다. 이에 따라, CentOS 8의 지원이 종료되면서 CentOS의 미래에 대한 불확실성이 제기되었으며 Red Hat은 이에 대한 대안으로 CentOS Stream을 제안했지만, 사용자들은 CentOS Stream이 RHEL과 다른 패키지를 사용하므로, CentOS와의 호환성이 떨어진다는 점을 우려했습니다. 이후 CentOS의 대안으로 출현한 리눅스 배포판은 다음 2가지가 있습니.. 더보기 vscode 원격 접속이 잘 안될때 초기화 방법(단계별, vscode-server, remote, ssh) vscode는 ssh를 이용한 원격 접속을 지원하기 때문에 code editor 중에서는 아주 유용한 도구입니다. 하지만 이놈이 어떤 이유로건 설정이 꼬여서 기존 connection은 잘 접속되는데 새로운 연결을 생성하려고 하면 remote 접속이 안되고 먹통인 경우가 가끔 있습니다. 저 같은 경우에는 같은 서버에 도커를 여러개 올려놓고 포트만 각각 따로 지정하여 접속하다보니 같은 서버에 대한 vscode 프로파일이 여러개씩 있는 편인데 어느날 갑자기 접속이 제대로 안되는 현상이 몇번 있었습니다. 이게 윈도우 쪽 문제인지 서버쪽 문제인지 확인하다가 날새는 경우가 몇번 있었는데 아예 깨끗하게 초기화 하고 다시 설정하는게 낫다는 생각이 들었습니다. 저 같은 경우는 다음과 같이 초기화 했을때 100% 문제가 .. 더보기 아나콘다에서 yml 파일을 이용한 가상 환경 만들기(anaconda, conda env, yml) python에서 requirement 파일을 이용하여 pip package를 인스톨하는 과정과 유사하다. 최근에는 github에도 conda 환경에서 사용가능한 yml 파일을 함께 배포해주는 경우가 많이 있어서 yml 파일을 이용하여 가상환경을 생성하고 관련 패키지를 설치해주는 과정을 한번에 수행할 수 있다. 다음음 T2M-GPT라는 이름으로 환경이 저장된 environment.yml 파일 예시이다. name: T2M-GPT channels: - pytorch - defaults dependencies: - _libgcc_mutex=0.1=main - _openmp_mutex=4.5=1_gnu - blas=1.0=mkl - bzip2=1.0.8=h7b6447c_0 - ca-certificates=2021.. 더보기 Rocky Linux 아나콘다(anaconda) 사용하기(설치, 초기화) 1. 설치 준비 사이트에서 linux용 최신 버전 확인 https://www.anaconda.com/products/distribution#Downloads Anaconda | Anaconda Distribution Anaconda's open-source Distribution is the easiest way to perform Python/R data science and machine learning on a single machine. www.anaconda.com 해당하는 sh 파일을 다운로드 한다. wget https://repo.anaconda.com/archive/Anaconda3-2023.03-Linux-x86_64.sh 2. 설치 받은 쉘 파일을 실행하면 라이선스 동의 후 설치를 시작.. 더보기 딥러닝을 위한 swap 파일생성, 크기, 위치 변경하기(SSD swap file, /dev/zero, mkswap, swapon/swapoff) 1. swap이란? 시스템 메모리가 부족하면 하드 디스크의 일부 공간을 RAM의 일부처럼 동작하게 하여 도와주는 임시 공간입니다. 당연히 Disk를 사용하기 때문에 RAM보다 느릴 수 밖에 없습니다. 리눅스 시스템을 설치하다보면 swap을 잡아주게 되어 있는데 대부분 별 신경 쓰지 않고 기본값으로 설치하면 작은 크기로 설정되게 됩니다. 2. swap을 변경하는 이유 딥러닝을 하다가 자주 부딛히는 문제 중 하나는 GPU 메모리 뿐아니라 host의 메모리 크기가 부족하여 대용량의 데이터를 한번에 넣어서 모델을 학습하는데 문제가 발생한다는 것입니다. 딥러닝 같은 작업을 할때 HDD보다 상대적으로 빠른 SSD를 마운트 하고 SSD 내부에 대용량 swap 파일을 만들어 사용하면 엄청난(?) 체감 효과를 느끼실 수.. 더보기 인터페이스, 네트워크 트래픽 분석 도구 iftop (TX/RX 사용량, source IP, destination IP 등등) top 명령어는 시스템 리소스를 모니터링할 때 많이 사용하고 계실 것입니다. 그러면 네트워크 트래픽을 상세하게 모니터링할 수 있는 도구인 iftop 을 알고 계신가요? 사용하고 있는 인터페이스를 통해 일어나고 있는 거의 모든 정보를 실시간으로 확인할 수 있습니다. interface top 이라고 보시면 됩니다. 간단한 프로그램이지만 많이 알고계시는 다음 명령들과 함께 사용하면 상당히 유용합니다. netstat : 네트워크 연결상태 확인 ifconfig : 네트워크 인터페이스 설정 정보 ping : 원격 호스트와의 연결 테스트 route : 해당 호스트까지 연결하는 중간 경로 정보인 라우팅 테이블 tcpdump : 실시간 패킷 모니터링 1. 설치 yum install iftop 2. 인터페이스 동작 현황 .. 더보기 이전 1 ··· 10 11 12 13 14 15 16 다음
