본문 바로가기

IT/리눅스

chatGPT 모델 종류 및 API 사용 비용(fine tuning model, ChatGPT3.5, ChatGPT4, ada, babbage, curi, danvinci)

반응형

온 세상이 ChatGPT로 떠들썩 합니다.

한번 사용해본 사람은 그 경이로운 성능에 빠져 헤어나오질 못하고 있는 것 같습니다. 

대부분의 사용자들은 OpenAI에 가입해서 무료로 웹상에서 채팅을 하는 방식으로 사용을 하고 있겠지만
발빠른 사용자들은 유료 ChatGPT API를 사용해서 단 몇개월 만에 어마어마하게 많은 플러그인 서비스를 쏟아내고 있습니다. 

그정도의 비용은 충분히 감수할 수 있다는 거겠죠? 

비교를 좀 해볼까요?

 

 



1. ChatGPT3.5와 ChatGPT4의 차이 


OpenAI에서 개발한 언어 모델인 chatGPT의 3.5와 4의 차이점은 크게 세 가지로 나눌 수 있습니다.

(1) chatGPT 4는 chatGPT 3.5보다 더 큰 모델입니다. 
chatGPT 4는 1,760억 개의 파라미터를 가지고 있으며, chatGPT 3.5는 6억 7천만 개의 파라미터를 가지고 있습니다. 
따라서 chatGPT 4는 더욱 복잡하고 다양한 문장 생성을 가능하게 합니다.

(2) chatGPT 4는 다양한 분야에서 더욱 정확한 대화를 생성할 수 있습니다. 
이는 chatGPT 4가 더 많은 학습 데이터와 더욱 세밀한 파라미터 튜닝을 통해 달성되었습니다.

(3) chatGPT 4는 더욱 빠르고 효율적인 하드웨어를 사용하여 학습되었습니다. 
이는 더욱 빠른 대화 생성과 더 큰 학습 데이터를 활용할 수 있게 되어 더 나은 성능을 보여줍니다.

따라서, chatGPT 4는 chatGPT 3.5보다 더 크고 정확하며 빠른 모델로, 더욱 다양한 분야에서 높은 성능을 보여줍니다.

그래서 API가격도 훨씬 비쌉니다. ^^ 후덜덜.

 

(2023/06/19 chatGPT 3.5는 API 가격 변경으로 갱신)

 

 

 

 

반응형




2. fine tuning이 가능한 InstructGPT 모델들 

chatgpt fine tuning model인 ada, babbage, curie, davinci는 모두 OpenAI에서 개발한 언어 모델입니다. 
이 네 가지 모델은 각각의 크기와 학습 데이터 양, 그리고 생성할 수 있는 문장의 길이 등에서 차이가 있습니다.

 

이러한 모델은 기업등에서 기존의 ChatGPT의 기능에 필요한 전문 지식(?)을 추가하여 튜닝할 수 있습니다. 
소위 ChatGPT Enterprise 버전이라고 해야할까요?

 

다음과 같이 질문 대답을 짝을 맞추어 놓고 추가 학습이 가능하다고 합니다.

 

 

사용 가격을 볼까요? 데이터를 추가해서 학습을 하는데도 돈을 받네요. 

 



(1) ada 
가장 작은 모델인 ada는 1.2억 개의 파라미터와 대화의 질을 높이기 위한 특별한 훈련을 거친 모델입니다. 


(2) babbage
babbage는 ada보다 약 4배 더 큰 모델이며, 대화의 품질이 높아졌습니다.


(3) curie
curie는 babbage보다 약 4배 더 큰 모델로, 더욱 자연스러운 대화를 할 수 있습니다. 


(4) davinci
davinci는 가장 큰 규모의 모델로, 1,750억 개의 파라미터로 구성되어 있으며, 매우 긴 문장을 생성할 수 있고, 더욱 자연스러운 대화를 할 수 있습니다.

모델의 크기와 학습 데이터 양이 증가함에 따라, 대화의 질과 길이가 높아지는 경향이 있으며, 이에 따라 모델의 성능이 향상됩니다. 
하지만, 모델의 크기가 커질수록 필요한 컴퓨팅 자원이 많아지므로, 모델 선택에는 자원과 성능의 균형을 고려해야 합니다.

 

fine tuning을 어떻게 진행하고 사용하는지에 대해서 궁금하신 분은 다음을 참고 하세요

 

https://platform.openai.com/docs/guides/fine-tuning

 

OpenAI API

An API for accessing new AI models developed by OpenAI

platform.openai.com

 

 

 

ChatGPT의 출현 이후 정말 세상은 말도 안되게 달라지고 있다는 걸 실감하는 오늘입니다.  

 

 

 

반응형