[나만무] ChatGPT 과금 요소

소비자 반응 감정분석을 위해 ChatGPT 기반 LangChain을 사용한다. LangChain은 라이브러리일 뿐이라서 LangChain 자체에서 비용이 발생하는 부분은 없다. 그러나 LLM 모델들을 체인처럼 연결하는 LangChain에서 ChatGPT API와 다른 모델들을 사용할 때마다 비용이 발생하게 된다.

 

https://openai.com/pricing

https://www.mlyearning.org/gpt-4-api-pricing/

Chat GPT4 API Pricing & How to Access it - MLYearning

 

gpt-3.5-turbo 모델의 경우 1000토큰당 2.2원 정도이고, gpt 4 모델의 경우 1000토큰당 44원 정도이다. 20배 정도의 차이가 난다. 토큰은 어떤 엔진을 사용하는지, 질문의 길이가 긴지, 양이 많은지, 퀄리티가 좋은지에 따라 달라지지만 보통 1000개의 토큰은 1줄의 문장질문 700개 정도라고 한다. 따라서 3달 동안 사용할 수 있는 무료 크레딧 18달러로는 못해도 750만번의 질문을 할 수 있다고 한다.

 

GPT4의 성능은 3.5보다 분명 뛰어나지만, 속도는 절대적으로 느리다. 속도가 생명인 우리 프로젝트에서 굳이 비싼 돈을 주고 GPT4를 사용할 이유가 없다. 그냥 무료 크레딧으로 gpt3.5를 쓰는 것이 최선의 선택인 것 같다.

 

대신 LangChain 에서 다른 모듈을 사용하는 부분에서 과금이 발생할 여지는 남아있다. 사업성이 중요한 프로젝트가 아니라서 크게 신경 쓸 요소는 아니지만 프로젝트 기능을 테스트하며 API 호출 건수가 무척 많을 것으로 예상되기 때문에 과금에 대해 고려하지 않을 수가 없다.