gpt-4o

    GPT API 효율적으로 사용하기 (2) - 비용 최적화

    GPT API 효율적으로 사용하기 (2) - 비용 최적화

    이전 포스팅에서는 GPT API에서 파라미터 설정을 효율적으로 하는 법에 대해 작성했었다.이번에는 좀 더 사람들이 관심있어할만한 비용 최적화하는 방법에 대해 공유해보려고 한다.비용 최적화에 대해 찾아보니, 생각보다 거창한 방법은 없었고 대부분 사소한 디테일들이다. 하지만 이런 디테일도 API 사용량이 많은 경우 유의미한 결과를 낼 수 있으니 적용해보는 것을 추천한다!   GPT API 비용Pricing 페이지에서 API 비용 확인이 가능하다. 1M 토큰당 비용으로 작성되어있다.여기서 토큰은 생성형 AI가 텍스트를 처리하는 기본 단위를 의미한다   입, 출력 토큰 계산비용 최적화 이전에 비용 계산을 미리 해보려면 입, 출력 토큰을 계산할 수 있어야한다이전 포스팅에서 이야기한대로 Tokenizer를 사용하면..