/v1/chat/completions를 사용하세요.
스트리밍
stream: true로 설정하면 SSE(server-sent events)로 응답을 받습니다. 각 이벤트는 OpenAI
chat.completion.chunk이며, 스트림은 data: [DONE]으로 끝납니다.
파라미터
temperature, top_p, max_tokens, stop, n, frequency_penalty,
presence_penalty, seed, response_format, tools, tool_choice,
logprobs, top_logprobs, logit_bias, user, stream 등 OpenAI 표준
파라미터를 지원합니다.
참고
model은 APIAny.AI의 공개 모델 ID입니다.- 사용량 데이터가 있는 경우 토큰 사용량은 OpenAI 스타일의
usage객체로 정규화됩니다.