/v1/chat/completions für OpenAI-kompatible Textgenerierung.
Streaming
Setzestream: true, um Server-Sent Events zu empfangen. Jedes Event ist ein OpenAI
chat.completion.chunk, und der Stream endet mit data: [DONE].
Parameter
OpenAI-Standardparameter werden akzeptiert, daruntertemperature, top_p,
max_tokens, stop, n, frequency_penalty, presence_penalty, seed,
response_format, tools, tool_choice, logprobs, top_logprobs,
logit_bias, user und stream.
Hinweise
- Das
modelist eine öffentliche APIAny.AI-Modell-ID. - Der Token-Verbrauch wird in das OpenAI-typische
usage-Objekt normalisiert, sofern Verbrauchsdaten verfügbar sind.