Skip to main content
Verwende /v1/chat/completions für OpenAI-kompatible Textgenerierung.

Streaming

Setze stream: true, um Server-Sent Events zu empfangen. Jedes Event ist ein OpenAI chat.completion.chunk, und der Stream endet mit data: [DONE].

Parameter

OpenAI-Standardparameter werden akzeptiert, darunter temperature, top_p, max_tokens, stop, n, frequency_penalty, presence_penalty, seed, response_format, tools, tool_choice, logprobs, top_logprobs, logit_bias, user und stream.

Hinweise

  • Das model ist eine öffentliche APIAny.AI-Modell-ID.
  • Der Token-Verbrauch wird in das OpenAI-typische usage-Objekt normalisiert, sofern Verbrauchsdaten verfügbar sind.