OpenAI Cookbook examples : GPT : 補完をストリームする方法 (翻訳/解説)
【汎用人工知能:OpenAI Cookbook】GPT:補完をストリームする方法
OpenAI の補完をリクエストするとき、デフォルトでは単一のレスポンスとして送り返される前に補完コンテンツ全体が生成されます。
レスポンスをより早く取得するため、補完を「ストリーム」することができます。これは補完全体が完了する前に、補完の最初をプリントまたは処理し始めることを可能にします。
OpenAI Cookbook は OpenAI API を使用して一般的なタスクを完遂するためのサンプルコードを共有しています。
[More ]