ブログ - ChatGPTを業務に組み込むためのハンズオン を流し読み
デジタル庁の大杉直也氏によるこの資料.庁内で使った資料を公開していて,ハンズオン部分はないのだけど,学びはあった.
ChatGPTを業務に組み込むためのハンズオン
https://www.digital.go.jp/assets/contents/node/information/field_ref_resources/5896883b-cc5a-4c5a-b610-eb32b0f4c175/82ccd074/20230725_resources_ai_outline.pdf
引用:
確かに状態を保持していたら大変なことになる.つまり送信済みのメッセージの中で不要なものや不要な回答が含まれていたら,それらは捨ててNew Chatした方が良いということかな.
ChatGPTを業務に組み込むためのハンズオン
https://www.digital.go.jp/assets/contents/node/information/field_ref_resources/5896883b-cc5a-4c5a-b610-eb32b0f4c175/82ccd074/20230725_resources_ai_outline.pdf
引用:
GPTのAPIは状態をもたないため、会話履歴を考慮した応答を実現するために、過去の会話履歴を入力する APIの入出力の最大token数に制限があるため、保持できる会話履歴には限界がある 現在、GPTでは32kが最大token数。技術進歩により将来的には大幅に緩和されるかも?
確かに状態を保持していたら大変なことになる.つまり送信済みのメッセージの中で不要なものや不要な回答が含まれていたら,それらは捨ててNew Chatした方が良いということかな.