Struct ChatHistory

pub struct ChatHistory {
    core: CoreBPE,
    total_token_limit: usize,
    token_limit: usize,
    token_count: usize,
    history: VecDeque<Element>,
}

会話履歴管理。

Fields

core: CoreBPE

トークナイザ。

total_token_limit: usize

トークン数。

token_limit: usize

トークン数合計上限。

token_count: usize

現在のトークン数合計。

history: VecDeque<Element>

履歴データのキュー。

Implementations

impl ChatHistory

pub fn new(model: &str) -> Self

コンストラクタ。

• model - OpenAI API モデル名。

pub fn reserve_tokens(&mut self, token_count: usize)

トークン数合計上限を減らす。

pub fn push_input_message(&mut self, role: Role, text: &str) -> Result<()>

pub fn push_input_and_images( &mut self, role: Role, text: &str, images: impl IntoIterator<Item = InputContent>, ) -> Result<()>

pub fn push_output_message(&mut self, text: &str) -> Result<()>

pub fn push_output_and_tools( &mut self, text: Option<&str>, web_search_ids: impl Iterator<Item = WebSearchCall>, ) -> Result<()>

pub fn push_function( &mut self, call_id: &str, name: &str, arguments: &str, output: &str, ) -> Result<()>

fn push(&mut self, items: Vec<InputItem>, token_count: usize) -> Result<()>

ヒストリの最後にエントリを追加する。

合計サイズを超えた場合、超えなくなるように先頭から削除する。 このエントリだけでサイズを超えてしまっている場合、エラー。

pub fn clear(&mut self)

全履歴をクリアする。

pub fn iter(&self) -> impl Iterator<Item = &InputItem>

全履歴を走査するイテレータを返す。

pub fn len(&self) -> usize

履歴の数を返す。

pub fn is_empty(&self) -> bool

履歴のが空かどうかを返す。

pub fn get_total_limit(&self) -> usize

トークン制限総量を返す。

pub fn usage(&self) -> (usize, usize)

現在のトークン数使用量を (usage / total) のタプルで返す。

fn tokenize(&self, text: &str) -> Vec<u32>

文章をトークン化する。

pub fn token_count(&self, text: &str) -> usize

文章のトークン数を数える。