博客 / 列表

薛 - LLM調用為什麼不能像requests一樣簡單?上下文管理就不能自動搞定嗎?

兄弟們,我今天在github上發了一個庫 —— chak, 極簡風格連接全球主流模型,重點是 —— 可以自動管理上下文,確實方便 項目在這裏:https://github.com/zhixiangxue/chak-ai 説説我為啥要寫這個庫哈~ 我自己的幾個痛點: OpenAI的API很方便,但上下文得自己管 每次對話一長,自己算token、截斷歷史、寫策略...重複勞動,煩。

llm , gateway , requests , 上下文管理器