博客 / 列表

king帥帥 - 為了解決 AI 流式輸出的重複解析問題,我發佈了 incremark:普通情況下 AI 流式渲染也能提速 2-10 倍以上

我發佈了週末開發的 incremark,實際性能遠超預期——在 AI 流式場景中通常實現了 2-10 倍以上的速度提升,對於更長的文檔提升更大。雖然最初打算作為自己產品的內部工具,但我意識到開源可能是一個更好的方向。 解決的痛點問題 每次 AI 流式輸出新的文本塊時,傳統的 markdown 解析器都會從頭開始重新解析整個文檔——在已經渲染的內容上浪費 CPU 資源。Incremark 通過只解析

編輯器 , 人工智能 , typescript , 前端 , Javascript

king帥帥 - 週末項目 Incremark:為 AI 流式輸出場景設計的增量 Markdown 解析器

故事的開始 故事的開始是我想要為我的 tiptap 編輯器增加 AI 流式內容輸出的功能,但 AI 輸出的是 markdown,我需要將其解析為 prosemirror JSONContent,但我又想盡可能節省性能,每次已經穩定的內容避免重複解析,正在生成的塊不斷進行更新,因此有了 incremark 這個小工具。 問題分析 傳統的 Markdown 解析器(marked、remark 等)設計

人工智能 , 前端 , Markdown