动态

列表
创建 时间

在 OpenResty 裏實現異步的流式代理

七層代理經常會有需要承接流式業務的需求,比如通過 SSE 來代理推理服務返回的結果。有些時候,我們還需要在流式處理過程中進行異步操作,比如訪問其他服務來豐富原來的輸入輸出。 OpenResty 支持在流式處理中做異步操作,但現行的方法有一些缺陷。關於如何更好地做異步的流式代理,我有一些未經驗證的想法。可惜現在我已不做 OpenResty 相關的操作,所以一直沒機會把這個想法付之實現。為了不讓這個點