【gpt-oss-20b】一次 20B 大模型的私有化部署評測

你好呀！我是是Yu欸

LLM 應用構建中，我們常在“昂貴的自建”和“受限的 API”之間兩難。

記錄了一次探索：如何利用新興的 Serverless GPU 平台，以極低的成本實現 20B 大模型的高性能（175 t/s）私有化部署。通過對比 API、自建服務器與雲 GPU 三種方案的真實成本與性能，給予一個新的算力選擇思路。

1.68元/時私有化部署大模型，對比API和自建，用多少To