@運行時間 / 博客 RSS 訂閱

Nov 28 2025

歲月靜好呀 - 深度學習|transformers的近期工作成果綜述

【實驗報告】sglang,vllm,transformers 在強制串行推理場景下的表現 我們現在考慮若干強制串行的需求。也就是説，必須推理完這個之後再推理下一個。 調包範圍是 transformers，vllm，sglang 投機採樣/不使用投機採樣。 投機採樣對應 eagle3。容易找到一些英文語料訓練的 eaglehead

github , 運行時間 , 4s , jquery , 前端開發

收藏 評論

Dec 25 2025

mob64ca12db7156 - win10 ollama 運行在GPU下

在運行大型語言模型和相關技術時，通常需要充分利用計算資源。對於 Windows 10 用户來説，使用 Ollama 在 GPU 上運行可以大大提升性能。本文將深度分析如何在 Windows 10 系統中成功實現 Ollama 在 GPU 下的運行，包括版本對比、遷移指南、兼容性處理、實戰案例、排錯指南和生態擴展等內容。 版本對比 在使用 Ollama 之前，瞭解不同版本之間的兼容

運行時間 , aigc , 高級技巧 , CUDA

收藏 評論

Nov 19 2025

代碼工匠傳奇 - 架構設計（2）-架構設計原則

背景 系統架構中對系統性能設計的解決方案之一：“阿姆達爾方案”。書中還有個完全看不懂的公式，理解起來腦仁痛（不懂…）但發現很有價值，便系統的學習一下。 例題試先做一下，帶着疑問點再看定律。 例題：假設某一功能的處理時間為整體系統運行時間的60%，若使該功能的處理速度提高至原來的5倍，則根據阿姆達爾定律，整個系統的處理速

運行時間 , 加速比 , 後端開發 , 系統架構 , 系統性能 , Python

收藏 評論

Dec 02 2025

戀上一隻豬 - Using temporary優化方向

本文介紹的常數優化方法能使代碼加速到原來的一半甚至更快 使用union類 定義 union是一種特殊的類，定義方法如下（定義在main內或main外都可以） union Union{ int a; double b; char c; }; Union u; 互斥的特性 union的所有成員存儲在同一個地址上，因此在任意時

機器學習 , 運行時間 , 數組 , Using temporary優化方向 , 人工智能 , 多維數組

收藏 評論

Dec 17 2025

mob64ca140caeb2 - opencv 降分辨率

連接 openmv 後，可以在 openmv IDE 中查看源碼。這裏記錄一下，順便翻譯一手 # Hello World Example # # Welcome to the OpenMV IDE! Click on the green run arrow button below to run the script!

幀率 , 運行時間 , 圖像處理 , 人工智能 , 計算機視覺 , opencv 降分辨率 , Python

收藏 評論