@CUDA / 博客 RSS 訂閱

Dec 02 2025

mob64ca12f43142 - ollama如何在gpu運行大模型

在本文中，我們將深入探討“如何在GPU上運行ollama大模型”的問題。通過詳細的背景介紹、錯誤現象分析、根因解析以及解決方案的提供，幫助用户更高效地利用GPU資源，提升模型的運行效率。 問題背景 在現代的深度學習環境中，模型的規模日益增大，傳統的CPU運算已無法滿足性能要求。為了能在較短時間內完成複雜的訓練以及推理任務，越來越多的項目選擇使用GPU加速。對於使用ollama的用

配置環境變量 , aigc , 解決方案 , CUDA

收藏 評論

Dec 25 2025

mob64ca12db7156 - win10 ollama 運行在GPU下

在運行大型語言模型和相關技術時，通常需要充分利用計算資源。對於 Windows 10 用户來説，使用 Ollama 在 GPU 上運行可以大大提升性能。本文將深度分析如何在 Windows 10 系統中成功實現 Ollama 在 GPU 下的運行，包括版本對比、遷移指南、兼容性處理、實戰案例、排錯指南和生態擴展等內容。 版本對比 在使用 Ollama 之前，瞭解不同版本之間的兼容

運行時間 , aigc , 高級技巧 , CUDA

收藏 評論

Nov 27 2025

mob649e8165596b - windows Ollama gpu運行

隨着人工智能的快速發展，很多開發者開始利用深度學習模型進行各種業務的賦能。最近，我在使用Windows下的Ollama進行GPU加速時遇到了一些問題，下面我將詳細記錄解決這一問題的過程。 問題背景 Ollama是一個方便的工具，可以輕鬆地運行大規模的深度學習模型。在業務上，我們需要使用這些模型進行實時預測，因此GPU的運行至關重要。此問題的發生直接影響到我們的開發進度。

bash , aigc , 深度學習 , CUDA

收藏 評論

Dec 22 2025

西洋無悔 - 離散點的傅里葉變換 python

一、FFT介紹 　　傅里葉變換是數字信號處理領域一個很重要的數學變換，它用來實現將信號從時域到頻域的變換，在物理學、數論、組合數學、信號處理、概率、統計、密碼學、聲學、光學等領域有廣泛的應用。離散傅里葉變換(Discrete Fourier Transform，DFT)是連續傅里葉變換在離散系統中的表示形式，由於DFT的計算量很大，因此在很長一段時間內其應用受到了很大的限制

離散點的傅里葉變換 python , 傅里葉變換 , include , 後端開發 , CUDA , Python

收藏 評論

Nov 29 2025

mob649e8169ec5f - ollama GPU內存佔滿

ollama GPU內存佔滿問題是近期開發者在使用機器學習模型時常遇到的挑戰之一。當多模型同時運行或處理大規模數據集時，GPU內存容易被佔滿，導致性能降級甚至崩潰。因此，本文將詳細記錄解決這一問題的過程，包括環境準備、分步指南、配置詳解、驗證測試、優化技巧和排錯指南。希望通過這些內容，幫助大家更高效地使用GPU資源。 環境準備 在開始之前，我們首先需要準備適合的硬件和軟件環境。

硬件資源 , aigc , 重啓 , CUDA

收藏 評論

Nov 25 2025

mob64ca140ac564 - 深度學習框架拾遺：【Pytorch（二）】——Pytorch的層次結構_J

文章目錄 PyTorch 完整架構流程圖 關鍵組件詳解 完整執行流程示例 PyTorch 架構梳理 PyTorch 完整架構流程圖 關鍵組件詳解 Python Code 作用：用户編寫的模型定義、訓練腳本

pytorch , 架構 , 人工智能 , Css , CUDA , 前端開發 , HTML , Python

收藏 評論

Nov 18 2025

mob64ca12dc54c5 - ubuntu上ollama 使用 gpu 運行

在Ubuntu上運行Ollama並利用GPU加速，的確是個非常實用的場景。讓我來分享一下如何通過具體步驟來配置、編譯、優化及調試，以便讓Ollama成功使用GPU。 首先，我們需要對環境進行必要的配置，確保所有的依賴都已經安裝到位。以下是一個思維導圖，幫助我們理清環境配置的思路，包括必要的軟件和庫。 mindmap root 環境配置 必要軟件

aigc , CUDA , Python , Ubuntu

收藏 評論

Dec 02 2025

mob649e816a3664 - 在windows11 ollama 使用GPU

在Windows 11 上使用Ollama進行GPU加速處理，能夠顯著提高模型推理效率，尤其是在進行深度學習和機器學習的工作時。本文將詳細記錄從Windows 11上如何配置Ollama以使用GPU的過程，包括版本對比、遷移指南、兼容性處理、實戰案例、性能優化和生態擴展。 版本對比 首先，我們從Ollama的不同版本入手，分析它們的特性和GPU使用兼容性。

性能優化 , windows , aigc , CUDA

收藏 評論

Nov 24 2025

mob64ca12d97dad - 怎麼用gpu跑llama windows

怎麼用GPU跑LLaMA Windows 在今日的AI領域，模型的性能和計算效率至關重要。LLaMA（Large Language Model Meta AI）是一種新興的預訓練語言模型，因其強大的生成和理解能力而受到了廣泛關注。而在Windows環境下高效地使用GPU來運行LLaMA，成為了許多研究者和開發者亟待解決的問題。模型的規模通常可以表示為： [ N = \text{l

windows , aigc , CUDA , Python

收藏 評論