博客 / 列表

mob649e81567471 - ollama如何使用顯卡

在當前的AI開發生態中,如何利用顯卡來提升模型的訓練與推理性能成為了每個開發者的重要課題。最近,我在使用Ollama時碰到了一些關於顯卡的使用問題,現將此過程的解決方案記錄下來,以便未來參考。 問題背景 隨着深度學習與自然語言處理的不斷髮展,顯卡成為了訓練大型語言模型的重要計算資源。Ollama是一個支持多種架構的框架,然而在我第一次嘗試利用顯卡時,出現了一些異常現象。

aigc , 深度學習 , memory , CUDA

mob649e81567471 - ollama向量模型

在機器學習和人工智能的領域中,向量模型是一種重要的表示方式,Ollama 向量模型就是其中的一個代表。Ollama 向量模型致力於高效處理和表示文本數據,以便在自然語言處理(NLP)任務中發揮重要作用。本文將探討解決Ollama向量模型相關問題的全過程,涵蓋技術原理、架構解析、源碼分析等方面。 背景描述 在當今信息爆炸的時代,文本信息的處理變得尤為重要。Ollama 向量模型通過

預處理 , 向量化 , 數據 , aigc

mob649e81567471 - langchain的models

在這個博文中,我將詳細闡述如何解決“langchain的models”相關問題的過程。這個過程將涵蓋環境配置、編譯過程、參數調優、定製開發、性能對比和部署方案等環節。 環境配置 在配置環境之前,我們首先要確保以下依賴項。下面是我所使用的版本及相關配置信息。 Python 3.8+ Langchain 0.0.0(根據文檔要求選擇對應版本) 安裝必要的庫

System , aigc , 編譯過程 , 開發者