AI 學習紀錄 – Docker 安裝模型之疑難雜症

在 AI 學習紀錄 – 利用 Docker 部屬模型這篇文章裡，開始試用 Nvidia Docker 來部屬不同的模型，來確保未來的可用性。裝第一個 chatGLM2的時候還蠻順利的，後面裝 langchain-chatchat 就遇到一點小麻煩。後來的 stable diffusion 則是完全不成功，最後只能用 CPU 跑。目前我是接受了在 docker 只能用 CPU 跑的問題，因為我發現安裝的程序也不一樣了 … 比起每次要研究怎麼裝，用 CPU 還算可以忍受，輕度使用還行。

所以就特別開了一篇，來紀錄安裝這些特別 case 的文章。不過隨著版本的改進，有些問題在新版可能就沒了，或者會產生新的問題，還請讀者心裡先有個底。

還有，在 docker 裡就不用裝 anaconda 了，獨有的環境沒有被弄壞的問題。

Landchain-ChatChat

landchain-chatchat 照正常程序在docker安裝後，在最後執行時會出現

可以把 transformer-engine 移除就可以解決問題。

Stable Diffusion

步驟比較多，請參考下面說明

相關文章:

AI 學習紀錄 – 利用 Docker 部屬模型 AI 學習紀錄 – 線性回歸 AI 學習紀錄 – 截取中文WiKi 語料 AI 學習紀錄 – 單步GPT推論, 網頁架設 (1)