AI 學習紀錄 – Docker 安裝模型之疑難雜症

AI 學習紀錄 – 利用 Docker 部屬模型這篇文章裡,開始試用 Nvidia Docker 來部屬不同的模型,來確保未來的可用性。裝第一個 chatGLM2的時候還蠻順利的,後面裝 langchain-chatchat 就遇到一點小麻煩。後來的 stable diffusion 則是完全不成功,最後只能用 CPU 跑。目前我是接受了在 docker 只能用 CPU 跑的問題,因為我發現安裝的程序也不一樣了 … 比起每次要研究怎麼裝,用 CPU 還算可以忍受,輕度使用還行。

所以就特別開了一篇,來紀錄安裝這些特別 case 的文章。不過隨著版本的改進,有些問題在新版可能就沒了,或者會產生新的問題,還請讀者心裡先有個底。

還有,在 docker 裡就不用裝 anaconda 了,獨有的環境沒有被弄壞的問題。

Landchain-ChatChat

landchain-chatchat正常程序在docker安裝後,在最後執行時會出現

可以把 transformer-engine 移除就可以解決問題。

Stable Diffusion

步驟比較多,請參考下面說明

 

Leave a Reply(Name請以user_開頭,否則會被判定會垃圾息)

請輸入答案 − 2 = 6