Huggingface 模型轉成 GGUF, 以讓 Ollama 使用
在定這個文章標題的時候，我也是很困惑。我另外也想定成 pytorch 模型轉成 gguf，總之就是要轉成可以量化的模型。gguf 檔應該是由 meta 所制定的，因為需要由 llama.cpp 這個專
分類：AI人工智慧學習
利用 Ollama 與 Openwebui 搭建本地 LLM 服務
一陣子沒投入大語言模型，就會發現有一些驚奇。倒也不是有多大的進步，很是佈屬上有了很大的便利性。所謂的佈屬大語言模型，其實是有點浪費時間的，因為還處於起步階段，很多步驟都還是用手動設定的，所以很多事情都
Use Python-docx to generate Word documents
Writing documents has always been a tedious task, especially when writing some API documents. Becaus
使用 Python-docx 產生 Word 檔案
寫文件一直是一件很煩人的事，尤其是寫一些 API 文件。由於這類的文件的格式很固定，但又不得不寫，又常常要改來改去，弄起來總是很煩心。所以之前就想要透過自動化的方式，來產生word文件。而最近研究 A
AI Learning Record – Building Simple LLM API with QWEN as an Example
Current large language models all have accompanying HTTP APIs, such as the one mentioned in this art
AI 學習紀錄 – 搭建簡易LLM API，以QWEN為例
目前的語言大模型都有搭配的 http API, 像在這篇裡提到的 Langchat-chatcat 的 API。使用上算不上複雜，但想要使用時要下的參數好像就有點多。其實要搭建自己的 LLM API，
AI Learning – Multi-Person Setting with Stable Diffusion
This article refers to the youtube video。 Using Stable Diffusion (referred to as SD) has always been
AI 學習紀錄 – Stable Diffusion 多人物設定
本文參考內容，為 Youtube 上的這個影片。 使用 stable diffusion (以下稱 SD) 一直是隨便玩玩而已，可以說是邊玩邊學一點。因為至今還是沒辦法搞出什麼生產力，所以只能繼續的學
AI Learning: Setting up Stable Diffusion using Docker for Lora Fine-tuning
“Stable Diffusion” has recently released the SDXL 1.0 version (hereinafter referred to a
AI 學習紀錄 – 使用 Docker 架設 Stable Diffusion 進行 Lora 微調
Stable Diffusion 最近出了 SDXL 1.0 版本 (以下簡稱SD)，應該是畫質更好，提示詞更簡單。不過其實 Stable Diffusion 我也沒什麼在用，就是偶爾玩一下而已。最近
