AI 學習紀錄 – 單步GPT推論, 網頁架設 (1)

最近生成式 AI 好像有點退燒,所以也少了一點研究,當然自己工作最近也忙了起來,比較沒時間。但最近隨著 Nvidia 股價噴出,多少還是要研究一點,不然貴森森的 RTX4090 就白花了。

之前研究的 GPT2 都是自動生成完整內容,於是想著怎樣在每句話產生前都可以看出其下一步選詞的方式呢?於是就有了下面的程式,可以每一步選詞或自動選詞。以下就是目前的成果

 

透過前文的內容,GPT 可以推測下一步該選哪個字的機率,用戶可以依機率來選擇要使用的詞,這樣就可以生成一段看似專業的文章,這應該就是基本的 GPT 原理吧。

網頁架設

要生成如上的影片,第一步其實就是要架設網站,看似突然轉到了一個不相干的領域,但這也是很真實的。如何結合 GPT 推論與 WEB,以產生具互動性的網頁,也是一門必需具備的知識。

下面就是一個基本的程式碼

這個範例展式了如何用 Python 架設一個 web  server ,並處理 GET 的訊息。這邊需要安裝的 module 如下

這邊展示的範例僅是一個 GET (do_GET)的動作,把所有的參數給列出來。當判斷完參數後,使用者就可以把 HTML 網頁給輸出了。這邊還只有用到 GET 的動作,POST 動作暫時還不需要。GET 的動作,會導入到 query_handler() ,用戶可以依據參數來做事情,這也是後面要新增的部份,本文就只先介紹基本的網頁架設。

當將來在使用的時候,就可以依據用戶從GET指定的 model 和前文的內容,來推論出接下來可能的字語機率,也就可以達成開頭影片的功能了。

Leave a Reply(Name請以user_開頭,否則會被判定會垃圾息)

請輸入答案 8 × 1 =