text-generation-webui

Windows 安裝 text-generation-webui 執行 LLaMA 模型

聽說有一些在個人電腦只用 CPU 就能執行 LLaMA 模型的方法,找了一些資料,終於嘗試出來了,把過程記錄在此。其實還有許多參數搞不懂,但至少先求有,再求好了。

 

最主要的參考是來自這篇文章

 

text-generation-webui 快速使用各種語言模型的工具

 

底下是記錄過程,其實我已經在 D 碟試過了,這次要重新在 C 碟試試,看固態硬碟跑起來會不會順一點。

 

安裝程式

 

首先,到 oobabooga 的 Github 找到 text-generation-webui Windows 的安裝程式。

 

下載 oobabooga-windows.zip

 

image

 

重要度:
文章分類:
借我放一下廣告
訂閱 text-generation-webui