跳至主要内容

ChatGPT 端點的使用

本外掛 / 瀏覽器擴充功能提供了 ChatGPT 對話功能,可以透過點擊看板娘和 AI 進行互動。由於 ChatGPT 是付費 API,作者免費提供的預設通道有配額限制,所以預設 MaxTokens 調得比較小;如果你需要更長的回答 / 更多上下文,請按下面「自訂為自己的 OpenAI API」一節切到自己的端點。

1. 預設通道的限額

參數預設值說明
MaxTokens200單次回覆最大 token 數;上限 4000
上下文5 輪往復「我說 + AI 回」共 10 條作為上下文,更早的對話會被丟棄以控制成本
伺服器位置上海無法直連 OpenAI 官方端點;作者預設走個人 Azure OpenAI 通道

對話框補充能力

  • 內容支援 Markdown 渲染(連結、粗體、列表等)。
  • 點擊 AI 輸出的連結可跳到你網站其他頁面。
  • 從 1.9.16 起,提示氣泡會 向上擴展 而不是向下,方便顯示長回覆。

2. 自訂為自己的 OpenAI API

透過後台設定將其修改為自己使用的 OpenAI API。目前支援:

  • OpenAI 官方gpt-3.5-turbo / GPT-3.5-Turbo-0613 / GPT-4
  • Azure OpenAI

後台 ChatGPT 設定

3. Azure OpenAI 設定

3.1 API Key 和 Endpoint(節點)

在 Azure 後台 Keys and Endpoint 中可以取得 Key 和 Endpoint。Key 可以二選一;Endpoint 終結點是您這個執行個體的名稱,不是 下面那個節點網址。

Azure Keys and Endpoint

3.2 Model Name(部署的模型名稱)

進入 https://oai.azure.com/portal/,建立模型後可以在 Deployments 中看到 Deployment Name。

Azure Deployments

將此名稱填到 Model Name(部署的模型名稱)

填寫 Model Name

3.3 Version(版本)

請參閱 Azure OpenAI 模型版本文件。當前所示的最新版本為 2023-05-01,可以填寫此固定值。

4. 排錯

  • 回覆被截斷:把 MaxTokens 調大(上限 4000),或檢查端點限額。
  • AI 不讀上一句話:預設只保留 5 輪往復上下文,更早的內容已被丟棄。
  • Azure OpenAI 回報 404:Endpoint 填錯(要填執行個體 URL,不是節點 URL),或者 Deployment Name 與 Azure 後台不一致。
  • OpenAI 官方端點連不通:預設通道伺服器在上海,無法直連官方 API;請換 Azure OpenAI 或自己架設代理。