ChatGPT 端點的使用
本外掛 / 瀏覽器擴充功能提供了 ChatGPT 對話功能,可以透過點擊看板娘和 AI 進行互動。由於 ChatGPT 是付費 API,作者免費提供的預設通道有配額限制,所以預設 MaxTokens 調得比較小;如果你需要更長的回答 / 更多上下文,請按下面「自訂為自己的 OpenAI API」一節切到自己的端點。
1. 預設通道的限額
| 參數 | 預設值 | 說明 |
|---|---|---|
MaxTokens | 200 | 單次回覆最大 token 數;上限 4000 |
| 上下文 | 5 輪往復 | 「我說 + AI 回」共 10 條作為上下文,更早的對話會被丟棄以控制成本 |
| 伺服器位置 | 上海 | 無法直連 OpenAI 官方端點;作者預設走個人 Azure OpenAI 通道 |
對話框補充能力:
- 內容支援 Markdown 渲染(連結、粗體、列表等)。
- 點擊 AI 輸出的連結可跳到你網站其他頁面。
- 從 1.9.16 起,提示氣泡會 向上擴展 而不是向下,方便顯示長回覆。
2. 自訂為自己的 OpenAI API
透過後台設定將其修改為自己使用的 OpenAI API。目前支援:
- OpenAI 官方:
gpt-3.5-turbo/GPT-3.5-Turbo-0613/GPT-4 - Azure OpenAI
3. Azure OpenAI 設定
3.1 API Key 和 Endpoint(節點)
在 Azure 後台 Keys and Endpoint 中可以取得 Key 和 Endpoint。Key 可以二選一;Endpoint 終結點是您這個執行個體的名稱,不是 下面那個節點網址。
3.2 Model Name(部署的模型名稱)
進入 https://oai.azure.com/portal/,建立模型後可以在 Deployments 中看到 Deployment Name。
將此名稱填到 Model Name(部署的模型名稱):
3.3 Version(版本)
請參閱 Azure OpenAI 模型版本文件。當前所示的最新版本為 2023-05-01,可以填寫此固定值。
4. 排錯
- 回覆被截斷:把
MaxTokens調大(上限 4000),或檢查端點限額。 - AI 不讀上一句話:預設只保留 5 輪往復上下文,更早的內容已被丟棄。
- Azure OpenAI 回報 404:Endpoint 填錯(要填執行個體 URL,不是節點 URL),或者 Deployment Name 與 Azure 後台不一致。
- OpenAI 官方端點連不通:預設通道伺服器在上海,無法直連官方 API;請換 Azure OpenAI 或自己架設代理。