當我們跟ChatGPT對話時，有時我們需要簡單且明确的答案，ChatGPT卻給出了非常“發散”的答案，又或者我們有時希望他的回答能更具有“多樣性”和“創造性”一些。如何控制ChatGPT回答的多樣性和規範性？今天就來聊聊這個話題。
#AI #ChatGPT #提示工程 #promptengineering
對于同樣的問題，ChatGPT每次都會通過大模型動态生成不同的答案，而這些答案在“創造性”和“可預測性”之間的選擇是由“溫度”參數來控制的。
“溫度”是一個從0~1的值，溫度越低，代表可預測性越強，答案會更加單一明确；溫度越高，代表創造性越強，答案會更加多樣化。
下圖是OpenAI官方文檔中對于“溫度”參數的解釋：
可以看到，當溫度設定為0時，模型對将要生成的内容變化程度最小，答案也會更加強定。當溫度設定為1時，模型變化程度最大，答案的多樣化程度更高。
在API中我們可以直接通過參數控制“溫度”值的高低；在網頁中和ChatGPT對話時，雖然不能直接控制溫度參數，但我們可以通過Prompt技巧來讓ChatGPT調整結果的多樣性，如下圖舉例：
除了答案的多樣性，有時我們還希望能控制一下ChatGPT回答的“規範性”，比如在客服對話的場景下，有時我們需要簡單明确的答案。
此時可以用“Few Shot”技巧，在我們的Prompt中明确給出問題和回答的“範本”：
又比如在情緒識别（輿情監測）場景下，也有類似的需求：
備注：
1. “溫度”和“Few Shot”是兩個方面的技巧，Few Shot技巧并不能控制溫度。
2. 在網頁中，當你對某個答案不滿意時，可以點選“Regenerate response”讓ChatGPT挑另一個答案給你。