OpenAI或将解決AI幻覺。
要讓AI像人類一樣思考OpenAI公布最新大模型訓練方法，讓大模型不再一本正經的胡說八道。所謂的胡說八道專業術語叫AI幻覺是指聊天機器人用編造的資訊進行回應。比如編造一本不存在的書，引用一篇不存在的論文等等。
比如最近紐約資深律師在送出的法庭檔案中使用AI聊天機器人提供的案例，但其中引用的很多案例都是AI胡編亂造的，該律師可能面臨吊銷執照的嚴重處罰。之是以目前最先進的語言模型都存在胡說八道的情況，背後的原因是在語言模型進行多步推理的時候，一個環節上的邏輯錯誤就會導緻整個解答過程出現問題，而這一連串的邏輯問題就會導緻語言模型用一些編造的内容去填充。
OpenAI本周三提出了一個新的政策來解決這個問題，一個更像是人類思考過程的政策。人類在進行邏輯推導的時候并不會讓思維任意的往前推進，而是得到一個階段性結論之後就會回顧一下整個推理鍊路來確定自己沒有思考偏。你可以回憶一下自己以往的思考過程是不是這樣？
而OpenAI的新政策是進一步模糊人腦，在AI模型的每一步推理上都設定獎勵機制，而不是像現在這樣，隻有得出最終的正确結論才可以獎勵。AI幻覺是當今大語言模型最迫切需要解決的問題。OpenAI表示未來會解決但是任重而道遠，讓我們一起來期待一個不會胡說八道的AI語言模型。小馬哥每日AI資訊。抖音号：ponyAI_news8。另外說個事，這個新号每天會更新兩條最重要的AI資訊，帶你跟上時代的步伐。關注我，離AI更近一點。點個贊吧.