編輯：編輯部
【新智元導讀】大反轉來了？Stack Overflow「ChatGPT禁令」突然松動，而版主們不得不聯名罷工表示抗議，血淚控訴LLM生成的垃圾内容将充斥整個社群。截至發稿前，公開信上已有227位使用者簽名。（而且還在不斷增加中）
大家都還記得，ChatGPT剛出來時，它的代碼生成功能讓人們大感新鮮。
然而，随着各種似是而非、真假難辨的答案如潮水般湧入，被逼急的Stack Overflow不得不連夜下封殺令——ChatGPT，禁！
具體來說，Stack Overflow的版主有權封禁疑似釋出ChatGPT等AI生成内容的賬号，并且直接删帖。
然而，Stack Overflow最近卻釋出了這樣一條新規：
鑒于目前我們無法準确識别AI生成的内容，「假陽性」的機率非常高，這種一言堂的過度禁言措施，可能會讓網站損失大量有貢獻的網友。
是以，隻有在真實可驗證的情況下，版主們才能禁言賬号。而不管是寫作風格等主觀猜測，還是GPT檢測器的結果，都不可作為衡量名額。
這條版規一發，簡直讓版主們瞬間炸了鍋！
在他們看來，這簡直是對LLM幻覺肆意擴散的公然默許，是對社群清明環境的公開破壞，是道德的淪喪，人性的扭曲……
其中一些版主，已經憤而罷工了。
保衛我們的社群不被AI侵占
一些版主和使用者寫了一封公開信，憤怒控訴新規将使Stack Overflow這個大家心中的代碼問答聖地徹底淪陷。
他們義憤填膺地表示，AI生成的内容會對「平台和内容的完整性、可信度構成重大威脅」。而營運者的決定将破壞Stack Overflow成為「高品質資訊庫」的目标。
從前，版主隻要自己認定文章内容是AI生成的，就能自行删帖或封号。
但如今，這個标準變得非常嚴苛。以往的慣用方法，如今都不再适用。
而這些版主們認為，這将意味着：以後在Stack Overflow上，AI生成的内容可以被肆意釋出，絲毫不用顧忌社群對此是何看法。
從此，一打開Stack Overflow，我們很可能會看到滿眼的錯誤資訊，和抄襲來的内容。
另外，新政也将剝奪Stack Exchange社群自行定義政策的餘地。
遺憾的是，到目前為止，營運者與版主們尚未取得良好的直接溝通，版主們最後能做的就是——選擇罷工，不再對平台的文章進行稽核。
在他們看來，自己的罷工是拯救社群「免于完全價值流失」的最後手段。
版主的抗議公開信全文
在大量AI生成的内容被删除之後，Stack Overflow公司頒布了一項新的「禁令」，默許不正确的資訊和不受限制的剽竊行為在Stack Exchange上泛濫。這對該平台及其内容的完整性和可信度構成了重大威脅。
以下簽名者，是Stack Overflow和Stack Exchange的志願版主、貢獻者和使用者。
從即日起，我們将對Stack Overflow和Stack Exchange開展全面罷工，以抗議Stack Overflow公司現在以及将來将要強加給我們的政策和平台規則變動。
我們通過合理的方式實作平台變革的努力被忽視了，我們的擔憂也被無視了。現在，作為最後的手段，我們要退出這個我們已經投入了超過十年的關心和志願努力的平台。
我們堅信Stack Exchange的核心使命：以問答的形式提供一個高品質的資訊庫，而Stack Overflow公司最近采取的行動則直接損害了這個目标。
具體來說，版主不再被允許以AI生成的答案為由，在部分情況下删除AI生成的答案。這使得幾乎所有AI生成的答案都可以自由釋出，而無需考慮社群對此類内容已有的既定共識。
反過來，這使得不正确的資訊（俗稱「幻覺」）和剽竊行為在該平台上肆意泛濫。
正如Stack Overflow公司之前指出的那樣，這破壞了我們對平台的信任。
此外，直接發給版主的政策細節與公開概述的準則有很大不同，版主還被禁止在公開場合分享這些細節。
這些政策無視此前上賦予給每個Stack Exchange社群決定各自政策的餘地，在沒有和社群交換意見的情況下進行直接修改，推翻社群的共識，還拒絕三思而行。
在這件事得到我們滿意的解決之前，我們将暫停這些活動，包括但不限于以下：
· 釋出和處理flag
· 運作SmokeDetector，反垃圾郵件機器人
· 關閉或投票關閉文章
· 删除或投票删除文章
· 審查隊列中的任務
· 運作協助稽核的機器人，如檢測抄襲、低品質答案和粗魯的評論等
在Stack Overflow公司收回這一新政策，以解決版主的擔憂，并允許版主有效地執行針對AI生成的答案的既定政策之前，我們呼籲全面罷工，此舉将作為保護Stack Exchange平台和使用者免受完全價值損失的最後努力。
同時，我們也想提醒Stack Overflow公司，一個完全依賴志願者的網絡，不能一直忽視、虐待，并将矛頭指向這些志願者。
Stack Overflow的新政策
新規中寫明，Stack Overflow官方對目前的内容稽核方法進行了一系列分析後發現，AI生成的内容稽核機制并不準确。
也就是說，對于一些内容是否由AI生成的判定并不一定正确，負責的版主或者志願者可能會出現錯誤判斷的情況。
官方擔心，此舉會助長對某些地區或國家的使用者的偏見，或是把大量合法的内容釋出者拒之門外。
為了解決這個問題，官方要求負責稽核内容的版主在封号之前，需要用非常嚴格的證據标準來确定該使用者釋出的内容是由AI生成的。
在新規下，版主們慣用的基于使用者寫作風格，以及論壇行為等好用的标準都将不能再使用，因為這并不算「嚴格」。
官方表示，版主們所慣用的方法并不能100%的進行裁定。
同時，GPT檢測器在官方看來也不可取。誤判率過高，不可接受，不能作為判定的可靠名額。
總之，新規中官方對版主的權力進行了限制。隻有經過嚴格證據審查得出的結論才能采納，并采取進一步行動（如封停賬号等）。
任何靠直覺、猜測的方式都不應該再采用。
為什麼不得不罷工？一個版主的血淚控訴
一位版主在Stack Overflow上發帖，詳細解釋了版主們不得不選擇罷工的原因。
ta表示，大家這樣做，或多或少都是為了整個社群的利益。
2022年11月下旬，随着ChatGPT的推出，大量使用者開始瘋狂把AI生成的答案搬運上來。
用ChatGPT生成的答案，與真人使用者的回答非常相近
比如下面這位網友就表示，自己先建立了一個賬戶，然後把沒有答案的随機問題貼進ChatGPT裡，再把生成的答案po出來。
在一個半小時内，ta就po出了9個回答，并取得了1個接受、3個贊成，以及62個聲望值。
随後，這些随機複制粘貼自ChatGPT的回答，迅速産生巨大的影響，這位網友非常期待後續的情況。
玩花了的網友們引起的稽核團隊的注意，他們警鈴大作，立即為Stack Overflow制定了新規。
新規自然是有道理的，Stack Overflow從2008年成立以來，就一直靠社群志願者稽核來維持營運。
但ChatGPT生成的答案通常看起來很好，無數網友在瘋狂釋出這些答案，會給志願者造成巨大的負擔。
是以，社群才不得不釋出禁令。
這位版主表示，禁令釋出後，版主們兢兢業業，直接參與了社群管理團隊，在方方面面幫助這項新政策在這條社群實行。
而處理文章的過程，也非常麻煩。
稽核團隊會使用JavaScript腳本來幫助稽核，需要工具的時候，他們會直接上手去寫。他們還會擴充現有的網站功能。
每天，版主們都會處理大量的文章，還會經曆被辱罵之類的情況。
是以，在周一接到新版禁令後，版主們非常心累。畢竟，大家都是志願者，而不是正式員工。他們已經為社群付出夠多了……
罷工者的訴求
罷工的版主們想要什麼？歸根結底還是問題解決。
有些問題需要官方親自承認，有些問題需要員工們公開進行讨論，明确到底應該做什麼。
ChatGPT規則是由整個社群共同制定的規則，并且已經得到了廣泛的支援。
員工不應該僅僅使用非公開管道（聊天室和版主團隊）進行大規模的規則變更，走這些管道就意味着廣大使用者将無法知曉。
版主被要求根據一項從未公開的規則來處理flag。而實際上，網站上的所有内容都表明了舊有的政策仍然有效。
是以，版主仍然會收到無法與該政策一緻處理的flag。最終，社群肯定會注意到這種不同。
那些在公告公開之前就發帖講解政策變化的少數版主，其實他們正冒着失去版主權力、無法通路版主團隊的風險。這對版主來說非常不公平。
Philippe發帖怒斥新規，他表示，官方所擔心的可能産生的種族歧視是一種赤裸裸的指責。但很顯然，沒有人希望被無端指控為種族歧視。
在最壞的情況下，新規反映出員工認為版主和社群持對立态度。
員工對政策的表述非常含糊（正如前面所說的，公開的和私下的政策存在差異），并且沒有提供他們認為做得不正确的具體執行個體。
他們希望版主不再将GPT檢測器作為唯一的判斷标準，這當然可以，但是對于一個在兩個小時内釋出了十幾個長回答的人來說，很明顯，這些回答肯定不全是他們自己寫的，他們隻是在複制粘貼地回答問題。
根據政策，這是不可接受的，但版主們應該如何處理呢？
版主們是否可以在沒有直接證據證明其為抄襲的情況下使用檢測工具？
然而，現實是，沒人告訴版主他們到底應該怎麼做……
參考資料：
https://openletter.mousetail.nl/編輯：編輯部
【新智元導讀】大反轉來了？Stack Overflow「ChatGPT禁令」突然松動，而版主們不得不聯名罷工表示抗議，血淚控訴LLM生成的垃圾内容将充斥整個社群。截至發稿前，公開信上已有227位使用者簽名。（而且還在不斷增加中）
大家都還記得，ChatGPT剛出來時，它的代碼生成功能讓人們大感新鮮。
然而，随着各種似是而非、真假難辨的答案如潮水般湧入，被逼急的Stack Overflow不得不連夜下封殺令——ChatGPT，禁！
具體來說，Stack Overflow的版主有權封禁疑似釋出ChatGPT等AI生成内容的賬号，并且直接删帖。
然而，Stack Overflow最近卻釋出了這樣一條新規：
鑒于目前我們無法準确識别AI生成的内容，「假陽性」的機率非常高，這種一言堂的過度禁言措施，可能會讓網站損失大量有貢獻的網友。
是以，隻有在真實可驗證的情況下，版主們才能禁言賬号。而不管是寫作風格等主觀猜測，還是GPT檢測器的結果，都不可作為衡量名額。
這條版規一發，簡直讓版主們瞬間炸了鍋！
在他們看來，這簡直是對LLM幻覺肆意擴散的公然默許，是對社群清明環境的公開破壞，是道德的淪喪，人性的扭曲……
其中一些版主，已經憤而罷工了。
保衛我們的社群不被AI侵占
一些版主和使用者寫了一封公開信，憤怒控訴新規将使Stack Overflow這個大家心中的代碼問答聖地徹底淪陷。
他們義憤填膺地表示，AI生成的内容會對「平台和内容的完整性、可信度構成重大威脅」。而營運者的決定将破壞Stack Overflow成為「高品質資訊庫」的目标。
從前，版主隻要自己認定文章内容是AI生成的，就能自行删帖或封号。
但如今，這個标準變得非常嚴苛。以往的慣用方法，如今都不再适用。
而這些版主們認為，這将意味着：以後在Stack Overflow上，AI生成的内容可以被肆意釋出，絲毫不用顧忌社群對此是何看法。
從此，一打開Stack Overflow，我們很可能會看到滿眼的錯誤資訊，和抄襲來的内容。
另外，新政也将剝奪Stack Exchange社群自行定義政策的餘地。
遺憾的是，到目前為止，營運者與版主們尚未取得良好的直接溝通，版主們最後能做的就是——選擇罷工，不再對平台的文章進行稽核。
在他們看來，自己的罷工是拯救社群「免于完全價值流失」的最後手段。
版主的抗議公開信全文
在大量AI生成的内容被删除之後，Stack Overflow公司頒布了一項新的「禁令」，默許不正确的資訊和不受限制的剽竊行為在Stack Exchange上泛濫。這對該平台及其内容的完整性和可信度構成了重大威脅。
以下簽名者，是Stack Overflow和Stack Exchange的志願版主、貢獻者和使用者。
從即日起，我們将對Stack Overflow和Stack Exchange開展全面罷工，以抗議Stack Overflow公司現在以及将來将要強加給我們的政策和平台規則變動。
我們通過合理的方式實作平台變革的努力被忽視了，我們的擔憂也被無視了。現在，作為最後的手段，我們要退出這個我們已經投入了超過十年的關心和志願努力的平台。
我們堅信Stack Exchange的核心使命：以問答的形式提供一個高品質的資訊庫，而Stack Overflow公司最近采取的行動則直接損害了這個目标。
具體來說，版主不再被允許以AI生成的答案為由，在部分情況下删除AI生成的答案。這使得幾乎所有AI生成的答案都可以自由釋出，而無需考慮社群對此類内容已有的既定共識。
反過來，這使得不正确的資訊（俗稱「幻覺」）和剽竊行為在該平台上肆意泛濫。
正如Stack Overflow公司之前指出的那樣，這破壞了我們對平台的信任。
此外，直接發給版主的政策細節與公開概述的準則有很大不同，版主還被禁止在公開場合分享這些細節。
這些政策無視此前上賦予給每個Stack Exchange社群決定各自政策的餘地，在沒有和社群交換意見的情況下進行直接修改，推翻社群的共識，還拒絕三思而行。
在這件事得到我們滿意的解決之前，我們将暫停這些活動，包括但不限于以下：
· 釋出和處理flag
· 運作SmokeDetector，反垃圾郵件機器人
· 關閉或投票關閉文章
· 删除或投票删除文章
· 審查隊列中的任務
· 運作協助稽核的機器人，如檢測抄襲、低品質答案和粗魯的評論等
在Stack Overflow公司收回這一新政策，以解決版主的擔憂，并允許版主有效地執行針對AI生成的答案的既定政策之前，我們呼籲全面罷工，此舉将作為保護Stack Exchange平台和使用者免受完全價值損失的最後努力。
同時，我們也想提醒Stack Overflow公司，一個完全依賴志願者的網絡，不能一直忽視、虐待，并将矛頭指向這些志願者。
Stack Overflow的新政策
新規中寫明，Stack Overflow官方對目前的内容稽核方法進行了一系列分析後發現，AI生成的内容稽核機制并不準确。
也就是說，對于一些内容是否由AI生成的判定并不一定正确，負責的版主或者志願者可能會出現錯誤判斷的情況。
官方擔心，此舉會助長對某些地區或國家的使用者的偏見，或是把大量合法的内容釋出者拒之門外。
為了解決這個問題，官方要求負責稽核内容的版主在封号之前，需要用非常嚴格的證據标準來确定該使用者釋出的内容是由AI生成的。
在新規下，版主們慣用的基于使用者寫作風格，以及論壇行為等好用的标準都将不能再使用，因為這并不算「嚴格」。
官方表示，版主們所慣用的方法并不能100%的進行裁定。
同時，GPT檢測器在官方看來也不可取。誤判率過高，不可接受，不能作為判定的可靠名額。
總之，新規中官方對版主的權力進行了限制。隻有經過嚴格證據審查得出的結論才能采納，并采取進一步行動（如封停賬号等）。
任何靠直覺、猜測的方式都不應該再采用。
為什麼不得不罷工？一個版主的血淚控訴
一位版主在Stack Overflow上發帖，詳細解釋了版主們不得不選擇罷工的原因。
ta表示，大家這樣做，或多或少都是為了整個社群的利益。
2022年11月下旬，随着ChatGPT的推出，大量使用者開始瘋狂把AI生成的答案搬運上來。
用ChatGPT生成的答案，與真人使用者的回答非常相近
比如下面這位網友就表示，自己先建立了一個賬戶，然後把沒有答案的随機問題貼進ChatGPT裡，再把生成的答案po出來。
在一個半小時内，ta就po出了9個回答，并取得了1個接受、3個贊成，以及62個聲望值。
随後，這些随機複制粘貼自ChatGPT的回答，迅速産生巨大的影響，這位網友非常期待後續的情況。
玩花了的網友們引起的稽核團隊的注意，他們警鈴大作，立即為Stack Overflow制定了新規。
新規自然是有道理的，Stack Overflow從2008年成立以來，就一直靠社群志願者稽核來維持營運。
但ChatGPT生成的答案通常看起來很好，無數網友在瘋狂釋出這些答案，會給志願者造成巨大的負擔。
是以，社群才不得不釋出禁令。
這位版主表示，禁令釋出後，版主們兢兢業業，直接參與了社群管理團隊，在方方面面幫助這項新政策在這條社群實行。
而處理文章的過程，也非常麻煩。
稽核團隊會使用JavaScript腳本來幫助稽核，需要工具的時候，他們會直接上手去寫。他們還會擴充現有的網站功能。
每天，版主們都會處理大量的文章，還會經曆被辱罵之類的情況。
是以，在周一接到新版禁令後，版主們非常心累。畢竟，大家都是志願者，而不是正式員工。他們已經為社群付出夠多了……
罷工者的訴求
罷工的版主們想要什麼？歸根結底還是問題解決。
有些問題需要官方親自承認，有些問題需要員工們公開進行讨論，明确到底應該做什麼。
ChatGPT規則是由整個社群共同制定的規則，并且已經得到了廣泛的支援。
員工不應該僅僅使用非公開管道（聊天室和版主團隊）進行大規模的規則變更，走這些管道就意味着廣大使用者将無法知曉。
版主被要求根據一項從未公開的規則來處理flag。而實際上，網站上的所有内容都表明了舊有的政策仍然有效。
是以，版主仍然會收到無法與該政策一緻處理的flag。最終，社群肯定會注意到這種不同。
那些在公告公開之前就發帖講解政策變化的少數版主，其實他們正冒着失去版主權力、無法通路版主團隊的風險。這對版主來說非常不公平。
Philippe發帖怒斥新規，他表示，官方所擔心的可能産生的種族歧視是一種赤裸裸的指責。但很顯然，沒有人希望被無端指控為種族歧視。
在最壞的情況下，新規反映出員工認為版主和社群持對立态度。
員工對政策的表述非常含糊（正如前面所說的，公開的和私下的政策存在差異），并且沒有提供他們認為做得不正确的具體執行個體。
他們希望版主不再将GPT檢測器作為唯一的判斷标準，這當然可以，但是對于一個在兩個小時内釋出了十幾個長回答的人來說，很明顯，這些回答肯定不全是他們自己寫的，他們隻是在複制粘貼地回答問題。
根據政策，這是不可接受的，但版主們應該如何處理呢？
版主們是否可以在沒有直接證據證明其為抄襲的情況下使用檢測工具？
然而，現實是，沒人告訴版主他們到底應該怎麼做……
參考資料：
https://openletter.mousetail.nl/