自2022年11月釋出以來，許多人都在使用ChatGPT來幫助他們完成工作，各行各業的人都在使用，從撰寫營銷材料，到起草電子郵件，再到生成報告。
ChatGPT作為一種人工智能工具，在科研中也顯示非常大的應用潛力，但人們對在科研活動中ChatGPT的應用範圍和倫理仍有争論。
2023年7月7日，Nature新聞欄目發表了一篇讨論性文章，題為《Scientists used ChatGPT to generate an entire paper from scratch — but is it any good?》
文中介紹道：
兩位科學家借助人工智能工具ChatGPT，在不到一個小時的時間内撰寫了一篇研究論文。
這篇文章流暢、富有洞察力，并按照科學論文的預期結構呈現。但研究人員表示，在該工具真正提供幫助之前，還有許多障礙需要克服。
以色列海法工業技術研究所的生物學家和資料科學家Roy Kishony表示，我們的目标是探索ChatGPT作為一個研究“助理”的能力，并引發關于其優點和缺陷的讨論。
他說：“我們需要讨論如何在減少缺點的情況下獲得好處。”
論文的建構過程介紹
Kishony和他的學生Tal Ifargan（也是一名資料科學家）從美國疾病控制和預防中心行為風險因素監測系統（US Centers for Disease Control and Prevention’s Behavioral Risk Factor Surveillance System）下載下傳了一份公開可用資料集。
該資料集包括從超過25萬人那裡收集到的關于其糖尿病狀況、水果和蔬菜攝入量和體育活動的資訊。
首先，他們要求ChatGPT編寫代碼用來發現資料中的模式，以便進一步深入分析。
在第一次嘗試中，聊天機器人生成的代碼充滿了錯誤，無法工作。但當科學家将錯誤資訊回報給它，并要求其糾正錯誤時，它最終生成了可以用來探索資料集的代碼。
有了一個更結構化的資料集後，Kishony和Ifargan随後要求ChatGPT幫助他們制定一個研究目标。
該工具建議他們探索體育活動和飲食對糖尿病風險的影響。
生成了更多的代碼之後，ChatGPT得出結論：多吃水果和蔬菜以及加強鍛煉可能會降低患糖尿病的風險。
然後，ChatGPT被要求在表格中總結關鍵發現，并編寫整個結果部分。
接着，他們逐漸地要求ChatGPT撰寫摘要、引言、方法和讨論部分。
最後，他們要求ChatGPT完善文本。
但問題也撲面而來...
盡管ChatGPT生成的論文清晰明了，資料分析也紮實，但Kishony表示：這篇論文還遠非完美。
研究人員遇到的一個問題是ChatGPT傾向于通過編造資料來佐證自己的觀點，在這種情況下，它産生了虛假的引用和不準确的資訊。
例如，耶路撒冷希伯來大學的計算機科學家Tom Hope說，這篇論文指出該研究“彌補了文獻中的空白”——這個詞在論文中很常見，但在這個案例中不準确。他說，這一發現“不會讓任何醫學專家感到驚訝，這還不夠新穎”。Kishony還擔心，這樣的工具可能會使研究人員更容易參與欺詐行為，如P值調整（P-hacking）（隻報告産生顯著結果的那些）。
另一個擔憂是，使用生成型AI工具撰寫論文的便利性可能導緻期刊被低品質論文所淹沒。
不過，Kishony補充說，以人類監督為核心的資料轉化成論文方法，可能是確定研究人員能夠輕松了解、檢查和複制方法和發現的一種方式。
澳洲南澳大學開發人工智能教育技術的Vitomir Kovanović表示，人工智能工具在研究論文中的使用應該公開表明，否則，很難評估一項研究的發現是否正确。他說：“如果制作虛假論文變得如此容易，我們将來可能需要做更多工作”
麻省理工學院和哈佛大學布羅德研究所的計算生物學家Shantanu Singh認為，生成型AI工具有潛力通過執行簡單但耗時的任務（如撰寫摘要和生成代碼）提升科研效率。
它們可以用于從資料集生成論文或發展假設。但是，由于幻覺和偏見對于研究人員來說很難檢測，是以Singh認為，至少在可預見的未來，撰寫整篇論文，不會是一個特别好的用途。
牛津、劍橋等解除ChatGPT禁令
24所頂尖大學釋出使用原則
其實不久前，還有一位科學家用ChatGPT搞出了一件大事情。美國田納西大學健康科學中心的放射科醫生Som Biswas，在4個月内使用ChatGPT寫了16篇論文，并在4個不同的期刊上發表了其中5篇。
2023年3月，《J Med Internet Res》（IF=7.4）線上發表了一項關于ChatGPT的文章，題為Artificial Intelligence Can Generate Fraudulent but Authentic-Looking Scientific Medical Articles: Pandora’s Box Has Been Opened。研究者利用ChatGPT生成了一篇完整的神經外科論文，在用詞、句子表述、論文結構方面都與真正的醫學論文非常相似，包含1992個詞和17篇參考文獻，整個文章建立過程大約花了1個小時。
必須說，随着ChatGPT的入局，AIGC（人工智能生成内容）數量井噴，尤其是在學界，ChatGPT更是成為科研人員的得力助手。
值得一提的是，就在7月4日，牛津、劍橋、布裡斯托、愛丁堡等24所羅素大學成員集體松口，宣布解除ChatGPT使用禁令，并推出了詳細的使用原則，以幫助學生和研究人員更好地使用生成式AI，抓住生成式AI帶來的全新教育和發展機遇。
要知道，早在今年3月，學生利用ChatGPT寫論文、做作業就已然形成了一股勢不可擋的浪潮，英國教育部對此，表示十分擔憂，牛津、劍橋、布裡斯托、愛丁堡等8所羅素大學成員更是宣布禁止使用ChatGPT。
顯然，他們不想錯過生成式AI帶來的全新教育和發展機遇。
為了幫助學生、科研人員和教職員工在學習和研究中以合乎道德和負責任的方式使用生成式人工智能、新技術和ChatGPT等軟體，羅素大學集團釋出了生成式人工智能使用指南。該指南包括5項聯合使用原則：
1、大學将支援學生和教職員工建立良好的人工智能素養。
2、教職人員應該具備能力，支援學生在學習過程中，有效且适當地使用生成式AI工具。
3、大學将調整教學和評估，以納入生成人工智能的道德使用，并支援平等擷取。
4、大學将確定學術嚴謹性和誠信得到維護。
5、随着技術及其在教育中的應用的發展，大學将合作分享最佳實踐。
羅素集團首席執行官 Tim Bradshaw 博士評論道：“人工智能的突破已經改變了我們的工作方式，至關重要的是，學生獲得了建立充實的職業生涯所需的新技能。大學從業人員在研究如何利用人工智能來增強教學并幫助将學科變為現實時也需要支援。”
自從ChatGPT橫空出世，其強大的網絡搜尋引擎在學生中迅速流傳開來，查閱複雜文獻、代寫簡單的Python代碼、輔助寫作思路等。
不能否認人工智能對人類生活能帶來的便捷，然而，如何有效遏制人工智能的泛濫，達到一種較為理想的共同生存狀态，這是我們需要考慮的。
作為一款AI語言模型，ChatGPT能給你提供文法、拼寫，乃至論文的結構、邏輯方面的建議。不過，ChatGPT所給的回答都是基于它模型訓練的海量資料上，它有時可能會限制我們的思路，甚至有些不準确。
是以，在用ChatGPT助攻論文寫作的過程中，把它當作一把銳利的副刀，而不是賴以生存的主刀，效果更好。