學位論文轉貼AI生成內容的慘劇

115.02.14.完成
有著作權 侵害必究
ch7943wa@ms12.hinet.net
有個碩士生，他的學位論文參考文獻，轉貼生成式AI生成的內容，不是「張冠李戴」，而是「無中生有」，幫口試委員增加了好幾篇口試委員沒寫過，事實上根本不存在的論文，當場被口試委員抓包，學位論文口試沒過，一切要重來。
這個事件會發生，純粹是沒有認清AI的本質所致。
生成式AI就只是一個工具，不是人，也沒有智慧，它是以演算法快速彙整既有資料。問題是，資料可能不正確，演算法可能有錯誤，而AI自己也不知道。
對人類來說，AI只能是助手，其生成成果只能當作是腦力激盪的建議，一定要經過查證，並有自己的觀點及表達，如果完全相信或直接使用，必然是災難。
查證的動作，只能確認AI生成成果是否符合過去的事實；把AI生成成果當作腦力激盪的建議，也只是過去的結論。學術研究重在自己的觀點及創新的思維，並能精準地表達，這都無法以生成式AI來取代。
現在學生的書面報告，常常使用生成式AI生成，老師沒有積極證據，並不宜直接就認定是AI生成的。不過，經過相互討論及提問，學生很容易暴露出對自己報告很多內容完全無法掌握，並發現生成式AI生成內容的不可信。從教育而言，這種讓學生深刻體會生成式AI可以怎麼用，不能怎麼用的過程，對學生是好的。
學生報告是學習，有老師把關及指導，可以降低錯用生成式AI的風險。但對外的論文錯用生成式AI，後果就很慘烈了。因為論文一旦公開，流傳在外，沒有人可以救得回來。有問題的論文更容易被加速流傳，不只是「覆水難收」的遺憾，簡直是「水淹金山寺」的災難。
其實，這些問題在生成式AI以前早就存在。以前是學生將別人多篇議題相近論文的參考文獻，集結彙整成自己論文的參考文獻。看起來很威，但其實根本沒閱讀過，甚至可能也不是真的與自己論文有密切關係。現在有了生成式AI，不僅是彙整他人多篇論文的參考文獻，還會錯誤演算，「張冠李戴」，甚至「無中生有」。如果作者不察，直接轉貼發表，後果嚴重，學術生命可能就結束了。 期刊面對生成式AI生成環境，有幾個因應做法。第一個是「以AI制AI」，善用AI工具來偵測，提高檢核效能，雖然不能絕對確認是生成式AI生成，但只要一旦被懷疑，稿件可能形式審查階段就出局了。第二個當然還是審查人員的專業水準，能不能看出端倪，挑出內容改進可能，或以未通過專業評審而退稿。
總之，生成式AI是個好工具，沒有理由拒絕使用，但AI只可以是助手，不能取代作者。助手給的資料，作者一定要審核是否可用，至於既有資料之心得觀點，面對未來之創見，必須是作者自己的表達，不該轉貼生成式AI生成成果。