ChatGPT的爆火也引發了AI倫理擔憂——積極擁抱AI的同時，人類也在提防著AI。
《科創板日報》2月1日訊（編輯 鄭遠方）ChatGPT開放注冊兩個月后，如今已成為AI圈“頂流”，不僅獲微軟大手筆“帶貨”，在美股和A股市場上，更是出現上市公司“沾ChatGPT即漲”。
然而，隨著技術門檻的降低和可及性的提升，技術濫用的問題也引起了人們的警惕。當地時間周二，ChatGPT背后的公司OpenAI推出了一款新檢測器AI Text Classifier，可幫助辨別文本是由人工撰寫還是AI生成。
實際上，近期隨著ChatGPT躥紅，這一聊天機器人生成的內容已然滲透至美國議員國會講稿與學術研究，更直接登上了學術論文作者欄。
美國眾議員杰克?奧金克洛斯近日在眾議院宣讀兩段講稿，稿件由ChatGPT生成。他的工作人員表示，這是首次由AI捉刀代筆的講稿在美國國會被宣讀。
而在去年12月發布的一篇雷帕霉素抗衰老應用的論文中，ChatGPT就曾被列為一作，引發業內爭議。
而在學生群體中，使用ChatGPT幫助撰寫論文、生成代碼、完成作業等情況更為普遍。
在線課程供應商Study.com一項針對1000名美國大學生的調查顯示，超過89%學生使用ChatGPT完成家庭作業；48%用ChatGPT完成小測，53%用ChatGPT寫論文。
另外，北密歇根大學的一位學生還依靠ChatGPT，寫出全班最高分論文。更有意思的是，“露餡”原因在于，導師發現該學生提交的論文“邏輯過于連貫、結構過于合理”。
據了解，AI Text Classifier檢測器包含一個文本框，用戶可輸入至少1000個字符長（約150 - 250 個單詞）的文本。點擊提交后，AI Text Classifier也會給出不同程度的判定答案，包括“非常不可能”、“不太可能”、“難以判斷”、“疑似”由AI生成。
不過，這一工具也存在局限，Open AI表示，結果并不能保證完全準確，工具仍然在研發優化中，使用過程中可能會出錯。數據顯示，該檢測器在針對英文文本的訓練評估中，成功將26%的AI生成文本判定為“疑似AI生成”，但將卻有9%的案例中，將人工撰寫腳本標記為AI生成。
另外，檢測器主要針對成人書寫的英語內容進行訓練，有可能會錯判兒童寫的文本和非英語文本。而用戶還可以簡單編輯AI生成的文本，以避開檢測。
但實測發現，即便全文照搬一篇ChatGPT關于“如何識別AI生成文本”的回答，這一檢測器給出的答案也僅僅是“難以判斷是否由AI生成”。
另外，若將莎士比亞《麥克白》戲劇第二幕第一場貼進文本框，則結果同樣為“難以判斷是否由AI生成”。
根據《自然（Nature）》此前的一篇文章，ChatGPT發布后，伊利諾伊州西北大學一個研究小組便展開研究，若使用ChatGPT生成醫學論文摘要，是否能識別。而結果顯示，這些由AI操刀的摘要全部通過抄襲檢測器；在人工審核環節，僅32%的摘要被判斷為“由真實人類完成”。
除了冒用/抄襲風險，ChatGPT等AI生成的文本難以保證正確性，進一步還可能影響論文研究結論。以ChatGPT來說，Nature團隊及多家出版商均認為，其無法對學術論文的完整性與內容本身負責。
同時，新聞媒體領域的一個案例或許也可以作為佐證。自去年11月以來，科技媒體CNET發布了70余篇由AI生成的文章。但Futurism報告顯示，這些文章中其實暗藏著多處錯誤，包括數據測算不準確、名詞解釋混淆等。
麻省理工Tech Review曾發布一篇文章，目的在于研究微軟如何將ChatGPT用于必應搜索引擎。該文指出，像ChatGPT這樣的模型，很擅長生成華美的語言，讀起來仿佛由人類撰寫。但它們對自己生成的東西缺乏真正理解，在闡釋正確事實與假話時，抱有同樣的自信。
從ChatGPT的走紅也能看出，AI技術的使用和觸達門檻也不再遙不可及。但積極擁抱AI的同時，人類也在提防著AI。
以積極為ChatGPT“帶貨”的微軟和亞馬遜為例，兩家巨頭允許員工使用ChatGPT，但也禁止員工向ChatGPT分享敏感數據，以防后者的輸出包含或出現類似公司機密信息。
而AIGC的另一代表性應用“AI換臉”也存在諸多法律風險，相關詐騙案、侵權糾紛并不鮮見。
誠然，AI技術對人類社會影響深遠，但“技術中立”并不能成為規避責任與義務的理由。不僅技術服務提供方需要規范，使用者也需對自身有所約束。
