自然語言處理和GPT算法
https://www.mouser.com/applications/language-through-ai

圖源:Murrstock/Stock.adobe.com
作者:Alex Pluemer,貿(mào)澤電子專稿
發(fā)布日期:2023年2月14日
以往,能夠理解人類語言并對口頭命令做出反應的計算機只存在于科幻小說中(如《2001太空漫游》中的HAL)。自20世紀30年代以來,人們一直在嘗試通過編程的方式,讓機器更容易消化人類語言,這也是計算語言學領(lǐng)域的一部分。不過,人工智能 (AI) 的新進展讓這一虛構(gòu)更接近現(xiàn)實。
這項工作中采用的各種方法和不斷發(fā)展的技術(shù),就屬于自然語言處理 (NLP) 的范疇,這是計算機科學的一個領(lǐng)域,它關(guān)注的是如何借助人工智能,讓計算機更好地理解人類語言。無論您是向Siri問路,還是讓Alexa調(diào)高恒溫器的溫度,NLP都能幫助你完成請求。NLP包括自然語言理解 (NLU) 和自然語言生成 (NLG) 兩大領(lǐng)域,可以讓數(shù)字助理、聊天機器人等設(shè)備理解人類語言并做出響應。
20世紀80年代初期,NLP采用的還是手寫指令的形式,這些指令被逐字逐句地編入計算機,就好比向一個零基礎(chǔ)的人教授一門新的語言一樣。機器學習算法超越了手寫規(guī)則所建立的“如果/那么”嚴格框架(這種做法現(xiàn)在稱為符號NLP),開發(fā)出了一種更加靈活、基于概率的結(jié)構(gòu),來確定要選擇哪些單詞和/或語法(這種做法稱為統(tǒng)計NLP)。這是NLP的一項重大進步。這些算法會分析互聯(lián)網(wǎng)上的文檔和其他書面材料,并通過模仿這些內(nèi)容來“學習”語法和句法規(guī)則。
NLP發(fā)展的另一項重大進步是神經(jīng)網(wǎng)絡的應用。神經(jīng)機器翻譯 (NMT) 讓NLP流程進一步脫離了初步編程和基于規(guī)則的指令,讓人工智能和深度學習算法能夠自學人類語言的規(guī)則。現(xiàn)在,NLP幾乎無處不在,不論是語音轉(zhuǎn)語音(如數(shù)字助理)、文本轉(zhuǎn)文本(如客服聊天機器人)還是語音轉(zhuǎn)文本(如轉(zhuǎn)錄和翻譯程序)的應用都已經(jīng)非常普遍。
本文將深入探討人工智能用于處理人類語言的工作方式和工具,以及如何在現(xiàn)在和未來實施NLP。
既然我們已經(jīng)知道了NLP的概念和作用,那么接下來的問題就是:它是如何做到的?人工智能和機器學習算法怎樣才能通過自學來理解人類語言?這個過程的第一步,是通過語法分析來確定語言的規(guī)則,也就是研究句子在什么時候、什么地方、以什么樣的方式開始和停止,以及如何添加標點。例如,句號可以結(jié)束一個分句,但也可以作為縮寫的標點,了解這一點對于掌握句子的含義至關(guān)重要。在稱為“詞性標記”的過程中,還需要對單詞進行類似的操作(例如,確定單詞在上下文中是用作名詞還是動詞)。NLP必須區(qū)分同一個詞究竟用作名詞(“那幢樓的設(shè)計很漂亮”)還是動詞(“他設(shè)計了這臺機器”),才能正確處理其含義。NLP還必須區(qū)分一詞多義(稱為詞義消歧),比如“燒”這個字,可以是你下廚房“燒了一桌好菜”,也可以是歹徒放火“燒了一間房子”。人工智能在NLP的這一領(lǐng)域已經(jīng)取得了重大進步,因為讓機器學習工具通過分析原始材料來吸收單詞的不同含義,要比逐一編程簡單得多。區(qū)分專有名詞和普通詞匯(有時稱為命名實體識別)是另一項關(guān)鍵任務,一個例子是區(qū)分“日照”究竟表示“太陽照射”還是表示地名。
指代同一名詞的兩個單詞(代詞往往就是這種情況)需要一個稱為“共指消解”的過程。例如,在“新聞秘書想回應,但他想了想還是算了”這句話中,NLP會判斷“他”指的是新聞秘書。情感分析是NLP所執(zhí)行的最具挑戰(zhàn)性的任務,也是其仍有待改進的領(lǐng)域。情感分析就是要確定話語試圖傳達的態(tài)度和情感,以及可能的潛臺詞。這在社交媒體和營銷應用中尤為重要,因為在這些場景中,不僅要理解單詞和短語本身,還要理解它們背后的傾向和信念。NLP還有很長的路要走,但人工智能和機器學習近年來已經(jīng)取得了長足的進步。
NLP的應用方式多種多樣,但幾乎每個人都熟悉其最常見的應用:虛擬助理技術(shù)。就像前面說的那樣,數(shù)字聲控助手通過NLP來理解人類的請求,并生成連貫而有針對性的回應。
聊天機器人和虛擬客服代表是NLP在我們?nèi)粘I钪袔缀鯚o處不在的另一種應用。人工智能驅(qū)動的算法可以從以往與客戶的互動中學習,從而提高未來的對話能力。雖然聊天機器人還不擅長尋找新問題的解決方案,但它們可以記住以前的解決方案。如果客戶的問題過去曾被問過,那么聊天機器人就更有可能知道答案。
在過去十年中,NLP程序在文本摘要應用方面取得了巨大進步。在這種應用中,程序會閱讀并處理大量數(shù)據(jù)(通常是文檔形式的數(shù)據(jù)),然后呈現(xiàn)出清晰簡潔的摘要。如果文檔的專業(yè)性很強或者充斥著行業(yè)術(shù)語,這時候文本摘要應用就非常實用。NLP程序可以理解復雜的術(shù)語,并用更直白的語言重新表述,讓普通人更容易理解。通過機器學習和人工智能,機器翻譯工具也在不斷改進。
雖然NLP翻譯應用程序早就能夠?qū)⒑唵蔚膬?nèi)容從一種語言翻譯成另一種語言,但它們在解讀更復雜的思想觀點及其含義方面也已經(jīng)越來越出色。例如,如果你要求谷歌翻譯將馬塞爾·普魯斯特 (Marcel Proust) 巨著《追憶似水年華》的標題原文À la recherche du temps perdu轉(zhuǎn)換成英語(這是一個臭名昭著的棘手翻譯),得到的回答是“In Search of Lost Time”。這正是比較公認的英文標題,雖然并不是精確的翻譯。
NLP還大大提高了垃圾郵件檢測的效率。與老式垃圾郵件檢測程序相比,機器學習算法能更有效地檢測出大批量投放的廣告中經(jīng)常出現(xiàn)的表達方式和常用短語。情感分析也是垃圾郵件檢測和社交媒體采集的一個重要因素,因為確定某些廣告或社交媒體帖子所引起的情感反應,是為個人消費者設(shè)計更有針對性的廣告活動的一個重要部分。人工智能驅(qū)動的NLP應用程序可以處理海量數(shù)據(jù),并將其合成為可消化的信息,這種能力在在線和數(shù)字廣告領(lǐng)域比在任何其他領(lǐng)域都更具價值。
自20世紀50年代以來,NLP軟件程序一直在不斷發(fā)展。雖然統(tǒng)計NLP和機器學習/神經(jīng)網(wǎng)絡的引入相對較晚,但卻大大提高了NLP工具的質(zhì)量。就像前面說的那樣,Siri和Alexa等數(shù)字助理具有先進的NLU和NLG功能,而谷歌翻譯等應用軟件則大大提高了對上下文和意圖的理解。NLP相關(guān)軟件的使用方式也越來越豐富。Python程序員可以使用自然語言工具包 (NLTK) 中的各種工具和庫,該工具包匯集了用于NLP應用程序的開源程序和庫。與NLP相關(guān)的主要任務、較小的操作(如句子解析、詞干分析)和較大的宏觀功能(如語義推理或情感分析)都有免費資源供所有人使用。
目前最熱門的NLP新工具是位于舊金山的人工智能研發(fā)實驗室OpenAI開發(fā)的ChatGPT。在OpenAI語言預測算法GPT的支持下,ChatGPT的NLG能夠給出與人類語音無異的回答,基本上達到了艾倫·圖靈人工智能測試的標準。雖然ChatGPT的回答并不總是符合事實(例如,當被問及尼日利亞是否在北美時,它曾經(jīng)給出過“是”的回答),但它的語法和句法幾乎總是無懈可擊。ChatGPT在模仿租賃協(xié)議或簡單合同等標準格式文件方面尤其有效。
作為一個簡單的練習,如果問ChatGPT“自然語言處理是什么?”它的回答如下:
自然語言處理 (NLP) 是人工智能和計算語言學的一個領(lǐng)域,主要研究計算機與人類語言之間的交互,特別是語音識別、自然語言理解和自然語言生成。NLP算法和技術(shù)用于處理和分析語音和文本等大量自然語言數(shù)據(jù),以執(zhí)行語言翻譯、情感分析、文本摘要、命名實體識別等任務。NLP是一個跨學科領(lǐng)域,它利用了計算機科學、語言學和認知心理學等領(lǐng)域的知識,開發(fā)出使計算機能夠理解、解釋和生成人類語言的算法和模型。
對于人類來說,恐怕很難比NLP驅(qū)動的算法本身更清晰、更簡潔地解釋NLP了。
NLP是一項有可能徹底改變多種職業(yè)和行業(yè)的技術(shù)。將法律和技術(shù)文件從一種語言翻譯成另一種語言是一項常見的高薪職業(yè),但翻譯工具可能很快就會取代他們的工作。撰寫模板式的法律文件或起草標準合同是另一項NLP可能會讓人類不再需要完成的任務。ChatGPT已經(jīng)被用來創(chuàng)建類似的文件,并取得了巨大成功。客服代表可能是變革最大的領(lǐng)域——配備真人工作人員的呼叫中心可能將不復存在,因為人工智能語音轉(zhuǎn)語音和文本轉(zhuǎn)文本程序可以全年無休地回答客戶的問題。
NLP在教育領(lǐng)域也有明顯的潛力。對于學習語言的人來說,NLP程序可以通過演示如何更好、更連貫地構(gòu)建句子和段落,幫助他們提升寫作能力和語法知識。能用人類語言讀寫和交流的計算機可能看起來像是科幻小說中的東西,但它們已經(jīng)出現(xiàn)了。今天,你甚至可能已經(jīng)在不知不覺中與電腦進行了互動。
作者簡介

Alex是Wavefront Marketing的資深技術(shù)作家,專門從事先進電子產(chǎn)品、新興技術(shù)和負責任的技術(shù)開發(fā)。