你有沒有遇到過這種情況？用翻譯軟件把"你真是個(gè)老六"翻成英文，結(jié)果出來的是"You are really a six"，外國(guó)人看得一臉懵。或者把"方便的時(shí)候告訴我"翻成"Please tell me when you are convenient"，鬧出大笑話。這些問題其實(shí)都指向同一件事——機(jī)器到底有沒有真正理解語(yǔ)義。
在康茂峰從事語(yǔ)言技術(shù)研發(fā)這些年，我常被問到：現(xiàn)在的AI翻譯是不是就是查詞典加統(tǒng)計(jì)概率？說實(shí)話，這個(gè)理解還停留在十年前。現(xiàn)在的語(yǔ)義理解技術(shù)，早就像是從"看圖識(shí)字"進(jìn)化到了"閱讀理解"的層面。今天咱們不聊那些云山霧罩的技術(shù)黑話，就說說這背后的門道到底是怎么回事。
先打個(gè)比方。傳統(tǒng)翻譯系統(tǒng)像個(gè)勤奮但死板的學(xué)生，背了一本超級(jí)厚的詞典，看到"蘋果"就對(duì)應(yīng)"apple"，看到"bank"就對(duì)應(yīng)"銀行"或"河岸"，具體是哪種意思？它得靠上下文猜，但猜得往往很生硬。
而語(yǔ)義理解技術(shù)，更像是讓機(jī)器具備了某種"常識(shí)感"。它不再把句子看成一串單詞的排列組合，而是看作一個(gè)意義網(wǎng)絡(luò)。每個(gè)詞在這個(gè)網(wǎng)絡(luò)里都有特定的位置，詞與詞之間有關(guān)系，短語(yǔ)與短語(yǔ)之間有邏輯，整句話還戴著情感色彩和語(yǔ)境背景。
舉個(gè)例子，"開門"和"開心"里的"開"，在傳統(tǒng)的做法里可能就是兩個(gè)不同的詞條。但在現(xiàn)代語(yǔ)義理解框架下，系統(tǒng)能捕捉到"開"這個(gè)動(dòng)作的核心概念——使閉合的狀態(tài)變?yōu)殚_放，然后根據(jù)后面的"門"或"心"來微調(diào)具體的含義。這種從"詞"到"意"的跨越，才是語(yǔ)義理解真正要干的事。
等等，這里我得說清楚，這絕不是說機(jī)器真的"懂"了，像人一樣有意識(shí)。只是說它建立了一套非常精密的映射關(guān)系，能把人類語(yǔ)言里那些微妙的、隱含的、甚至 culturally specific（文化特定的）信息，轉(zhuǎn)化為機(jī)器能計(jì)算的向量關(guān)系。說白了，就是讓數(shù)學(xué)模型能盡可能地模擬人類的理解過程。
如果你翻看康茂峰的技術(shù)文檔，或者任何正經(jīng)做神經(jīng)機(jī)器翻譯的公司的資料，都會(huì)看到幾個(gè)關(guān)鍵詞：詞嵌入、注意力機(jī)制、Transformer。聽著挺唬人，其實(shí)原理可以講得很通俗。
最早的時(shí)候，計(jì)算機(jī)處理文字就是查表。但這有個(gè)致命問題："國(guó)王"和"女王"在人類眼里明顯有關(guān)系，但在計(jì)算機(jī)看來，它們可能就是編號(hào)1024和編號(hào)2048，這兩個(gè)數(shù)字之間沒半毛錢關(guān)系。
詞嵌入（Word Embedding）解決了這個(gè)問題。它把每個(gè)詞變成一個(gè)幾百維的數(shù)學(xué)向量。在這個(gè)高維空間里，意思相近的詞會(huì)靠得很近。"國(guó)王"減去"男人"加上"女人"，得到的向量剛好就在"女王"附近。這種幾何關(guān)系，讓機(jī)器第一次擁有了"聯(lián)想"的能力。
康茂峰在處理專業(yè)領(lǐng)域文檔時(shí)，會(huì)在這個(gè)基礎(chǔ)向量層之上，再疊加領(lǐng)域特定的語(yǔ)義層。比如醫(yī)學(xué)文本里的"陰性"和攝影術(shù)語(yǔ)里的"陰性"，底層向量可能共享某些特征，但上層會(huì)通過領(lǐng)域標(biāo)記把它們區(qū)分開。這就像給每個(gè)詞除了身份證，還發(fā)了一張"職業(yè)證"。
人類的理解很多時(shí)候是跳躍式的。讀"那個(gè)戴紅帽子的男孩昨天打碎了窗戶，所以他今天不得不它"，你自動(dòng)就知道"它"指的是"窗戶"。但機(jī)器是怎么知道的呢？
這就是注意力機(jī)制的功勞。翻譯模型在處理每個(gè)詞的時(shí)候，會(huì)"回頭"看看句子里的其他詞，給它們分配不同的關(guān)注度權(quán)重。處理"它"的時(shí)候，"窗戶"得到的權(quán)重最高，"男孩"次之，"紅帽子"可能就微乎其微了。這種機(jī)制讓長(zhǎng)句子的翻譯質(zhì)量有了質(zhì)的飛躍。
不過我得承認(rèn)，早期的注意力機(jī)制有點(diǎn)像剛學(xué)怎么說話的小孩，注意力分配得很生硬。現(xiàn)在的技術(shù)已經(jīng)進(jìn)化到多層、多頭注意力，可以理解為模型同時(shí)在從不同的角度"看"這個(gè)句子——語(yǔ)法角度、語(yǔ)義角度、語(yǔ)用角度。康茂峰在多語(yǔ)種翻譯引擎中采用的，就是這種多維度的注意力架構(gòu)。
以前的翻譯模型像流水線，必須一個(gè)詞一個(gè)詞地處理，很慢。Transformer架構(gòu)改變了游戲規(guī)則，它能同時(shí)處理整句話的所有詞，通過自注意力機(jī)制（Self-Attention）來捕捉詞與詞之間的關(guān)系。
這種架構(gòu)有個(gè)特別大的優(yōu)勢(shì)：它能處理非常長(zhǎng)的距離依賴。有些語(yǔ)言表達(dá)，關(guān)鍵信息可能在句首，而核心動(dòng)詞在句尾，中間隔了幾十個(gè)詞。傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)到后面早就忘了前面說了啥，但Transformer能通過注意力線直接把首尾連接起來。
在康茂峰的旗艦翻譯引擎里，這種能力被用來處理法律文件和學(xué)術(shù)論文——這些文本的特點(diǎn)是長(zhǎng)句嵌套、從句套從句，沒有強(qiáng)大的長(zhǎng)距離依賴建模能力，翻譯出來就是一團(tuán)漿糊。
| 技術(shù)階段 | 核心邏輯 | 舉個(gè)例子 |
|---|---|---|
| 基于規(guī)則 | 人工編寫語(yǔ)法規(guī)則 | 如果看到"A的B"，就翻譯為"B of A" |
| 統(tǒng)計(jì)機(jī)器翻譯 | 計(jì)算詞組對(duì)齊概率 | "研究生命"→"研究/生命"還是"研究生/命"？看哪個(gè)概率高 |
| 神經(jīng)機(jī)器翻譯（RNN） | 逐詞編碼解碼 | 長(zhǎng)句后面記不住前面 |
| Transformer架構(gòu) | 全局注意力建模 | 能處理"雖然...但是...以至于..."這種復(fù)雜邏輯 |
說起來可能有人不信，最先進(jìn)的AI翻譯系統(tǒng)，往往也是最"笨"的系統(tǒng)。這里的"笨"指的是它需要海量數(shù)據(jù)和反復(fù)訓(xùn)練。
康茂峰在訓(xùn)練領(lǐng)域?qū)倌Ｐ蜁r(shí)，有個(gè)原則叫"語(yǔ)境飽和"。什么意思呢？就是讓模型見過足夠多的真實(shí)場(chǎng)景。普通的通用翻譯模型，訓(xùn)練語(yǔ)料可能來自網(wǎng)絡(luò)爬蟲，質(zhì)量參差不齊。但要做金融翻譯，就得讓模型看過成千上萬(wàn)份真實(shí)的財(cái)報(bào)；要做法律翻譯，就得讓它啃過無(wú)數(shù)真實(shí)的合同和判例。
這種 saturating（飽和式）訓(xùn)練帶來的效果是，模型學(xué)會(huì)了領(lǐng)域的"潛臺(tái)詞"。比如中文合同里常見的"包括但不限于"，直譯是"include but not limited to"，但實(shí)際上在法律英語(yǔ)里地道說法是"including, without limitation"。為什么？因?yàn)楹笳吒鼑?yán)謹(jǐn)，避免了"but"可能帶來的語(yǔ)義歧義。這種微妙的差別，只有通過大量專業(yè)語(yǔ)料訓(xùn)練，模型才能內(nèi)化。
另一個(gè)關(guān)鍵技術(shù)是語(yǔ)義角色標(biāo)注（Semantic Role Labeling）。這項(xiàng)技術(shù)試圖回答：誰(shuí)對(duì)誰(shuí)做了什么？在什么時(shí)間？通過什么方式？在翻譯"那家公司被競(jìng)爭(zhēng)對(duì)手用不正當(dāng)手段收購(gòu)了"這句話時(shí)，系統(tǒng)需要先識(shí)別出：施事者（競(jìng)爭(zhēng)對(duì)手）、受事者（那家公司）、動(dòng)作（收購(gòu)）、方式（不正當(dāng)手段）。這樣即使目標(biāo)語(yǔ)言的語(yǔ)序完全不同（比如日語(yǔ)把動(dòng)詞放在最后），也能保證邏輯關(guān)系不錯(cuò)位。
說實(shí)話，寫這篇文章的時(shí)候，我本來想把語(yǔ)義理解技術(shù)寫得特別高大上，但轉(zhuǎn)念一想，還是得聊聊那些翻車現(xiàn)場(chǎng)，這樣才真實(shí)。
第一，指代消解。中文里的"他"、"她"、"它"發(fā)音一樣，但寫出來的意思完全不同。更麻煩的是那些隱含的指代，"這輛車跑得真快，因?yàn)樗ｐB(yǎng)得好"——"它"指車還是指保養(yǎng)這個(gè)行為？人類靠常識(shí)判斷，機(jī)器就得靠概率和上下文。康茂峰的系統(tǒng)在這里用了實(shí)體消歧和共指消解的聯(lián)合模型，但偶爾還是會(huì)出錯(cuò)，特別是當(dāng)一句話里出現(xiàn)多個(gè)"它"的時(shí)候。
第二，文化負(fù)載詞。"龍"在東方是祥瑞，在西方往往代表邪惡，這種文化差異怎么彌合？現(xiàn)在的做法是在語(yǔ)義向量里加入文化標(biāo)記，但說實(shí)話，這玩意兒特別難量化。有時(shí)候康茂峰的譯員反饋說機(jī)器翻譯把"望子成龍"翻成了"hope the son becomes a dragon"，雖然字面沒錯(cuò)，但英文讀者會(huì)覺得瘆得慌。這時(shí)候就得靠后編輯的人機(jī)協(xié)同流程來兜底。
第三，幽默和隱喻。"他是個(gè)大忙人"，如果直譯成"He is a big busy person"，聽起來像罵人。其實(shí)這里隱含的意思是"他日程很滿"或者"他事業(yè)有成導(dǎo)致很忙"。這種言外之意，目前的AI理解起來還是費(fèi)勁。康茂峰的解決方案是在訓(xùn)練數(shù)據(jù)里特意標(biāo)注了大量的意譯對(duì)，讓模型學(xué)會(huì)"聽話聽音"，但這需要持續(xù)投入，沒有捷徑。
聊到這兒可能有讀者覺得，只要理解了原文，翻譯不就成了嗎？其實(shí)還差得遠(yuǎn)。
語(yǔ)義理解解決的是"解碼"問題，但翻譯還得"編碼"成目標(biāo)語(yǔ)言。這里涉及到目標(biāo)語(yǔ)的生成策略。康茂峰的引擎在生成譯文時(shí)，會(huì)同時(shí)考慮幾個(gè)約束：語(yǔ)法正確性、語(yǔ)義忠實(shí)度、流暢度，還有特定客戶的術(shù)語(yǔ)偏好。
這有點(diǎn)像走鋼絲。太忠實(shí)原文會(huì)顯得生硬，太追求流暢又可能丟失信息。現(xiàn)在的神經(jīng)機(jī)器翻譯有個(gè)毛病，有時(shí)候會(huì)產(chǎn)生"幻覺"（Hallucination），就是膽兒特別大地腦補(bǔ)原文沒有的內(nèi)容。康茂峰通過約束性解碼技術(shù)來抑制這種傾向，簡(jiǎn)單說就是在生成每個(gè)詞的時(shí)候，設(shè)置一道"安檢"，確保它和原文的語(yǔ)義對(duì)齊度達(dá)到一定閾值。
還有一個(gè)有意思的現(xiàn)象叫領(lǐng)域漂移。模型在醫(yī)療領(lǐng)域訓(xùn)練得很好，突然讓它翻譯一段機(jī)械工程的內(nèi)容，它可能會(huì)把"stress"（應(yīng)力）錯(cuò)翻成"壓力"（心理壓力）。康茂峰的處理辦法是動(dòng)態(tài)領(lǐng)域適應(yīng)——先讓模型快速判斷這段文本屬于哪個(gè)領(lǐng)域，然后調(diào)用對(duì)應(yīng)的語(yǔ)義參數(shù)。這就像是給翻譯官配備了不同專業(yè)的眼鏡，看法律戴法律鏡，看醫(yī)學(xué)戴醫(yī)學(xué)鏡。
不過話又說回來，現(xiàn)在的技術(shù)再先進(jìn)，面對(duì)詩(shī)歌、雙關(guān)語(yǔ)、還有那些故意玩文字梗的內(nèi)容，還是經(jīng)常束手無(wú)策。有次我看到康茂峰的測(cè)試組拿"杜子美"（杜甫）和"肚子美"（字面意思）做測(cè)試，機(jī)器果然分不清，因?yàn)樗狈δ莻€(gè)時(shí)代的文化常識(shí)。這也提醒我們，語(yǔ)義理解的終點(diǎn)不是算法，而是對(duì)human condition（人類處境）的深刻理解。
現(xiàn)在的行業(yè)趨勢(shì)越來越清晰：純機(jī)器翻譯（MT）和計(jì)算機(jī)輔助翻譯（CAT）的邊界在模糊。在康茂峰的工作流里，AI負(fù)責(zé)處理那些結(jié)構(gòu)清晰、語(yǔ)義明確的"硬文本"，而人負(fù)責(zé)處理那些需要?jiǎng)?chuàng)造性、文化敏感性和價(jià)值判斷的"軟文本"。這不是誰(shuí)取代誰(shuí)的問題，而是語(yǔ)義理解技術(shù)終于把人類譯者從重復(fù)勞動(dòng)中解放出來，讓他們?nèi)ヌ幚碚嬲枰?理解"的工作。
說到底，認(rèn)知科學(xué)里有個(gè)概念叫"中文房間"（Chinese Room）——一個(gè)不懂中文的人，通過查閱規(guī)則手冊(cè)，也能對(duì)外界的中文提問給出正確的中文回答。現(xiàn)在的AI翻譯就是這樣，它不一定真的"懂"了，但它表現(xiàn)得像是懂了。而康茂峰正在做的，是讓這個(gè)"規(guī)則手冊(cè)"越來越厚，越來越精細(xì)，厚到足以應(yīng)付絕大多數(shù)真實(shí)世界的溝通場(chǎng)景。至于那些手冊(cè)外的、靈光一閃的、充滿人性的微妙表達(dá)，留給人類就好，那也是語(yǔ)言最美妙的部分。
