人工智能自然語言處理領(lǐng)域的開放域問答技術(shù)在智能搜索、智能助手、智能客服等多個(gè)場景下，都發(fā)揮著重要作用。特別是近些年，隨著各種智能手機(jī)、智能音箱的普及，智能搜索快速進(jìn)化，可以幫助用戶在這些小屏和無屏設(shè)備上更快速、準(zhǔn)確的獲取有用信息。
近日，百度提出RocketQA，一種面向端到端問答的檢索模型訓(xùn)練方法，助力機(jī)器問答理解技術(shù)邁出突破一步，推動了智能問答領(lǐng)域技術(shù)發(fā)展。該方法不僅在多個(gè)問答相關(guān)數(shù)據(jù)集中取得了當(dāng)前最佳結(jié)果，同時(shí)也超越谷歌、微軟、臉書、阿里、美團(tuán)、卡內(nèi)基梅隆大學(xué)、清華大學(xué)等企業(yè)和高校，問鼎微軟MSMARCO數(shù)據(jù)集段落排序任務(wù)榜首。
（微軟MSMARCO數(shù)據(jù)集排行榜截圖）
據(jù)了解，微軟MSMARCO數(shù)據(jù)集是微軟提出的大規(guī)模的面向問答的數(shù)據(jù)集，不僅規(guī)模大，而且貼近真實(shí)場景，包含約100萬問題、880萬相關(guān)段落以及人工標(biāo)注的問題答案。RocketQA在其中的脫穎而出，正顯示了百度在模型檢索能力方面的領(lǐng)先實(shí)力。
百度RocketQA訓(xùn)練方法是一種對偶式檢索模型增強(qiáng)訓(xùn)練方法，并基于百度自研的語義理解技術(shù)與平臺文心（ERNIE）進(jìn)行訓(xùn)練，大幅提升了對偶式檢索模型的效果。所謂對偶式檢索模型，是一種區(qū)別于傳統(tǒng)的檢索模型的基于深度語義表示的模型，能夠利用強(qiáng)大的網(wǎng)絡(luò)結(jié)構(gòu)進(jìn)行更深層次的學(xué)習(xí)，同時(shí)基于預(yù)訓(xùn)練語言模型，使語義理解更加豐富。然而在檢索問答場景上，該模型的表現(xiàn)仍有欠缺，其訓(xùn)練仍然存在著，諸如訓(xùn)練場景和預(yù)測場景中樣本數(shù)量差異較大、數(shù)據(jù)集中存在大量漏標(biāo)注的正確答案、人工標(biāo)注訓(xùn)練數(shù)據(jù)相對規(guī)模小成本大等問題和挑戰(zhàn)。
針對對偶式檢索模型訓(xùn)練中存在的問題和挑戰(zhàn)，百度RocketQA通過跨批次負(fù)采樣（cross-batch negatives）、去噪的強(qiáng)負(fù)例采樣（denoised hard negative sampling）與數(shù)據(jù)增強(qiáng)（data augmentation）等3項(xiàng)技術(shù)，解決了上述問題和挑戰(zhàn)，從而使得對偶式檢索模型效果大幅提升。在實(shí)現(xiàn)RocketQA的過程中，這3項(xiàng)技術(shù)處于層層遞進(jìn)的關(guān)系，最終合成一套。同時(shí)，實(shí)現(xiàn)過程中還使用了百度文心（ERNIE）初始化模型參數(shù)。
實(shí)驗(yàn)結(jié)果也顯示，RocketQA在微軟MSMARCO和谷歌Natural Question數(shù)據(jù)集的效果均大幅超過了已經(jīng)發(fā)表的最好的檢索模型。同時(shí)在答案抽取任務(wù)上，百度RocketQA檢索結(jié)果的有效性也得以驗(yàn)證。
（RocketQA在微軟MSMARCO和谷歌Natural Questions數(shù)據(jù)集上段落檢索的效果）
此外，百度RocketQA的提出，更代表著向?qū)崿F(xiàn)“端到端問答”邁出的重要一步。不同于傳統(tǒng)的級聯(lián)式問答系統(tǒng)，“端到端問答”摒棄了傳統(tǒng)系統(tǒng)中繁雜的構(gòu)件，系統(tǒng)復(fù)雜性大大降低，并且其中每個(gè)模塊（段落檢索和答案定位）都是可學(xué)習(xí)的，這樣的設(shè)計(jì)能夠讓整個(gè)系統(tǒng)實(shí)現(xiàn)端到端訓(xùn)練。從而能夠基于用戶實(shí)時(shí)的反饋實(shí)現(xiàn)在線訓(xùn)練，而不是只在封閉的數(shù)據(jù)集上閉門造車。正是基于上述優(yōu)異性，端對端回答成為智能問答技術(shù)的發(fā)展趨勢，甚至可能會引發(fā)問答系統(tǒng)的新一代技術(shù)變革。而百度RocketQA正是面向端對端回答方向，在優(yōu)化解決對偶式檢索模型訓(xùn)練中存在的，諸如訓(xùn)練、預(yù)測場景樣本數(shù)量差異較大，人工標(biāo)注規(guī)模小、成本高等問題之后，并取得MSMARCO榜首的好成績，為“端對端回答”攻下一城。
實(shí)際上，在研發(fā)算法的過程中，高性能的并行訓(xùn)練也必不可少，它是研發(fā)人員快速嘗試各種想法的利器。百度RocketQA的實(shí)現(xiàn)即完全基于飛槳深度學(xué)習(xí)框架。據(jù)相關(guān)資料顯示，百度研究人員在使用飛槳分布式訓(xùn)練API（paddle.distributed.fleet）進(jìn)行訓(xùn)練的同時(shí)，也采用了飛槳分布式訓(xùn)練擴(kuò)展工具FleetX。前者是百度飛槳新API體系下的通用分布式訓(xùn)練API，其提供的經(jīng)典數(shù)據(jù)并行訓(xùn)練方案能夠大幅提升試驗(yàn)效率；后者是百度飛槳框架分布式訓(xùn)練擴(kuò)展工具，提供數(shù)據(jù)分片并發(fā)下載、快速定義模型、快速提交集群任務(wù)等功能，能夠?qū)崿F(xiàn)了研發(fā)人員的使用效率的極大提升。
（百度飛槳全景圖）
目前，RocketQA已逐步應(yīng)用在百度搜索、廣告等核心業(yè)務(wù)中，并將在更多場景中發(fā)揮作用。以百度搜索為例，可以感受一下問答技術(shù)在實(shí)際應(yīng)用中對于用戶體驗(yàn)的改變。比如，當(dāng)我們在使用搜索引擎查詢問題時(shí)，總是期望能第一時(shí)間得到更精準(zhǔn)的回應(yīng)。如果說傳統(tǒng)的搜索總是給出可能的十條鏈接作為回答，那么，基于問答技術(shù)，問答結(jié)果得以優(yōu)化，答案界面正在發(fā)生這樣的變化：唯一的精準(zhǔn)答案被直接給出，信息的獲取更快速準(zhǔn)確。
（百度搜索的TOP1結(jié)果：將問題的答案展現(xiàn)在搜索結(jié)果的首位，提升用戶體驗(yàn)）
正如上圖所顯示，當(dāng)我們在百度搜索框輸入諸如“佩奇是公豬還是母豬”的問題后，界面第一條即會已卡片形式直接給出“女生”的答案，第二條開始才是之前所熟悉的鏈接形式。這樣一來，問與答之間的效率會大幅提升，用戶能夠第一時(shí)間得到自己想要的答案，從而提升用戶使用體驗(yàn)。在有了RocketQA的大規(guī)模應(yīng)用后，百度搜索的TOP1結(jié)果會更好。
