近日，來自機(jī)器學(xué)習(xí)、計(jì)算機(jī)視覺、自然語言處理，以及在生物醫(yī)療、金融、推薦系統(tǒng)等應(yīng)用領(lǐng)域的12位著名專家聯(lián)合創(chuàng)作的《可解釋人工智能導(dǎo)論》一書正式出版，該著作全面介紹了可解釋AI在理論上和應(yīng)用上的發(fā)展現(xiàn)狀、存在的問題以及今后發(fā)展的方向。其中微眾銀行首席人工智能官楊強(qiáng)教授與人工智能首席科學(xué)家范力欣博士作為主要作者參與了此書的撰寫。
AI應(yīng)用持續(xù)落地，打造可解釋AI日趨重要
進(jìn)入21世紀(jì)以來，人工智能（Artificial Intelligence，AI）取得了長足發(fā)展，智能化的人機(jī)協(xié)同成為發(fā)展趨勢。如果能夠了解AI對決策的判斷，實(shí)現(xiàn)理解、信任、管理AI的目標(biāo)，那么人們將更有信心全方位地應(yīng)用AI。
在此背景下，發(fā)展可解釋、可擴(kuò)展、安全可靠的AI顯得至關(guān)重要?？山忉屝跃腿缤t(yī)生需要向病人解釋病因，才能提供可理解的診斷結(jié)果和治療措施。發(fā)展安全可靠的AI的首要任務(wù)，是人類能夠理解AI技術(shù)的基本原理、自動決策的機(jī)制，以應(yīng)對潛在風(fēng)險及準(zhǔn)備防范措施。在實(shí)際情況中，核心AI算法尤其是深度學(xué)習(xí)算法通常運(yùn)行在類似于“黑盒”中的工作模式，其運(yùn)行結(jié)果需要輔以合理的解釋為人類所理解和信任。
各國現(xiàn)行的條例法規(guī)同樣要求人工智能系統(tǒng)的開發(fā)使用，必須在監(jiān)管合規(guī)的條件下運(yùn)行。因此，發(fā)展可解釋AI具有重要的理論意義與現(xiàn)實(shí)意義。首先，可解釋AI可幫助用戶建立對AI系統(tǒng)的信任，防止因?yàn)樗惴ǖ暮诤刑匦宰龀鲇衅姷慕Y(jié)論，促進(jìn)算法的公平性；其次，它可以滿足監(jiān)管機(jī)構(gòu)的合規(guī)要求，促進(jìn)AI的公平性、穩(wěn)健性、安全性發(fā)展。
微眾銀行關(guān)注可信、可解釋的AI理論及應(yīng)用
基于在金融領(lǐng)域的實(shí)踐，微眾銀行已經(jīng)在智能服務(wù)、智能營銷、聯(lián)邦學(xué)習(xí)等方面獲得一系列成果。參與撰寫《可解釋人工智能導(dǎo)論》體現(xiàn)了微眾銀行在發(fā)展可信、可解釋、負(fù)責(zé)任的人工智能方面的探索。
據(jù)了解，針對隱私計(jì)算和聯(lián)邦學(xué)習(xí)所面臨的安全、效率、性能之間的平衡問題，近期楊強(qiáng)教授帶領(lǐng)微眾銀行AI團(tuán)隊(duì)持續(xù)豐富和拓展聯(lián)邦學(xué)習(xí)的理論，提出了“可信聯(lián)邦學(xué)習(xí)”概念。“可信聯(lián)邦學(xué)習(xí)”以隱私保護(hù)、模型性能、算法效率為核心的三角基石，以模型的決策可解釋性和可監(jiān)管性為兩大支柱，共同構(gòu)成了更加安全可信的聯(lián)邦學(xué)習(xí)。
在“可信聯(lián)邦學(xué)習(xí)”理論框架下，楊強(qiáng)教授及團(tuán)隊(duì)提出了隱私與模型性能的"No-free-lunch安全-收益恒定"定律，利用該定律可實(shí)現(xiàn)可信聯(lián)邦學(xué)習(xí)的安全、性能、效率三者的協(xié)調(diào)，在實(shí)現(xiàn)更高質(zhì)量的隱私保護(hù)的同時，既不犧牲數(shù)據(jù)安全保護(hù)，也不致使模型性能和學(xué)習(xí)效率的大幅下降。有效運(yùn)用該定律能夠量化分析隱私計(jì)算各種技術(shù)保護(hù)方案的優(yōu)劣，進(jìn)一步優(yōu)化隱私保護(hù)算法設(shè)計(jì)。目前相關(guān)論文已被國際頂級學(xué)術(shù)期刊接收。
楊強(qiáng)教授表示：“數(shù)據(jù)安全、隱私保護(hù)與可解釋性應(yīng)當(dāng)與模型性能、算法效率并重，在金融應(yīng)用場景中尤為重要。未來，微眾銀行將持續(xù)深入在相關(guān)領(lǐng)域的探索和研究，持續(xù)推動可信、可解釋、負(fù)責(zé)任的AI應(yīng)用。”
