天天看點

人工智能頂會NeurIPS 2019,支付寶帶來了什麼?優秀論文解讀之通用深度指數分布族研究優秀論文解讀之圖神經網絡的創新應用

一年一度最火熱的國際人工智能頂會NeurIPS 2019于當地時間12月8日至14日在加拿大溫哥華舉辦。作為人工智能和機器學習領域最頂級的盛會之一,每年都會吸引大量專家、學者和AI領域從業人員參與。

據悉,今年NeurIPS 2019論文投稿數量創造了新紀錄,吸引了全球範圍内共6743篇有效論文投遞,而錄取率隻有21.17%。螞蟻金服也有多篇論文入選,聚焦對抗生成網絡GAN、圖神經網絡GNN、深度強化學習等課題。

人工智能頂會NeurIPS 2019,支付寶帶來了什麼?優秀論文解讀之通用深度指數分布族研究優秀論文解讀之圖神經網絡的創新應用
在會上,螞蟻金服與阿裡巴巴共同舉辦了一場專家雲集的主題workshop,螞蟻金服研究員宋樂與楚巍分别帶來了精彩演講,分享了人工智能在螞蟻金服業務的應用場景與實踐。除了workshop,在本屆NeurIPS展台上,支付寶展出的基于圖像識别技術的智能垃圾分類小程式和智能回收箱視訊也吸引了衆多學者的關注,現場觀衆通過手機拍照即可輕松識别垃圾物品和對應的垃圾類别。

優秀論文解讀之通用深度指數分布族研究

其中的一篇入選的優秀論文是《使用對抗式動态系統嵌入的深度指數族分布估計》,内容涉及通用深度指數分布族的最大似然估計的求解,以及高效的利用其進行推斷。

指數分布族 (exponential family),同時又被稱為能量模型(energy-based model),是一類廣泛應用的生成式機率模型。通過和深度模型結合,指數分布族能夠靈活的拟合各種資料分布。由于指數分布族的靈活性,目前已經有越來越多的研究者利用指數分布族對各種結構資料進行模組化。例如,将能量模型用于對蛋白質結構預測,進而更好的指導藥物設計和材料科學;将能量模型用于語言模型及句子生成;将能量模型用于基于模型的強化學習等等。

這些都展示了指數族分布能量模型作為有别于變分自編碼器(variationalautoencoder)和對抗式生成模型(generative adversarial network)之外,另一種截然不同的生成式模型的能力和潛在應用。但是,如何有效的求解通用指數分布族的最大似然估計(MLE)以及如何高效的進行推斷仍然是一個亟待解決的問題。

針對通用深度指數分布族有效求解最大似然估計這一問題,螞蟻金服研究人員利用最大似然的primal-dualreformulation,将原始MLE中不可解的log-partition函數重寫成能量函數(potential function)針對對一個可學習的負樣本采樣器(negative sampler)的期望。通過這樣的形式,可以同時學習能量函數以及負樣本采樣器。相比現存的方法,使用手工設計的固定的,我們的算法可以根據訓練樣本自動調整負樣本采樣器,以便更好的學習模型。與此同時,學習得到的負樣本采樣器可以用來平攤統計推斷(amortized inference)。

人工智能頂會NeurIPS 2019,支付寶帶來了什麼?優秀論文解讀之通用深度指數分布族研究優秀論文解讀之圖神經網絡的創新應用

優秀論文解讀之圖神經網絡的創新應用

另一篇入選的優秀論文《使用條件圖邏輯網絡的逆合成分析預測》,介紹的是螞蟻研究人員創造性的提出了一種新的圖神經網絡,使用它提升了逆合成分析預測的成績。

逆合成分析是有機化學中重要的幾個問題之一。給定一個産物,該分析過程需要給出可能用來參與生成該産物的反應物。該方向近年來得到了來自化學和計算機科學領域的關注。在這篇文章中,螞蟻金服研究人員提出一個叫做條件圖邏輯網絡(Conditional Graph Logic Network, GLN)的新模型來解決這個問題。該模型通過圖神經網絡學習如何應用化學反應的模闆,并且隐式地考慮到了結果的可行性以及重要性。為了降低計算代價,提出一種階層化的高效采樣方法。在标準資料集中,新方法的正确率相比于目前最好的方法提升了8.2%,同時該方法也能夠提供相關的可解釋性分析。

螞蟻金服擁有豐富的人工智能技術應用場景,不僅在智能客服、小微貸款、健康險自動理賠、交易安全風控、反洗錢、智能營銷、智能助理等領域取得突破,還沉澱了業界領先的分布式機器學習平台支援大規模深度圖算法、線上學習、共享學習、強化學習等能力,以及金融知識圖譜、機器人平台、NLP平台等通用能力。

人工智能頂會NeurIPS 2019,支付寶帶來了什麼?優秀論文解讀之通用深度指數分布族研究優秀論文解讀之圖神經網絡的創新應用

“發展和使用人工智能技術,我們能夠為螞蟻金服全球超過12億的使用者解決真正的問題,提供真正有意義的服務。”螞蟻金服副總裁及首席AI科學家漆遠表示。

事實上,在人工智能領域,除了NeurIPS,螞蟻金服也多次亮相ICML、AAAI、SIGIR、KDD等國際頂級學術會議,為學界帶來了諸多來自實際業務場景的創新研究和應用分享。對螞蟻金服而言,在頂級學術會議上釋出論文,一方面可推進人工智能最前沿研究的發展,将學術研究與應用相結合,另一方面可推進前沿技術從研究到實際應用中落地,為使用者帶來價值,為我們的生活服務帶來改變。

未來,螞蟻金服将繼續加大對AI技術的研究和投入,通過技術創新和科技開放更好地推動普惠金融發展,為世界帶來平等的機會。

繼續閱讀