證券時報記者 段久惠

    隨著人工智能（AI）應(yīng)用廣度和深度的不斷和拓展，諸如算法安全、數(shù)據(jù)歧視、數(shù)據(jù)濫用等諸多問題，這些風(fēng)險與隱患也不斷的顯露出來，引發(fā)了人們對人工智能信任問題的思考。

    對于金融機構(gòu)而言，如果傳統(tǒng)數(shù)據(jù)傳輸和共享無法對數(shù)據(jù)進行有效保護，不同金融機構(gòu)之間的數(shù)據(jù)將難以實現(xiàn)互聯(lián)互通，這將制約防范風(fēng)險、反欺詐、反洗錢等領(lǐng)域的多方協(xié)作。

    產(chǎn)學(xué)研界尋求的破題之策是——基于多方計算、聯(lián)邦學(xué)習(xí)等“可信AI”技術(shù)體系，通過“原始數(shù)據(jù)不出域”、“數(shù)據(jù)可用不可見”等技術(shù)，實現(xiàn)在數(shù)據(jù)合作中兼顧隱私安全的“價值安全共享”。

    在采訪中，記者發(fā)現(xiàn)，國內(nèi)“可信AI”落地正在進行中，諸多產(chǎn)業(yè)場景應(yīng)用如雨后春筍；另一方面，也有著亟待建立行業(yè)標(biāo)準(zhǔn)等新挑戰(zhàn)。

    “可信AI”落地進行時

    “尋找人工智能時代隱私保護、政府監(jiān)管、商業(yè)訴求的平衡點，已成為產(chǎn)學(xué)研各界迫切需要解決的問題。”科技部高技術(shù)研究發(fā)展中心研究員、ACM中國理事會常務(wù)理事嵇智源認為，在此背景下，“可信AI”的理念逐漸成為全球共識，也成為未來人工智能產(chǎn)業(yè)健康發(fā)展的必由之路。

    共識之下，“可信AI”體系已有諸多項目落地。證券時報記者以“可信AI”技術(shù)中的“知識聯(lián)邦、聯(lián)邦學(xué)習(xí)、隱私計算”幾大關(guān)鍵詞，在啟信寶上搜索相關(guān)企業(yè)信息時顯示，當(dāng)前相關(guān)存續(xù)企業(yè)數(shù)量達174家（不含大學(xué)），包括國家電網(wǎng)、華為、騰訊、中國移動、平安科技、百度網(wǎng)訊 、字節(jié)跳動、支付寶（杭州）信息、工商銀行、中國銀行、微眾銀行等都有涉及。

    同盾科技合伙人、人工智能研究院院長，同時也是知識聯(lián)邦產(chǎn)學(xué)研聯(lián)盟理事長的李曉林告訴證券時報記者，他的團隊基于聯(lián)邦學(xué)習(xí)自主研發(fā)的工業(yè)級產(chǎn)品“智邦平臺”，過去一年已經(jīng)廣泛觸達了金融、保險、政企、互聯(lián)網(wǎng)、智慧城市等行業(yè)，尤其在金融風(fēng)控、反欺詐、精準(zhǔn)營銷等場景已有落地。

    今年6月，螞蟻集團首次向外界發(fā)布了螞蟻“可信AI”技術(shù)架構(gòu)體系。近日，螞蟻集團副總裁、首席AI科學(xué)家漆遠在公開分享中透露，當(dāng)前，“可信AI”技術(shù)已在螞蟻集團多個風(fēng)控場景中落地，這些場景包括反欺詐、反洗錢、反賭博、企業(yè)聯(lián)合風(fēng)控、數(shù)據(jù)隱私保護等。

    漆遠告訴記者，繼“隱私計算”（即基于“數(shù)據(jù)不動模型動、數(shù)據(jù)可用不可見”特性的“可信AI”技術(shù)），和“圖學(xué)習(xí)”技術(shù)取得實踐成果后，螞蟻集團在“可信AI”技術(shù)體系中的又一項重要技術(shù)“智能對抗”技術(shù)已正式上線部署。通俗地講，該項技術(shù)就是在人工智能模型算法中融入經(jīng)濟學(xué)“博弈理論”，類似于金庸小說里的“雙手互博”，用更智能的“攻”，實現(xiàn)更安全的“防”。該項技術(shù)主要應(yīng)用于賬戶安全、反欺詐、交易安全等風(fēng)控場景。

    “未來的風(fēng)控將不再是人和人的斗爭，而是AI與AI的博弈。”漆遠稱，“在支付寶上，每天上億筆交易背后，發(fā)起攻擊的早已不是個人，而是專業(yè)的黑產(chǎn)團伙。”

    亟需行業(yè)標(biāo)準(zhǔn)

    當(dāng)“可信AI”不再是理論和暢想，已全面開始在應(yīng)用和實踐，行業(yè)正呈現(xiàn)百花齊放之態(tài)。

    啟信寶數(shù)據(jù)顯示，上述174家企業(yè)的注冊地分布中，有46家在北京，家數(shù)最多；緊隨其后的分別是深圳34家、上海25家、杭州20家、南京15家，這些大城市企業(yè)數(shù)量占比總數(shù)超過了九成。從資本實力看，注冊規(guī)模在1億元以上的企業(yè)有46家，1000萬元至1億元之間的有60家，在500萬元至1000萬元的企業(yè)30家，小微型科創(chuàng)企業(yè)并不是這個需要規(guī)模實力和研發(fā)能力領(lǐng)域的主流玩家。

    “現(xiàn)在還屬于‘戰(zhàn)國時代’，我們同行不是冤家，現(xiàn)在是屬于跑馬圈地野蠻生長的狀態(tài)，大家還沒有到競爭的時候，而是合作。這個市場還沒有完全成熟，每一個人的貢獻都是對整個行業(yè)的貢獻。”李曉林說。

    但毫無疑問，大家都意識到這是個重要的機會。以“可信AI”中的隱私技術(shù)走向來看，業(yè)界普遍認為，發(fā)展趨勢從以單節(jié)點部署模式走向分布式架構(gòu)模式，未來支撐更大規(guī)模、更大量級的建模對技術(shù)要求將非常高，這一點要在數(shù)據(jù)量龐大的金融領(lǐng)域?qū)崿F(xiàn)應(yīng)用也更加明顯。

    工行大數(shù)據(jù)與人工智能實驗室資深經(jīng)理強鋒和團隊在開展業(yè)務(wù)中，常遇到的問題是：工行總行和各地分行提供隱私計算、聯(lián)邦學(xué)習(xí)、聯(lián)合建模的解決方案，常遇到營銷類、風(fēng)控類、信貸類、審批申請判斷類模型。“這一方面要怎樣合法合規(guī)引入到外部數(shù)據(jù)，另外一方面是通過可信技術(shù)，更好把數(shù)據(jù)價值賦能給業(yè)務(wù)方向，比如銀行業(yè)務(wù)、內(nèi)監(jiān)管平臺建設(shè)等。”

    這些需要不同協(xié)議層面平臺的打通，技術(shù)硬件層面的互通，比如產(chǎn)學(xué)研聯(lián)盟實現(xiàn)開源的互聯(lián)互通等。“聯(lián)盟內(nèi)，通過開放協(xié)議、開放標(biāo)準(zhǔn)來確保各種任務(wù)進程和安全合規(guī)。”李曉林稱。

    這背后也涉及到業(yè)務(wù)場景不斷變化，數(shù)據(jù)獲取方式和要素的演化，數(shù)庫科技創(chuàng)始人、總裁沈鑫認為，數(shù)據(jù)智能發(fā)展到今天，數(shù)據(jù)串聯(lián)變成了基礎(chǔ)，量、準(zhǔn)、質(zhì)已經(jīng)是三大關(guān)鍵標(biāo)準(zhǔn)，“沒有辦法把數(shù)據(jù)的質(zhì)量提升，算法再強，數(shù)據(jù)的數(shù)字化應(yīng)用場景效果也未必會好；生產(chǎn)力不僅僅取決于算法和算力，還取決與數(shù)據(jù)要素本身。”

    這也是歐洲科學(xué)院外籍院士、悉尼大學(xué)教授陶大程提出的問題，具備可解釋性，人工智能才能有更廣泛的場景應(yīng)用和賦能，“一定程度上來說，正是因為標(biāo)準(zhǔn)的缺失，導(dǎo)致人工智能的應(yīng)用落地受到了限制。”