QQ在線
企業微信
資訊
536
數字時代是人工智能（AI）深度應用和發展的時代。AI的發展，正在以一日千里的速度改變著這個世界，并在交通、醫療、環境保護、城市管理等多個領域中，發揮著越來越不可替代的作用。但同時，AI的安全性問題，也成為了數字化發展進程中不可回避的問題。在數字經濟欣欣向榮的發展態勢下，安全被許多業內人士視為木桶上的那一塊“短板”。
如何讓安全為數字化發展“保駕護航”？8月6日，2021新京報貝殼財經夏季峰會——數字經濟時代的風險防控線上論壇舉行，螞蟻集團副總裁，螞蟻集團安全事業群總裁趙聞飆表示，可信人工智能的研究和落地或是抵御“數字化”風險的關鍵能力。
用可信AI解決智能化風險
伴隨著數字化經濟的發展，用戶在享受數字化帶來的便捷與普惠的同時，也面臨數字化背后的風險，如羊毛黨通過操縱多賬戶套取商戶營銷資金、個人用戶遭遇網絡欺詐、賬戶盜用等。“過去，我們一直重點談的是‘數字化’背后的風險和應對，而對‘智能化’背后的風險講得很少。因為當時行業普遍認為，人工智能技術的落地應用還相對有限。但事實上，早在六七年前，我們就在平常應對黑產攻擊中，發現了AI的痕跡。”趙聞飆表示。
新京報貝殼財經記者注意到，當下的確有越來越多的黑灰產團伙將AI等新技術投入到了薅羊毛、詐騙等非法活動中。如使用AI工具操控大量賬號進行違規操作、使用AI換臉技術試圖繞過人臉識別認證等。
這意味著伴隨人工智能技術的高速發展和加持，數字化背后的風險將持續加劇，并且演變為“智能化”背后的風險挑戰。
據了解，目前黑產作案越來越趨于多平臺、多鏈路、團隊化和智能化。這對行業協同、風險響應機制的速度和準確性提出了更高的要求，而且還需要切合“數字化浪潮”下社會對于隱私保護、技術倫理治理等多方面的需求。
在趙聞飆看來，要對抗“智能化”的風險，就需要“智能化”的手段，這也是“可信AI”技術進入快速發展階段的核心驅動力。可信AI技術要求人工智能技術應當具備可解釋性，以幫助人類理解和信賴他們的決策；具備魯棒性（robustness），以抵御黑產的攻擊，以保障計算和決策的穩定性和效能；具備隱私保護的能力，以滿足社會和民眾對于個人數據資產保護的需求；具備公平性，強調決策結果的公平性，同時關注技術背后的社會責任和倫理治理。
“數字時代，安全是AI與AI的博弈，而可信AI，則是抵御風險的關鍵能力。”
面向可信AI技術的下一代風控體系“IMAGE”
據了解，螞蟻集團自2015年起投入可信AI技術的研究。2016年，全面啟動了人工智能風控防御戰略。目前，可信AI技術已在包括反欺詐、反洗錢、反盜用、企業聯合風控、數據隱私保護在內的多個風控場景下落地，支撐著其全風險域的防御需求。根據今年6月全球專利權威機構IPR Daily發布的報告，螞蟻集團目前擁有全球范圍內數量最多的“AI安全可信關鍵技術”專利，并上線部署了以“IMAGE”命名的下一代風控體系。它包含著“交互式風控”、“多方安全風控”、“智能決策”、“全圖風控”、“端云協同風控”五大組成部分。
趙聞飆表示，“全圖風控”技術能夠以“圖”的形態，聚合“動態發展變化的風險信息”，解決了傳統風控中只能依靠單一或靜態信息維度追蹤風險的困境，實現對風險變化趨勢的預測，提前遏制風險的發生。在反電詐等風控場景，對于打擊團伙型、多鏈路作案，具有重要意義。而“全圖式”的風險分析和追蹤形式，也對人工智能的“可解釋性”發展提供了更廣泛的空間。
而“多方安全風控”和“端云協同風控”則是“智能化”趨勢下，實現風控與隱私保護平衡發展的實踐探索。“多方安全風控”實現了在數據不交換的前提下，多企業、多平臺之間的聯合風控協作。“端云協同風控”的價值則是保障數據的使用和保有權真正屬于用戶。通過將風控模型部署在智能終端，如手機上，螞蟻的技術團隊建立起了一套“終端進行數據計算和決策、云端僅獲取決策結果”的風控模式。終端計算，意味著敏感信息被保留在用戶手中，規避了信息傳輸過程中可能出現的被攻擊風險。云端僅獲取決策，不僅保障了安全防御和風險控制不受影響，還節約了云端的計算資源。目前，“端云協同風控”已經被廣泛用于支付寶的日常風控中，在去年的雙十一期間，98%的風控決策都是在用戶智能終端上完成的。
趙聞飆在分享中強調，傳統風控受制于技術成本、數據規模和算法效能，許多場景還是專家經驗驅動，而不是數據智能驅動。“支付寶每天有數億筆交易，面對如此龐大的計算量，一旦決策產生延遲，就給了黑產可乘之機。” 通過人工智能與金融風控的深度融合，螞蟻安全實驗室打造了能夠實現“智能決策”的AI大腦——AlphaRisk。其能夠在零人工干預的全自動模式下，對風險進行毫秒級的響應。但更重要的是——AlphaRisk具備的自學習、自適應的能力，將極大地提升人工智能的抗打擊能力。AI大腦通過對每一次黑產攻擊行為的學習和研究，不斷提升防御手段，進行高效的自我進化。
在技術快速發展的同時，可信AI的公平性也考驗著研究者對社會責任的堅守。趙聞飆提到，早在2016年，螞蟻就成立了針對電信網絡詐騙的技術研究小組，借助包括“圖神經網絡”“博弈攻防”在內的一系列創新技術應用，極大地遏制了平臺電詐發生率。但許多騙子引導受害人轉而使用其他的支付渠道，社會欺詐問題仍舊嚴峻。如何依靠技術力量，真正將詐騙罪案止步于支付環節，成為研究的重點，“交互式風控”也因此應運而生。
貝殼財經記者注意到，區別于以往的安全風控模式，交互式主動風控的關鍵在于“主動”二字——傳統的安全往往依賴于已知風險模式，只有風險發生過，才知道如何預防，這也使得安全風控往往處于“被動防守”的態勢。
對此，趙聞飆表示，安全必須從靜態的被動防守，轉變為動態的主動對抗，特別是金融安全。“以交互式風控產品‘叫醒熱線’為例，當用戶被騙子誘導轉賬時，AI機器人將向用戶發出來電提醒。充分學習了欺詐罪案分析的AI機器人，能夠捕捉用戶交流中的關鍵信息，采取恰當有效的反詐勸阻話術和措施。為了跟騙子拼速度，目前螞蟻的反詐騙叫醒熱線中，有超9成電話是由AI打出的，叫醒成功率超過了人工客服。除了事中的防護，如果用戶深度受騙、執意支付，技術人員還開發了‘延遲到賬’和‘資金截留’的功能，讓欺詐者沒有辦法支取贓款。”
“人工智能技術的快速發展，引領了第四次工業革命的浪潮。而可信人工智能的研究和落地，則代表了人工智能技術發展的新階段。在未來，與人類社會深度耦合的人工智能技術，如何在安全、可信、公平的原則下，持續發展和進步？這是每一位從業者和研究者，為推動科技有序、健康發展都不應回避的命題。”趙聞飆表示。
