唐家渝稱，“資料驅動”的深度學習演算法存在不透明、不可解釋等侷限性，即便是開發者也難以理解其內在的執行邏輯，這就導致系統可能遭受到難以被察覺的惡意攻擊。“透過資料汙染、惡意樣本攻擊等方式對演算法進行深層次攻擊已經成為趨勢，隨著AI技術尤其是計算機視覺技術的廣泛應用，這一安全風險的真實威脅開始顯現。”

應面向所有關鍵流程，佈局全面且有針對性的安全防禦措施。憑藉在AI攻防領域的實踐經驗，瑞萊智慧提出了兼顧“被動”和“主動”的防禦機制。

唐家渝解釋道，被動防禦為AI應用部署靜態的安全能力，防範已知安全風險，比如對外部訪問、輸入資料、行為決策等進行檢測，為演算法模型部署加固防護元件等，提升系統抵禦攻擊的能力；主動防禦則是為補充被動式防禦的侷限，引入和強化人工智慧安全團隊力量，以動態防禦對未知威脅進行風險預判，構建自適應、自生長的安全能力。

據悉，目前，在被動防禦方面，瑞萊智慧推出多款人工智慧安全產品，包括AI安全防火牆、人工智慧安全平臺RealSafe、隱私保護計算平臺RealSecure。在主動防禦方面，瑞萊智慧推出人工智慧安全靶場RealRange。

最後，唐家渝表示，AI安全是新興領域，除了部署技術體系外，更需要框架指導、標準規範、法律合規等多個維度協同推進。據悉，目前瑞萊智慧已與國家工信安全中心、中國信通院、國家網際網路應急中心等單位開展合作，聯合落地標準制定、測試評估等工作。