如今，新技術在全球範圍內的蓬勃發展，不斷推動著人工智慧與經濟社會的深度融合，人們的生產和生活方式，已經越來越多地被人工智慧改變。但與此同時，潛藏的問題和風險也不斷被曝露出來，一個非常典型的例子，就是以影片換臉作為主要表現形式的深度合成技術。採用這項技術製作的內容在網際網路上廣泛傳播，已發展出多元化的商業應用。如果不加以引導和治理，將會產生巨大的負面影響。

作為領先的第三代人工智慧基礎設施和解決方案提供商，深度合成技術是瑞萊智慧持續關注的重點。3月1日，瑞萊智慧在北京舉辦了主題為“AI時代的‘面子’問題”的媒體溝通會，中國社會科學院哲學所研究員、科學技術哲學研究室主任段偉文，瑞萊智慧CEO田天，副總裁唐家渝出席了此次會議。會上，瑞萊智慧透過對《深度合成十大趨勢報告（2022）》（以下簡稱“《報告》”）的詳細介紹，以及對深度合成內容檢測平臺DeepReal的交流展示，在分享自身對於深度合成技術不同維度的探索和思考的同時，也產生了很多獨到見解和前沿觀點。

深度合成內容亟待治理 檢測工具成剛需

瑞萊智慧與清華大學人工智慧研究院、清華大學智媒研究中心、國家工業資訊保安發展研究中心、北京市大資料中心近日聯合釋出《報告》，介紹和研判深度合成技術及應用帶來的機遇與挑戰，並就其發展與治理給出切實可行的建議和措施。瑞萊智慧CEO田天在溝通會上對《報告》內容進行了深入解讀。

瑞萊智慧CEO 田天

田天認為，技術的不斷成熟是深度合成內容迎來爆發式增長的重要原因。研究論文的持續增加、開源技術工具和大量代表性方法的湧現，令深度合成內容的效果更加逼真、製作也更加高效，尤其是生成對抗網路等演算法的出現，讓合成內容達到了“真假難辨”的程度。“新型偽造方法層出不窮、網路傳播環境的日趨複雜，加上基於檢測演算法存在漏洞缺陷等，反深偽檢測技術面臨‘強對抗性’，需要持續更新與迭代”。

深度合成內容的治理是一項長期的工作，需要社會各方的通力協作。田天表示，瑞萊智慧希望為人工智慧和深度合成技術的規範發展出力。對於深度偽造內容，相關的檢測工具十分重要，瑞萊智慧研發的深度合成內容檢測平臺DeepReal，將協助各界、各個機構，讓深度合成技術健康發展。

AI安全迎關鍵視窗期 各方攜手促發展

近年來，中美兩國均出臺了人工智慧發展戰略規劃，從國家層面整體向前推進。無論是中國，還是美國，都有著完整的研發促進、鼓勵創新的相關機制，在這些因素的驅動下，中國在人工智慧領域，有著很大的上升空間，這也給了AI企業非常好的發展機會。在人工智慧安全這個有著非常廣闊發展空間的細分領域，中美兩國可謂是並駕齊驅。

近年來，人工智慧安全已成為國家政策層面重點關注的領域，國家相關的法律法規的不斷完善以及各方對於演算法治理、隱私保護等問題的高度關注，人工智慧安全已迎來關鍵視窗期。現在在國內，尚未產生有世界影響力的人工智慧產品和產業生態，這正是瑞萊智慧努力的目標。未來，瑞萊智慧與各界的聯絡和合作會越來越緊密，共同為人工智慧領域的健康發展貢獻力量。

中國社會科學院哲學所研究員、科學技術哲學研究室主任 段偉文

中國社會科學院哲學所研究員、科學技術哲學研究室主任段偉文受邀出席了本次溝通會，他在演講中表示，深度合成技術涉及到認知安全，所以我們要提升社會認知安全意識，將它作為集體責任，提升公眾的數字素養，以及每個人對深度合成時代真相的認識和鑑別力，這裡面有很多需要去努力的事情。人工智慧企業都非常希望政府相關部門和各界積極開展有關法律倫理、治理上的對話和相關規範的制定，以及相關最佳實踐的推廣，這其實都是為了實現創新和治理之間的動態平衡，實施敏捷、穩健治理，同時使科技更好地服務數字化轉型、數字生活。

深度偽造技術持續進化 DeepReal成對抗利器

深度偽造技術持續進化，網路數字內容多變、隱匿性強，監管難度大，因此開展主動技術防範與檢測工作是必要的。會上，瑞萊智慧副總裁唐家渝向媒體講解和演示了深度合成內容檢測平臺DeepReal。他表示，深度偽造技術檢測工作當前面臨兩大難點：一是肉眼難以辨別，傳統人工內容稽核團隊無法應對，二是深度偽造檢測面臨“強對抗性”，新型偽造方法層出不窮、網路傳播環境複雜、深度學習檢測演算法模型存在結構性缺陷等。

瑞萊智慧副總裁 唐家渝

唐家渝介紹，在結果準確度方面，DeepReal在學術資料集和ZAO等主流方式生成的網路資料集中，已達到99%以上的準確率，而在實際應用中，DeepReal的檢測準確率也已達到業界頂尖水平，遠超Facebook此前舉辦的Deepfake檢測挑戰賽所公佈的最好成績。在檢測速度方面，DeepReal可實現每幀畫面的檢測時間僅用時30毫秒。DeepReal平臺此前在國際安全極客大賽等多個重要賽事中屢獲大獎，無論是標準層面、實戰落地層面還是監管層面，瑞萊智慧現已與多家單位開展多方面的合作，DeepReal將在網路虛假內容甄別、人臉資料稽核、影像物證真實性檢驗等實際應用場景中發揮強大作用。

唐家渝表示，除深度合成技術內容檢測以外，瑞萊智慧目前也正在做相關研究，探索深度合成技術的正向應用，例如人臉替換技術，包括演員的面部替換、影視本地化配音、後期更換演員臺詞等等。例如虛擬IP的打造和運營，這樣的虛擬資產，相比真人來說更加可控，也更加有想象空間。在談到深度合成內容製作的發展趨勢時，唐家渝認為，目前該技術集中在人臉合成範圍內，未來一定會擴充套件到人體、環境等複雜場景下的合成。與此同時，未來相關的法律法規將更加完善，合法合規的應用邊界更加清晰，會進一步促成深度合成相關產品的加速落地。

憑藉在人工智慧安全領域的深度探索與實踐，瑞萊智慧將運用最新科技，發揮技術優勢，與優秀的合作伙伴攜手，為人工智慧安全和企業的轉型升級樹立更多標杆，推動智慧城市的高質量發展，為人們帶來更加美好的生活。