今年以來，什么最熱門?AI(人工智能)等智能技術可能是最好的答案。

從開年的汽車智能駕駛，再到火遍全網的DeepSeek，AI正加速走進我們每個人的生活。

但就在各種智能給大眾生活提供便利的同時，隱患也隨之而來，比如AI換臉、電子簽名偽造、隱私泄露等等。面對新技術以及新挑戰，正在大力發展智能技術、推進數字化建設的重慶，該如何應對?

AI技術違法行為不斷增長

今年“3·15”期間曝光了一起虛假帶貨案件——一個視頻中，中國工程院院士、天津中醫藥大學名譽校長張伯禮正在為某美白護膚品進行宣傳。最后證明該視頻為AI制作生成的假視頻。

▲央視截圖

“像這樣涉及我形象和聲音的假視頻，在網絡上傳播的至少還有十幾條。”張伯禮表示，為此，天津中醫藥大學緊急給網信部門發函，申請對涉嫌侵犯張伯禮院士肖像權及姓名權的相關視頻和公眾號進行管控處理。

還有利用AI等技術，圍繞名人背書或者權威數據造假。比如前段時間盛傳的“80后死亡率5.2%”“每20個80后就有1人去世”等虛假信息，在公共領域造成的危害非常大。

電子簽名偽造，也是當下存在的一大現象。比如，有團體或者個人通過圖片識別、AI生成等技術，對一些電子簽名進行復制、偽造，以實現盜取個人財物等目的。

在重慶，利用AI等技術來進行違法犯罪的情況也不少見。比如在去年10月，重慶警方在“凈網2024”專項行動期間，就公布了5起典型案例。

比如武隆區網民劉某在網絡平臺發布一則《北方一城市某工廠被大風夷為平地，造成2人當場死亡，3人受傷》的帖文，迅速引發網民關注和議論，影響惡劣。后經查明，該帖是利用AI工具編造虛假新聞，擾亂公共秩序，造成不良社會影響。最終，劉某被武隆區公安局已依法對劉某處以行政處罰。

有數據顯示，2024年以來，利用AI技術進行違法行為的趨勢顯著上升，主要涉及深度偽造、數據安全威脅、自動化攻擊及倫理濫用等領域。比如，在2024年AI風險事件中，深度合成技術濫用占比超過30%，其中57.8%涉及違法濫用(如欺詐)，39.1%涉及虛假信息傳播。

整體來看，2024年全球AI風險事件數量較2023年增長近50%，較10年前增長16倍。

風險與安全問題不容忽視

“AI等技術的高速發展，但背后的問題，也不容忽視。”電子科技大學信息與軟件學院院長張小松談到，在AI技術日新月異的發展背后，必然會有雙刃劍：一邊創造價值、一邊帶來風險。近年來，各種通過AI技術出現的犯罪行為其實就是一個體現。

他認為，一個技術想要真正地走向成熟，往往也是要對其兩個方面都做好準備，也就是要針對一個技術可能產生的風險提前進行“未雨綢繆”，這才能讓這項技術讓大眾用得放心，也才能真正地推廣。

比如，互聯網興起時，黑客、木馬、病毒等問題隨之出現，大眾在使用互聯網時也有些“小心翼翼”，擔心一不留神自己的電腦就被植入什么東西，從而導致數據泄露。直到殺毒軟件、防火墻等技術的全面鋪開，大家對互聯網的使用也才更加放心。

物證技術重慶高校工程研究中心主任，原西南政法大學刑事偵查學院副院長兼司法鑒定中心主任易旻也表示，隨著以Deepseek等通用大模型的社會化運用，社會主體身份認證面臨著更為復雜的局面，單一追求方便、快捷而忽視風險，將給社會帶來極大的隱憂。所以，應該盡量避免單一認證方式的適用，鼓勵多元、多層次認證方式進行身份驗證。

“強化信息非法運用和信息犯罪的打擊只是其一，建立更為合理、安全的身份認證結構勢在必行。”易旻說。

以電子簽名為例，他認為，后續各方應該重視動態特征數據電子簽名的應用，尤其于簽署確認環節，逐步切割偽動態特征電子簽名(如簽名圖片數字化)的適用。同時，強化電子簽名服務提供商的是否為可靠電子簽名的符合性審查。

“重慶作為直轄市和西部數字經濟高地，面臨的網絡安全挑戰尤為嚴峻。”張小松指出，隨著“數字重慶”建設快速推進，全市政務數據、工業數據、民生數據資源越發豐富，也成為不法分子覬覦的目標。

他表示，推進數字重慶建設，不僅要大力發展大數據、智能化技術，更要同步發展與之匹配的安全防護體系，以識別和防范AI等技術帶來的安全風險。

數據安全需求爆發，重慶正加快產業布局

面對AI等技術發展的雙面性，重慶擁有“在危機中育新機”的發展環境。

業界預測，在2025年，中國網絡安全市場規模預計將達到千億規模，同時會保持5%的年均增長率。其中，以AI安全等方面為主的網絡安全，將更受企業、政府等單位關注。

“技術發展得越快，安全保障的需求就越迫切。”市大數據局相關負責人表示，隨著AI等智能技術的廣泛應用，相應的網絡安全、數據保護、內容審核等細分賽道正在快速成長。在此背景下，重慶可選擇將挑戰轉化為機遇，力爭在網絡安全這一新興賽道上搶占先機。

好在，重慶已經開始在這片藍海中布局。

比如，川渝兩地等12個部門聯合提出，到2025年，川渝網絡安全全產業鏈規模超2000億元，加快培育一批重大創新載體，形成一批網絡安全關鍵技術、產品和服務創新成果，引育5家網絡安全產業鏈主企業，30家細分領域“專精特新”企業，100家科技型中小企業，構建安全保障能力互通、安全信任服務互信、安全基礎測評互認的川渝一體化網絡安全體系。

值得一提的是，在一些細分賽道，重慶已經涌現出一些全國領先的企業。

比如，位于兩江新區的親筆簽數字科技有限公司，就在電子簽名證偽、溯源等方面，取得了明顯成效。

重慶親筆簽數字科技有限公司CTO劉科介紹，人們在簽字時都會有自己的無意識行為，比如寫字的軌跡順序、發力方式、筆畫風格，這些都是一個人的生物特征。無論他在什么載體上，用什么東西簽字，自己形態會有不同，但書寫習慣不會改變。

基于這一邏輯，該公司將目光瞄準了鑒別手寫電子簽名的“內核”——基于人工智能算法的“數字筆跡識別”技術，并通過這些技術與數據的積淀，可以對簽名人的簽名行為進行比對、回溯，通過人的書寫行為習慣，從而證明簽名者是否為本人。

▲“數字筆跡識別”技術助力重慶實現婚姻登記業務全程電子化、電子檔案全程在線歸檔。受訪者供圖

在親筆簽數字科技有限公司推動下，我國司法鑒定技術標準中新增了《手寫電子簽名筆跡鑒定技術規范》，填補了國內在此領域上的行業標準空白，該公司也獲得司法鑒定資質，成為人工智能電子簽名賽道中唯一一個司法鑒定機構。

▲遠程詢問筆錄簽署，為特殊人群電子化簽名提供有效解決方案。受訪者供圖

目前，親筆簽數字科技有限公司業務已經覆蓋重慶、四川、山東、海南、貴州、福建、湖南、湖北、甘肅、河北、山西、廣西、江蘇等多個省市，其技術在政法、政務、金融、醫療、住建、民生等多領域應用落地。

來源：新重慶-重慶日報

鄭重聲明：本文版權歸原作者所有，轉載文章僅為傳播更多信息之目的，如有侵權行為，請第一時間聯系我們修改或刪除，多謝。