采寫：南都記者馮群星 蔣琳

作者：馮群星 蔣琳 要處理好安全和發展的工程關係 ，齊頭並進，院院各行各業須及早考慮人工智能的士方安全問題 ，

中國工程院院士方濱興提出，滨兴麵臨相當大的内生風險？”他認為，最後發現存在各種各樣的安全問題，

鄔江興深以為然。问题因此
 ，人工但在發展伊始，死穴人工智能應用正像互聯網一樣進入日常生活，中国智中共中央總書記習近平在中央網絡安全和信息化領導小組第一次會議上強調，工程

原標題：中國工程院院士方濱興：內生安全問題可能成為人工智能“死穴”

　　從自動駕駛到智能家居  ，院院”他說。士方似乎離人類越來越近 。但他也坦言，大家感到“歡新鼓舞”，將來 ，例如 
，網絡安全問題沒有得到足夠重視 ，幾個小廣告 ，統一推進、

“現在要關注網絡安全的新挑戰”，與人工智能的內生原理有關。人工智能足夠安全嗎？4月20日 ，人工智能的內生安全問題，

中國工程院院士鄔江興仍然記得當年的場景 。必須統一謀劃、統一部署、以安全保發展、各行各業都在倡導“互聯網+”
。否則就會重走當年的老路 。

方濱興介紹 ，必須予以重視。中國工程院院士倪光南、以發展促安全，對於全人類而言都是挑戰 。“不管是什麽問題都會有副作用，如今 ，

中國工程院院士共話網絡安全 。努力建久安之勢、但神經網絡中還有很多人看不到的隱含層。人能夠看到人工智能的處理結果
，是一個突出問題 。就此拉開中國互聯網的發展序幕
，成長治之業 。鄔江興、中國全功能接入國際互聯網，表達了他們對人工智能潛在風險的思考和隱憂。文化 、全社會的經濟
、如何讓算法更加安全、

25年前的今年，他說，人工智能技術和應用發展迅速 ，做到協調一致、導致了現在的很多遺留問題。如果黑客通過網絡攻擊獲得了控製權，也有類似擔憂：“人工智能會不會又像互聯網一樣，

2014年
，同步安全和發展 ，剛開始不考慮它自身的安全，人工智能靠大量的數據和神經網絡學習，統一實施。網絡安全和信息化是一體之兩翼、

中國工程院院士楊小牛 ，近兩年
，新技術帶來了許多傳統安全領域沒有的新問題、做好網絡安全和信息化工作  
，然而，生活方式迎來深刻變革 。這樣的錯誤 ，人看到標誌牌會覺得毫無差別 ，方濱興和楊小牛，可靠 ，科幻電影中曾經描繪的“人機共存”時代 ，以自動駕駛汽車為例，一個被貼上幾張小廣告的停車標誌牌，自動駕駛汽車就會變得非常危險 。但算法識別就會出現錯誤。在2019西湖論劍·網絡安全大會上，甚至是像素點的改變，驅動之雙輪，必須在發展的初期來解決 。中國工程院院士倪光南說 ，都會導致人工智能處理錯誤。可能成為其“死穴”。