智能如何向善而行？代表委員熱議“AI向善”
2026-03-11 11:35:44
來源：新華每日電訊
分享到
一張貼在手機背后的卡片，能進行錄音和多語種翻譯；一只感音空氣架子鼓，只需敲擊空氣就能發(fā)出美妙聲音：一款“AI莊稼醫(yī)院”，只需拍照就能識別莊稼病蟲害，并精確開出處方……
人工智能（AI）不斷與時代同頻共振，在技術演進與商業(yè)化落地雙輪驅動下，正展現出前所未有的發(fā)展?jié)摿?，同時也引發(fā)了人們對未來趨勢的更多思考。工業(yè)和信息化部部長李樂成5日在十四屆全國人大四次會議首場“部長通道”上表示，“要努力推動AI電腦、AI手機、智能家居更好滿足人民群眾對美好生活的需求?！?/p>
技術創(chuàng)新步履不停，智能如何向善而行？從今年政府工作報告中明確部署“完善人工智能治理”，到兩會會場內外關于“AI+教育”“AI+安全”的熱烈討論，“AI向善”成為今年全國兩會科技領域的高頻詞。
法治筑基：劃定AI發(fā)展清晰邊界
去年10月中旬，不少愛茶人士刷到一條視頻，鏡頭里的老人自稱“活到108歲，試茶80多年”，傾情推薦一款茶葉，吸引了眾多茶友下單。殊不知，視頻中的老人是畢生推廣茶學的專家張?zhí)旄?，早已?017年離世。企業(yè)這一不當行為引發(fā)廣泛爭議，逝者親屬也已通過法律途徑介入。今年3月，某社交平臺發(fā)布打擊利用AI仿冒名人引流虛假宣傳的公告，處置違規(guī)賬號1200余個。
這些案例正是AI技術快速發(fā)展下，各類風險問題的縮影。全國人大代表、海爾集團董事局主席周云杰認為，AI技術爆發(fā)式增長伴生的安全、隱私與倫理挑戰(zhàn)日益凸顯，已成為制約人工智能健康發(fā)展的關鍵瓶頸。
當前，我國已出臺網絡安全法、數據安全法、個人信息保護法等法律，還頒布了《人工智能科技倫理管理服務辦法（試行）》等針對性舉措，但如何在進一步提升社會生產效率的同時降低風險，成為鞏固AI產業(yè)先發(fā)優(yōu)勢、提升國際競爭力的必經之路。
“AI合成名人虛假音視頻進行虛假宣傳等現象，嚴重侵犯了公民的肖像權、名譽權。”全國政協(xié)委員、中國地震局原黨組書記閔宜仁在小組討論中直言，針對此類亂象，應當及時完善政策規(guī)范和監(jiān)管體系。
周云杰代表認為，除了技術濫用，還有責任主體缺失的問題。比如在自動駕駛、醫(yī)療機器人等物理交互場景，算法的安全容錯率極低，事故發(fā)生后的責任歸屬如何在開發(fā)者、部署者、使用者之間界定，目前還是法律與倫理的真空地帶。
全國人大代表、中國工程院院士張伯禮對此深有同感，他表示：“一旦AI形成自主編程、修改程序的能力，更將帶來不可預估的安全隱患?！睆埐Y代表建議，要加快推動國家層面人工智能綜合性立法，構建以相關法律為統(tǒng)領，部門規(guī)章、技術標準、倫理指南相互支撐的制度體系；針對使用人工智能的侵權行為，強化流程追溯，盡快出臺認定標準和賠償細則，凝聚社會共治合力。
技術賦能：筑牢AI安全防控防線
AI風險的技術屬性，決定了技術創(chuàng)新是防控工作的核心支撐。
“沒有安全的創(chuàng)新走不遠、也走不穩(wěn)。從這兩年大模型、智能體、具身智能等各類AI形態(tài)遭受網絡攻擊的情況來看，為AI預設‘安全護欄’十分必要?！比珖f(xié)委員、奇安信科技集團董事長齊向東表示，其帶領的團隊圍繞AI安全防范形成了大模型衛(wèi)士、大模型安全護欄等創(chuàng)新成果，還探索構建了“端-網-云-機”一體化的防御體系。
齊向東委員建議，要將安全能力嵌入AI應用的全生命周期，實現縱深防御；明確合規(guī)紅線，壓實安全主體責任，強化權限與內容管控；堅持用AI對抗AI，讓安全能力始終領先于安全風險。
如今，“用AI對抗AI”已在多地落地實踐。上海外灘舉辦的Deepfake攻防挑戰(zhàn)賽，聚焦AI換臉問題，匯聚了一群年輕的“AI打假師”；世界互聯網大會上的AI大模型攻防賽，通過雙向競技的模式，讓“漏洞窮盡式發(fā)現”成為可能。
關于數據安全與保護問題，全國政協(xié)委員、中國市場主體研究院院長屈慶超認為，在行業(yè)尚未成熟的早期探索階段，不應過早鎖定或限制特定技術路線，應鼓勵企業(yè)開展差異化探索。但無論如何選擇，隱私、合規(guī)和責任都是不可逾越的底線。
當前，國內已有多個“用AI對抗AI”的成熟案例落地，尤其在金融風控、身份核驗、內容鑒偽三大領域形成了技術閉環(huán)，還持續(xù)推動著行業(yè)標準完善與監(jiān)管協(xié)同發(fā)展。圍繞這一思路，齊向東委員還建議大力發(fā)展安全大模型與安全智能體，將稀缺的專家經驗轉化為可復制的數字能力，實現7×24小時自動化防護，全方位筑牢AI安全防線。
素養(yǎng)培育：夯實AI向善人才根基
“技術都是雙刃劍，重要的是引導好使用它們的人。”“我們科協(xié)界別可以和教育界別等聯合開展調研。”在北京會議中心，政協(xié)委員們圍繞AI的使用與引導展開熱烈討論。
全國政協(xié)委員、360集團創(chuàng)始人周鴻祎表示，人工智能本質是人類智能的延伸，是工具而非主體?！癆I向善”，就是要在人的指導下，讓人工智能的設計、開發(fā)與應用全過程，始終堅守服務社會公共利益的導向，確保技術發(fā)展方向與人類福祉保持一致。
周鴻祎委員以視頻制作為例，生動闡釋了人工智能與人的關系：AI只是創(chuàng)作者能力的“放大器”，創(chuàng)作者依然主導創(chuàng)意和藝術表達，AI則協(xié)助完成大量技術性工作，讓創(chuàng)意更快轉化為作品。當技術與人的智慧協(xié)同發(fā)力，人工智能不僅能提升生產效率，更在不斷拓展人類創(chuàng)造力的邊界。
而實現“AI向善”，全民AI安全素養(yǎng)的系統(tǒng)提升是重要基礎。全國人大代表、天津職業(yè)技術師范大學副校長王勁松表示，提升全民AI安全素養(yǎng)，需要從三個層面系統(tǒng)推進。
面向公職人員，作為政策制定、實施與落地的核心主體，必須具備扎實的AI安全意識與素養(yǎng)，既要為技術創(chuàng)新留出包容的試錯空間，又能敏銳識別、有效防范AI帶來的各類風險；面向技術人員，要引導AI領域從業(yè)者正向運用技術，倡導“技術向上”的理念，確保技術研發(fā)與應用始終沿著服務經濟社會發(fā)展的正向軌道前行，平衡好技術發(fā)展與行業(yè)規(guī)制的關系；面向廣大公眾，每一位AI使用者都要建立對應的安全素養(yǎng)，清醒認識AI個性化服務背后的數據隱私風險，增強個人信息保護意識與自我防護能力，守住AI使用的安全底線。
平衡發(fā)展：讓AI在正軌釋放核心價值
如今，腦機接口、具身智能、AI教育、AI手機……一批優(yōu)秀的AI應用切實改變著人們的生活，帶來可喜變化。AI的終極價值，在于服務實體經濟、改善民生福祉、推動社會進步。為AI劃底線、立規(guī)矩，引導技術在合規(guī)中落地、在規(guī)范中創(chuàng)新，才能讓其真正成為“十五五”時期高質量發(fā)展的新動能。
如何平衡AI發(fā)展與安全的關系？全國人大代表、招商局資本投資有限責任公司董事李引泉說：“監(jiān)管政策要平衡好規(guī)范安全和創(chuàng)新發(fā)展的關系，管得過嚴可能不利于新技術的發(fā)展，對于在人工智能技術方面具備趕超國外能力的企業(yè)，應予以保護和扶持?！?/p>
齊向東委員則認為：“安全和創(chuàng)新是一體兩翼。安全從來不是約束，而是助力新技術走向成熟的重要標志?！彼灾悄芫W聯車為例，作為具身智能的重要形態(tài)，為保障其安全發(fā)展，我國已形成涵蓋法律法規(guī)、路政設施等方面的全面安全體系，如今智能網聯汽車發(fā)展迅速、市場份額持續(xù)擴大。“AI時代，我們勢必要建立同樣完善的體系和機制?！踩珟А嚼慰?，AI這輛‘疾馳的快車’跑得就越穩(wěn)健?！?/p>
政府工作報告提出深化拓展“人工智能+”，促進新一代智能終端和智能體加快推廣。對此，工信部部長李樂成在接受采訪時表示，要努力推動AI電腦、AI手機、智能家居等產品發(fā)展，更好滿足人民群眾對美好生活的需求。
周鴻祎委員建議，要加快出臺行業(yè)統(tǒng)一標準，明確數據采集、模型調用、內容生成的合規(guī)邊界，強化算法透明度與可解釋性；將安全智能體嵌入終端，主動防御AI化攻擊、惡意利用等新型風險，讓安全成為AI終端的標配，讓AI手機真正服務于民，成為智能經濟新形態(tài)下可靠的普惠終端。
作為終端智能體的代表性應用，AI手機助手的安全實踐為行業(yè)提供了可參考的范本。據悉，AI手機助手嚴格遵循用戶授權與合規(guī)原則，僅在用戶明確授權下調用必要能力；云端處理屏幕內容嚴格執(zhí)行“不存儲、不訓練”準則，數據全程加密傳輸；涉及支付、密碼等高危操作，采用用戶授權+手動確認的雙重機制，從制度設計與技術實現上，牢牢守住用戶權益與安全底線。
今年的政府工作報告，首次寫入“完善適應人工智能技術發(fā)展促進就業(yè)創(chuàng)業(yè)的措施”。全國政協(xié)委員、中國民營經濟研究會副會長李連祥說，目前AI手機等行業(yè)處于發(fā)展初期，對于新技術形態(tài)，應重視人才培養(yǎng)，秉持寬容的態(tài)度，但在監(jiān)管和法律保障上，更要精準防控風險，為技術創(chuàng)新預留足夠的空間。
AI越來越聰明的時代，更應是制度有溫度、技術有邊界、公眾有判斷的時代?！叭斯ぶ悄艿奈磥?，歸根結底取決于人類如何使用它?！敝茗櫟t委員表示，只有堅持以人為本、智能向善，讓技術創(chuàng)新與倫理治理同步推進，人工智能才能真正成為推動社會進步、增進人類福祉的重要力量。（記者 劉婧宇 陳改 參與記者：白佳麗 宋瑞 張漫子）
返回頂部