3月28日消息，在全球科技浪潮中，人工智能已成為最炙手可熱的話題之一。近日，博鰲亞洲論壇2025年年會的“AI：如何做到應用與治理的平衡推進？”分論壇舉行。此次論壇聚焦于人工智能的快速發展及其帶來的安全和治理挑戰。當人工智能越強大時，其治理和安全問題就越為重要。此次論壇從更廣闊的框架出發，將人工智能的安全治理與技術進展置于重要的位置進行討論。
中國工程院院士張亞勤指出，過去一年中，人工智能取得了顯著進展，特別是在推理階段和DeepSeek的出現。張亞勤強調，DeepSeek是中國對全球人工智能領域的重大貢獻，其開源模式和高效資源利用為行業帶來了新的變革。
張亞勤還提到，人工智能正從信息智能向物理智能和生物智能轉變，如無人駕駛和人腦接口等技術的快速發展。他提醒，隨著人工智能能力的提升，其安全和治理問題也日益凸顯。
面對人工智能的快速發展，張亞勤對智能體帶來的風險進行了評估。他指出，智能體能夠自我規劃、學習和試點，但其路徑不可控，帶來了未知的風險。張亞勤認為，智能體的使用需要設置紅線，如禁止自我復制，以降低安全風險。
中國科學院研究員曾毅深入探討了人工智能的技術融合趨勢。他指出，符號主義和連接主義的融合在工程應用中展現出巨大潛力。曾毅強調，人工智能的發展正受到自然機制的啟發，如人類大腦的路由機制，這將推動人工智能在科學上的重要進展。
曾毅還分享了關于人工智能安全與發展的新發現。他指出，提升人工智能大模型的安全能力，并不會對其求解能力產生顯著影響。這一科學突破表明，安全和發展并非相互掣肘，而是可以協同推進。
芬蘭前總理阿霍從歷史經驗出發，探討了人工智能國際合作的可能性。他指出，技術的發展速度往往快于人類的理解，這需要文化、政治等多方面的共同努力。阿霍建議，通過建立類似移動技術標準的國際共識，推動人工智能的合理治理。
vivo首席安全官魯京輝從產業角度分享了對人工智能治理的看法。他指出，產業界在關注創新的同時，也需重視安全性。魯京輝強調，全球治理模式的多樣性決定了人工智能治理的復雜性，需要動態、敏捷的治理模式來應對。
最后，各位嘉賓對人工智能的未來發展和治理提出了總結性建議：聯合國可作為共識平臺，但需多元機構共同參與；建議建立技術標準機構和政策協調機構，以應對全球挑戰。