本刊记者 孙庭阳

人工智能治理是今年全国两会代表委员热议话题。

“过去一年，我走访了多个企业、科研机构，调研人工智能（AI）的应用，看到了各地的应用成果，也发现了一些问题。” 全国政协委员、工业和信息化部原副部长王江平接受本刊记者采访时说。

人工智能的训练数据中混入了偏见或恶意信息，导致价值观“跑偏”；因训练数据错误标注，回答问题时推理错误出现“AI幻觉”……人工智能快速应用带来的安全问题，是今年两会王江平重点关注的内容。

王江平介绍，当前人工智能治理存在的“温差”，在于技术迭代的指数级速度与治理体系渐进式更新之间的时差。技术快速发展，规则还在慢跑，可能形成治理真空。

王江平建议“十五五”时期人工智能治理在三个方面形成特色，贡献“中国方案”。

一是以“善治”促“善智”，将治理从外部“监管”转化为内生“驱动”。通过“文化对齐”，探索将中国传统文化中“上善若水”的智慧、社会主义核心价值观，深度融入人工智能的设计、训练与评估全流程。

王江平将这一理念称为“上善AI”理念。

二是引导AI技术奔着产业升级的“硬骨头”、民生服务的痛点去，特别是在“人工智能+制造”领域，要聚焦攻克“工业黑箱”、优化能耗、提升良品率等真实挑战。让人工智能有坚实的应用根基，也让安全在应用中能得以保障。

三是倡导“和而不同”的全球治理协同机制。积极推动建立包容性多边对话平台，在多边框架下，就伦理准则、技术标准、安全框架等寻求“最大公约数”。在尊重各国主权与文化差异的基础上，共同应对深度伪造、数据跨境等全球性挑战。

要达到上述目标，王江平建议，以“上善AI”理念，在治理理念、治理技术和治理法规方面破题。

首先，要更新治理理念。人工智能治理既要划定安全底线，也要为人工智能创新留出足够的试错和演进空间。其次，以“人机对齐”技术，通过技术手段，确保AI系统的目标、行为和输出与人类的价值观、意图及社会规范保持一致。

“我们需要大力投入‘对齐技术’的研发，建立国家级评估标准和实验室，让‘向善’可度量、可检验。”王江平说。

王江平进一步解释，对于高风险应用，如自动驾驶和智慧医疗等领域，需建立强制性准入和持续监测机制；对于通用技术，则可通过标准、指南进行引导。同时，要建立有效的企业自律与第三方监督机制，形成政府、企业、社会协同共治的格局。