《中国经济周刊》首席评论员  钮文新

未来，A股市场投资者会不会面临“信息真假难辨”的困惑？近日，上市公司科大讯飞就被“黑”了一把。两篇“小作文”在网上流传，一篇题为《一篇科大讯飞出现重大风险的警示文》，另一篇是传闻“美国正考虑是否将科大讯飞、美亚柏科等列入‘实体名单’，禁止它们使用美国的组件或软件”。由此，科大讯飞股票盘中跌逾9%。经事后查明，两篇“小作文”均为AI技术自动生成。

公司对此当然非常气愤，回应称：“使用大模型编造虚假信息属于违法行为，将受到法律制裁。对于恶意抹黑、捏造虚假信息，损害我司名誉权的机构或个人，公司会借助法律武器保护公司和投资者利益。”

毫无疑问，虚假信息当属股票市场最大的敌人。而现在，科大讯飞被黑事件则极为严肃地提醒我们：AI技术发展必须受到管制，尽快建立防火墙。否则，后果不堪设想。众所周知，金融市场是最需要信任的市场，如果因“恶意AI信息”搅动而使得信任丧失，那金融市场会不会发生大乱子？

近期基于AI技术的新闻很多，但其中不乏负面。比如今年以来，基于所谓“换脸”技术，就有人被骗走430万元，而5月25日被媒体曝光事件是：今年4月，安徽安庆经开区发生一起“冒充熟人”诈骗案。案发后，公安局反诈中心民警调查发现，在这起诈骗案中，犯罪分子使用了一段9秒钟的“智能AI换脸视频”佯装被害者“熟人”，让受害人放松警惕从而实施诈骗。

如果这种“以假乱真”渗入金融市场，很可能将是大乱的开始，甚至会导致金融瘫痪。所以，尤其是金融领域，对此绝不能掉以轻心，千万不要以“个案而已”自我安慰或拖延，而必须立即深入、不断研究如何修缮和强化防火墙。

实际上，目前世界各国政府都在对AI技术发展保持警惕，纷纷出台各类法律法规对之加以约束和限制，中国也在加强这方面的工作。2023年4月，国家网信办发布《生成式人工智能服务管理办法（征求意见稿）》，其中就提到：“利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。”

但需要提醒的是：对AI技术绝不是有了法就可以约束的问题，而更需要技术解决方案，甚至要改变以往“先发展，后规范”的鼓励创新的方式。对AI技术而言，恐怕需要“规范优先于发展”。至少，对于一项可能具有明显社会危害性的新技术出现，恐怕需要“先叫停、再立规、后放开”的过程。

有人说，AI技术不过是工具，刀也是工具，难道因为刀可以杀人就叫停刀的生产？这话听似有理，但我们必须明白：AI工具的级别远非刀可比。刀杀人可为个案，是范围可控的恶性案件，但“恶性AI玩家”对社会破坏的广度和深度岂是刀可比的？应当说，刀可被当成武器，生化技术也可被用于杀人，但二者的管控级别完全不同。所以，就AI技术的影响范围及其对公信力的影响而言，政府应当考虑将该行业纳入“特许经营”范畴。应当说，及时且完善对互联网与AI技术——虚拟世界的治理，恐怕也是社会治理能力现代化的重要组成部分。

责编：姚坤

（版权属《中国经济周刊》杂志社所有，任何媒体、网站或个人未经授权不得转载、摘编、链接、转贴或以其他方式使用。）