加快推动人工智能发展(AI前沿观察)

拥抱机遇 迎接挑战

加快推动人工智能发展(AI前沿观察)

本报记者 李 贞

日前举行的中央经济工作会议指出，2024年要“加快推动人工智能发展”。当前，人工智能(AI)已广泛渗透到各行各业，从医疗保健、交通运输，到教育培训、娱乐休闲等。那么AI技术有哪些新趋势，未来该如何更安全地发展？2023年12月27日，AI发展与治理创新研讨会在北京举行，与会专家与相关从业者围绕AI技术创新发展进行了分享与讨论。

新模式新业态不断涌现

“人工智能已成为引领产业发展、驱动经济增长、连接全球合作的重要新兴技术方向。”中国电子技术标准化研究院信息技术研究中心主任范科峰认为，当前，AI技术新模式新业态不断涌现，产品和服务逐渐完善，在经济社会各领域广泛应用，与实体经济融合持续深化，正深刻改变着人类的生产生活方式。

在研讨会上，多项AI技术在各领域实际应用的案例令人眼前一亮。

AI技术能帮人更好地做生意。对从事家具外贸电商业务的黄凯来说，他的日常工作就离不开AI技术的帮助。“过去，要上架一款家具，我们得先完成设计、做出样品，再进行产品拍摄。这个过程不仅时间长，而且花费的成本也很高。但现在，有了AI技术的帮助，只需要输入数据，就能很简单地做出产品图，并且能随意模拟产品在客厅、商场等不同场景下摆放的效果，效率得到了极大提升。”此外，AI技术还帮助黄凯的公司降低了招聘运营人员的难度。据黄凯介绍，以前，从事外贸生意对运营人员的外语水平、工作经验要求较高，但有了AI工具做辅助，新员工也可以很快上手完成工作了。

在医疗领域，AI技术大有用武之地。胰腺癌是一种生存率较低的恶性肿瘤，并且早期筛查容易出现漏诊或误诊。现在，来自浙大医学院附属第一医院、复旦大学附属肿瘤医院的医学团队，已开始采用“平扫CT+AI”的方法，进行大规模胰腺癌早期筛查。在2万多人的真实病例试验中，发现了31例临床漏诊病变，其中2例早期病患很快就完成了手术。该项研究成果也已发表在国际医学期刊上。

在影视制作领域，AI技术未来可期。阿里大文娱团队借助AI技术，在虚拟拍摄、数字人、超高清视听体验等领域取得了创新突破。相对传统制作方式，借助虚拟拍摄，制作效率可以提升40%。“很多过去想到但做不到、甚至创作者也没想到的场景，都在AI的助力下呈现在我们的面前。可以预见，AI技术将全面提升中国影视制作的水平。”阿里巴巴科技伦理治理委员会委员薛晖说。

风险与挑战不容忽视

随着AI技术的快速发展，技术风险、隐私保护等安全问题也愈加受到关注。在研讨会上，阿里巴巴集团与中国电子技术标准化研究院联合发布了《生成式人工智能(AIGC)治理与实践白皮书》，系统分析大模型和AIGC主要风险，并从应用角度提出针对性治理建议和可操作性实践方案。

所谓生成式人工智能是指基于人工智能的技术方法，通过对已有数据的学习和识别，生成相关内容的技术。中国科学院信息工程研究所技术副总师韩冀中认为，这项技术最主要的特点，是改变了信息的生成方式和信息的获取方式。“每一次信息获取方式的变化，都会带来整个信息产业的变革。比如我们早期获取信息可能通过黄页，后来是搜索引擎，现在有了更新的渠道，即ChatGPT这样的技术，会让整个信息产业产生巨大变化。”

阿里巴巴人工智能治理和可持续发展研究中心首席科学家何源认为，生成式人工智能技术应用中，可能存在的安全风险与每个人息息相关。据何源介绍，生成式人工智能可以通过交互的方式低成本、快速地生产内容，比如可以很容易地生成并传播谣言，这给内容安全的防控带来了新挑战。在隐私和版权方面，大模型应用的海量互联网数据，很难逐一确认样本授权，容易造成隐私泄露和侵权问题。另外，生成式人工智能还降低了很多专业领域的技术门槛，有可能被滥用于黑客攻击、网络犯罪等。因此，业内专家认为，建立相关安全治理体系十分必要。

“多元协同、开放共治”

为规范生成式人工智能技术发展，2023年7月，国家网信办联合多部委公布了《生成式人工智能服务管理暂行办法》。

该《办法》一方面明确鼓励生成式人工智能技术在各行业、各领域的创新应用，生成积极健康、向上向善的优质内容，探索优化应用场景，构建应用生态体系。同时，也明确“生成式人工智能服务提供者应当依法开展预训练、优化训练等训练数据处理活动，使用具有合法来源的数据和基础模型；涉及知识产权的，不得侵害他人依法享有的知识产权；涉及个人信息的，应当取得个人同意或者符合法律、行政法规规定的其他情形；采取有效措施提高训练数据质量，增强训练数据的真实性、准确性、客观性、多样性”等。

在研讨会上，多位专家就生成式人工智能的安全治理提出自己的观点。

中国电子技术标准化研究院信息技术研究中心副主任董建提到，当前，国内外都在推动研发生成式人工智能的治理工具，但如何通过技术深层次解决治理问题，尚需进一步探索。

中国人工智能产业联盟安全治理委员会专委会副主委潘恩荣认为，生成式人工智能对人类的经济社会发展观念带来了巨大冲击，规范其发展“宜疏不宜堵”。一方面，必须克服各种恐惧和臆想，克制“堵”的冲动；另一方面，要在实践中，小步快跑地迭代出各种“疏”的方式。

复旦大学计算机科学技术学院教授张谧指出，科技行业应该负责任地发展AI，兼顾AI发展和风险管控。现在全球范围内有AI竞赛的氛围，各方应该立足长远，携手营造有序竞争，保障AI技术发展处于安全区域。

“关于AI，我们不知道的比知道的多，难以想象的比可以预测的多。”薛晖表示，生成式人工智能带来了前所未有的挑战，需要前瞻性地应对，“多元协同、开放共治”是AI发展和治理的必经之路。

《人民日报海外版》(2024年01月05日第08版)