大模型规范提上日程 上海将探索创新监管

证券时报记者 张淑贤

2023年世界人工智能大会第二天，通用人工智能的火爆局面从展馆蔓延至论坛。证券时报记者粗略统计，当天举行的论坛，超过一半主题中都包含“大模型”或“通用人工智能”的字样。大模型时代的AI趋势如何？“百模大战”存在哪些风险？未来应如何规范？这些话题成为业内人士探讨的焦点。

7月7日上午，商汤科技宣布“商汤日日新SenseNova”大模型体系多方位全面升级。商汤科技董事长兼CEO徐立表示，商汤希望通过“大模型+大装置”持续推动AI基础设施能力的跃进提升，降低大模型的下游应用成本和门槛，让大模型的产业价值在千行百业中绽放。

下午，蜜度发布了国内首个专为智能校对领域打造的垂直大语言模型——蜜度文修。据介绍，该模型在中文拼写勘误、语法纠正任务上的表现显著优于通用大模型ChatGPT。

过去的数次人机交互变革，都带来了从终端到连接，到各类应用的颠覆式变革，在业内人士看来，生成式AI也必将带来产业链、价值链和生态的重塑。

“大模型的突破掀起了人工智能的新一轮技术革命，随之而来的是产业需求呈现爆炸式增长，全新的应用场景和应用模式正迅速涌现。”徐立说。

腾讯副总裁、腾讯政企业务总裁李强表示，面向垂直产业的模型会成为大模型价值的引爆点。腾讯发布的大模型时代AI趋势报告指出，金融行业、文化娱乐行业等头部机构预计会在一年内，在相对成熟的场景中尝试引入大模型以及生成式AI能力。

“跟我们接触的公司非常多，交流大模型如何与所在产业结合，我们会认真研究客户实际需求以及对技术的要求。”腾讯云副总裁、腾讯云智能负责人、优图实验室负责人吴运声接受证券时报记者采访时表示。

我国人工智能产业在迎来发展机遇的同时，其存在的可信性、安全性等诸多挑战也引起业内的关注。

“大模型尚不能对输出进行可信性的验证，需要防范相应风险。”国务院参事、中国工程院院士、中国人工智能学会理事长戴琼海表示。

国内首个类ChatGPT模型——复旦大学MOSS系统的负责人邱锡鹏也表示，“通用大模型目前依然在可信性、安全性、逻辑性等方面存在很多挑战。”

随着通用型人工智能的发展，人类需要重新思考AI的影响。腾讯报告指出，生成式AI带来了更加复杂难控的风险，包括对人类未来生存的潜在风险，这就要求建立合理审慎的AI伦理和治理框架，塑造负责任的AI生态。

“当行业风口来临时，基于资本、客户需求等因素，企业都会战略性选择布局大模型。”蜜度首席技术官刘益东接受证券时报记者采访时表示，“但确实大模型的爆发式增长会带来问题，未来相关部门有望逐步规范。”

将人工智能作为三大先导产业的上海，已在考虑规范发展问题。上海市经信委副主任阮力表示，上海市将人工智能作为三大先导产业之一，不仅积极打造具有国际影响力的世界级产业集群，同时坚持科技向善理念，持续推进人工智能健康规范发展。

阮力透露，上海将完善人工智能行业治理体系，在人工智能关键领域技术、产品与服务、行业应用、安全伦理等领域加快标准制定。

“上海还将加强大模型风险管理，启动高风险人工智能产品和服务清单式管理相关研究，积极推动大模型相关治理研究，探索适应大模型特点的创新监管方式。”阮力说。