大模型发展动态周报

无聊小北

郑思源 王禹辰 天翼智库

欧盟拟建立三级规则监管生成式人工智能，模型越强大监管规则越严，或可避免初创企业承受过多监管负担，同时又对大型企业进行控制，为我国人工智能监管政策制定提供参考。

微软近期开源了LongLLMLingua技术，通过压缩输入文本提示来改善大语言模型在长上下文中的感知能力，文本提示可实现20倍极限压缩，整体提高性能、减少延迟、大幅降低模型训练成本。

科大讯飞近期面向教育、医疗等领域发布星火V3.0，星火认知大模型全面对标GPT 3.5，在中文能力实现超越，英文能力达到相当水平；电商巨头沃尔玛和亚马逊均在积极推动生成式AI与自身产品的融合应用，对AIGC产业利好，大模型落地已成为“百模大战”的试金石。

微软计划在两年内向澳洲投资32亿美元建设云和AI基础设施，本轮投资预计将使澳大利亚计算能力大幅提升250%，提供更多尖端人工智能和云计算的市场机会，受到业界广泛关注。

01
资讯精读

1. 【政策】欧盟拟通过三级规则监管AIGC，模型越强大规则越严


欧盟计划将AI模型分为三类来进行监管，对最强大的生成式AI模型进行额外的外部测试。根据拟议规则，第一级监管将包括所有基础模型，第二级监管针对“非常强大”的基础模型，通过所需算力进行区分，提案称这些模型可能“超出了当前技术水平，并且可能尚未被完全理解”；第三级监管被称为大规模通用目的人工智能系统，将包括最流行的人工智能工具，并以用户总数来衡量。

天翼智库：目前全球多国都在为生成式AI设置护栏，以应对这一新兴技术迅速发展可能带来的安全风险。Meta首席科学家杨立昆此前表示“过早监管AI只会加强大型科技公司的主导地位并扼杀竞争”。欧盟此次分级监管规则或可避免初创企业承受过多监管负担，同时又对大型企业进行约束。我国也可针对性完善人工智能监管政策，通过算力规模、用户量、应用程序数等指标制订分级分层的监管策略，以备案、独立专家评估、定期机构审查等多种方式，既维护国家和社会安全，又保护创新和有序竞争。

2.【技术】微软开源LongLLMLingua技术，“文本提示”可实现20倍极限压缩

微软近期开源了LongLLMLingua技术，通过压缩输入文本提示来改善大语言模型在长上下文中的感知能力，从而提高性能、减少延迟、助力降本增效，最高可实现“文本提示”20倍极限压缩。实验结果显示，经过LongLLMLingua压缩后的文本提示比原始提示的性能提升17.1%，在LongBench和ZeroScrolls（长文本评测基准数据集）测试中，每1000个样本分别节省28.5美元和27.4美元成本。

天翼智库：以ChatGPT为代表的大语言模型训练面临高昂的算力资源消耗及训练时间成本，对大模型企业造成一定负担。微软此次开源LongLLMLingua技术，可准确评估提示内容与问题的相关度，仅保留关键信息，整体提升推理速率。LongLLMLingua主要由问题感知的粗细粒度压缩、文档重排序、动态压缩比率和压缩后子序列恢复4大模块组成，经过测试验证，当压缩约10k tokens提示，压缩率在2-10倍范围内时，端到端延迟可降低1.4-3.8倍，具有显著效果。运营商可借鉴并引入微软这一开源工具，迭代升级现有大模型产品能力，在模型训练中实现降本增效。

3.【产品】讯飞星火V3.0发布，面向编程、教育、医疗等领域发布多项产品

10月24日，第六届世界声博会暨2023科大讯飞全球1024开发者节现场发布讯飞星火认知大模型V3.0，科大讯飞董事长刘庆峰称，讯飞星火认知大模型V3.0全面对标ChatGPT（GPT 3.5），在中文能力实现超越，英文能力达到相当水平，同时在医疗领域超越GPT-4。会上，讯飞联合华为共同发布“飞星一号”大模型算力平台，并启动对标GPT-4的更大参数规模的星火大模型训练。此外，星火V3.0升级启发式对话、AI人设功能，能够打造更个性化的AI助手。

天翼智库：科大讯飞与华为通过共建基础算力平台达成生态合作，推动大模型训练并在多场景实现应用落地，成为国产大模型加速竞争下的一个新趋势。进入大模型“应用战”后，随着大模型加速商业化部署，需要高功率、高算力的基础设施，大模型训练与研发面临高算力成本的困境；另一方面，由于不同行业中企业和开发者对大模型的使用场景和方式有较大差异，也面临使用门槛高、高频刚需场景少的困境。对电信运营商而言，应积极探索与各科技企业之间的交流，探索基于各自生态位的合纵联横和强强合作，实现技术与业务间的互补，加速大模型商业化、行业化落地。

4.【应用】 ChatGPT当导购员，全球最大超市全面应用生成式AI

全球最大连锁超市沃尔玛近日在官网宣布，将在电商平台试用3款类ChatGPT生成式AI产品，平台可根据文本提示自动生成购物建议、搜索建议和评论摘要等，帮助用户改善购物体验提升效率，根据单一产品继续深度询问，极大节省了购物时间，还为5万名员工配备生成式AI助手，帮助起草电子邮件、总结内容、生成创意内容等，提升工作效率。于此同时，电商巨头亚马逊也在试验同类功能。

天翼智库：电商巨头沃尔玛和亚马逊均在积极推动ChatGPT等生成式AI与自身产品的融合应用，表明电商企业充分认可大模型的广阔应用空间，对AIGC产业利好。当前，“百模大战”仍在持续，更快赢得市场认可、实现大模型规模落地的企业将占据产业话语权，百度文心一言、科大讯飞星火大模型等均已面向公众及行业客户开放相关服务。对运营商而言，需要尽快将现有通用及行业大模型推向市场并实现商业化，在场景落地中根据用户体验不断打磨产品技术能力，提高产业认可度，为后续算网协同建设、产数业务发展奠定良好产业基础。

5.【资本】微软将在澳洲投资32亿美元建设云和AI基础设施

微软10月23日宣布，未来两年将在澳大利亚投资50亿澳元（约合32亿美元），扩建云计算和人工智能基础设施。根据声明，这笔投资将使微软在堪培拉、悉尼和墨尔本的数据中心数量增长45%，从20个增至29个。此外，微软还将与新南威尔士州合作，在澳大利亚建立微软数据中心学院。

天翼智库：微软本轮投资预计将使澳大利亚计算能力大幅提升250%，提供更多尖端人工智能和云计算的市场机会。如今，头部公司都在竞相投资生成式人工智能，微软公司凭借其对OpenAI的投资与整合，成为生成式人工智能领域的早期领导者，结合前期在人工智能领域的长期深耕与布局，帮助微软构筑起“智能云”的差异化路线，自上而下提升其数据中心及云计算市场份额。百度云作为国内后发云计算企业，也采用了“发力人工智能→带动云计算”的追赶路线，取得较好增长。运营商一方面应抓住大模型训练的算力需求机遇，做好智算中心服务；另一方面应努力提升自身人工智能技术和产品水平，以MaaS或AI SaaS带动底层算力资源售卖。

6.【观点】北工大教授孙立山：交通领域成为AI等新技术的“练兵场”

近日，北京工业大学樊恭烋荣誉学院院长、博士生导师孙立山教授在专访中表示，人工智能为交通领域发展提供更多机遇，例如图像分割技术可以通过识别图像中的人、车辆、标牌和路基等元素，将其数字化并进行分析。未来支持交通出行的AI大模型将赋能多类交通出行场景，包括提高交通管理部门监管交通的效率，交通流精准预测以及自动驾驶BEV建图辅助等。

天翼智库：智能交通利用人工智能技术对交通态势进行规律性挖掘，建立交通事件分类体系，构建决策库，其中自动驾驶与车路协同是智能交通主要方向，为高等级自动驾驶车辆提供辅助出行服务。面对市场规模达百亿级的智能交通市场，运营商应加快布局，通过自研+合作，整合车、路、云、图等技术要素，由点及面深度打造交通类行业大模型，融入交通数字平台，提高交通事故处置率和交通流量预测准确性，为自动驾驶车辆提供高可靠的感知及推理增强服务。

02
每周快讯

1.【技术】智谱AI&清华KEG提出AgentTuning微调方法，可对齐Agent能力

今年8月初AgentBench测试榜单中，主流开源模型在Agent智能体任务完成测试中普遍表现不佳。近期，智谱AI联合清华KEG提出了一种对齐Agent能力的微调方法AgentTuning，该方法使用少量数据微调已有模型，可显著激发模型Agent能力，同时保持模型原有的通用能力。AgentTuning 主要包括2个阶段，首先收集并过滤得到一个多任务指令微调数据集AgentInstrcut，然后利用该数据集与通用数据对模型进行混合微调。评估结果表明。AgentTuning 能让大语言模型Agent能力在未见过的Agent任务中展现强大的泛化能力，性能表现突出。

2.【产业】 商汤与南方电网数字电网展开大模型生态合作

10月20日，商汤科技与南方电网数字电网集团有限公司签署战略合作协议。根据协议，双方将以多模态大模型、语言大模型、视觉大模型为基础，共同探索大模型技术与新型电力系统的创新结合点，在复杂场景调度运行决策、精细化源荷预测、电力数据智能处理等多场景开展应用。双方还将共建专业化算力集群，更好地服务电力大模型的训练与推理应用。此外，双方还将共同研究制定面向电力行业的大模型训练和部署的技术规范和测试标准，并在电力行业率先开展大模型即服务（MaaS）的创新业务模式，支持典型场景的智能化升级。

3.【产品】阿里达摩院发布遥感AI大模型，助力农情管理

10月20日，阿里达摩院发布业内首个遥感AI大模型，该模型可以同时识别农田、农作物、建筑等地表上的各种物体。这使得人工智能能够更深入地应用于田间地头，大幅提高了灾害防治、自然资源管理、农业估产等遥感应用的分析效率。该模型已在AI Earth地球科学云平台上开放使用。与传统的遥感模型相比，在某些特定场景下，实例提取的准确率提高了25%，变化检测的准确率提高了30%。据悉，山东省国土测绘院自2022年起与达摩院展开合作，在自然资源调查、耕地保护等领域使用遥感AI大模型进行山东全省冬小麦的长势监测研究，识别精度达到90%以上。

4.【资本】AI创企Together洽谈融资，估值超5亿美元

据外媒The Information24日报道，多位知情人士透露，AI创企Together正在洽谈从Emergence Capital募集更多资金，投资前估值超过5亿美元，这将使Together的估值倍数约为其年化收入的25倍，本轮融资将在未来几周内完成。据悉，Together成立于2022年6月，帮助公司训练和运行开源AI模型。