王海峰最新发声!
7月6日,2023世界人工智能大会(WAIC)在上海世博中心开幕,众多专家学者、科技领军人才、企业代表共同探讨人工智能赋能产业发展的全新变化,展望技术新趋势。百度首席技术官、深度学习技术及应用国家工程研究中心主任王海峰解读文心大模型3.5版核心技术,发布飞桨生态最新进展,阐述人工智能产业模式,为人工智能技术及产业最新发声。
飞桨已凝聚750万名开发者,文心3.5效果提升50%,推理速度提升30倍
当前,以大语言模型为代表的人工智能技术在全球掀起科技和产业创新浪潮,加速产业升级和经济增长,各行各业都将发生巨大变化。IT技术栈发生根本性改变,从芯片、操作系统和应用三层架构,转变为芯片、框架、模型、应用四层架构。深度学习框架和大模型构成了产业智能化基座,将支撑各行各业的应用智能化重构,促进经济高质量发展。
(相关资料图)
据了解,百度在人工智能四层技术栈均有布局和领先的自研技术,尤其在位于四层架构核心的框架层和模型层。文心大模型的最新成果,也得益于飞桨深度学习平台和文心的联合优化。飞桨是我国第一个自主研发的产业级深度学习开源开放平台,在中国深度学习平台综合市场份额上连续两年位居第一。王海峰现场透露,截至目前飞桨已凝聚750万名开发者,这也是百度2023年以来首次对外披露飞桨生态最新数据。
百度自2019年3月文心大模型发布1.0版后,历经四年技术深耕和研发迭代,现已升级到文心大模型3.5。王海峰表示,文心大模型3.5效果、功能、性能全面提升,实现了基础模型升级、精调技术创新、知识点增强、逻辑推理增强等,模型效果提升50%,训练速度提升2倍,推理速度提升30倍。
核心技术持续突破,效果和效率齐跃升
今年3月,百度在全球大型科技公司中第一个发布了大语言模型文心一言。文心一言是知识增强的大语言模型,首先从数万亿数据和数千亿知识中融合学习得到预训练大模型,在此基础上采用有监督精调、人类反馈的强化学习和提示等技术,并具备知识增强、检索增强和对话增强等技术优势。
王海峰解读了文心大模型3.5的核心技术创新,在基础模型训练上,采用了飞桨最先进的自适应混合并行训练技术及混合精度计算策略,并采用多种策略优化数据源及数据分布,加快了模型迭代速度,显著提升了模型效果和安全性。同时,创新了多类型多阶段有监督精调、多层次多粒度奖励模型、多损失函数混合优化策略、双飞轮结合的模型优化等技术,进一步提升模型效果及场景适配能力。
在知识增强和检索增强基础上,文心大模型3.5提出了“知识点增强技术”,对用户输入的查询、问题等进行分析理解,解析出生成答案所需要的相关知识点,之后运用知识图谱和搜索引擎为这些知识点找到相应答案,最后再用这些知识点构造输入给大模型的提示,为大模型注入更具体、更详细、更专业的知识点,显著提升大模型对世界知识的掌握和运用。
在推理方面,通过大规模逻辑数据构建、逻辑知识建模、多粒度语义知识组合以及符号神经网络技术,提升文心大模型3.5在逻辑推理、数学计算及代码生成等任务上的表现。
新增插件机制,拓展大模型能力边界
文心大模型3.5新增了插件机制,文心一言已经于6月17日对外发布官方插件百度搜索和ChatFile。百度搜索是默认的内置插件,使得文心一言具备生成实时准确信息的能力。ChatFile是长文本摘要和问答插件,支持超长文本输入。
王海峰表示,文心一言将发布更多优质的百度官方和第三方插件,让用户能够更好地应用文心大模型,同时也将逐步开放插件生态,帮助开发者基于文心大模型打造自己的应用。
广泛应用于各类场景,加速产业智能化升级
现场王海峰展现了文心一言在办公、会议、编码等场景的应用,文心一言成为工作中的“超级助理”,帮助总结工作沟通要点,实时记录会议内容,形成会议议题、摘要及总结等关键信息,可以通过各类插件完成指令任务,包括查询日程、创建会议、设置待办、申请休假等,也可以在工程师编码过程中自动推荐和生成代码。据悉,目前这些功能已通过智能工作平台“如流”应用于百度的工作流程中,帮助提升工作效率,提高决策质量。
王海峰表示,凡是要跟语言文字或程序代码打交道的应用场景,都可能有文心一言的用武之地。已经有很多在积极应用文心一言的场景,例如能源、金融、教育、办公、媒体,等等。在文心一言这类大模型产业落地的进程中,可以采用“集约化生产,平台化应用”的模式,即具有算法、算力和数据综合优势的企业将模型生产的复杂过程封装起来,通过低门槛、高效率的生产平台,为千行百业提供大模型服务。
关键词:
您可能也感兴趣:
为您推荐
解密:南北朝女子15岁不嫁的惊人后果
日本原子能规制委员会发放福岛核污染水排海设施验收合格证
局地可达39℃ 甘肃多地发布高温橙色预警
排行
最近更新
- 王海峰最新发声!
- 青岛警方持续严打“涉黄诈骗小广告” 刑事拘留36人
- 外眼点“经”|泰佩思琦集团亚太区总裁Yann Bozec:广东市场...
- 推特新CEO呼吁保持团结,称“每个人的声音都重要”,引发用户吐槽
- 出征!中国女足第8次进军世界杯
- 二姐称李玟病情四天恶化 重病时仍挂心同患抑郁症的郑欣宜
- “海洋之门”宣布:暂停所有勘探和商业运营!
- 专访:“去风险”和“脱钩论”一样无益于全球发展——访阿根...
- OpenAI全面推出GPT-4!API付费用户可以即刻访问
- 小米Redmi Pad 10.61英寸平板限时特惠!直降500元
- 空调内机漏水怎么回事怎么修理(空调内机漏水怎么回事)
- 狂推15款新产品,唐岩出山难救陌陌“中年危机”?
- 直击WAIC2023:阳光慧碳重磅发布一站式全生命周期解决方案iCarbon2.0
- 航空工业历史博物馆:昝凌的奖状
- 从797元跌至80元,股价重挫89%,昔日千亿疫苗巨头失宠?
- 2023·劳动创造幸福|我为钢铁穿新衣
- 中国水泥网高级顾问高玉宗:替代燃料技术的最终目标是100%替...
- 上海公司杭州联合党支部开展“知史爱党守初心,永葆先进担使...
- 西藏最大风电项目首台风机吊装完成
- 美国真要告别加密货币?拉斯维加斯加密行业岗位竟消失了80%
- 美国是全球最大毒品消费国
- 中国女足启程参加2023世界杯,姑娘们加油!
- 深圳市市场监督管理局南山监管局发布一起销售侵犯注册商标专...
- 2023世界人工智能大会前沿科技共绘“未来”图景, 这家这家...
- 单飞?东方甄选首次启动自有App直播【附电商直播行业分析】
- 眉山市东坡区市场监管局开展“你点我检”“你送我检”,食品...
- 现金支票怎么用?现金支票金额有限制吗?
- 方远地产5.69亿元竞得台州黄岩区东城街道1宗商住地
- 刚刚!禹州市突发地震
- 合肥:被低估的城市黑马
今日要闻
- 青岛警方持续严打“涉黄诈骗小广告” 刑事拘留36人
- 狂推15款新产品,唐岩出山难救陌陌“中年危机”?
- 方远地产5.69亿元竞得台州黄岩区东城街道1宗商住地
- 5800h和11500(cpu11500和8500性能对比)
- 公司快评 | 5倍牛股鸿博股份AI业务毛利仅12万 与英伟达的“紧密关系”是真是假?
- 夏日健康帖丨高温卷土重来,实用指南帮你应对酷热晴晒
- 从0到1的创新拼搏——记航天科工203所亮剑必胜党员突击队
- 美国真要告别加密货币?拉斯维加斯加密行业岗位竟消失了80%
- 翌飞锐特以数智化提升西部航空物流效率,助力绿色可持续发展
- 上海公司杭州联合党支部开展“知史爱党守初心,永葆先进担使命”七一主题教育活动