AI大模型是人工智能开发、应用的基础设施 ， 体现着一个国家的AI技术发展水平 。 12月8日 ， 鹏城实验室与百度举办新闻发布会 ， 联合发布全球首个知识增强千亿大模型——“鹏城-百度·文心”（模型版本号：ERNIE 3.0 Titan） ， 该模型参数规模达2600亿 ， 是目前全球最大的中文单体模型 。 “鹏城-百度·文心”在机器阅读理解、文本分类、语义相似度计算等60多项任务中取得最好效果 ， 并在30余项小样本和零样本任务上刷新基准 。
文章图片
中国工程院院士、鹏城实验室主任高文（左） ， 百度首席技术官、深度学习技术及应用国家工程实验室主任王海峰联合发布“鹏城-百度·文心”
中国工程院院士、鹏城实验室主任高文在发布会上表示 ， 大模型对于整个科学的发展、社会的发展、创新的发展都是非常重要的工具 。 运用这个工具 ， 可以让更多行业受益于人工智能的赋能 ， 这对人工智能的发展是一个福音 。
为解决“鹏城-百度·文心”大模型应用落地难题 ， 百度团队首创大模型在线蒸馏技术 ， 模型参数压缩率可达99.98% 。 压缩版模型仅保留0.02%参数规模就能与原有模型效果相当 ， 更有利于产业大规模应用 。 本着开源开放的理念 ， 该模型代码近期会在OpenI启智社区开源 ， 依托“鹏城云脑Ⅱ”对外开放 ， 助力科技创新 ， 推动产业发展 。
“鹏城-百度·文心”大模型的成功研发 ， 源于鹏城实验室与百度共同成立的“鹏城-百度自然语言处理联合实验室” 。“鹏城-百度·文心”大模型基于鹏城实验室的算力系统“鹏城云脑Ⅱ”和百度飞桨深度学习平台的支持 ， 解决了超大模型训练的多个公认技术难题 ， 实现了训练速度大幅提升、效果更优 。 “鹏城云脑Ⅱ”是自主研发的国内首个E级AI算力平台 ， 曾在多个国际性能测试比赛中夺冠；飞桨是我国首个自主研发的深度学习开源开放平台 ， 创建了端到端自适应分布式训练框架 ， 实现多硬件支持 ， 并行效率高达90% 。
文章图片
百度首席技术官、深度学习技术及应用国家工程实验室主任王海峰发布百度产业级知识增强大模型“文心”全景图
当日发布会上 ， 百度产业级知识增强大模型“文心”全景图也首次亮相 。 王海峰介绍 ， 最新的产业级知识增强大模型“文心”全景图 ， 既包含基础通用的大模型 ， 也包含面向重点领域、重点任务的大模型 ， 以及丰富的工具与平台 ， 有助于推动技术创新和产业发展 。
【人工智能|全球首个知识增强千亿大模型“鹏城-百度·文心”发布】
推荐阅读
- 测试|图森未来完成全球首次无人驾驶重卡在公开道路的全无人化测试
- ASUS|华硕预热ROG Flow Z13：称其是“全球最强悍的游戏平板”
- 人工智能|聚焦车载人工智能计算芯片研究 推进汽车产业高质量发展
- IT|全球汽车行业价值两年突增至3万亿美元 中国电动车企立大功
- IT|全球供应25亿剂疫苗 科兴上半年营收110亿美元
- IT|全球每日新增确诊病例首超100万例 世卫：两大毒株正掀起“疫情海啸”
- Tesla|特斯拉在美国召回约47.5万辆汽车 接近其去年全球交付总量
- 堆芯|全球首座，世界领跑！
- 集聚|向全球应用创新策源地持续迈进 上海“双千兆”应用体验中心正式揭牌
- 娱乐性|新华全媒＋｜探秘冬奥会“黑科技”：当冰壶遇上人工智能