文章图片
AI大模型是人工智能开发、应用的基础设施 , 体现着一个国家的AI技术发展水平 。
12月8日 , 鹏城实验室与百度举办新闻发布会 , 联合发布全球首个知识增强千亿大模型——“鹏城-百度·文心”(模型版本号:ERNIE 3.0 Titan) , 该模型参数规模达2600亿 , 是目前全球最大的中文单体模型 。 “鹏城-百度·文心”在机器阅读理解、文本分类、语义相似度计算等60多项任务中取得最好效果 , 并在30余项小样本和零样本任务上刷新基准 。
中国工程院院士、鹏城实验室主任高文在发布会上表示 , 大模型对于整个科学的发展、社会的发展、创新的发展都是非常重要的工具 。 运用这个工具 , 可以让更多行业受益于人工智能的赋能 , 这对人工智能的发展是一个福音 。
为解决“鹏城-百度·文心”大模型应用落地难题 , 百度团队首创大模型在线蒸馏技术 , 模型参数压缩率可达99.98% 。 压缩版模型仅保留0.02%参数规模就能与原有模型效果相当 , 更有利于产业大规模应用 。 本着开源开放的理念 , 该模型代码近期会在OpenI启智社区开源 , 依托“鹏城云脑Ⅱ”对外开放 , 助力科技创新 , 推动产业发展 。
“鹏城-百度·文心”大模型的成功研发 , 源于鹏城实验室与百度共同成立的“鹏城-百度自然语言处理联合实验室” 。“鹏城-百度·文心”大模型基于鹏城实验室的算力系统“鹏城云脑Ⅱ”和百度飞桨深度学习平台的支持 , 解决了超大模型训练的多个公认技术难题 , 实现了训练速度大幅提升、效果更优 。 “鹏城云脑Ⅱ”是自主研发的国内首个E级AI算力平台 , 曾在多个国际性能测试比赛中夺冠;飞桨是我国首个自主研发的深度学习开源开放平台 , 创建了端到端自适应分布式训练框架 , 实现多硬件支持 , 并行效率高达90% 。
当日发布会上 , 百度产业级知识增强大模型“文心”全景图也首次亮相 。 王海峰介绍 , 最新的产业级知识增强大模型“文心”全景图 , 既包含基础通用的大模型 , 也包含面向重点领域、重点任务的大模型 , 以及丰富的工具与平台 , 有助于推动技术创新和产业发展 。
文章图片
目前 , 百度“文心”通过百度飞桨平台陆续对外开源开放 , 并大规模应用于百度搜索、信息流、智能音箱等产品 , 并通过百度智能云赋能工业、能源、金融、通信、媒体、教育等众多行业 。
【人工智能|全球首个知识增强千亿大模型“鹏城-百度·文心”发布,更多行业可受益于AI赋能】
推荐阅读
- 测试|图森未来完成全球首次无人驾驶重卡在公开道路的全无人化测试
- ASUS|华硕预热ROG Flow Z13:称其是“全球最强悍的游戏平板”
- 人工智能|聚焦车载人工智能计算芯片研究 推进汽车产业高质量发展
- IT|全球汽车行业价值两年突增至3万亿美元 中国电动车企立大功
- IT|全球供应25亿剂疫苗 科兴上半年营收110亿美元
- IT|全球每日新增确诊病例首超100万例 世卫:两大毒株正掀起“疫情海啸”
- Tesla|特斯拉在美国召回约47.5万辆汽车 接近其去年全球交付总量
- 堆芯|全球首座,世界领跑!
- 集聚|向全球应用创新策源地持续迈进 上海“双千兆”应用体验中心正式揭牌
- 娱乐性|新华全媒+|探秘冬奥会“黑科技”:当冰壶遇上人工智能