训练|ASC22世界超算大赛开战 语言大模型和AI+Science尖端应用成赛题
【训练|ASC22世界超算大赛开战 语言大模型和AI+Science尖端应用成赛题】2022年1月5日,2022 ASC世界大学生超级计算机竞赛(ASC22)初赛正式开启 。 来自全球五大洲的300多支参赛队伍将在接下来的近两个月中,挑战“源”AI语言大模型、2020年戈登·贝尔奖获奖应用DeePMD-kit等尖端应用赛题 。
文章图片
报名参加ASC22的高校队伍中,不乏在上一个国际超算赛季表现突出的队伍,如ISC21和SC21冠军清华大学、ASC20-21现场决赛总冠军及ISC21季军暨南大学、ASC20-21线上决赛总冠军台湾清华大学、SC21 IndySCC超算竞赛冠军中山大学,以及SC21亚军上海科技大学、SC21最高计算性能奖得主南方科技大学、SC21 IndySCC季军瑞士苏黎世联邦理工学院等 。 此外还有中国科学技术大学、美国德州A&M大学、俄罗斯乌拉尔联邦大学、澳大利亚蒙纳什大学、哥伦比亚EAFIT大学等强队 。
在ASC22初赛中,所有大学生队伍需要完成两道极具挑战性的尖端应用赛题,分别是“源”AI语言大模型和AI+Science代表性软件DeePMD-kit 。
今年的AI赛题聚焦当前业界前沿AI大模型 。 “源”是2021年发布的一个面向中文的巨量语言模型,参数量达2457亿,刷新了业界多个中文榜单的记录,且在众多的语言处理任务场景中表现出了广阔的应用前景 。 AI大模型的训练面临着计算量和并行策略设计的双重挑战,因此也是参赛队展示超算性能优化能力的绝佳试验场 。 ASC22组委会提供了100GB的高质量中文数据集,要求参赛队基于这一数据集实现一个47亿参数的小号“源”模型 。 值得一提的是,组委会并没有提供模型设计的参考代码,这意味着参赛队需要自行完成模型结构构建和全部训练过程,并合理设计模型训练策略,以期得到最佳的计算性能 。
DeePMD-kit赛题将引导大学生进行一场人工智能+科学研究(AI+Science)的前沿探索 。 科学研究与人工智能结合被视为当前最值得期待的创新趋势之一,机器学习分子动力学DeePMD-kit的出现成功推动了相关领域的跨越式发展 。 而高性能计算的加入将机器学习分子动力学的潜力持续释放:DeePMD-kit在超级计算机顶点(Summit)上达到了双精度91P的峰值性能,到解时间快于之前基线水平1000倍以上,相关成果获得了2020年戈登·贝尔奖 。 可以说DeePMD-kit的出现定义了科学研究+机器学习+高性能计算的新范式 。 本次赛题聚焦DeePMD-kit的训练效率优化,通过高性能优化提升训练速度对于用户来说至关重要 。 参赛选手将对DeePMD-kit的模型构建过程有一个直观认识,并可以使用高性能优化的手段优化整个训练过程 。
ASC22世界大学生超算大赛的启动会将于1月19日在北京召开,届时权威专家学者、东道主高校、参赛队代表将共同开启ASC22序幕,会上将公布总决赛东道主等重磅信息 。
推荐阅读
- 平台|韩国科学技术研究院开发出世界首款 AI 运算专用 SSD
- 粉丝|在网络文化生活新风尚中看懂Z世代“精神世界”
- 施工|世界最大旋挖钻机正式下线
- 吕萨克|打开原子世界大门
- 路透社|以色列训练金鱼开车，每条鱼上10节“驾驶课”
- 大学|22岁天才少女获“编程界的奥林匹克”世界冠军 加入华为
- IT|世界卫生组织：Omicron可能在数周内感染半数欧洲人
- 人物|22岁天才少女获“编程界的奥林匹克”世界冠军 加入华为
- 重载|「以高质量论英雄」先进轨道交通装备产业链 引领大同制造走向世界
- 程序日|世界观：不能拿视频号与短视频平台比