• |
  • |
  • |
  • |
  • |
  • |
  • 点击搜索

上海电信推出首个商用级ai公共算力服务平台-j9国际站登录

2024-01-30 17:37     中国经济导报-中国发展网

1月22日,上海电信联合徐汇区政府共同举办“算力惠模都 万兆连速城”人工智能公共算力服务产品发布会的展区。

1月22日,上海电信联合徐汇区政府共同举办“算力惠模都 万兆连速城”人工智能公共算力服务产品发布会的展区。

中国经济导报、中国发展网讯 记者缪晓琴上海报道 1月22日,中国电信上海公司(以下简称上海电信)联合徐汇区政府共同举办“算力惠模都 万兆连速城”。 当日,上海电信推出15000卡的全国规模最大运营商级智算中心,同时发布一系列人工智能公共算力服务产品。

上海电信总经理龚勃

上海电信总经理龚勃。

“我们将以公共普惠、创新领先的算力供给,算、存、运一体的综合算力服务模式,全面赋能上海市人工智能产业生态。”上海电信总经理龚勃在发布会上表示。

从试用到商用,始终“领先一步”

2022年,上海电信在全球率先启动“全城上云”,打造云网边端安一体化的新一代综合性智能化信息基础设施——“智云上海”,以新网络重塑城市智算底座,并在全国电信运营商中第一个提出向社会提供公共算力产品试用服务,推动算力服务公共化。随着大模型进一步改变了算力供需关系,加上技术演进、市场酝酿以及产品的迭代升级,时隔一年半,基于中国电信的“天翼云自研cloudos4.0底座”,上海电信再次推出人工智能公共算力服务平台,以及一系列商用级“人工智能公共算力服务产品”。

所谓算力产品,就是为人工智能提供智算基础服务和产品。此次上海电信共发布了“4 1 1 1”七个产品,包括四个智算产品、一个弹性算网、一个算网调度系统和一个政务大模型,相较一年半前,产品形态变得丰富许多,面向各类企业,覆盖算力供给、算力输送、算力调度、训练推理等各类需求,高性能计算、大模型训练推理、ai for science、各类算力租赁、图形渲染、潮汐式突发性算力需求等场景,也都在“射程”范围之内。

可量身定制,亦可按需购买

“可见即可用,可用即可得。”据上海电信资深经理张慷现场介绍,此次推出的算力产品均已是成熟的商用产品,包括标准化套餐和定制化开发两种,客户既可以在线自行下单,亦可以线下咨询后按需订购,并面向全市各类人工智能生态企业开售。

对于大型企业和高校、科研院所等ai for science客户,上海电信提供定制化的专用算力集群服务,支持自主研发大模型,适用于训练、推理各类场景。

此次上海电信在临港点亮的全国最大规模运营商级aidc,可以为上海乃至长三角的大模型企业提供丰富的算力资源,尤其是国内首个单池万卡规模的国产液冷算力集群,将有效解决目前算力“卡脖子”难题。

据张慷介绍,一家国内人工智能企业已经将其大模型迁移至临港的国产资源池内,算内采用roce网络,算间跨省点对点专线,并配套高性能文件存储,整个迁移过程用了一周,运行效率可比肩原算力方案。

此外,面对大模型企业临时性的训练扩容需求,上海电信还推出了智能算力车方案,每辆算力车可搭载8台异构ai算力服务器底座,提供高达64卡约20pflops的ai算力,支持百亿参数级别的大模型训练和微调。目前已经在雄安新区等地区为客户完成了定制训练。

针对那些提供垂直大模型或行业大模型的企业,上海电信推出了云主机智算产品,实现了算力的卡级租赁。这些企业往往不需要从零开始训练模型,只需云端租赁相应算力,即可满足需求,不仅节约了成本,还提高了计算效率。

对于小型科创企业和有算力需求的学校等机构而言,“批量计算”容器级智算产品是一个理想的选择。这款产品预置了各类人工智能计算作业的开发环境,企业可跳过烦琐的环境配置调优,直接上传计算作业任务并进行调优,即使使用者没有很高的ai和大模型技术储备,也可以完成训练任务,从而让ai变得触手可及。

通过上海电信的人工智能公共算力服务平台,用户无需关心自己使用了多少张算力卡或是这些算力卡位于哪个资源池,只需提交训练任务,平台便会智能调度任务并充分利用本地、外地资源池的闲置算力卡,不仅提高了算力的利用效率,还使得算力成本下降了约30%,让算力、算法真正成为普惠性生产工具,让人工智能发挥赋能城市和千行百业的“乘数效应”。

据了解,徐汇区重点打造的全国首个大模型专业孵化和加速载体“模速空间”,成为上海电信人工智能公共算力服务产品落地的首批园区之一。

“我们接触过很多算力服务商,但能够提供一站式服务的供应商非常少,上海电信在这方面有整体优势。”开放传神联合创始人张家庆告诉记者,2023年9月,开放传神入驻“模速空间”,并陆续将服务从国外云商迁移至上海电信的算力服务,“在不改变原先计算负载的情况下,整体成本降低了60%”。

保持产业优势,加速“全城ai”

大模型是ai时代的里程碑式技术。此轮人工智能浪潮之所以掀起巨浪,在于大模型呈现出的“智能涌现”,将给人类历史带来颠覆性的影响,全球都在用ai重塑内核,抢占人工智能产业和算力高地。

“上海拥有全国最好最丰富的人工智能应用场景,”发布会上,上海市人工智能行业协会副秘书长沈涛指出,上海的人工智能产业在全国具有明显领先优势。  

截至2023年底,上海人工智能企业已超过3000家,2023年上半年全市人工智能规上产业规模1800亿元,年均增长超30%。当前,上海人工智能已形成从基础算法、核心芯片、智能软硬件产品到行业应用的全栈产业链,超过60家研发主体发布了70余款大模型和相关产品。

“大模型彻底改变了人机交互的模式,随着大模型能力的进一步提升,未来,或许人人都是程序员,人人都可以用ai实现自己的创意。”张家庆认为,只有充分降低企业和普通人应用ai的门槛,才会打造出一个拥有创造力激情的ai城市,一个普惠、大众的算力公共服务平台必不可少。

据了解,自2022年启建“全城上云”的“智云上海”之后,上海电信正逐步利用“算力 网络 平台 服务”的综合优势,联合产业生态j9九游会官网的合作伙伴,助力打造“全城ai”的“智能上海”。

“希望上海电信依托丰富的应用场景和客户优势,搭建各类合作平台,与芯片、算力、网络、大模型、公共服务等上下游各类企业共同挖掘机会,形成长期稳定共赢的产业链。”上海市经信委副主任张宏韬表示。

【责编:倪珺】
  • 微笑
  • 流汗
  • 难过
  • 羡慕
  • 愤怒
  • 流泪
相关文章
网站地图