日期:2023-04-14 15:22:39 来源:上海证券报·中国证券网
(资料图片仅供参考)
中国证券网讯(记者温婷)4月14日,腾讯云发布面向大模型训练的新一代HCC(High-Performance Computing Cluster)高性能计算集群。该集群采用最新一代腾讯云星星海自研服务器,搭载了NVIDIA H800 Tensor Core GPU,并提供业界目前最高的3.2T超高互联带宽。以新一代HCC为标志,腾讯将基于自研服务器等方式,软硬一体,打造面向AIGC的高性能智算网络。
人工智能大模型训练离不开高性能的算力集群,算力集群的“强”,由单机算力、网络、存储共同决定。而随着算力需求的增长,用于采购硬件的资金投入也呈指数级增长,给不少企业带来了巨大的现金流压力。腾讯云新一代计算集群通过对单机算力、网络架构和存储性能进行协同优化,能够为大模型训练提供高性能、高带宽、低延迟的智算能力支撑。
据悉,HCC高性能计算集群主要面向大规模AI训练,包括自动驾驶训练、自然语言处理、AIGC大模型训练等;以专用集群方式售卖,腾讯云将裸金属云服务器作为节点,满配最新代次的GPU,并结合CFS Turbo高性能存储、节点之间通过RDMA网络互联,给大模型训练业务提供高性能、高带宽和低延迟的一体化高性能计算。
值得注意的是,算力的提升不是单纯堆卡,而是存在“木桶效应”,计算、存储、网络一旦出现瓶颈就会导致运算速度严重下降。
此前,腾讯多款自研芯片已经量产,用于AI推理的紫霄芯片、用于视频转码的沧海芯片已在腾讯内部交付使用。
去年10月,腾讯完成首个万亿参数的AI大模型——混元NLP大模型训练。在同等数据集下,将训练时间由50天缩短到11天。如果基于新一代集群,训练时间将进一步缩短至4天。
目前,腾讯混元AI大模型主要覆盖NLP(自然语言处理)、CV(计算机视觉)、多模态等基础模型和众多行业模型。
(文章来源:上海证券报·中国证券网)
标签:
上一篇: “体验感非常好、很舒适!”琶洲港澳客运码头试航首日,获旅客点赞 即时
下一篇: 最后一页
“软硬一体”打造大模型 腾讯发布新一代高性能算力集群HCC 环球播资讯
“体验感非常好、很舒适!”琶洲港澳客运码头试航首日,获旅客点赞 即时
大家一起来灭蚊!监测数据显示上海今年蚊虫密度将略高于往年同期_每日速递
全球快播:【furry向】《兽星战纪》壹,初至京畿(重置版)
【全球播资讯】3月贵州省生产煤矿公示
山西文化旅游推介会在吉隆坡举行 世界热点
协鑫集成、正泰新能、通威等14家企业中标国家电投山东院2023年400MW光伏组件框架采购项目-全球焦点
世行行长:中国经济反弹为全球增长注入有益增量
全球热消息:一季度外贸“开门稳” 竞争新优势积聚
苏州永鼎医院十一门诊安排 苏州永鼎医院预约挂号
江苏中考满分作文:有那样一抹色彩_中考满分作文600字 中考_全球看热讯
武切维奇:我努力打出侵略性,队友们找到了我-天天信息
余罪小说全集txt下载_余罪小说全集
19家广州企事业单位组团赴澳门“揽才”
维尼修斯边路突破,本泽马弧顶分球,魔笛兜射稍稍高出横梁-环球今头条
全球百事通!新加坡将重新检讨电动汽车激励措施,鼓励更多人改用电动车
看热讯:苏州代表团首夺省智运会国际象棋金牌
世界热议:恒地合作盘天泷最快4月底发出销售安排
聚焦:如何设置目录页码_如何设置目录自动生成
陕西安康高新区:年底前购新房契税补贴50% 鼓励企业团购安居
3人花20万开汉堡店:上热搜当天只卖出1个|播报
快资讯丨今天最新消息 7万余名观众走进服贸会“公园礼物”展区 祈年殿冰淇凌等受欢迎
热门看点:2023年中国建设用地计划总量达650万亩 较去年增加50万亩
江苏射阳:推动海上风电项目纳入海图管理
换帅蜜月期已过?穆勒:这得去问萨利,这话题就是惹争端的炸药桶