火山引擎发布自研DPU等系列云产品

火山引擎发布自研DPU等系列云产品

4月18日,火山引擎在火山引擎举办的“原动力大会”上发布了自研DPU等一系列云产品,并推出新版本机器学习平台:支持万卡级大模型训练、微秒级延迟网络、弹性计算可节省70%算力成本。 基于自研DPU的GPU实例相比上一代集群性能提升高达三倍。

火山引擎总裁谭代透露,“国内大模型领域数十家企业中,70%以上已经上火山引擎云”。

为什么大型模型公司选择火山引擎? 我们来看看本次发布会都发布了哪些信息。

敏捷迭代的三个关键

在数字世界中,快速发展、快速迭代是不变的关键。 企业要做到这一点,就必须坚定上云,用好分布式云,在云上创新。 这是三个关键步骤。

火山游戏引擎_火山引擎介绍_火山引擎解决方案

谭岱,火山引擎总裁

火山引擎总裁谭代表示,要坚定企业上云的决心,必须保证云的灵活性和性价比。 对此,火山引擎具有三大优势:

1、资源复用,复用字节跳动超亿核CPU资源池和数十个EB企业级存储,实现更极致的灵活性和性价比;

2、全面云原生化,实现基于云原生的超大规模存储池化,帮助客户进一步充分利用云的弹性,提高资源利用率;

3、坚持全栈自研,为上层应用带来更高的资源利用率。

为了帮助企业坚定上云,火山引擎打造了全栈自研的核心部件之一火山引擎DPU,采用从硬件到软件的全栈自主研发理念,并实现了基于DPU的新一代RDMA网络,以及软硬件集成的Hypervisor层,提供高达5000万pps转发能力的网络性能和低至20μs的延迟。

基于火山引擎DPU的各种计算实例的性能也得到了显着提升。 适合大模型分布式并行训练场景的GPU实例相比上一代实例集群性能提升3倍以上; 新一代CPU实例对于小型实例来说具有最高的性能。 增幅达6倍以上; 同时,火山引擎新发布的SPOT实例相比按量付费实例可节省高达80%的价格,可有效降低企业云服务器的使用成本。

火山引擎介绍_火山引擎解决方案_火山游戏引擎

马健 景泰科技联合创始人兼CEO

云计算带来的敏捷性和弹性正在快速改变各行业的迭代速度。 景泰科技致力于通过人工智能和机器人技术,实现生物医药、生命科学和新材料行业的数字化、智能化创新。 景泰科技联合创始人兼CEO马健表示,火山引擎与景泰科技强强联手,从“算力”和“算法”两个维度进行优化,针对不同特点的业务形成差异化策略,共同应对与AI药物研发的不同方面。 不同阶段的差异化需求。

如何帮助企业用好分布式云? 当前,云计算发展蓬勃,但中心侧多个公有云、混合云、本地服务器共存的异构基础设施体系将长期存在,边缘侧连接和计算将无处不在边。

为了应对多云、混合云、边缘云场景下分布式云原生管理的挑战,火山引擎发布了分布式云原生平台,提供多云集群的统一管理和运维,跨集群应用分发,统一流量控制。 用户创造无处不在的云原生一致体验; 发布多云CDN管理平台,帮助客户用好CDN,提高CDN管理效率,降低支出成本; 发布轻量级全栈多云安全平台,提供基于SaaS的多云安全管理服务,解决多云环境下的网络防护、合规性、数据泄露等客户痛点场景; 混合云veStack发布,高性能、敏捷,采用与Volcano Engine公有云完全同源的架构,实现资源灵活调度。

近期,多模态大模型的兴起、人工智能在不同垂直行业的推广、垂直领域的模式创新,都在驱动企业在云端进行智能创新。 谭代表示,火山引擎全力支持大型模型的开发,不会让任何创新因算力不足而消亡。 服务好多云多模式时代的模式企业和应用企业,是火山引擎的核心使命。

因此,火山引擎发布智能推荐-高速训练引擎,将模型的训练和推理效率优化到极致,帮助企业降本增效,提高模型的实时性能,保证服务稳定性; 升级机器学习平台,正式发布实验管理-模型效果对比和弹性实例,全面支持大型模型和超大规模并行,让机器学习更稳定、更快速。

会上,三位嘉宾分别分享了多云多模型时代大模型训练与应用的经验。

火山引擎介绍_火山游戏引擎_火山引擎解决方案

MiniMax联合创始人杨斌

MiniMax是国内少数推出自主研发大模型产品的人工智能科技公司之一。 它具有三种通用的大型模型引擎功能:文本、视觉和声音。 据MiniMax联合创始人杨斌介绍,MiniMax与火山引擎合作建立了超大规模的实验平台,实现千卡级归一化训练; 超大规模推理平台拥有万ka级算力池,支持单日超过1亿次调用​​。 在火山引擎云上,MiniMax大模型业务实现快速突破。

火山引擎解决方案_火山引擎介绍_火山游戏引擎

杨振元 字节跳动副总裁

“数字时代,机器学习可以围绕目标智能高效地解决问题,数字化的下一步就是智能化。我们在机器学习方面的技术积累和经验将通过火山引擎提供给外部客户,帮助更多企业做到最好。 聪明的”。

字节跳动副总裁杨振元表示,业务创新需要试错,试错必须大胆、敏捷,但试错也必须控制成本。 通过潮汐、混合部署等方式,火山发动机实现了较高的资源利用率和极低的成本。

火山游戏引擎_火山引擎介绍_火山引擎解决方案

顾伟豪,好墨智行CEO

昊墨智行与霍山引擎共同打造中国自动驾驶行业最大的智能计算中心MANA OASIS雪湖·绿洲。 好墨智行于4月发布了业界首款自动驾驶生成大型模型DriveGPT雪狐·海若。 由MANA OASIS雪湖·海若开发。 Lake·Oasis提供算力支持。 据好墨智行CEO顾伟豪介绍,DriveGPT雪湖绿洲基于量产车4000万公里行驶数据进行训练,参数规模达1200亿。 它可以不断优化自动驾驶认知决策模型,最终实现端到端的自动驾驶。 霍山引擎携手飞墨智行,共同冲刺自动驾驶3.0时代。

数据驱动的价值观和系统

权威报告显示,到2025年,全球数据总量将达到175ZB。但在海量数据中,只有实时数据和可用数据才是有价值的数据。 因此,火山引擎官方提出了数据飞轮系统。

谭代表示游戏素材下载 免费,数据飞轮建设要以数据消费为核心,通过数据消费驱动业务应用,建立数据应用闭环; 以数据消费带动数据建设,有针对性地建立数据平台。 火山引擎围绕数据飞轮提供了一系列产品解决方案,并在会上发布了三款产品。

数据平台层,Volcano Engine升级云原生Lake Warehouse产品LAS,提供Serverless全托管大数据分析服务,深度优化性能,并提供行列权限、动态数据脱敏、数据透明等安全能力加密; 实时计算层,发布Serverless版本Flink计算服务,实现离线业务共置,满足流批融合等多种计算模式; 在数据应用层面,发布Management Cockpit Plus,构建0代码管理驾驶舱系统。 管理者可以实时观察战略目标的达成情况并向下传递决策行动,多端覆盖,让您随时随地洞察数据,辅助决策。

火山引擎解决方案_火山引擎介绍_火山游戏引擎

蔡新发 平安银行行长特别助理

金融行业历来重视数据价值的深度挖掘。 去年以来,平安银行提出打造“智慧银行3.0”,并持续推进转型。 平安银行行长特别助理蔡新发表示,平安银行与火山引擎在数据、算法、运营等多个领域进行了深度合作,实现了智能3.0体系的落地。 通过火山引擎成长咨询服务,搭建了基于北极星指标的数据指标体系; 通过数据治理方面的沟通与合作,明确了数据基础设施的工作方向; 通过火山引擎个性化推荐平台和A/B测试平台,我们实现了“人、货、地”的精准匹配,实现数据驱动决策,推动策略不断迭代。

两种场景体验创新

随着5G技术的不断推广,视频体验的渗透率进一步加深,已经成为企业优化用户体验不可或缺的组成部分。 优化视频体验的关键方向有三个:更高清、更互动、更沉浸。 去年最大的视频盛宴是世界杯。 在抖音世界杯直播中,火山引擎累计支持直播观看量达106亿,最终直播观看人数高达2.3亿。

在更高清晰度方面游戏素材,火山引擎通过自主研发的BVC编码器和智能编码方式,大幅提升了直播质量;

交互方面,火山引擎开发了通过RTC观看、聊天的交互模式,并通过SFU+MCU一体化方案,兼顾了用户规模和交互体验;

在更具沉浸感方面火山游戏引擎,火山引擎支持PICO的VR直播,基于全现实超清显示技术,观看清晰度提升50%。

发布会上,火山引擎带来了6款新品以及音视频方向的相关升级。 火山引擎云游戏产品提供云游戏渲染、试玩、互动一站式服务; 创意互动Vlog提供全新高精度拍摄和自动拍片技术,并支持一键分发到抖音; 升级版AR互动营销解决方案优化AR试戴和AR互动能力,连接抖音广告和电商,帮助企业更好地开展整合营销; WTN(WebRTC传输网络)帮助客户实现高清、实时的在线交互体验; 升级数字人产品增加了对十余种“外语”、十余种方言的支持。 5-10分钟的视频可以生成接近真人的数字化身; 音视频一体化云解决方案veVOS在功能和体验上全面升级。 级别以完成在线申请。

除了视频场景之外,工作场景中的员工体验也非常重要。 目前,混合办公已成为企业办公新常态,字节跳动拥有大规模混合办公的实践经验。 面对混合办公场景,火山引擎推出全面升级的飞联产品,为企业提供一站式IT管理和办公安全平台,包括身份、网络、终端一站式管理,让员工安全出入办公任何时间火山游戏引擎,任何地点。 网络。 云、网、端一体化,帮助企业构建安全、无缝的统一办公网络,融合全套办公安全能力,解决混合办公潜在的安全风险。

共建增长新生态

增长三要素源于字节跳动的技术积累,并通过火山引擎向外部企业开放,帮助更多企业实现增长,共同构建新的增长生态。

火山引擎介绍_火山引擎解决方案_火山游戏引擎

赵文杰 火山引擎生态副总裁

此前,火山引擎针对SaaS合作伙伴推出了湾湾计划,通过“SaaS+云”的方式帮助客户拓展业务、提高效率。 火山引擎生态副总裁赵文杰表示,电商产业链上的商家、服务商、上下游企业对数字化工具有着巨大的需求。 为此,火山引擎发布了业务增长的一站式数字化解决方案——业务云。 从客户场景需求出发,采用火山引擎自有产品和生态精选的SaaS产品深度共创解决方案。 火山引擎提供统一的基础云服务。 。 商业云将围绕“增长”和“提升效率”两点,利用数字化解决方案帮助商家和品牌公司解决业务运营中的问题。

火山引擎解决方案_火山游戏引擎_火山引擎介绍

穆青 抖音电商副总裁

近年来,抖音电商快速发展,背后有火山引擎的支持。 抖音电商副总裁穆青表示,抖音电商是“为人找货”和“人为找货”的双链路电商场景。 “替人找货”的能力主要是基于火山引擎的大数据和算法能力。 随着抖音电商业务的增长,火山引擎也为抖音电商提供大规模并发业务支撑; 在“人找货”场景下,抖音电商成为业务云落地的最佳载体之一,基于火山引擎自有产品,双方合作通过短视频完成深度兴趣种植,实现通过直播大规模爆款,完成用户营销全环节。

火山引擎介绍_火山引擎解决方案_火山游戏引擎

李涛 北京字节跳动公益基金会副理事长兼秘书长

科技不仅能让商业变得更加高效,还能创造更多的社会价值。 北京字节跳动公益基金会副理事长兼秘书长李涛表示,火山引擎自成立以来,将“连接善意,共创美好”的公益理念在对外合作和服务中扎根和延伸。 火山引擎通用计划与字节慈善对接,与电子发票领域的企业共创。 正式推出公益版电子发票服务和公有云服务,为符合条件的公益组织提供三年免费服务,助力公益事业。 组织可以以更低的成本实现自动化开票,提高开票效率,实现公益组织捐赠的数字化管理和追溯管理,帮助公益组织提高数字化水平,同时为捐赠者提供更好的捐赠体验。

当城市回归交通繁华,当新技术带来的效率创新即将来临,如何成长成为企业关注的焦点。 敏捷迭代、数据驱动、体验创新,火山引擎愿意用这些能力帮助越来越多的企业释放数字化力量,回归增长主航道。

文章来源:https://roll.sohu.com/a/668091740_153054