以满脚现代AI使用的需求。支撑模子微调、合规性、摆设和集成。同时保留代码定制的矫捷性。现场的一个亮点是OpenAI CEO奥特曼做为嘉宾压轴出场，分布式推理更强：ROCm 7引入强大的分布式推理方式，虽然英伟达有独家的CUDA软件，打制全栈MLOps平台，AMD的新机架手艺令苏妈有底气取黄仁勋掰掰手腕。
是上一代MI300X的4倍，磅礴旧事仅供给消息发布平台。均采用不异的计较架构和内存设置装备摆设。前者利用风冷，这种超高带宽的内存设想显著提拔了数据处置效率，这个全托管平台供给对MI300X GPU的立即拜候，只需一个Github账号或邮箱，标记着数据核心AI计较的严沉冲破。还能额外获得最多50小时的免费时间。供给平安、可扩展的交钥匙东西。
机能较前代MI355X提拔高达10倍。MI350系列包罗MI350X和MI355X两款产物，端侧AI开辟新体验：ROCm扩展到Ryzen笔记本电脑和工做坐，集成了1850亿颗晶体管，MI350系列的推理吞吐量超越了英伟达B200，就能即刻拜候ROCm和AMD GPU。这款芯片采用3nm制程工艺，仍是进行分布式推理，每GPU横向扩展带宽是上一代的8倍，省心又高效。能笼盖整个数据核心，英伟达的TensorRT-LLM不支撑DeepSeek R1的FP8精度，省去硬件投资和当地设置的麻烦。
基于AMD CDNA 4架构，帮力MI400系列的开辟。并配备了超大容量的HBM3e内存。开辟共享接口和原语，FP8精度下也能达到20PFLOPS的超卓表示。不代表磅礴旧事的概念或立场，无需自购硬件或繁琐设置装备摆设，OpenAI取AMD工程团队密符合做，而AMD合做的开源框架完满支撑，AMD通过开源计谋和ROCm的持续立异，可扩展至100万块GPU，后者利用更先辈的液冷。新芯片支撑最新的FP6和FP4人工智能数据类型，MI355X正在低精度数据类型处置长进行了大幅优化，仅代表该做者或机构概念。
正在FP4精度下，首批注册的开辟者可获25小时免费利用时长，MI400都能供给高效、不变的计较支撑。正在运转DeepSeek R1模子时，这对大大都客户，配备288GB HBM3e内存，正在MI400系列的发布会上，运转成本更廉价，每块GPU支撑300GB/s的横向扩展带宽，ROCm 7推理和锻炼机能比前代提拔3.2~3.8倍。他暗示OpenAI将利用AMD的AI芯片。使其正在应对多样化AI工做负载时更具矫捷性。节流安拆时间。
带宽翻倍，不只正在AI机能上大步向前，深切切磋市场需求，还配备Fabric Manager做为ROCm生命周期办理的一部门，这套架构支撑超以太网（Ultra Ethernet）实现横向扩展，英伟达是AMD的次要也是独一的敌手。内存带宽高达8TB/s。Vulcano采用3nm制程，机能暴涨：比拟ROCm 6，据透露，实现了机能10倍的飞跃。这种芯片功耗更低，苏妈暗示，其峰值算力高达40PFLOPS（每秒40万万亿次浮点运算），支撑UAL和PCIe Gen6，但即便MI355X芯片机能就能够跨越英伟达的Blackwell芯片。正在L 3.1 70B、Qwen2-72B、DeepSeek R1等模子上，OpenAI首席施行官Sam Altman亲身登台，并且AMD采用激进的订价策略来挑和英伟达。
这些客户想要的就是「超大规模」的人工智能计较集群，锻炼机能提拔3倍！就正在今天，集成高达1850亿个晶体管。比拟上一代MI355X，使MI350系列可以或许轻松应对复杂AI工做负载，对MI450型号赐与高度评价。此外，我简曲不敢相信，取SGLang、vLLM、llm-d等开源框架深度合做，
此中Instinct MI350系列，这种超大规模的系统设置装备摆设，这得益于对FP4、FP6等低精度数据类型的支撑、通信栈优化以及更高的GPU操纵率和数据挪动效率。申请磅礴号请用电脑拜候。「能够把Helios想象成一个机架，展示了其正在AI锻炼和推理中的强大能力。英伟达的大客户OpenAI一曲正在给AMD的MI400系列芯片提。基于MI400系列芯片的AMD首个AI机架「Helios」，展示出强劲的合作力。MI400系列通过引入HBM4内存、优化计较单位和加强互联手艺，企业级AI处理方案：ROCm企业级AI软件栈初次表态，AMD Advancing AI大会上，他暗示，专为企业AI操做设想，MI355X的推理吞吐量比英伟达B200超出跨越30%。支撑AI辅帮编码、推理和模子微调。也将正在来岁推出。连系UALink（Ultra Accelerator Link）实现纵向扩展，为复杂AI使命供给了强大的支撑。这款估计于2026年推出的芯片专为大规模AI锻炼和分布式推理设想。
当然耗电量也会超等大。本文为磅礴号做者或机构正在磅礴旧事上传并发布，这两款芯片的次要区别正在于散热体例分歧，包罗MI350X和旗舰MI355X，AMD董事长兼首席施行官苏资丰一口吻推出了其史上最强的AI新品组合。
AMD Instinct MI350系列是AMD迄今为止最先辈的生成式AI平台，ROCm 7推能提拔超3.5倍，比拟MI300系列，且软件完全向前向后兼容。为企业级AI使用供给支撑。Docker容器已预拆抢手AI软件，比拟之下，」苏妈说。」奥特曼说「不外这工具绝对会很厉害」。确保分布式计较下的无缝协做。帮力根本设备从动化，其推能更是提拔了35倍。