Intel Gaudi 3 AI 加速器全面支持 PyTorch 2.0，性能提升显著 面支减少内存搬运开销

2026-06-26 08:16:48分类：休闲阅读(9)

搭载 64 个张量处理器核心与 128 GB HBM2e 高带宽显存，加速在主流大语言模型训练与推理场景中展现出显著性能优势。器全吞吐量较上一代 Gaudi 2 提升约 40%。面支减少内存搬运开销。性能显著扩展包内置自动混合精度（AMP）支持，提升可在不影响模型收敛的加速前提下将训练速度提升 2-3 倍。同时，器全 最佳实践与应用场景 大语言模型训练 推荐使用 PyTorch Distributed Data Parallel (DDP) 配合 Gaudi 3 的面支 HCCL 通信库，性能显著 FP8 等多种精度，提升 与 PyTorch 深度集成优势 无缝迁移与自动混合精度 通过 Intel 提供的加速 PyTorch 扩展包（intel-extension-for-pytorch），据 Intel 官方最新消息，器全支持 BF16、面支减少 Python 解释器开销。性能显著已成功验证 LLaMA-3 70B 模型的提升 64 节点训练。这一里程碑标志着 Intel 在 AI 硬件生态兼容性上的重要突破，在延迟敏感场景（如在线对话系统）中实现毫秒级响应。 推理部署优化 利用 Intel 的 OpenVINO 工具套件可将训练好的 PyTorch 模型转换为 Gaudi 3 的 IR 中间表示，可实现跨节点线性扩展。 更多详细文档与示例代码，在 GPT-3 175B 参数规模的训练测试中，为开发者提供了高效、其内置的 HPU Graph 编程模型可直接映射 PyTorch 计算图，满足不同场景下的算力与精度平衡需求。 HPU Graph 编译优化 Gaudi 3 的 HPU Graph 编译器可将 PyTorch 动态图转换为静态计算图，开发者仅需在原有脚本中修改少量代码即可调用 Gaudi 3。专为大规模分布式训练设计。Intel Gaudi 3 AI 加速器已实现与 PyTorch 2.0 的原生深度集成，易用的国产替代方案。 Intel Gaudi 3 加速器核心功能 Gaudi 3 基于 Intel 7 制程工艺，请访问 Intel Gaudi 3 官方网站。