英特尔Gaudi 2D助力DeepSeek Janus Pro,AI应用性能大飞跃!

   发布时间:2025-02-01 10:26 作者:江紫萱

近日,AI领域迎来了一项重大进展,DeepSeek公司正式推出了其最新的Janus Pro模型,这一创新成果迅速吸引了业界的广泛关注。与此同时,英特尔也宣布其Gaudi 2D AI加速器已针对Janus Pro模型进行了深度优化,旨在推动AI应用的广泛落地与规模化发展。

DeepSeek的Janus模型以其独特的多模态理解与生成能力著称,此次发布的Janus Pro更是实现了技术上的重大突破。该模型摒弃了传统AIGC模型所依赖的多路径视觉编码方式,首次采用了统一的Transformer架构,从而实现了理解与生成任务的一体化支持。这一创新不仅提升了模型的灵活性,更为用户带来了更为流畅、高效的使用体验。为了满足不同场景下的需求,Janus Pro还提供了10亿参数和70亿参数两个版本,供用户根据实际需求进行选择。

在硬件支持方面,英特尔的Gaudi 2D AI加速器凭借其卓越的性能为Janus Pro模型提供了强有力的保障。其高达2.45TB/秒的高带宽和96GB HBM大容量内存,使得Janus Pro在处理生图批处理任务时能够展现出更为出色的吞吐性能。随着批量大小的增加,其任务处理时间得到了显著缩短,为用户带来了更为高效的工作流程。

英特尔还通过其Optimum-Habana框架对Gaudi 2D进行了进一步优化,使得Janus Pro在文生图任务中的吞吐性能和推理效率得到了显著提升。据测试,仅需约10秒的时间,Gaudi 2D便能生成16张高质量的图片。这一成果不仅展现了英特尔在AI硬件领域的深厚实力,更为开发者提供了更为便捷、高效的开发环境。开发者仅需对代码进行简单的调整,便能实现这一卓越的性能表现,大大降低了开发门槛和迁移成本。

DeepSeek的蒸馏模型也已在英特尔的至强和Gaudi平台上得到了支持。这一举措不仅进一步丰富了英特尔AI生态的多样性,更为用户提供了更为广泛的选择空间。随着AI技术的不断发展,我们有理由相信,未来将有更多创新性的AI应用不断涌现,为人们的生活和工作带来更多便利。

 
 
更多>同类内容
全站最新
热门内容
本栏最新