常见问题

燧原科技发布全新一代“邃思”云端AI推理芯片,拥有高吞吐、低延时等性能

博猫2平台报道,今天,燧原科技发布了第二代云AI推理加速卡“云陵i20”。据介绍,这是继今年7月发布的云AI训练加速卡“云T20”后,在仅仅五个月时间内,该公司还推出了一款全新的基于云计算训练加速卡的产品。

据悉,作为全新一代云上AI加速推理的产品,云云i20拥有业界最大的AI加速卡存储带宽,可达819GB/s;同时支持从FP32.TF32.FP16.BF16到INT8的计算精度。单精确度FP32的峰值算力达到32TFLOPS,单精度张量TF32峰值算力达到128TFLOPS,整型INT8峰值算力达到256TFLOPS。将火山岩i20的第一代推理机进行了比较,计算能力提高到1.8倍,计算能力提高到3.6倍。

更新的“乘数TopsRider”软件栈,在性能.开发效率和模型覆盖范围方面有了很大的提高。采用通用高层图优化和大规模算子融合技术,充分释放大容量的片内存储器和高带宽存储器的利用率,使模型平均性能提高3.5倍;计算能力的平均利用提高了2倍;通过升级的编程模型和算子自动分割.自动生成技术,使自定义算子开发效率翻倍;模式移植的成本大大降低;此外,乘数增强了对动态特性的支持,使得云纹i20在探测、语音识别、语义理解等方面具有更强的竞争力。

从经济性和部署灵活性两方面考虑,基于虚拟化和多实例加速技术,云i20可以实现一卡多用户,同时支持6个业务不受干扰.安全隔离运行。使更多云推理应用同时享受专有算力加速,使客户业务体系结构轻耦合.以灵活可靠的方式实现,显著提高资源利用率和投入产出比。

其i20的发布标志着燧原科技在云上AI加速算力的领域,从训练到推理的完整产品线已经全面迭代到了第二代,能为传统行业,如互联网、智慧城市、政府管理、金融、交通、能源等传统行业提供更优的AI计算方案。打火原科技CEO赵立东表示,“目前,我国芯片行业正处在激烈的成长和蜕变时代,燧原科技以‘做大芯片,做硬科技’为时代使命,基于原始创新的软硬件体系结构。我们的一个主要成就就是,在这个行业中性能超越GPU的i20。

值得一提的是,该系统i20创新性地采用了高带宽HBM2E存储器,实现了高达819GB/s的超大带宽,可为各种类型的云推理服务提供高速吞吐.低延时的性能,保证其准确.平稳.高效运行。

同时,以12nm工艺制造的第二代“Kith”AI推理芯片,以12nm工艺制造,通过结构升级,极大地提高了单位面积晶体管效率,从而实现了与目前行业内7nmGPU相匹敌的计算能力。以12nm成熟工艺所带来的成本优势为基础,使其在同等性能表现下具有性价比优势,且供应链体系更为稳定成熟。

火原科技COO张亚林指出:“云火火i20全面提升算力,在兼顾全精度算力的同时大幅提高整型运算,大力加强模型覆盖率和泛化支持的能力,其模型性能、能效比在多个基准测试中均处于国内领先水平,能满足云上推理业务的高度多样化需求。目前,燧原科技已拥有第二代培训和推理产品,为客户的商业场景提供原汁原味的创新解决方案.具有高性能和性价比的'培训+推理'完整解决方案,并且支持国产服务器和操作系统,可以帮助客户在云上进行系统部署,全面、持续地为客户创造价值。

当前,以国产AI算力产品为核心,商业生态和科研生态为支撑,燧原科技的云AI推理产品在互联网.金融.政务等多家客户实现了商业落地。

相关文章

脸书允许发布仇俄言论,俄检方称须将其列为极端组织

脸书允许发布仇俄言论,俄检方称须将其列为极端组织

2022-03-12

据博猫2平台报道,Meta公司10日表示,暂时允许俄罗斯、乌克兰和其他国家的用户发表仇恨言论,如杀死普京。...

华为、北汽新能源合作车型“华为版”4月发布 11月上市

华为、北汽新能源合作车型“华为版”4月发布 11月上市

2021-02-03

据博猫2平台报道,和北汽新能源合作开发的华为版车型将在今年4月上市,11月上市。另外,北汽新能源的IMC架...

常见问题