墨芯人工智能:MLPerf夺冠,稀疏计算引领大模型应用时代

墨芯人工智能再度在MLPerf推理测试中获得巨大胜利,一举夺得GPT-J大模型推理三项冠军。这次胜利不仅仅是巩固了其在AI芯片领域的地位,还为稀疏计算技术在大模型时代的应用铺平了道路。

墨芯人工智能:MLPerf夺冠,稀疏计算引领大模型应用时代

墨芯人工智能的S30计算卡在单卡、4卡和8卡的GPT-J大模型推理性能上表现出色,再次登上MLPerf的巅峰。此前,他们已经连续两次在MLPerf上夺冠,表现稳定强大。

在60亿参数的GPT-J模型上,墨芯通过独创的双稀疏算法与硬件协同设计,实现了惊人的性能优势,高达1.8倍于4nm制程的英伟达H100。这一壮丽的表现再次证明了稀疏计算技术在大模型时代的重要性。

稀疏计算技术的崭露头角意味着大模型应用将迎来一次深刻的变革。它有望减少模型计算量,解决了计算资源需求急剧增加和能耗问题,为大模型的发展提供了新的可能性。墨芯已经发布了支持多种大模型的AI计算平台,其高性能和高效率令人印象深刻。

业界一致认为,墨芯等稀疏计算技术的创新将引领大模型应用的发展,将其深入各行各业。MLPerf的成绩不仅仅是对墨芯产品实力的肯定,更是对稀疏计算在大模型计算中具有革命性影响的明证。墨芯人工智能的胜利,标志着大模型应用的未来充满希望,稀疏计算将在其中发挥关键作用。

本文来自用户或匿名投稿,不代表大众智能立场;本文所有内容(包括图片、视频等)版权均为原作者所有。涉及的相关问题请查阅本站免责声明,如侵权请及时与本站运营方取得联系(联系我们)我们将按声明中的处理方式进行处理。本文链接:https://dzzn.com/2023/1255.html

(0)
上一篇 2023年9月17日 下午2:56
下一篇 2023年9月18日 上午9:58

相关推荐

发表回复

登录后才能评论