NVIDIA Blackwell GPU系列产品无疑是AI市场上的头号宠儿,甚至未来半年的产能都卖光了(RTX 50系列发布如此之晚都是为了它),NVIDIA对于产业链的供应也十分饥渴,比如台积电CoWoS封装,比如HBM内存芯片。SK海力...
芯片初创公司Etched近日宣布推出了一款针对 Transformer架构专用的AISC芯片 “Sohu”,并声称其在AI大语言模型(LLM)推理性能方面击败了NVIDIA最新的B200 GPU,AI性能达到了H100的20倍。这也意味着S...
我们知道,NVIDIA下一代游戏级GPU架构代号为“Ada”(程序员鼻祖爱达·勒芙蕾丝),数据中心级GPU架构代号则是“Hopper”(编程之母赫伯)。再往后呢?从黑客泄露的文件中,我们...
时隔半年,MLPerf组织发布最新的MLPerf Inference v1.0结果,V1.0引入了新的功率测量技术、工具和度量标准,以补充性能基准,新指标更容易比较系统的能耗,性能和功耗。V1.0版本的基准测试内容云端推理依旧包括推荐系统、...