科研动态
自家芯片助力:SambaNova 推出“最快”DeepSeek
作者:[db:作者]日期:2025/02/23 浏览:
IT之家 2 月 21 日新闻,AI 芯片与处理计划企业 SambaNova 发布在其基于自研 SN40L RDU 处置器的云平台上推出号称“市道最快”的 DeepSeek-R1 671B 模子推理云效劳,并表现其 token 输出速率可达每 prompt 每秒 198 个。SambaNova 的 SN40L RDU 芯片基于台积电 5nm 制程,BF16 算力可达 638 TFLOPS。其采取了一种三层存储构造:片上的 520MB SRAM 缓存、2.5D 封装集成的 64GB HBM 内存、片外的 1.5TB 超年夜容量 DDR DRAM 内存,这使得单芯片能包容的参数远超个别竞品。别的 SN40L RDU 在构造上的机动性使得其能静态从新设置硬件资本跟数据流,晋升盘算与访存效力。SambaNova 声称,其仅需一台包容 16 个 SN40L RDU 芯片的机架就能实现 DeepSeek-R1 671B 安排。
相关文章
- 2025-06-10迪迪(Didi
- 2025-06-1010个AI模型的答案:哪种大学入学评论更好
- 2025-06-09哪个美丽的战斗游戏很有趣?前十名必须
- 2025-06-09数量的增加和价格降低,勒布朗C16开始预
- 2025-06-08“ Yindai Runchou Grain Crane” - 邮政储蓄银行