科研动态
自家芯片助力:SambaNova 推出“最快”DeepSeek
作者:[db:作者]日期:2025/02/23 浏览:
IT之家 2 月 21 日新闻,AI 芯片与处理计划企业 SambaNova 发布在其基于自研 SN40L RDU 处置器的云平台上推出号称“市道最快”的 DeepSeek-R1 671B 模子推理云效劳,并表现其 token 输出速率可达每 prompt 每秒 198 个。SambaNova 的 SN40L RDU 芯片基于台积电 5nm 制程,BF16 算力可达 638 TFLOPS。其采取了一种三层存储构造:片上的 520MB SRAM 缓存、2.5D 封装集成的 64GB HBM 内存、片外的 1.5TB 超年夜容量 DDR DRAM 内存,这使得单芯片能包容的参数远超个别竞品。别的 SN40L RDU 在构造上的机动性使得其能静态从新设置硬件资本跟数据流,晋升盘算与访存效力。SambaNova 声称,其仅需一台包容 16 个 SN40L RDU 芯片的机架就能实现 DeepSeek-R1 671B 安排。
相关文章
- 2025-05-15下载太空模拟游戏下载前10个需要玩空间
- 2025-05-15建议哪种乐高游戏?乐高游戏的极为流行
- 2025-05-14“北京华玛” 6,000次锦标赛开始进入鲜花
- 2025-05-14我觉得这里是“妈妈”!谁知道如何在国
- 2025-05-13小米su7质量列表的顶级数据已讨论,大