科研动态
自家芯片助力:SambaNova 推出“最快”DeepSeek
作者:[db:作者]日期:2025/02/23 浏览:
IT之家 2 月 21 日新闻,AI 芯片与处理计划企业 SambaNova 发布在其基于自研 SN40L RDU 处置器的云平台上推出号称“市道最快”的 DeepSeek-R1 671B 模子推理云效劳,并表现其 token 输出速率可达每 prompt 每秒 198 个。SambaNova 的 SN40L RDU 芯片基于台积电 5nm 制程,BF16 算力可达 638 TFLOPS。其采取了一种三层存储构造:片上的 520MB SRAM 缓存、2.5D 封装集成的 64GB HBM 内存、片外的 1.5TB 超年夜容量 DDR DRAM 内存,这使得单芯片能包容的参数远超个别竞品。别的 SN40L RDU 在构造上的机动性使得其能静态从新设置硬件资本跟数据流,晋升盘算与访存效力。SambaNova 声称,其仅需一台包容 16 个 SN40L RDU 芯片的机架就能实现 DeepSeek-R1 671B 安排。
相关文章
- 2025-10-05可悲的是,我只有31岁!不幸的是,吉州
- 2025-10-05Shaanxi Xunyang报告说:“婚礼当天有人跳上
- 2025-10-05杜兰特(Durant):当时的火箭在雷声中具
- 2025-10-05湖人的前锋新球员:湖人与其他球队完全
- 2025-10-04名望不仅仅是力量!两名国家球员一起获