7月17日消息,今日,光羽芯辰宣布,在2026世界人工智能大会上全球首发端侧大算力、低功耗3D堆叠近存计算大模型推理芯片TC1000系列。
据介绍,TC1000系列采用光羽芯辰自研的3D堆叠近存计算架构,并结合存算技术和存储分层技术,旨在突破端侧AI芯片长期面临的“内存墙”问题。
所谓“内存墙”,是指处理器运算速度与存储器数据传输速度之间存在较大差距,导致算力难以充分发挥。
近存计算通过缩短计算单元与存储单元之间的数据传输距离,可提升数据带宽并降低功耗。
光羽芯辰表示,TC1000系列等效带宽提升至传统方案的10倍,在同等算力下,功耗仅为传统方案的1/3。
性能方面,该系列芯片已经实现单芯片运行3B参数模型时达到300Token/s的推理速度,同时支持35B规模大模型在端侧高性能运行。
依靠本地大模型推理能力,搭载TC1000系列芯片的设备可在端侧完成长文档解读、代码编写、复杂逻辑推理和多模态内容创作等任务,降低对云端算力和网络连接的依赖。
此外,该芯片原生支持端侧Agent,补齐国内3D堆叠近存算端侧推理芯片空白。
光羽芯辰表示,TC1000系列是国产半导体上下游深度协同的里程碑成果,芯片架构定义、前后端设计、先进3D封装、晶圆制造、模型适配、软件生态适配,均由光羽芯辰联合国内产业链合作伙伴完成,实现核心技术自主可控、关键环节国产落地。