AMD收购Taalas:把AI模型直接烧进芯片,推理效率的终极路线
8月6日,AMD宣布收购多伦多初创公司Taalas,将一种激进的推理芯片技术收入囊中——它不把模型加载到内存里运行,而是直接把模型"烧"进硅片。
把模型刻进芯片是什么意思
主流AI推理的架构是:模型权重存在HBM显存里,GPU从显存读取权重再做计算。Taalas反其道而行——既然模型训练完就不再变化,为什么不把权重直接做成芯片的物理结构?
Taalas的方案叫"Hardcore Models":芯片大约100层,其中98层是通用的,只有最后2层金属层根据具体模型定制。这意味着TSMC只需要约2个月就能完成一款模型专用芯片的制造,而传统GPU从设计到量产大约需要6个月。
效果如何?Taalas的HC1演示芯片(TSMC 6nm,815mm²,53亿晶体管)跑Llama 3.1 8B,声称达到每用户17000 tokens/秒——大约是当前主流方案的10倍,同时功耗降10倍、成本降20倍。不过这些是Taalas自己的数据,尚未有独立验证。
代价也很明显:一个芯片只能跑一个模型。模型更新了,就得换芯片。更大的模型需要多颗芯片拼接,制造和测试的复杂度随之上升。
为什么AMD要买它
这笔收购的逻辑在于"互补"。
两周前,AMD刚在Advancing AI 2026大会上发布Instinct MI400系列GPU和Helios整机架系统,并签下了Anthropic 2吉瓦和OpenAI 6吉瓦的超大部署协议。这些是通用加速器,靠规模取胜。
Taalas提供的是另一个极端:对单一稳定模型做极致效率优化。AMD计划将两者组合——Instinct GPU处理计算密集的prompt预填充,Taalas芯片负责高吞吐的token生成,形成分工架构。
AMD AI集团高级副总裁Vamsi Boppana表示,Taalas的技术和工程团队将"为我们的AI产品组合带来差异化的推理性能和效率"。
推理硬件的分化信号
这笔收购反映了一个趋势:AI推理硬件正在从"一块GPU跑所有模型"走向专用化。
Groq用LPU做极致推理延迟,Cerebras用整片晶圆跑单模型,现在Taalas把模型刻进芯片——思路不同,但方向一致:推理场景对效率的要求正在催生与训练完全不同的硬件形态。
AMD同时也在与Cerebras合作推出超低延迟推理方案,加上这次收购,推理栈的拼图越来越完整。
当然,专用芯片的商业可行性取决于推理工作负载是否足够稳定和持久。如果模型迭代太快,"一模型一芯片"的ROI就很难成立。Taalas自己也承认,第一代芯片用了激进的3-bit量化,输出质量相比GPU基准有所下降,第二代才转向标准4-bit浮点。
这笔收购还需通过监管审批。Taalas能否从演示芯片走向量产、专用推理芯片能切下多大市场份额,是接下来要观察的关键问题。
---
*基于AMD官方公告及Unite.AI、ServeTheHome等多家媒体转述整理*