时间：2024/03/04
作者：From 半导体芯闻
“每个模型都要有相应的AI芯片”这是来自Taalas公司创始人Ljubisa Bajic的观点。提示一下，Ljubisa Bajic还有一个身份，那就是他也是Tenstorrent的创始人，Jim keller曾经亲密的合作伙伴。
在离开Tenstorrent一年之后，Ljubisa Bajic终于在最近带来了他的新公司。
Ljubisa Bajic 表示，即使是当今的专用人工智能芯片也过于通用化，无法满足其需要。他的新初创公司 Taalas（印地语是锁匠的意思）承诺通过开发最终针对特定型号的架构和芯片，将效率障碍再次突破几个数量级。
据介绍，新公司已从 Quiet Capital 和 Pierre Lamond 处通过两轮迷你融资（1200 万美元和 3800 万美元）筹集了 5000 万美元，根据他们的设想，硅可以在制造时进一步优化以适应特定型号。虽然人工智能和机器学习在软件和硬件方面都在快速发展，但我们开始看到“足够好”模型的趋势，专用计算路径确实预示着更专用、更高效的芯片方法。
我们认为 Taalas 最终将使用一种强化的可配置硬件——存在于真正固定功能 ASIC/DSP 或完全可重新配置的硬件解决方案（如 FPGA 或 CGRA）（两者都具有在人工智能领域也找到了利基）。该领域的许多芯片设计公司都运行 eASIC（即结构化 ASIC）业务，其中底层硬件是可配置的，但在最终制造时可以锁定为给定的配置。这使得制造过程仍然可以创建通用可编程芯片，但可以减少部署到客户市场的可重新配置开销。
据 Taalas 称，这解决了当今人工智能硬件的两个主要问题——功效和成本。机器学习在消费者日常生活中的预期普及程度将像电力一样无处不在，因此它将存在于从汽车到白色家电到智能电表以及所有可以电气化的堆栈中的一切事物中。为了满足成本、计算能力/效率的需求，以及这些设备中的一些/大多数设备永远不会连接到互联网的事实，该硬件需要在部署时专用并固定。只有当计算工作负载固定（或简单）时才会发生这种情况，Taalas 和 Ljubisa 认为这是一个即将到来的前沿领域（如果今天还没有出现的话）。
在新闻稿中他们Ljubisa Bajic表示：“人工智能就像电力——一种需要向所有人提供的基本商品。人工智能的商品化需要计算能力和效率提高 1000 倍，这是通过当前渐进方法无法实现的目标。前进的道路是实现“我们不应该在通用计算机上模拟智能，而应该将智能直接注入硅中。在硅中实施深度学习模型是实现可持续人工智能的最直接途径。”
Taalas 正在开发一种自动化流程，用于在硅中快速实施所有类型的深度学习模型（Transformers、SSM、Diffusers、MoE 等）。专有的创新使其一款芯片能够容纳整个大型人工智能模型，而无需外部存储器。硬连线计算的效率使单个芯片的性能优于小型 GPU 数据中心，从而为 AI 成本降低 1000 倍开辟了道路。
“我们相信 Taalas 的‘direct to silicon’代工厂实现了三项根本性突破：大幅重置当今人工智能的成本结构，切实可行地实现模型尺寸接下来 10-100 倍的增长，以及在任何消费设备上本地高效运行强大的模型。Quiet Capital 合伙人Matt Humphrey表示：“对于人工智能未来的可扩展性而言，这可能是当今计算领域最重要的使命。我们很自豪能够支持这个出色的 n-of-1 团队来完成这件事。”
简而言之，如果您需要在产品中使用具有 7B 参数的 Llama2 型号，并且该公司确定这就是它在整个生命周期中所需要的全部，那么可以为该手持设备提供最低功耗和最低成本的专用硬核 Llama2-7B 芯片和型号设备就是您可能需要的一切。
据了解，Taalas团队位于加拿大多伦多，拥有来自 AMD、NVIDIA 和 Tenstorrent 的专业知识。该公司将于 2024 年第三季度推出首款大型语言模型芯片，并计划于 2025 年第一季度向早期客户提供。
