2025 年，苹果发布了 iPhone 17，A19 Pro 芯片的 NPU（神经网络处理单元）算力达到 50 TOPS，可以在本地运行 30 亿参数的语言模型。高通发布了骁龙 8 Gen 5，AI 算力突破 60 TOPS。联发科的天玑 9400 也在 AI 算力上大幅提升。端侧 AI 芯片的军备竞赛已经全面打响。
但这场竞赛的主角不是手机芯片巨头，而是一个更广阔的战场：IoT 设备、智能家居、可穿戴设备、工业传感器、自动驾驶汽车、机器人。这些设备都需要 AI 能力，但不需要像手机芯片那样强大的算力。它们需要的是「够用 + 便宜 + 省电」的 AI 芯片。这就是端侧 AI 芯片创业的窗口。
AI 硬件创业有 4 个值得关注的方向。
第一个方向是 AI 推理芯片。Nvidia 在训练芯片市场占据 90% 以上的份额，但推理芯片市场格局分散得多。推理芯片不需要 H100 级别的算力，更注重能效比和成本。Groq 是这个方向的明星公司，它用 LPU（语言处理单元）做推理，速度比 GPU 快 10 倍，已经获得 10 亿美元融资。d-Matrix 和 Cerebras 也在推理芯片布局。但推理芯片的技术门槛极高，适合有芯片设计经验的大牛团队。
第二个方向是 AI 视觉芯片。这是端侧 AI 最成熟的应用场景。安防摄像头、智能门锁、无人机、自动驾驶，都需要在本地实时处理图像数据。AI 视觉芯片的竞争格局已经比较清晰：安霸、地平线、黑芝麻、Mobileye 各有各的地盘。创业公司在这个方向的机会在于「垂直场景定制」—— 比如专门做工业检测的视觉芯片、专门做医疗影像的视觉芯片。
第三个方向是 AI 可穿戴设备。2024 年 Humane 的 AI Pin 和 Rabbit R1 的失败，让很多人对 AI 硬件创业望而却步。但这两款产品的失败不是「AI 硬件」的失败，而是「产品定义」的失败 —— 它们都在试图替代手机，这是最难的赛道。AI 可穿戴设备的正确方向是「做手机做不了的事」：比如 AI 健康监测戒指、AI 运动分析眼镜、AI 翻译耳机。这些产品不需要替代手机，而是手机的补充。
第四个方向是 AI 机器人芯片。机器人是 AI 硬件最大的增量市场。从仓储机器人到送餐机器人，从手术机器人到家庭服务机器人，每个机器人都需要「大脑」—— 感知、规划、控制。AI 机器人芯片需要同时处理视觉、激光雷达、IMU 等多模态数据，实时性要求极高。Nvidia 的 Jetson 系列是这个方向的主流平台，但价格偏高，给低成本替代方案留下了空间。
AI 硬件创业最大的挑战不是技术，而是「供应链」。硬件创业需要从芯片设计到流片到量产到销售的全链条能力，涉及的环节远多于软件创业。Nvidia 的成功不仅仅是因为 GPU 架构好，更是因为它在台积电拿到的产能、与服务器厂商的合作关系、CUDA 生态的锁定效应。硬件创业的「死亡谷」比软件创业更深更宽。
对于 AI 硬件创业者的建议：第一，不要做通用芯片，不要想着「替代 Nvidia」，那是 VC 才相信的故事。第二，找一个足够小的垂直场景，做一个「够用就好」的芯片。第三，软硬件一体化，芯片只是硬件，软件和算法才是竞争壁垒。第四，准备好足够的钱 — 硬件创业的最小资金需求是软件创业的 5-10 倍。
有一个趋势值得关注：随着模型蒸馏和量化技术的进步，小模型的性能正在快速提升。一个 7B 参数的模型经过蒸馏和量化后，可以在树莓派上运行，性能接近 GPT-3.5。这意味着端侧 AI 的「大脑」供应正在变得充裕，瓶颈在「身体」—— 也就是芯片和硬件。这是未来 3-5 年最大的硬件创业机会。