端侧智能指把模型推理放在本地设备上完成，不依赖云端。近两年，手机、家电、车载设备都在推进。

为什么往端侧走

一是延迟低，响应在毫秒级；二是隐私好，数据不出设备；三是成本低，减少云端调用费用。

难点

算力与功耗的矛盾。设备体积有限，散热和电池都受限，模型必须压缩。目前的常见做法是端云协同：简单任务本地处理，复杂任务上云。

场景

家电领域的典型应用是语音控制与场景联动；车载领域集中在语音助手和驾驶员状态识别。

端侧智能不是把云搬到设备上，是把该在本地做的事留在本地。