先看结论:端侧选型从功耗预算倒推
边缘端侧的选型逻辑与训练、推理都不同:不是先看算力再找场景,而是先确认功耗预算、散热条件和供电方式,再倒推可选的算力区间。看球网在整理边缘端侧类公开参数时,会把典型功耗和峰值功耗放在最前面,因为这两项经常直接决定方案是否可行。
很多端侧项目在早期忽略功耗约束,到样机阶段才发现供电和散热方案要推倒重来。看球网建议读者把功耗账算在选型之前,而不是之后。
典型功耗与峰值功耗:两个都要看
典型功耗影响续航和长期散热设计,峰值功耗影响供电设计和瞬态响应。只看典型功耗会低估电源和散热压力,只看峰值功耗又可能过度设计。看球网在栏目里会把两项分开记录,并标注测试条件。
- 供电边界:峰值功耗决定电源选型和瞬态余量,电池供电设备还要考虑放电能力。
- 散热边界:无风扇被动散热对持续功耗有硬约束,密闭外壳会进一步压缩可用功耗。
- 环境边界:工作温度范围影响降频策略,高温环境下可用算力可能低于标称值。
看球网提醒读者,公开参数中的功耗数字通常对应特定负载和温度条件,实际场景需要留出余量。无法核验的实测数据应标注为示例数据。
模型适配:算子与工具链决定迁移代价
端侧方案的另一个边界是软件适配。算子支持程度、量化工具链和模型转换流程,直接决定模型能否顺利跑起来。看球网在整理端侧类方案时,会把模型格式支持、量化方式和算子覆盖情况作为对比项,而不是只列硬件参数。
读者「沈望舒」在社区提到,他们按看球网的口径先做算子核对,发现部分算子不支持,及时调整了模型结构,避免了后期返工。这类经验说明,端侧选型的迁移代价需要在早期评估,而不是等到部署阶段才发现。
用统一维度把功耗账算清楚
看球网建议的端侧初筛顺序是:先按设备供电和散热条件确定功耗上限,再按模型规模核对算力与显存需求,接着核对算子与工具链适配,最后评估环境适应性和长期供货条件。四步走完,方案的场景边界会变得清晰。
看球网客户端支持安卓、苹果 iOS、Windows 电脑版和 Mac 电脑版,读者可以在设备侧直接对照栏目里的功耗与适配记录。公开参数只是初筛依据,端侧方案最终仍需在目标设备上验证。看球网会持续按统一维度更新边缘端侧类公开信息,帮助读者把功耗账算在前面。
算子核对提前做真的能省返工,我们就是这么避坑的。
峰值功耗和典型功耗分开看这点很重要,电源设计最容易翻车。
密闭外壳降频这个坑我们踩过,标称算力根本跑不满。
功耗预算倒推选型这个思路清晰,比先看算力靠谱。
希望多整理一些工作温度范围的公开数据,高温场景太需要了。