AI产品术语2025年6月28日2025年6月28日 什么是LLM在边缘设备上的推理? LLM在边缘设备上的推理(LLM Inference on Edge Devices)指的是将大型语言模型(Large Language Model,LLM)的预测或生成过程直接部署在靠近数据源的边缘设备上执行。这些设备包括智能手机、物联网 […]