DViT分布式推理机制

车载延迟近零

面向车载虚拟实境，以道路单元与车辆协同的分布式扩散推理取代云端集中处理，直接在车内用本地提示生成个性化内容。

Gaochang, Xie · Xiong, Zehui · Xinyuan, Zhang · 谢人超 · 刘韵洁 · Xuemin, Shen

IEEE Transactions on Vehicular Technology 2024

技术优势

边缘协同推理

道路单元与车辆协同执行扩散过程，避免将全部计算负载压在云端或单车，使推理任务在资源受限的车载网络中也能完成。

车内个性化生成

利用本地提示词在车内生成个性化内容，无需将用户数据上传云端，既满足个性化又保护隐私。

应用场景

• 车载虚拟实境：为车载元宇宙提供低延迟、个性化的生成式AI内容。
• 车路协同推理：将推理任务分布到路侧单元和车辆，提升资源利用率。
• 边缘智能：在边缘设备上运行扩散模型，减少对云端的依赖。
• 低延迟车联网服务：优化带宽和计算分配，满足车联网服务的低延迟需求。