芥子纳须弥大模型实现端云协同难度有多大?
-
芥子纳须弥,大模型实现端云协同难度有多大?
大模型炙手可热,不过正在形成两大阵营。一方面,是越来越强的云侧大模型。从文生视频的Sora,到最近在实时语音交互上令人印象深刻的GPT-4o,以及国内上百款大模型都是这样。在华为开发者大会2024(HDC2024)上,华为云重磅发布的盘古大模型5.0,在多模态理解、复杂逻辑推理等方面的表现,更是备受瞩目。另一方面,是大模型走向端侧。包括华为、荣耀、OPPO、vivo等手机厂商,以及联想等PC厂商,都推出了AI端侧大模型。最近举行的WWDC24上,苹果也发布了本地运行的AppleIntelligence。那么问题来了...