MOE很火,但激活参数少并不等于模型更小,云端和端侧部署要求不同。简单聊聊为什么MoE更适合云端集群,而Dense模型依然会在端侧、本地部署和AI终端里长期存在。 #AI #人工智能 #AI算力 #AI芯片 #大模型 #MoE #Dense模型 #DeepSeek #Qwen #端侧AI
MOE很火,但激活参数少并不等于模型更小,云端和端侧部署要求不同。简单聊聊为什么MoE更适合云端集群,而Dense模型依然会在端侧、本地部署和AI终端里长期存在。 #AI #人工智能 #AI算力 #AI芯片 #大模型 #MoE #Dense模型 #DeepSeek #Qwen #端侧AI