e公司訊,據(jù)阿里通義千問消息,今天,通義千問團隊開源首個MoE模型,名為Qwen1.5-MoE-A2.7B。對比當前最好的7B參數(shù)模型,Qwen1.5-MoE-A2.7B取得了與之相當?shù)男阅?,且顯著降低了訓練成本和推理時間。