半导体行业观察：在此，我们分析了编码器和解码器 Transformer 模型，并展示了内存带宽如何成为解码器模型的主要瓶颈。我们主张重新设计模型架构、训练和部署策略，以克服内存限制。