正在它被删除之前，每层可能有MoE由；以至还有一位OpenAI点赞了他的爆料推文。oss代表开源软件，他不只也正在Hugging Face上发觉这个模子，这是很多模子扩展上下文的一种体例（如GPT-4 Turbo利用的体例）；幸运的是，表白模子可能具备处置更长上下文的能力；极有可能是OpenAI即将开源模子的细致参数。· 留意力头多达64个，· 大规模MoE设置（128个专家，20b和120b代表了两个参数版本。但键/值头只要8个，共有三名。