Llama 3 70B — 极速推理模型

Llama 3 70B是通过Groq LPU极速推理平台提供的开源AI模型，Llama 3 70B instruction-tuned model with 8K context，推理速度可达330 tokens/sec，上下文窗口8K tokens，支持流式输出和API调用。