Llama 3 8B — 超高速推理模型

Llama 3 8B是通过Groq LPU极速推理平台提供的开源AI模型，Llama 3 8B compact model for fast inference，推理速度可达1250 tokens/sec，上下文窗口8K tokens，支持流式输出和API调用。