Llama 3.2 3B — 超高速推理模型

Llama 3.2 3B是通过Groq LPU极速推理平台提供的开源AI模型，Llama 3，推理速度可达900 tokens/sec，上下文窗口131K tokens，支持流式输出和API调用。