📦 Ollama Load Balancer — Ollama 负载均衡器 — 跨机器 AI 推理负载均衡

简介

Ollama 负载均衡器支持 Llama、Qwen、DeepSeek 和 Mistral 等 AI 模型在多台机器上的分布式推理，通过 mDNS 自动发现、健康检查等实现负载均衡。

使用场景

• 跨机器 AI 推理
• 自动化负载均衡

快速开始

（原文未提供，建议补充实际步骤）