本地部署大模型端点
基于 vLLM 部署的本地大模型服务,提供兼容 OpenAI 格式的 API 接口。
API Endpoint
点击复制
https://llm.huan-yue.org/v1
Model Name
点击复制
Qwen3.6-27b-fp8
vLLM
Qwen
OpenAI Compatible