服务管理
集成 llama.cpp,子进程管理 llama-server,多实例并行运行,实时日志查看,OpenAI 兼容 API 转发。
模型市场
HuggingFace 模型搜索,多量化版本下载,进度实时监控,支持国内镜像源切换。
硬件评估
CPU/RAM/GPU 自动检测,模型适配评分,运行模式推荐,预估推理速度,支持 Apple Silicon 统一内存。
性能基准
合成估算 + 真实推理双模式,自动匹配社区基准对比,历史记录持久化,实测生成速度。
模型测试
与运行中的模型实时对话,流式输出,思考过程折叠展示,AES-256 加密存储聊天记录。
5 套主题
深空霓虹青 / Apple 毛玻璃 / 极简黑白 / Google Material / TRAE 紫,深浅色自由切换。