llm
llm 相关命令速查表合集,收录 3 份常用命令速查表,涵盖高频命令、参数选择与实战用法说明,按使用场景分组编排,支持即查即拷,帮助开发者与运维人员快速定位与套用所需命令。
LocalAI 命令速查表 - local-ai 自托管推理服务 CLI 全参数
LocalAI 官方 local-ai CLI 完整命令手册:run / serve 启动服务、models list/install/pull 模型管理、api 与微调命令,全部按官方文档编写。
SGLang 命令速查表 - sglang.launch_server 推理服务 CLI 全参数
SGLang 官方 launch_server 完整参数手册:--model-path 模型、--host/--port 服务、--tp/--dp 并行、--mem-fraction-static 显存、--quantization 量化与 --trust-remote-code,全部按官方文档编写。
Ollama 命令速查表 - 本地大模型运行 CLI 全参数
开源本地大模型运行标准 Ollama 的命令手册:运行、拉取/推送、模型管理、Modelfile 定制、服务与配置,覆盖 ollama run/pull/list/ps/create 及 Modelfile 的 FROM/PARAMETER/TEMPLATE/SYSTEM。