使用Xinference命令行工具(xinference launch)部署Nanonets-OCR-s
一、核心优势与适用场景
通过xinference launch
命令可直接在命令行完成模型部署,无需编写Python代码,适合快速验证或生产环境批量部署。
二、部署步骤:从命令行启动模型
1. 确认环境与依赖
- 已安装Xinference:
pip install "xinference[all]"
- GPU显存≥9GB(参考Nanonets-OCR-s的显存需求)
2. 一键部署模型(从ModelScope加载)
xinference launch \--model-name nanonets-ocr-s