在生产环境中，数据模型的部署面临双重挑战：一方面要应对流量波动（如电商大促期间预测接口调用量激增 10 倍），另一方面需保证服务零中断（金融风控模型 downtime 每增加 1 分钟可能导致数十万元损失）。

本文基于实际项目经验，详细讲解如何通过 Docker 容器化与 Kubernetes 编排，构建支持弹性伸缩、故障自愈的模型服务架构。文中包含完整的 Dockerfile 编写、K8s 配置清单及自动扩缩容策略，所有代码均可直接用于生产环境。

一、模型容器化：从 Python 脚本到 Docker 镜像

容器化是实现弹性部署的基础。直接在服务器上部署模型的传统方式，会因依赖冲突、环境差异导致 "开发环境能跑，生产环境崩溃" 的问题。Docker 通过镜像封装解决了这一痛点。

1.1 模型服务封装（Flask 示例）

首先需将模型包装为 HTTP 服务。以 Scikit-learn 训练的分类模型为例，用 Flask 构建 API 接口：

# model_service.py

import joblib

import numpy as np

from flask import Flask, request, jsonify

# 加载模型（生产环境建议用懒加载）

model = joblib.load('classification_model.pkl')

# 特征列名（与训练时保持一致）

feature_cols = ['f1', 'f2', 'f3', 'f4']

app = Flask(__name__)

@app.route('/predict', methods=['POST'])

def predict():

try:

# 获取请求数据

data = request.json

# 数据校验

if not all(col in data for col in feature_cols):

return jsonify({'error': '缺少特征字段'}), 400

# 构造特征数组

features = np.array([[data[col] for col in feature_cols]])

# 模型预测

pred_proba = model.predict_proba(features)[0][1]

pred_label = int(pred_proba > 0.5) # 决策阈值

return jsonify({

'pred_label': pred_label,

'pred_proba': float(pred_proba),

'request_id': data.get('request_id', '')

})

except Exception as e:

return jsonify({'error': str(e)}), 500

@app.route('/health', methods=['GET'])

def health_check():

# 健康检查接口（K8s用于存活探测）

return jsonify({'status': 'healthy', 'model_version': 'v1.2.0'}), 200

if __name__ == '__main__':

# 生产环境用Gunicorn，此处简化为Flask原生服务器

app.run(host='0.0.0.0', port=5000, debug=False)

1.2 编写多阶段 Dockerfile

为避免镜像臃肿（基础 Python 镜像 + 模型依赖可能超过 2GB），采用多阶段构建策略，最终镜像体积可压缩至 300MB 以内：

# 第一阶段：构建环境

FROM python:3.9-slim as builder

# 设置工作目录

WORKDIR /app

# 安装构建依赖

RUN pip install --no-cache-dir pipenv

# 复制依赖文件

COPY Pipfile Pipfile.lock ./

# 安装依赖（仅保留生产环境包）

RUN pipenv install --deploy --system