系统镜像
通过小波AI平台部署训练模型或发布模型时,将使用用于推理的预生成Docker容器镜像。这些镜像是基于流行的机器学习框架和Python包预生成的。
为何要使用预生成的镜像?
- 降低模型部署延迟。
- 提高模型部署成功率。
- 避免在模型部署期间进行不必要的映像生成。
- 只需在映像/容器中拥有依赖关系和访问权限。
- 部署中的推理进程以非管理员root身份运行。
当前小波AI平台可用于训练的预生成系统镜像列表:
如何使用预生成的映像?
- 请参考我们的示例实践案例。
对镜像包如何进行扩展,以添加其他包?
- 利用 conda.yaml/requirements.txt 添加 Python 包。
- 使用预生成的包作为新 Dockerfile 的基础。 使用此方法可以安装 Python 包和 apt 包。