优秀的编程知识分享平台

网站首页 > 技术文章 正文

Docker 安装和运行 DeepSeek 步骤

nanyue 2025-05-08 20:19:10 技术文章 15 ℃

要在 Docker 中安装和运行 DeepSeek 相关服务(如模型或应用),请按照以下步骤操作。由于 DeepSeek 可能有多种应用场景,这里以常见的 **AI 模型部署**为例:


步骤 1:安装 Docker

确保系统已安装 Docker:

 # 使用官方脚本安装 Docker
curl -fsSL https://get.docker.com | sh

# 启动 Docker 服务
sudo systemctl start docker
sudo systemctl enable docker

# 验证安装
docker --version


步骤 2:安装 NVIDIA 驱动和 Docker 支持(如需 GPU)

# 安装 NVIDIA 驱动(以 Ubuntu 为例)

sudo apt-get install nvidia-driver-535

# 安装 NVIDIA Container Toolkit

distribution=$(. /etc/os-release;echo $ID$VERSION_ID)

curl -s -L https://nvidia.github.io/nvidia-docker/gpgkey | sudo apt-key add -

curl -s -L https://nvidia.github.io/nvidia-docker/$distribution/nvidia-docker.list | sudo tee /etc/apt/sources.list.d/nvidia-docker.list

sudo apt-get update && sudo apt-get install -y nvidia-container-toolkit

sudo systemctl restart docker


步骤 3:获取 DeepSeek 的 Docker 镜像

假设 DeepSeek 提供官方镜像(如 deepseek-ai/model:latest):

# 拉取镜像(镜像名需替换为实际名称)

docker pull deepseek-ai/model:latest

如果没有官方镜像,需自行构建 Dockerfile:

# 示例 Dockerfile(需根据实际项目调整)

FROM pytorch/pytorch:2.1.0-cuda11.8-cudnn8-runtime

WORKDIR /app

COPY . .

# 安装依赖

RUN pip install -r requirements.txt

# 设置启动命令

CMD ["python", "app.py"]



步骤 4:运行容器

# 基础命令(无 GPU)

docker run -d \

--name deepseek-container \

-p 5000:5000 \

-v /path/to/data:/app/data \

deepseek-model:latest

# 使用 GPU

docker run -d \

--name deepseek-container \

--gpus all \

-p 5000:5000 \

-v /path/to/data:/app/data \

deepseek-model:latest


步骤 5:验证服务

# 查看容器日志

docker logs deepseek-container

# 测试 API(假设服务端口为 5000)

curl http://localhost:5000/api/predict -X POST \

-H "Content-Type: application/json" \

-d '{"input": "Hello, DeepSeek!"}'


常见问题

1. 镜像不存在

确认镜像名称或替换为正确的仓库地址(如私有仓库需登录)。


2. GPU 无法识别

检查 NVIDIA 驱动和 nvidia-container-toolkit是否安装成功,运行 nvidia-smi验证。


3. 依赖缺失

在 Dockerfile中补充缺失的包或环境变量。

最近发表
标签列表