GPU を複数積んでいるマシンで、GPU を指定して Docker コンテナを動かす

タイトルの通りです。docker run での指定方法と、docker-compose での指定方法です。

docker run での指定方法

以下のページが参考になりました。

• https://cocoinit23.com/docker-run-multi-gpu/

全ての GPU を指定する場合は --gpus all を指定します。

特定の GPU を指定する場合は --gpus '"device=0"' のように指定します。

docker-compose での指定方法

--gpus all に相当する書き方は以下です。

deploy:
  resources:
    reservations:
      devices:
        - capabilities: [gpu]

--gpus '"device=0"' に相当する書き方は以下です。

deploy:
  resources:
    reservations:
      devices:
        - capabilities: [gpu]
          device_ids: ['0']

詳細は公式のドキュメントに書いてあります。

• https://docs.docker.com/compose/gpu-support/

docker-compose のアップデート

私の環境では docker-compose のバージョンは 1.25.0 でしたが、docker-compose で GPU を使えるようにするためには 1.28.0 以上でなければならないようなので、そのような場合にはアップデートが必要です。
docker-compose のアップデート方法については以下を参考にしてください。

• https://kuttsun.blogspot.com/2022/09/docker-compose.html

参考 URL

• https://cocoinit23.com/docker-run-multi-gpu/
• https://docs.docker.com/compose/gpu-support/