GPU を複数積んでいるマシンで、GPU を指定して Docker コンテナを動かす

タイトルの通りです。`docker run` での指定方法と、docker-compose での指定方法です。 <a href="https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEhGL_BVp4_0uvtP1wW2YXdPn5f4MBgju0NejtIJvfxM-t9zvEfI4EuXmTYbdXatm10EzNk16FSGJZV8yAz3N0yClL51ZUYwxsTUSMRY-4NX2mqLV3usgVmdED8FKU5Q-M23vi66dfq1eeI/s0/vertical-logo-monochromatic.png" hidden><img alt="" border="0" data-original-height="200" data-original-width="233" src="https://blogger.googleusercontent.com/img/b/R29vZ2xl/AVvXsEhGL_BVp4_0uvtP1wW2YXdPn5f4MBgju0NejtIJvfxM-t9zvEfI4EuXmTYbdXatm10EzNk16FSGJZV8yAz3N0yClL51ZUYwxsTUSMRY-4NX2mqLV3usgVmdED8FKU5Q-M23vi66dfq1eeI/s0/vertical-logo-monochromatic.png"/></a> ## docker run での指定方法 以下のページが参考になりました。 - https://cocoinit23.com/docker-run-multi-gpu/ 全ての GPU を指定する場合は `--gpus all` を指定します。 特定の GPU を指定する場合は `--gpus '"device=0"'` のように指定します。 ## docker-compose での指定方法 `--gpus all` に相当する書き方は以下です。 ```yaml deploy: resources: reservations: devices: - capabilities: [gpu] ``` `--gpus '"device=0"'` に相当する書き方は以下です。 ```yaml deploy: resources: reservations: devices: - capabilities: [gpu] device_ids: ['0'] ``` 詳細は公式のドキュメントに書いてあります。 * https://docs.docker.com/compose/gpu-support/ ### docker-compose のアップデート 私の環境では docker-compose のバージョンは 1.25.0 でしたが、docker-compose で GPU を使えるようにするためには 1.28.0 以上でなければならないようなので、そのような場合にはアップデートが必要です。 docker-compose のアップデート方法については以下を参考にしてください。 - https://kuttsun.blogspot.com/2022/09/docker-compose.html ## 参考 URL - https://cocoinit23.com/docker-run-multi-gpu/ - https://docs.docker.com/compose/gpu-support/