Docker

PyTorch with Intel Arc in Docker

背景

Stable DiffusionをUbuntu 22.04, Radeon RX 6600 XTで動かすという記事がもう3年も前なんですが、今になってちょっとまともに今のサーバー機でもなんか動かすか……と思って色々弄ったので、その備忘録を残しておきます。

前提

サーバー機の詳しい構成は新しいサーバーを組んだを見てもらうとして、ソフトウェア的にはmicrok8sで構築されたk8sクラスタが動いています。

今このクラスタではメディアサーバー(Jellyfin)が動いていて、こいつでハードウェアアクセラレーションを使うため、ホストにIntelのGPUドライバ、k8sクラスタにはIntel GPU device plugin for Kubernetesを導入しています。shared-dev-numは2以上に設定して、複数のpodがGPUを使えるようにしてあります。この設定が1のままだと1つのpodがGPUを占有するので、GPUを利用したい他のpodがリソースを確保できず起動不能になります。