最短でGPU機械学習環境を構築する！

最短でGPU機械学習環境を構築する！

概要

日々の仕事でGPUの環境や、ローカルのCPU環境にDockerやAnacondaで環境を作ってきましたが、
Ubuntuサーバにnvidia-dockerの組み合わせが個人的に一番楽だと思ったので、手順をメモしておきます。

やること

UbuntuイメージがインストールされたGPUマシンにnvidia-docker2を入れて、Tensorflow Dockerイメージからコンテナを作成する。

やらないこと

OSのインストール
各コマンドの詳しい説明

構成

GCP

  • ゾーン : us-west1-b
  • マシンタイプ : n1-standard-8
  • OS : Ubuntu 18.04 LTS
  • GPU : NVIDIA Tesla K80 x 2

GPUインスタンス立ち上げ

都合により省略
今回はGCPを使いますが、UbuntuOSであれば基本的に問題は無いと思います。

GPUドライバのインストール

NVIDIAからドライバをインストール

写真
必要な項目にチェックを付けて、ファイルのリンクをコピー
GCPのターミナルでダウンロード

# 環境によってリンクは変化
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/cuda-repo-ubuntu1804_10.0.130-1_amd64.deb

ダウンロードの後は、表示コマンドを順番に入力

# こちらのコマンドも環境で差異があるので、ページを参照
sudo dpkg -i cuda-repo-ubuntu1804_10.0.130-1_amd64.deb
sudo apt-key adv --fetch-keys https://developer.download.nvidia.com/compute/cuda/repos/ubuntu1804/x86_64/7fa2af80.pub
sudo apt update
sudo apt install cuda

Dockerのインストール

早速nvidia-docker 2をインストールしたいところですが、installationに従って、まずはDockerをインストール

sudo apt remove docker docker-engine docker.io

sudo apt-get install \
    apt-transport-https \
    ca-certificates \
    curl \
    software-properties-common
    
curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo apt-key add -
sudo apt-key fingerprint 0EBFCD88

# 環境によって違うので注意（エラーが出たので下記参照してコマンド変更）
#sudo add-apt-repository \
#   "deb [arch=amd64] https://download.docker.com/linux/ubuntu \
#   $(lsb_release -cs) \
#   stable"
sudo add-apt-repository "deb [arch=amd64] https://download.docker.com/linux/ubuntu bionic test"

sudo apt update
sudo apt install docker-ce

と、ここまで順調でしたが、ついにエラーが出てきました。

E: Package 'docker-ce' has no installation candidate

こちらを参考にして上記のコマンドを変更したところ解消

nvidia-docker 2のインストール

Installing version 2.0を参考にコマンドを実行

# まずリポジトリの追加
curl -s -L https://nvidia.github.io/nvidia-docker/gpgkey | sudo apt-key add -
distribution=$(. /etc/os-release;echo $ID$VERSION_ID)
curl -s -L https://nvidia.github.io/nvidia-docker/$distribution/nvidia-docker.list | \
  sudo tee /etc/apt/sources.list.d/nvidia-docker.list
sudo apt update
# インストール
sudo apt install nvidia-docker2
sudo pkill -SIGHUP dockerd

ようやく基本的な環境は整ったハズです！

Dockerコンテナ作成

コンテナを作るためにDocker Hubからイメージファイルをpullします。
今回はTensorflow公式イメージを使用しますが、他イメージも基本は同じです。

sudo docker pull tensorflow/tensorflow:1.11.0-devel-gpu-py3

ところでタグの意味は？と、思った方はこちらを参照ください。
gpu-py3が最小構成、devel-gpu-py3は依存関係も含まれるようです。

後は--runtime=nvidiaを付けてrunしてあげるだけです。
いつもこんな感じで使ってます。

# ディレクトリをマウントする際の絶対パスが面倒なので、
# いつも直下にディレクトリを作ってしまってます。
sudo mkdir /share
sudo docker run --name <コンテナ名> --runtime=nvidia -it -p 8888:8888 -p 6006:6006 -v /share:/work tensorflow/tensorflow:1.11.0-devel-gpu-py3

駆け足でしたが、無事に環境構築できたでしょうか？
最後にnvidia-smiと打って、下記のようにGPUが認識されていれば完成です！
忘れないうちにリポジトリの更新も行っておきましょう。

# apt update
# apt upgrade
# nvidia-smi

Wed Nov 21 16:20:41 2018
+-----------------------------------------------------------------------------+
| NVIDIA-SMI 410.72       Driver Version: 410.72       CUDA Version: 10.0     |
|-------------------------------+----------------------+----------------------+
| GPU  Name        Persistence-M| Bus-Id        Disp.A | Volatile Uncorr. ECC |
| Fan  Temp  Perf  Pwr:Usage/Cap|         Memory-Usage | GPU-Util  Compute M. |
|===============================+======================+======================|
|   0  Tesla K80           Off  | 00000000:00:04.0 Off |                    0 |
| N/A   42C    P0    65W / 149W |      0MiB / 11441MiB |      0%      Default |
+-------------------------------+----------------------+----------------------+
|   1  Tesla K80           Off  | 00000000:00:05.0 Off |                    0 |
| N/A   62C    P0    86W / 149W |      0MiB / 11441MiB |    100%      Default |
+-------------------------------+----------------------+----------------------+

+-----------------------------------------------------------------------------+
| Processes:                                                       GPU Memory |
|  GPU       PID   Type   Process name                             Usage      |
|=============================================================================|
|  No running processes found                                                 |
+-----------------------------------------------------------------------------+

コメント

コメントを投稿

このブログの人気の投稿

「Zabbixサーバーが動作していません」と、なった時の対処法

「Zabbixサーバーが動作していません」と、なった時の対処法 まずはログ /etc/zabbix/zabbix_server.conf を見ると、logの出力先が見つかると思います。 # デフォルトはこの場所 LogFile=/var/log/zabbix/zabbix_server.log 今回の原因 見てみると、こんなエラーらしきものが一定間隔で出力され続けていました。（私の場合） [Z3001] connection to database 'zabbix' failed: [1045] Access denied for user 'zabbix'@'localhost' (using password: NO) 「zabbix」ユーザーがDBにアクセスできないよ、との事 🤔 どうやら、zabbixをアップデートしたら、configファイルが初期化されてしまった模様。 対処 /etc/zabbix/zabbix_server.conf のDBPasswordに、MySQLのzabbixデータベースに設定したパスワードを設定。 zabbixサーバを再起動すると、直りました。 こちら のサイトにお世話になりました。
続きを読む

Mac から X11 forwarding を使用してLinux サーバの GUI アプリを表示する（Can't open display トラブルシュート編）

Mac から X11 forwarding を使用してLinux サーバの GUI アプリを表示する（Can't open display トラブルシュート編） トラブルシュート編 概要 この設定 の際になかなか悩まされたので、誰かの役に立てればと備忘録を残します。 何をしようとしていたかというと、 Mac（クライアント）からUbuntu（ホスト）にX11 forwardingを使用してSSH接続し、 ホスト側で実行したGUIアプリ（今回はxeyes）を、クライアント側の画面で表示させようとしていました。 現象 どうしても下記のエラーが出て接続できない。。。 $ xeyes Error: Can't open display: localhost:10.0 いろんなブログを参考にしながらいろんな設定をひたすら確認。。。 こちらのブログ を見て順に設定を確認していた所、紹介されている出力とは明らかに違う項目を発見 $ xauth list xauth: /home/tkc/.Xauthority not writable, changes will be ignored どうも .Xauthority というファイルがおかしい？という事に気付きました。 よくよく見ると、ログインメッセージに以下のようなエラーも出ていました。 /usr/bin/xauth: /home/tkc/.Xauthority not writable, changes will be ignored /usr/bin/xauth: /home/tkc/.Xauthority not writable, changes ignored 原因と対処 このブログ や、 このフォーラム を見て対処できました。（ここまで約2週間。。。） $ ssh　-X xxx@yyy $ ls -la ~/ | grep Xauth* drwxr-xr-x 2 root root 4096 6月 22 00:13 .Xauthority/ rootで作成されてて、しかもディレクトリ？？ 自分で作成した覚えや、操作をした記憶はないですが、どうもこれが原因のようです。 ログイン時に自動で生成されるようなので、削
続きを読む

Ubuntu18.04のCPU、GPU 温度を、Zabbix4.0から監視する

イメージ
Ubuntu18.04のCPU、GPU 温度を、Zabbix4.0から監視する 外から自宅のGPU環境を使用する場合、いつの間にかマシンの温度が上がりすぎ、死亡、最悪火事、なんて事にはしたくないので、温度を監視したいと思います。 やはり、皆考えることは同じようで、 先駆者の方々 を参考にさせてもらいながら、最新の手法に則って導入したいと思います。 環境 OS: Ubuntu 18.04 CPU: インテル GPU: NVIDIA やること Ubuntuサーバの温度監視をZabbixを使って行う。 できればアラートも上げたい。 Zabbixインストール Zabbix監視設定 Zabbix4.0のインストール Zabbix公式 のドキュメントを参考にしていきます。 Zabbixリポジトリの追加 # この先rootユーザーでの実行なので、rootに切り替えます $ sudo su # wget https://repo.zabbix.com/zabbix/4.0/ubuntu/pool/main/z/zabbix-release/zabbix-release_4.0-2+bionic_all.deb # dpkg -i zabbix-release_4.0-2+bionic_all.deb # apt update サーバー/プロキシ/フロントエンドのインストール # apt install zabbix-server-mysql # apt install zabbix-proxy-mysql # apt install zabbix-frontend-php データベースを作成 ZabbixサーバーとZabbix proxyには別々のデータベースが必要です。同じデータベースを使用することはできません。したがって、それらが同じホストにインストールされている場合、それらのデータベースは異なる名前で作成する必要があります。 と、注意書きがありますが、Zabbix proxyは使用しないので、特に気にしません。 shell > mysql -uroot -p < password > mysql > create database z
続きを読む