NAGOYA AI Blog

人工知能(AI)関連の気になるあれこれをN2iがお届けします

Kubeflowに触れてみる(MiniKF導入まで)

f:id:web-marke:20190509111935p:plain https://www.kubeflow.org/

Google Cloud Next 2019

2019年4月に開催されたGoogle Cloud Next 2019にてGoogleから新しい発表がありました。

Google Cloud Next 2019の重要発表トップ6まとめ

Googleのクラウドデベロッパー向けカンファレンス、Cloud Next 19はサンフランシスコで開催中だが、プロダクトの発表は出揃ったようだ。以下に最も重要と思われる6項目をまとめてみた。

「AutoML」の強化から「AI Platform」まで、Google Cloudが機械学習/AIで多数の発表

Google Cloudは2019年4月10日(米国時間)、Google Cloud Next ‘19で、機械学習/AIに関する多数の発表を行った。これらは、「社内の関連ノウハウが乏しい組織、あるいは社内のビジネスユーザーのAI活用支援」と「貴重な社内データサイエンティスト/データエンジニア(Google Cloudは「AIビルダー」と呼ぶ)の生産性向上支援」の2つに分けられるという。

この中のひとつにAI Platformがあります。

AI PlatformはKubeflowに基づくパイプライン機能を提供する既存サービス「Kubeflow Pipelines」と、訓練からモデル評価、推論実行プロセス管理までを担う既存サービスの「Cloud ML Engine」に、ストリーミング/バッチデータの取り込みやラベル付けの機能を統合。さらに機械学習/AI関連作業を容易にするSDKのkubeflow/fairingを新たに組み合わせるなどしている。これにより、エキスパートによる機械学習/AIのプロセスを効率化できるという。

この中で言及のあるKubeflowに触れてみます。

Kubeflow??

Kubernetesで機械学習を実現するKubeflowとは?

データサイエンティスト自身が全てのシステム要件を一人で実装できるというのは稀であるということだ。 そこで、それを実現するのがKubeflowであると語った。

上記の記事にもありますが、Kubeflowは以下を内包しています。

  1. JupyterNotebook
  2. TensorFlowのためのコンポーネント

Kubeflow

触っていく場合は、Getting Startedをやっていくのが良さそうです。

Getting Started with Kubeflow

MiniKF

MiniKF: a fast and easy way to deploy Kubeflow on your laptop

However, the vast majority of data science exploration and experimentation occurs on the laptops of data scientists and ML engineers.

A local laptop provides the fastest, most transparent, most comfortable experience for model development and experimentation to a data scientist.

We introduce MiniKF, a production-ready, local Kubeflow deployment that installs in minutes, and understands how to downscale your infrastructure so you don’t burn your laptop. Then, with just a few clicks, you can start to experiment, and even run complete ML Pipelines. To train at scale, you can then move to a Kubeflow cloud deployment with the click of a button, without having to rewrite anything.

ざっくり要約しますと、ローカルのラップトップでデータサイエンスの調査や実験、検証をやるのはゼロレイテンシーではやくて快適なので、それをさらに便利にするのがMiniKFです。

※事前にvagrant, Virtual Boxが必要です

$ vagrant init arrikto/minikf
A `Vagrantfile` has been placed in this directory. You are now
ready to `vagrant up` your first virtual environment! Please read
the comments in the Vagrantfile as well as documentation on
`vagrantup.com` for more information on using Vagrant.

$ vagrant up
.
.
==> default: Machine 'default' has a post `vagrant up` message. This is a message
==> default: from the creator of the Vagrantfile, and not from Vagrant itself:
==> default:
==> default:     Welcome to MiniKF!
==> default:     Run "vagrant ssh" to get started.

Kubeflowにアクセス、JupyterHubへログインできるか確認します。

http://10.10.10.10

username: user
password: 12341234

f:id:n2i-y:20190413170346p:plain

ローカルにMiniKFをいれることができました。 ここから実際にKubeflowを使っていきますが、今回は一旦終了します。

Powered by はてなブログ