Docker

Kubernetes・GKEでの公開

続きます。Docker イメージを Google Container Registry に登録 kubectl で設定を行うためのyamlファイル作成 上記でGoogle Container Registryに登録したDockerイメージをGKE(GCP の Kubernetes Engine)で公開します。 今回は、APIだけを公開するということで、API用のファイルだけ作成します。 内容は、基本的には、githubの方を参照しています。 https://github.com/pco2699/NullSuck-AI/tree/master/k8s また、イングレス用ファイルは下記のような感じで作りました。 k8s/api/api-ingress.yml apiVersion: extensions/v1beta1 kind: Ingress metadata: name: api-ingress spec: rules: - http: paths: - path: /* backend: serviceName: api-svc servicePort: 5432 GKE周りの設定 これを適用するにあたり、まずは準備ということで、 gcloud container clusters create nullsuck –num-nodes 2 –zone asia-northeast1-a を実行するとなっていますが、エラー。 ERROR: (gcloud.container.clusters.create) ResponseError: code=403, message=Kubernetes Engine API is not enabled for this project. Please ensure it is enabled in Google Cloud Console and try again: visit https://console.

Docker内のNuxt.jsサイトを公開する

Docker内に構築したNuxt.jsのサイトを公開する、条件として、公開サイトもDockerで構築し、かつ、ソースはボリューム機能でDocker外と共有とする。無料で。 なかなかハードルが高かったですが、できました! Docker環境をどこに公開するか 無料公開と考えた場合に、1年の期間制限のAWSは対象から外します。そして、本サイト自体がGCEで立っているので、一旦それも除外。そこで検討したのが、Azureです。 Azure App Service Azureでは、素のApp Serviceは無料プランがあります。 App Service の価格 https://azure.microsoft.com/ja-jp/pricing/details/app-service/windows/ この素のサービスはPaaSなので、Dockerをインストールして環境構築するということはできません。これと連携してコンテナを読み込む、Web App for Containersというサービスがありますが、これは無料プランでは利用できません。さらに、通常であれば利用を検討すべきContainer InstancesとかAKS(Azure Kubernetes Service)というものもありますが、これらも有料プランのみです。 色々苦労した挙句、無料でDockerコンテナを立ち上げるのは無理ということで、あきらめました。 Heroku Herokuでもコンテナを読み込んでリリースする機能が提供されています。 https://devcenter.heroku.com/articles/container-registry-and-runtime これは無料で使えるプランもあるのですが、Volumeはサポートされていません。 なぜVolumeを使いたいかというと、ローカルの開発環境もDockerで構築したい、それと同一の環境をリリース環境に持っていきたい、ただ開発ツールはクライアントに持つことになるのでソースはローカルに持ちたい、そのソースをコミットすることでリリース環境にも反映したい、という理由です。 そういう意味で、最近話題の、VSCodeのRemote Development機能 https://crieit.net/posts/VSCode-Remote-Development 開発ツールをローカルに持ちつつソースはローカルに持つ必要がないという意味ですごいと思うのですが、複数人開発と考えた時にはどうなんだろうとも思ったりします。 さくらArukas https://arukas.io/ 今回試しませんでしたが、これもHerokuと同様、Volumeはサポートされません。ただ、無料プランが提供されているのは発見でした。 GCE(Google Compute Engine) 結局VMをそのまま使わせてもらえる環境でなければ今回の条件には合わない、と理解し、そうなると使えるのはGCEしかないのでは、という結論になりました。すでにDocker立てているわけですが、そこはDocker。複数立てることもできるわけです。ということで、もう一つDocker環境を立てることにしました。 公開用Docker構築 前回タイタニックアプリを作ろう(Nuxt.js 開発環境の基本) ここではなるべくシンプルなDockerファイルを目指して設定をしましたが、これはDockerをUpした後にサービスを起動しなければならないということです。 そうではなく、Upと共にNuxtサービスも立ち上げるということで試行錯誤しました。 まず、最初はDocker Build、あるいはUpでのエラー。 ERROR: Service ‘app’ failed to build: containerd-shim not installed on system DokerファイルをいじるとBuildだけはできたりして、大いに悩みましたが、最終的には、VMリスタートで解消。時間を返せ・・・ 再起動したらしたで、既存のDocker=本サイトが立ち上がらないという問題発生!原因は、先にApaheが起動していてポート80を取られていたため。サービスを落として再度実行により問題解消。かなりの時間を費やして、やっと本題。 最終的には下記のサイトを大いに参考にさせていただきました。 dockerでnuxt.jsの環境を作ってみる https://qiita.com/reflet/items/e7c33f84ab43ab237ee4 Dockerfile FROM node:12.1.0-alpine WORKDIR /app RUN npm install –global @vue/cli @vue/cli-init WORKDIR /app/titanic-client RUN yarn install ENV HOST 0.

タイタニックアプリを作ろう(Nuxt.js 開発環境の基本)

Kaggleのタイタニック問題は、機械学習の基礎として面白いので、それを活用し、かつ、技術書典の2冊で学んだことも生かして、アプリを作ってみましょう。 Kaggleのタイタニック問題で機械学習  Nuxt.js と Python でつくるぬるさく AI アプリ開発入門 コンテナ時代のWebサービスの作り方 環境のイメージ たどり着けるかわかりませんが、ゴールのイメージとしては、下記のようになります。 ローカルにDockerでNuxt.jsのWebアプリ環境 Jupyter Notebookで機械学習環境を作り、responder のAPIサービス環境はDockerで Dockerプライベートでレジストリとして、GitLab Container Registry プライベートレジストリからAzure App Service に公開 DockerによるNuxt環境構築 今回フォルダ構成はこのようにしています。 titanic -app –docker-compose.yml –client —Dockerfile –server —Dockerfile 参考にさせていただいたのはこちら。 Nuxt.jsの動作環境をdockerで作る https://qiita.com/FrozenVoice/items/2ae89ce820cade84924e 若干新しいバージョンに変更しました。 client/Dockerfile FROM node:12.1.0-alpine RUN mkdir /app WORKDIR /app RUN npm install -g vue-cli ENV HOST 0.0.0.0 EXPOSE 3000 docker-compose.yml version: ‘3’ services: app: build: ./client volumes: - ./client:/app ports: - "

Nuxt.js と Python でつくるぬるさく AI アプリ開発入門

技術書典6で購入した本2冊目。 これも素晴らしい。#技術書典6 の #ぬるさくAI ですが 14時に完売しました!! ご購入いただいた皆様、本当にありがとうございました!!! BOOTHでのpdf販売を同時に開始しましたので ぜひ、#技術書典 にお越しいただけなかった方、ご購入ください!https://t.co/S7fajL0B8o — takayama.k (@pco2699) April 14, 2019 なんとか連休中に平成最初のリリースまで持って行きたかったのですが、色々つまり出してきたので、実際に何かを作ってリリースするところを目指したいと思い、Docker環境構築までで一旦まとめておきたいと思います。 Jupyter Notebook いきなり、あなたの知らない世界で、Jupyter Notebook のインストールから。 こちらなども参考に。 https://techacademy.jp/magazine/17430 まずはAnaconda をインストール。Anaconddaで2.3GBも使うんですね・・・ インストールしたら、 Enviroments > 「analytics」 Notebookをインストールしようとして間違えてJupyterLabをインストールしてしまいました。そうしたらNotebookも勝手に入りました。 3.3.1 データセットを読み込む 第1章、第2章も読み応えありますが、作り始めるのは第3章からになります。 初めてJupyter Notebook を使う身としては、色々不明点を抱えながら進めます。どうやって実行するんだ、というところから始まりますが、Runボタンで実行です。 実行すると、エラー。 ModuleNotFoundError Traceback (most recent call last) <ipython-input-2-aed2979e33dd in <module 1 # 分析に必要なライブラリをインポート —- 2 import pandas as pd 3 import numpy as np 4 5 # データセットを読み込む ModuleNotFoundError: No module named ‘pandas’ 先に

コンテナ時代のWebサービスの作り方

技術書典6で購入した本1冊目。 ガチで役に立つ本でした。 コンテナ時代のWebサービスの作り方 | 楽描商店 https://t.co/xFdOX3orNn 技術書典6で頒布した本をboothにて委託しております。ご活用ください。#booth_pm #技術書典 — とまと(nasum)技術書典え35楽描帳 (@tomato360) April 14, 2019 とりあえず、76/103ページまでやってみました。ここまで行くと、ソースをコミットしたら自動的にサイトに反映される仕組みが動きます。 が、多少悪戦苦闘したところもありますので、その辺をメモ。 リージョン 書籍では、東京リージョン(ap-northeast-1)を使うことになっていますが、元々オハイオを使っていたのでそちらのus-east-2を使うことにしてみました。 すると、 The image id ‘[ami-785c491f]’ does not exist となります。これはリージョンによって異なるので、ami-8b92b4eeに変更します。(参考)https://docs.docker.com/machine/drivers/aws/ Terraform Terraform初体験。インフラをコードで定義するとはこういうことなんだ。 しかし、これも簡単に進ませてはくれません。 Error inspecting states in the “s3” backend: BucketRegionError: incorrect region, the bucket is not in ‘us-east-2’ region status code: 301, request id: , host id: 今回一番ハマったかもしれないのはこのエラー。 例えば、 aws s3 ls なんかを叩くと帰ってくるので、この接続でs3の所定のバケットが見えていないわけでもない。結局、フォルダ全体を一回消して、再度やり直したらOKという最悪パターンでした。 また、実際の発生順序は前後しますが、さらに進んでまたこのエラーが出るようになりましたが、書籍だと、aws_route_table.tf、aws_route_table_association.tfが、間違っているのでgithub(書籍に記載あり)のソースを見て記載しました。 rubyバージョン 元々のローカル環境がruby2.3.7だったのが悪いと思うのですが、最初にそれで進めてしまい、いざbuildが動くと You must use Bundler 2 or greater with this lockfile が出るようになってしまいました。

Docker 環境をステージング環境へ(GCP編)

GCP環境にDockerコンテナを作る方法はいくつかあるようです。 ・GCE(Compute Engine)のVMインスタンス作成時に、コンテナ イメージをデプロイ ・Google Kubernetes Engine(GKE)にクラスタ環境を構築してデプロイ ・その他色々・・・ 公式ドキュメントはこちら Compute Engine への Docker コンテナのデプロイ https://cloud.google.com/compute/docs/instance-groups/deploying-docker-containers?hl=ja で、今回はシンプルそうな、VMインスタンス時にデプロイする方法を試します。 公式ドキュメントはこちら VM およびマネージド インスタンス グループへのコンテナのデプロイ https://cloud.google.com/compute/docs/containers/deploying-containers?hl=ja&amp;_ga=2.46174759.-1895702560.1541304432 ですが、どうも分かりにくい。いくつか試してくれているサイトがありますが、どうも面倒なようにしか見えない・・・ インスタンス作成時は、Always Freeの条件 f1-micro インスタンス(1 か月あたり、バージニア州北部 [us-east4] を除く米国リージョンのみ) を踏まえて。 ただこれ、イメージは一つだけなんですね。後から追加できるかな・・・とりあえず、DBのイメージだけ指定します。 とりあえず、起動はします。 DBだけだと動いているか分かりませんが、SSHで入って確認してみます。 入ると ########################[ Welcome ]########################

You have logged in to the guest OS.

To access your containers use ‘docker attach’ command

########################################################### と表示されています。 docker images で目的のイメージが入っていることが確認できます。 であれば、もう一つのイメージはpullを叩いても良いか。


Docker push Google Container Registry 編

さらに新しい編。ドカベンか! ドカベン プロ野球編 (1-52巻 全巻) / 水島新司 / 秋田書店posted with カエレバ 楽天市場 Amazon 7net 今度は、Google Container Registry へのpushを試してみます。 始める前の準備 Container Registry のクイックスタート https://cloud.google.com/container-registry/docs/quickstart?hl=ja プロジェクトは既存のものを使用します。 課金の設定もしてあります。 Container Registry APIの有効化は、こちらのページのリンクボタンからGCP画面へ飛んで行って、ボタンを押していけばできます。 Google Cloud SDKはインストール済みでしたので、ここもスキップ。 この時にインストールしたのですね。 サイト引っ越し、そして、再引っ越し(Part2) https://www.programmers-office.ml/2018/12/22/%E3%82%B5%E3%82%A4%E3%83%88%E5%BC%95%E3%81%A3%E8%B6%8A%E3%81%97%E3%80%81%E3%81%9D%E3%81%97%E3%81%A6%E3%80%81%E5%86%8D%E5%BC%95%E3%81%A3%E8%B6%8A%E3%81%97%EF%BC%88part2%EF%BC%89/ Dockerもインストール済み。ビルド済み。 認証から行きます。 認証してpush gcloud auth configure-docker でDocker config fileへの更新確認をされるので、Yで進めます。 次にイメージにタグをつけます。 そしてpushしようとすると、認証できていない・・・ denied: Token exchange failed for project ‘xxx’. Caller does not have permission ‘storage.buckets.create’. To configure permissions, follow instructions at: https://cloud.

Docker push AWS ECR 編

色々な編ができていく・・・ ずっとはまっていてもダメなので、ちょっとGitLabからのPullはどこかで質問することにします。 そして、AWS ECS で pull するのであれば、当然相性良いだろうと思われる、ECR にpushしてみます。 イメージのプッシュ https://docs.aws.amazon.com/ja_jp/AmazonECR/latest/userguide/docker-push-ecr-image.html もうpushするimageはできているところからスタートします。 Docker 環境をステージング環境へ(Docker push編) https://www.programmers-office.ml/2019/01/14/docker-%E7%92%B0%E5%A2%83%E3%82%92%E3%82%B9%E3%83%86%E3%83%BC%E3%82%B8%E3%83%B3%E3%82%B0%E7%92%B0%E5%A2%83%E3%81%B8%EF%BC%88docker-push%E7%B7%A8%EF%BC%89/ python環境 pushするためには、まず1.の認証が必要です。 そのために、AWS CLIのインストールが必要です。 まあ、そうなんだろうけど面倒は面倒ですね。どんどん遡る・・・ 結局、開発環境をDockerで作るとしても、それを扱うための環境(ここで言えばpython環境)をローカルに作らなければいけない。もう少しローカル依存を減らしたいのですが・・・ AWS CLI をインストールする方法 https://docs.aws.amazon.com/ja_jp/cli/latest/userguide/cli-chap-install.html おもむろに $ pip install awscli –upgrade –user を叩くと、「pip: command not found」のつれないメッセージ。 $ python -m pip -V /usr/bin/python: No module named pip そこからか・・・ python3 そもそも、macの初期インストールpythonは python –version Python 2.7.10 です。 pipはPython 3.4以降には、標準で付属しているそうです。 Python3系を入れましょう。 Code4Startupの時は、普通にインストーラーをダウンロードする形でしたが、今時だとやはり、Homebrewでしょうか。 https://brew.sh/index_ja.html インストールのスクリプトを素直に実行。 インストール完了後、 $ brew doctor

Docker 環境をステージング環境へ(Docker pull編)part1

docker pushができたので、今度は、サーバ側からpullします。 サーバは、GCPのつもりでしたが、Mgentoの検証を行っていたAWSを使うか、と考え、それならば、Elastic Container Serviceを使ってみることにします。 Elastic Container Service(ECS) まず、ECSには二つの起動モデルがあります。 ・Fargate 起動タイプモデル ・EC2 起動タイプモデル Fargateはコンテナ用のリソースで、EC2とは切り離されており、それ用の料金が発生します。逆に言えば、コンテナを使うためにEC2を増強するための料金は不要ということです。これに対して、EC2起動モデルの場合は、ECSの料金は不要です。 今回は、EC2の1年間無料枠を利用して、EC2起動タイプで行ってみます。 (AWSもDockerも初心者なのに大丈夫かどうかは不明です) ECSの手順については、こちらを参照させていただきました。 https://dev.classmethod.jp/cloud/aws/amazon-ecs-entrance-1/ 最初の、タスク定義を作成するところで、FARGATEかEC2かを選択するボタンがあるので、EC2を選択します。 タスク定義名は、タスク定義で指定する内容が、使用するDockerイメージだったり、ということなので、WooCommerceとしておきます。 他は初期値のままで「コンテナの追加」をします。 今回は、woocommerce_mariadb_1、woocommerce_wordpress_1として、二つ分追加します。 ポートマッピングは悩みますが、mariadb側はなし、wordpress側は80:80と、443:443を追加しておきます。 タスク定義が正常に作成されました、とのことです。 続いて、クラスターを作成します。 クラスターテンプレートは、Fargateではないので、「EC2 Linux + ネットワーキング」を指定します。 インスタンスタイプは無料枠なので、t2.micro、キーペアは作成済みのものを選択します。 「コンテナインスタンスの IAM ロール」はさらに不明なので、「新しいロールの作成」のまま進めます。 分からないながら進めていき、起動します。 「サービスの検出の統合の有効化」はさらに不明のため、チェックを外しておきます。(上記サイトの絵にはありませんので、貼っておきます) 以上で立ち上がったはずですが、サービス画面に行ってみると、起動失敗。 理由は、 https://registry.gitlab.com/v2/aaa/bbb/woocommerce_wordpress_1/manifests/latest: denied: access forbidden まあ、そうですよね・・・ コンテナの設定の、「プライベートレジストリの認証」「認証情報パラメータ」辺りだと思いますが、今日は時間切れです。

Docker 環境をステージング環境へ(Docker push編)

まだ、全然途中ですが、いったんベンダー機能とショップ画面が見えるようになったところで、これを別サーバ(ステージング環境のつもり)に持っていきたいと思います。 Docker力強化の目的もあります。 Docker イメージのレジストリサービス ローカル開発環境のDockerイメージを別サーバに持っていくために、まずは、Dockerイメージを共有することが必要と考えます。すると、レジストリサービスが必要ということが分かります。 そしてレジストリサービスを調べてみると、ありがたいサービスが提供されていることが分かります。 ・Docker Hub ・Amazon Elastic Container Registry (ECR) ・Google Container Registry ・Azure Container Registry ・GitLab Container Registry などなど。 構築先がGCPなのと、このサービスもAlways Free対象なので、Googleも有力な候補ではありますが、ソースをGit管理するなら、同じ管理にするのが合理的なのではということと、GitはGitLab派の私としては、GitLab Container Registryを使ってみることとします。 GitLab Container Registryへのpush 流れとしては、まずcommitして、イメージ作成。 これは、こちらを参照 https://www.memotansu.jp/docker/626/ commitなの、buildなの、というのはよく分かっていませんが、とりあえず、これで行ってみます。 docker login registry.gitlab.com ログインはできます。 しかし、pushは、3つあるイメージのうちの2つをpushしたいわけで、その仕組みがいまいち分かりません。 gitlabのページに記載を参考に、最後に「:タグ名」を付けてみても、 「An image does not exist locally with the tag」 となります。 この辺りを参考に、タグ付けします。 http://docs.docker.jp/linux/step_six.html https://docs.docker.com/engine/reference/commandline/tag/ そうすると、 registry.gitlab.com/aaa/bbb/woocommerce_mariadb_1 v1.1 a4e11e5e5b41 3 hours ago 262MB registry.gitlab.com/aaa/bbb/woocommerce_wordpress_1 v1.1 eba2457b8e6a 4 hours ago 438MB というようなイメージが出来上がります。