Magnolia Tech

techっぽいことを書くブログです

SRE サイトリライアビリティエンジニアリングを読んだ

ちょっと前に邦訳が出て話題になっていた「SRE サイトリライアビリティエンジニアリング」をようやく読んだ。

GoogleエンジニアによるSRE(Site Reliability Engineering)の解説記事の集合体。全体のページ数は500ページを超えていてかなりのボリュームだけど、割と短い記事の集合なので拾い読みには丁度良いかも。

日本ではメルカリがSREチームを大々的にアピールしていますね(既に日本、と限定できない組織になっていますが)。

tech.mercari.com

トイル(toil)

色々と読み所の多い本では有りますが、個人的には第5章「トイルの撲滅」が一番興味深く読めました。

トイル(toil)という言葉は今まで知らなかったのですが、辞書を引くと「骨折り(仕事); 苦労」と書かれていて、あまり良い意味では無さそうです。

本書の中では、以下のように定義されています。

プロダクションサービスを動作させることに関係する作業で、手作業で繰り返し行われ、自動化することが可能であり、戦術的で長期的な価値を持たず、作業量がサービスの成長に比例するといった傾向を持つものです。

システムを運用していれば日々色々なアラートメッセージを受け取りますが、必ずしも全てに新規性が有るわけではなく、日々既知のアラートを受け取り、「(改善を図る暇も無いし)既知だから問題ありません」とインシデントをクローズすることが有るかと思います。

しかし、このような作業の割合が増えていくと、本書でも触れられているようにエンジニアとしてのキャリアの停滞につながります。

たいてい一つ一つの作業はすぐに終わるし、システムは安定的に運用されているし…と言った理由でこのような小さな問題はマネージメントサイドから注目されることが少ないのですが、実はこうゆうことを一つ一つクリアにしていくことが大事なんだな、と改めて理解しました。

トイル、減らしていきましょう!

おわりに

SRE サイトリライアビリティエンジニアリング ―Googleの信頼性を支えるエンジニアリングチーム

SRE サイトリライアビリティエンジニアリング ―Googleの信頼性を支えるエンジニアリングチーム

なお、原著がオンラインで無料公開されているので、まずはそちらを読んでみると良い。

Google - Site Reliability Engineering

sbt 1.0時代のPlugin事情

sbt-scalatraというsbt pluginを1.0対応させるためにやったことをまとめておきます。

sbt 1.0対応作業一覧

sbt 1.0対応のpluginをゼロから作るときの詳しい解説は、公式ドキュメントにきちんと書かれているので、まずはそれを読む。

sbt Reference Manual — Plugins

ここでは既にsbt 0.13系のPluginをアップデートしてsbt 1.0対応したときのことを書く。ざっと以下のような作業を行った。

  1. AutoPlugin化
  2. project/pluginをアップデートする
  3. 複数のsbtのバージョンに対応させる
  4. plugin間の依存関係の定義
  5. pluginを自動で有効にする
  6. settingsの対応
  7. deprecatedなメソッドの書き換え

AutoPlugin化

sbt 1.0以降はAutoPluginしかサポートされなくなるので、従来Plugin classを継承していた箇所をAutoPlugin classの継承へ書き換える。

単純に書き換えるだけでOK。

これを…

object ScalatraPlugin extends Plugin {

こう書き換える。

object ScalatraPlugin extends AutoPlugin {

AutoPlugin自体の詳しい解説はAPI Documentや、AutoPlugin登場時の解説記事を読むと分かりやすい。

http://www.scala-sbt.org/1.0.2/api/sbt/AutoPlugin.html

http://eed3si9n.com/ja/sbt-preview-auto-plugins

project/plugin.sbtをアップデートする

project/plugin.sbtに書かれているsbt pluginのバージョンをsbt 1.0対応したものへアップデートする。

sbt 1.0への対応状況はsbtのWikiを参照すると良い。きちんとアップデートされている。

github.com

ここで一つでも使用しているsbt pluginがsbt 1.0対応できていなければ1.0対応のコンパイルが通らないため、先にそちらのpluginをアップデートするか、issue上げて直してもらうか、PR送るか、という3択となる(もしくは使うのを止める)。

plugin間の依存関係の定義

AutoPluginでは、Plugin同士の依存関係を定義できる。

例えばsbt-scalatraのScalatraPluginは、xsbt-web-pluginJettyPluginに依存していて、ScalatraPluginを有効にすれば自動的にJettyPluginも有効になる(AutoPlugin化される前は明示的に別々に有効にする必要が有った)。

依存するPluginは、project/plugin.sbtではなくbuild.sbtに定義する。その際addSbtPluginではなく、libraryDependenciesを使う。

sbtの複数バージョンに対応させるため、build.sbtに以下のように定義する(xsbt-web-pluginに依存する場合の指定例です)。sbtとScalaのバージョンがターゲットのsbtのバージョンによって自動的に選択される。

libraryDependencies += {
  Defaults.sbtPluginExtra(
    "com.earldouglas" % "xsbt-web-plugin" % "4.0.0",
    (sbtBinaryVersion in pluginCrossBuild).value,
    (scalaBinaryVersion in pluginCrossBuild).value
  )
},

なぜかsbtのドキュメントにはsbtPluginExtraのことが書かれていないが、以下のブログを読むと構造が分かる。

始める sbt - プラグインの使用

実際のplugin間の依存関係は、以下のようにrequiresをオーバーライドすることで定義する。

import sbt._
object ScalatraPlugin extends AutoPlugin {
  override def requires = JettyPlugin

複数のsbtのバージョンに対応させる

当面sbt 0.13も利用され続けると思われるので、0.13系と1.0系の両方に対応させるためには、build.sbtにcrossSbtVersionsを定義し、クロスビルドを有効にする。

例えば以下のように記述すれば、0.13.16と、1.0.2に対応したバイナリを作成する。

crossSbtVersions := Seq("0.13.16", "1.0.2"),

普通にcompileするとproject/build.propertiesのバージョンを参照するので、^comile^scriptedのように先頭に'^'を付けてコマンドを実行する。

project/build.propertiesに指定するバージョンは、crossSbtVersionsに指定したバージョンのうち、どちらかと必ず合わせた方が良い。そうしないと無駄に色々なバージョンのsbtをダウンロードすることになる。

pluginを自動で有効にする

下記のように定義すると、Pluginは自動的に有効になる。

override def trigger = allRequirements

triggerをオーバライドしない場合、build.sbtの中で明示的にpluginを有効にする。

enablePlugins(ScalatraPlugin)

例えば一つのbuild.sbtに複数のサブプロジェクトが有り、特定のサブプロジェクトでしか有効にする必要が無いPluginであれば明示的に有効させるべきだし、ソースコードフォーマッターのようにプロジェクト横断的に使うものであれば明示的に有効にさせる必要は無いかもしれない。その辺りはユースケース次第だが、どちらにしてもドキュメントには明示した方が良い。

settingsの対応

AutoPluginより前はpluginごとに色々な設定名が使われていたが、AutoPlugin化以降は、MyPlugin.projectSettingsみたいにpluginのclass名に続けてprojectSettings又はbuildSettingsという名称で統一された。

互換性のため、既存のsettingsの名称を変える必要は無いが、以下のようにprojectSettingsに代入しておくことでprojectSettings形式で使えるようにする方が良い。

override lazy val projectSettings = scalatraSettings

またsettingsを使って有効にしたいtaskKeyやsettingKeyはautoImportに定義する。

deprecatedなメソッドの書き換え

sbt 0.13でdeprecatedになっているメソッドはsbt 1.0では削除されている。そのため下記のドキュメントを参考にソースコードを書き換える。

sbt Reference Manual — Migrating from sbt 0.12.x

互換性の関係からどうしても一つのソースコードにまとめられない場合は、それぞれのsbtのバージョンに対応したディレクトリを用意することで、sbtのバージョン別ソースコードを用意することができる(sbtのAPIが変わったものや、Scala 2.10と2.12の非互換など)。

src/main/scala-sbt-0.13/

src/main/scala-sbt-1.0/

具体的なコード例は、sbt-scalatraの例を参考にすると良い。

github.com

おわりに

一つ一つの作業は単純だけど、特にsbt 1.0で内部構造が大きく変わっているものなど、クラスの階層構造が変わっていたり、別リポジトリへ移っていたりと、意外と移動先を探すのが大変だった。

そこはひたすらsbt自体のソースを見るしかない。あとsbt自体のドキュメントがかなりの量あるので、それを読み込むのがけっこう大変だった。

とりあえずsbt 1.0にアップデートしないとJava9で動作しないので、前に進むしかない。ソフトウェアエンジニアに後退する、という選択肢は無いので進もう!

MacBook Pro 2017モデル 13″の電源アダプタを快適に持ち運ぶ

MacBook Pro 2017モデル 13″を購入した。

USB PDになれば純正以外の充電器が選び放題で、外出用のサードパーティー製の充電器とケーブルを買うぞ!と意気込んだものの、MacBook Proで使うとなると結局これ!という物が無いのが実情…

thewirecutter.com

しょうがないので、純正の充電器とケーブルを持ち運んでいるけど、以前の充電器と違ってType-Cの充電器では電源ケーブルを巻き取ることができないし、純正USBケーブルはしなやかさに欠けていて、まとめづらい。

クルッと巻いてケーブルバンドで固定して、コクヨのSHELLBROというペンケースに、ケーブルと充電器を収納して運んでいます。いまのところ、これが一番カバンの中で収まりが良い。

オウルテック 結束マジックテープ OWL-SKSN03

オウルテック 結束マジックテープ OWL-SKSN03

クラウドファンディングで良さそうなアクセサリケースを見つけたけど、すぐに入手できないので、様子見。

www.makuake.com

Markdown Night 2017 Summerというイベントを開催しました

やるぞ!という話になって2ヶ月あまり、ついに開催しました。

早速色々とまとめて頂いているので、イベントの様子はそちらをご覧頂ければと思います。

スライドも既にアップされていますので、見逃した方はそちらをご覧下さい。

tech.mercari.com

togetter.com

blog.bitjourney.com

当日は80人近くの方に参加頂き、懇親会含めて、非常に盛況でした。 会場・懇親会を提供頂いたメルカリ様、並びに運営をサポート頂いた社員の方に感謝致します。

少しタイムテーブル的に余裕が無かったかな、という点が反省でしたが、次回に生かしていきたいと思います。

第2回の開催は今回の反響次第ですが、我こそはMarkdownについて話したい!という方がいらっしゃましたらご連絡下さい。

※読み・書き・そろばん・markdownという標語(?)を意外と拾って頂いたのでちょっと嬉しかった…

「現場で役立つシステム設計の原則」を読んだ

細々と書き直したので、最初の公開の時とちょっと変わっています。


最近ようやくこの手の「良い設計」をちゃんと解説してくれる書籍が出版されるようになってきて、良い時代になったなぁ。データベースであればドメインを定義したり、正規化といった、ある程度定型的な観点が有る手法が有るので割と以前から良い設計に対するアプローチが明確だった気がするけど、アプリケーションになるとなぜか、あまり見かけなかった。

今までコードを書いたことが無い人が読んでも、今一つ納得感が無いような気がするけど、一度でも他人のコードの改修に苦労したことが有れば、発見が有る本。

全編に渡って素晴らしい知見が多いのだけど、まずはChapter1の「小さくまとめてわかりやすくする」だけでもしっかり読んだ方がいい。特に値オブジェクト重要。

値オブジェクトを使ったリファクタリングと機能追加を体験するだけでも、ソフトウェアの複雑さのコントロールについての一番大事なポイントが理解できるんじゃないかと。ソフトウェアの機能追加を安定的に行っていくためには、影響範囲をどうやって正しく特定するか?ということに尽きるんだけど、それが型レベルで追跡し易くなるだけで格段に楽になるし、想定外の値が混入していないことも保証されるので、安心できる。

複雑なソフトウェアに対するリファクタリングと機能追加をみっちりやる体験講座が有れば良いのに!

Chapter2以降も良い話が満載だけど、まずはChapter1を腹落ちするまでコードを書いた方がいいんじゃないかと。

良い設計を行うために

設計の話ということで、先日のBuildersconでしんぺいさんが発表された「複雑なJavaScriptアプリケーションに立ち向かうためのアーキテクチャ」というトーク本編とQAの中でとても良い言葉が有ったので、その話とリンクするのですが…

techblog.reraku.co.jp

スライドに出てくる「設計に正解は無い」という言葉と、QAの中で出てきた「良い設計か否かは機能追加するまで分からない」という言葉は大事だな、と。○○すればOKなんてことは無くて、未来にどんなことが起きる得るか、それをしっかり考えて(かつ、考えすぎず)その環境においてベストな設計を自らの意思で選択することが大事なんじゃないかと思うわけです。

あと「機能追加するまで良い設計か分からない」ということは裏を返せば、過去の機能追加で苦労した所をしっかり振り返っておけば、自分たちに必要な保守性や、拡張性はおのずと分かるハズです。

Markdown Night 2017 Summerというイベントを開催する

Builderscon Tokyo 2017の興奮も覚めやらぬ中、Markdown Night 2017 Summerというイベントを開催することにしました。

connpass.com

普段吉祥寺.pmというイベントを定期的に開催しているけど、そろそろ別の形式のイベントもやってみたい、ということでgfxさんの発案に乗っかり、更にはメルカリ様の会場提供という嬉しい展開も有り、なかなか盛り上がる予感です。

Builderscon 2017に行ってきた

去年のBuilderscon2016は行けなかったけど、今年はチケットを確保してYAPC::Asia 2014以来の日吉へ。

builderscon.io

参加できたのは8月4日の二日目のみ、懇親会は不参加と限定的な参加でしたが、非常に面白いトークを聴くことができました。

DeepLearningによるアイドル顔識別を支える技術

牧さんのオープニングを聞いたら間髪を入れずすぎゃーんさんのトークへ。 最後の方のデモで「これは認識するかな?」とすぎゃーんさんが発言していて、「自分で識別してるよね?」ってかけ声が一番のハイライト。

speakerdeck.com

管理画面を作ったり、色々なハックが有ったりと、さざまななノウハウの上に成立してて、ほんと凄い。

まさに脱ドルオタされたすぎゃーんさん卒業公演にふさわしい内容でした(顔認識は続けるそうなので、卒業じゃないけど)。

「アイドルとはなにか?」「実用的とはいったい」などなど、名言の多いトークでした。

マイクロチームでの高速な新規開発を支える開発・分析基盤

色々な制約の中で、新しいサービスを立ち上げるための数々の工夫点が端的にまとまっていました。

speakerdeck.com

やらないことを明確に決めているところと、最初から分析基盤をきちっと作り込んでおくこと(ログとか)の大事さがよく分かりました。

実践的で学びが多い。

複雑なJavaScriptアプリケーションに立ち向かうためのアーキテクチャ

最も実践的な学びの多かったトーク。これはあーだこーだ言ってもしょうがないので、設計を生業とする人は全員スライド見た方が良い、JavaScript関係無いと言えば、関係無い。もっと本質的な話。

speakerdeck.com

QAで良い設計ができたと分かるタイミングは?みたいな話があって、「機能追加をするとき」って回答が一番良かった。だからこそ機能追加する時に、やりづらかったところと、やりやすかった所は必ず次の開発に生かすためにも残すべきだと思う。

RDBアンチパターン リファクタリング

builderscon 2017ベストトークのそーだいさんのトーク。これもとにかく読んだ方がいい。

speakerdeck.com

マジカルな設計を天才がなんとかしてしまう展開は「あーーーー」って思ってしまった。

横山光輝三国志 全文検索システム

直接発表が聞け無かったけど、TwitterのTLがこれで埋まった力作。

docs.google.com

オンプレ、クラウドを組み合わせて作るビックデータ基盤 -データ基盤の選び方-

これもTwitterのTLがけっこう気になった。まだスライドが出ていないのか、見つけられなかった。

お昼ご飯

f:id:magnoliak:20170805201113j:plain

スポンサーセッションのお弁当がもの凄い行列だったので、gfxさん、かるぱさん、かじさんと歴戦のPerl Mongerな方々と外へご飯を食べに行きました。

意外とイベントの懇親会で夜話す機会は有ってもお昼ご飯を食べながらテックトークする機会が無かったので貴重な体験でした。

終わりに

カンファレンスのお楽しみと言えばノベルティです。特にトートバックは色々と使えて嬉しい。

f:id:magnoliak:20170805203913j:plain

あと、個人スポンサーで参加したのでパーカーと、しゃもじを頂きました。

f:id:magnoliak:20170805201001j:plain

見透かされている!と思うほどのピッタリのやつが出てきたので、これ最高です。

1日目、3日目も色々と面白そうなトークが目白押しで、TwitterのTLも大変なことになっていたので、ぜひ来年も参加したい。