読者です 読者をやめる 読者になる 読者になる

Hadoopセミナー参加

先日、某巨人の会社で開かれた無料のハンズオンセミナーに参加した。
テーマは実務では経験の無いHadoop/Sparkについて。

www-01.ibm.com

今の会社は導入・検討の可能性があれば平日でも外部セミナーに参加させてくれるところはありがたい。
やっぱそういうとこで社員のモチベーションとか、学習意欲って変わると思う。

本題に戻って、今迄なんとなくHadoopって聞いたことあったし、調べたりもしてたんでどんな時に使うソフトウェアなのかってのもざっくり分かってたけど、実際に触れるってのが良かった。
まあ、前もネット記事見ながら立ち上げて、クエリ投げて結果返ってきたけど、んで何がすごいの?的な感じだったんで肌ではメリットを感じれていなかった(データ数が少なすぎるんで当然)

書籍も電子で買ってたけど、よーわからんって感じで見なくなってたし。

まあ、今回一番良かったのは、実際に使ってる人に対して自分のモヤモヤを質問出来たこと。

最近だとRedshiftみたいな列志向RDBとかも出てるしGoogleとかぐらいしか出番ないんじゃないのか?とか思ってたけど、結論としては『大規模データ集計はどっちも出来るけど、そこからの操作に得手不得手がある』って感じ。
当然ペタバイトとかになればRDBじゃどうにもならんだろうけど。

ざっくり書くとこんな感じ。

RDB
SQLが使える(かなり重要)
トランザクションが使える
インデックス使って絞り込んだデータ抽出が得意
バッファプール使って同じ結果を高速化
クエリの結果が早い
めちゃくちゃデカいGroupByとかどうなんのかわからん
ロール管理、アクセス管理がしやすい
オプティイマイザが枯れている

Hadoop
シーケンシャルアクセスの設計なので特定のデータ抽出が苦手
大規模データにもスケールアウトで対応できる
少ない件数だと結果が返ってくるのが遅い
基本的にはjavaじゃないとデータの操作ができない
ディスクへのデータの格納方法が冗長化前提
チューニングが難しい

こう書くと、意外とRDBの方が良いなって印象。

ただ、時代と共にデータも増えてきてRDBも色々頑張って来たけど、どうにもならんくなってHadoopが使われるようになって来た感じかな。(歴史的な背景は不明)

本当は使いたくないけど仕方ない的な。

ただ、使い易くするようにSQLライクにデータ操作が出来るようにしたHiveなんかが出て来たみたい。
javaは一切出来ない俺でもデータ操作が出来る(すごい)

あとは、HadoopはMap/Shuffle・Sort/Reduceって処理の際の中間結果をディスクに書き出すようでまあ、デカいデータであればやっぱり時間がかかるってことで、インメモリで処理して高速化するようにしたSparkも出来てかなり実用的になった模様。

そういや最近はよくSparkって聞く気がする。
機械学習みたいに大量なデータを高速に処理する時にはメモリ上でササッと処理するんだろう。
メモリも安くなって来たからこそ実現できた事なのかもしれない。

最後はHadoop周りの自社製品の説明とハンズオンをやって終了。セミナーの時間が押しまくってセミナールームの利用時間ギリギリに逃げるように退散。

だけど、Hadoopに対する理解も深まったし、手ブラで無料であれだけの事を教えてもらえたのはラッキーだった。

さすがはインターネットの巨人様。ありがとうございました。

もう一回Hadoopの本を読んで再挑戦して見よう。

 

https://www.amazon.co.jp/Hadoop徹底入門-第2版-オープンソース分散処理環境の構築-太田-一樹/dp/479812964X

ベンチプレス成果

nshimayang.hatenablog.com

 

1月頭にジムの人と一緒に「2016年内にベンチプレス100kgを達成」を目標にして少しづつ記録してきた。

 

もう師走ってことで残り時間もないのでそろそろあと一歩のとこまで行ってないとヤバ目。

11月ぐらいに95kgに挑戦したら、他の人は挙がったけど俺はちょっと挙げたとこでそれ以上持ち上げれなくなって、失敗。

 

かなり焦ってそれから挑戦できなくなってたけど、ジム行った時にたまたまベンチプレスに挑戦することになったから、95kgにトライ。

ゆっくりだったけど、重さ的には余裕ある感じで挙がった。

追い込むつもりで2回挙げようとしたけど、バーに巻いてあるスポンジのマジックテープがシャツに引っ掛かって無理だったw

 

でもこれであと残り5kg。今年もあと20日ぐらい。ジムもギリギリまではやらないから実質残り2週間。なんとか間に合いそうな気もする。

 

来年は年初から別の目標を立てているので気持ち良く年内に目標をクリアしたい!

ZABBIX ホストのテンプレート設定

今、会社ではWEBシステム監視にZABBIXを利用している。

前職でも利用していて、ちょっと面倒な部分もあるけど、細かい設定もできるし、まあまあ慣れているのですぐに馴染んだけど、監視の設定自体がごちゃごちゃしてたので、統一化や、自動登録、マクロ利用などしてプロダクト毎にイイ感じに修正して運用していた。

 

あるプロダクトで日常的にリソース監視の通知が来てて「もうそろそろこの設定見直したほうがイイんじゃないか。」と思って、既存の監視テンプレートを流用して、修正した新規の監視テンプレートを作って適用してた。

毎日通知が来てる監視のトリガー感度を下げたけど、なーんかまだ通知がくるなーと思ってはいたけどちょっと経過観察してた。

んで、ふと気づくと新しい設定でもトリガーが登録されてたけど見覚えのないトリガーがあった。しかもテンプレートに紐付いてない。

よくよく考えてみると新規のテンプレート適用前の設定が残ってる模様。

 

そういえば、監視データを捨てるのが勿体無いのでテンプレートの「リンクを解除」してたからっぽい。

 

何台か同じ設定を適用したサーバがあったんで、悩んだ結果、元々の監視ホストをリネーム(一時的にそんなホストねーよ!って言われる)して、そのホスト設定を複製して新しいテンプレートを設定したホストを登録。

そうすると要らないトリガーとかがない真っさらなホストで登録できた。

もちろん監視データはないんで、古いホスト設定は削除せずに無効化しておいて後で削除する予定。

ZABBIXの仕様なのかちゃんと調べてないけど、ちょっと注意が必要みたいだ。

お勉強会

昨日今日で自社(というかグループ会社間)で勉強会っぽいものを初めて開いてみた。

題材はAWS Summitで聴講したサーバレス・AWS Lambdaあたりの話。

なんでかっていうと仕事でいろいろ触っててもやっぱ飽きてくる感じはあったし、グループ会社でもおなじAWS使ってるのは知ってたんで同じビルのフロアで近いからなんかしら繋がりを作っておきたいなって思った。

そこで相互に刺激しあえればいいなーって感じで。

 

結果、それなりに刺激になったって言われる程度には反応があった。

 

ただ、自分でやってみてもいろいろ改善点がありそうなので残しておきたい。

まず、

  • ストレスの無いネット回線。これは必須だと思う。スライド見せるのに都度都度フリーズすると無駄に長引くし、雑談とかダレてしまう。最初に確保するべし。
  • 開催日は決めてから告知したほうがいいかも相手に合わせると以外とズルズル開催日が決まらなさそうな気がした。
  • プロジェクタはあったほうが良い。これは普通の話。
  • 大体の必要時間は伝えたほうが良さそう。みなさん仕事の途中だったのに時間食ってすいません….
  • 最初に対象者を明確にしたほうが良い。こちらの用意した情報と、参加者に乖離があった時にどっちに合わせるか?ってのは以外と面倒な話。
  • できればリモートデスクトップは利用しないほうが良い今回は、手元のPCからリモートのデスクトップに接続してスライドを表示してたけど、結局リモート側のマシンの問題で表示がうまくいかない可能性があるんで手元のPCで表示するのが良さそう。そういう意味ではslideshareみたいなWebサービスはすごい有効。ネットがあればどこでも表示できる。
  • スライドは複数を跨がないほうが良さそう。元々、AWS Summitの発表資料を利用しようと思ってたけど、いろいろあって勉強会自体のスライドからSummitの発表資料に飛ばしたけど以外と時間が掛かった。
  • 実演する時は時間かかる作業は動画にしておいたほうが良さそう。待ち時間や、待ってる間に別のことしてたら見せれない感じ。エラーで動かないってこともあり得る。

 

結局は伝える側、伝えられる側で別れる場合は、伝える側が準備をどこまでやるのか?なのかな~。

そ の点は寿司や、酒飲みながらぐらいユルい感じでやれればなんでも許してもらえるかもしれない。

 

まあ、でもここら辺を考えるキッカケになったし。

今回は主催する側の苦悩などもちょっとはわかったかもしれないな。

 

でもポジティブな感想をもらえるともっと頑張っていろいろ刺激し合いたいぜ!って思えるんで自分に取ってもイイ経験になったな。また次回もできるようになんか頑張って触ってみよう。

DNS移管

ちょっと前に、社内的な都合でDNSレジストラと、ネームサーバの移管をやることになった。

 

レジストラに関しては、事前に確認しておけば登録情報の変更程度で何も気にすることはなかった。

けど、ネームサーバを既存の関係会社のサーバから、AWS Route53に移管して自社で管理することになった。

 

まずは現状把握としてゾーンファイルを受領したけど、BINDのゾーンファイルだったけど見たのがこの業界に入って最初の頃以来だったw

前職辞めて1年ぐらいプータローしたあと、未経験で業界飛び込んで↓の書籍見ながらサーバ構築とは?を勉強頑張ってた時以来だった。

28日で即戦力! サーバ技術者養成講座:書籍案内|技術評論社

 

なんとか設定確認して、先にRoute53側に設定を写してたけど、よく見ると一部のサブドメインが委譲されててちょっと困ったけど↓あたり参考にして設定完了。

@IT:DNS Tips:SOAレコードには何が記述されている?

ネームサーバ移行 〜虎の巻〜 - Qiita

route53のネガティブキャッシュについて | Siguniang's Blog

 

フラグ用のサブドメイン登録とかして、あとはエイヤー!で切り替え完了。

伝搬後に委譲されたサブドメインも問題なく正引きできててなんとか移管完了した模様。

 

移管するまではヒヤヒヤしてたけど、ちゃんと準備しておけば問題なく作業が終わったんでよかった。

やっぱ今回のDNSもしかり自分でいろいろ管理できた方がなんかあった時にすぐ調べたりできるから楽な気はする。

ベンチプレス成果

この前、そろそろ90kgに挑戦しないと2016年内に100kgOVERの目標が達成できないと思って挑戦したら、90kg×1回行けた。

1セット目で80kg×5回やってたから、最初からやったらもう一回は行けたかも。

 

あと、2ヶ月半あるんで、年内に100kgOVERは行けそうだ。

ベンチプレス成果

久々にジムに行ってベンチプレス80kg×3回は自力でいけた。

ここ1、2ヶ月はサボってた感あったけど落ちてなかったんでよかった。

 

4回目以降は全く力が入ってないんで効果があるのかないのかよくわからん