2014/09/09に行われた『サーバ/インフラエンジニア養成読本 ログ収集〜可視化編』 出版記念！執筆者が語る大講演会！ での発表資料です。 http://eventdots.jp/event/137658Read less
こんにちは。古橋です。 先日の*1 データ転送ミドルウェア勉強会で、新しいオープンソースツール Embulk をリリースしました。 Embulk, an open-source plugin-based parallel bulk data loader from Sadayuki Furuhashi Embulk は、リアルタイムなログ収集では常識となった fluentd のバッチ版のようなツールで、ファイルやデータベースからデータを吸い出し、別のストレージやデータベースにロードするためのコンパクトなツールです。 fluentd と同様にプラグイン型のアーキテクチャを採用 しているため、RubyやJavaで簡単なコードを書くことで、様々なファイルフォーマットやストレージに対応することができます。一方で fluentd とは異なり、高速性やトランザクション制御、スキーマを使ったデータのバリ
弊社の一部検証環境では、AWSのスケジュールや負荷に応じてインスタンスを自動的に増減してくれる機能であるAuto Scalingを使用しています。これにより、必要なときに必要なだけ使えるというパブリッククラウドの特徴を簡単に活かすことができます。 ただし今回の検証で使用するには、ひとつ不都合がありました。スケールダウンするときにインスタンスを「電源ケーブルを引っこ抜くように」落としてしまうため、終了時にログをまとめて転送することができないのです。保存しておきたいログは常時ほかのサーバーや記憶領域に転送する必要があります。 このためのツールとして最近fluentを検証・導入しましたのでご紹介いたします。 fluentとは ログの転送・集約をするためのツールです。プラグインで機能を拡張できる点とログを構造化できる点がとても頼もしく見えます。こちらのブログおよびスライドに細かな紹介が載っていま
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
