エントリーの編集
エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
本記事はニーリーアドベントカレンダー2024の17日目の記事 その2 です。 はじめに こんにちは。Analytic... 本記事はニーリーアドベントカレンダー2024の17日目の記事 その2 です。 はじめに こんにちは。Analyticsチームの上田です。今回は小ネタとして、Park Directのデータ基盤ではどのようにデータ取り込みの正常性をチェックしているか?をご紹介します。 手軽さ (仕組みの単純さ・メンテナンスのしやすさ) を重視した方法ですので、少人数 (1~3名) で小~中規模のデータ基盤を運用している方の参考になるかもしれません。 データ取り込みの正常性チェック Park Directのデータ基盤では、TROCCO等を利用して各データソースのデータをBigQueryに日次で取り込んでいます。 データ取り込みの正常性チェックでは、主に日次のデータ取り込みが意図せず停止・遅延・転送漏れしていないか?をチェックしています *1。 実現方法 1. TROCCOの通知機能を利用した方法 TROCCOで