2024年5月31日 【Google Cloud】Dataplexデータ品質について検証してみた(1/2) Dataplex Google Cloud 検索する Popular tags 生成AI(Generative AI) Looker Studio BigQuery AlloyDB Google Workspace 事例紹介 Cloud SQL Category Google Cloud Author Google Cloud研究開発チーム SHARE 目次 SQLを使用した独自のルール(カスタムSQLルール)について SQL 行チェックルール SQL 集計チェックルール Content こんにちは。Google Cloud研究開発チームです。 今回は、Dataplexの「データ品質」の以下機能のうち、「①自動データ品質」について深堀しようと思います。 ・データ品質管理 ├①自動データ品質 └②データ品質タスク ・データプロファイリング └③データプロファイリング 「自動データ品質」は、品質要件を定義し、その定義に基づいてデータを検証する機能です。 品質要件の定義には、以下を使用することができます。 組み込みのルール SQLを使用した独自のルール ※本記事 「データプロファイリング」を使用したルール 本記事では、このうち、「SQLを使用した独自のルール」を使用した流れについて確認していきます。 SQLを使用した独自のルール(カスタムSQLルール)について 今回は、以下サポートされているSQLを使用した独自のルール(カスタムSQLルール)の作成手順と結果を確認していきます。 SQL 行チェックルール SQL 集計チェックルール まず共通の手順として、「データ品質スキャンの作成」と「ルールの追加」があります。 ※「データ品質スキャンの作成」は過去の投稿にて説明しておりますので、ぜひご覧ください。 以下から任意のルールを選択します。 SQL 行チェックルール 対象列に列レベルで、品質を確認します。 ①対象テーブルを確認してみましょう。 パブリックデータの「bigquery-public-data.iowa_liquor_sales.sales」テーブルを利用します。 「vendor_number」列はstring型のため、integer型とfloat型が混在しているようなので、今回は「vendor_number」列を対象にルールを設定してみます。 ②「ルール」を定義していきます。(必須項目のみ記載します。) ディメンション:以下から選択します。 完全性、精度、一貫性、有効性、一意性、鮮度、ボリューム 合格のしきい値(%):Trueの割合を記載します。指定した値以下の場合にジョブが失敗となります。 列名:ルールを適用する対象列を指定します。 SQL:カスタムSQLを記載します。 今回はIntegerの場合(数字のみ)をTrueとしたカスタムルールを記載します。 REGEXP_EXTRACT(vendor_number, ‘^[0-9]+$’) IS NOT NULL ③ジョブの結果を確認します。 ジョブの結果がエラーのため、少なくともInteger以外があることが分かります。 「失敗した行数」から「vendor_number」列にInteger以外が23.13%ある結果となりました。 SQL 集計チェックルール 対象列の全体のデータを集計し、品質を確認します。 ①対象テーブルを確認してみましょう。 パブリックデータの「bigquery-public-data.austin_incidents.incidents_2008」テーブルを利用します。 2008年用のテーブルのため、「date」列に2008年のデータのみがあるのかを確認します。 ②「ルール」を定義していきます。(必須項目のみ記載します。) 「SQL 集計チェックルール」とほとんど同じ項目です。 集計チェックルールは列全体に対して一度だけTureかFalseを返すため、しきい値はありません。 ディメンション:上記記載と同じ内容です。 列名:ルールを適用する対象列を指定します。 SQL:カスタムSQLを記載します。 「date」列に2008年以外のデータがあるかを確認します。 min(date) >= “2008-01-01” AND max(date) <= “2008-12-31” ③ジョブの結果を確認します。 成功しているため、2008年以外のデータがないことが分かります。 ④2008年以外のデータをテーブルに追加して、再度ジョブの結果を確認します。 失敗した結果を見るために、2008年以外のデータを追加します。 データの追加後にジョブの実行結果を見ると、レコード数の増加が確認でき、エラーになっていることも確認できます。 関連コンテンツ 【Google Cloud】Dataplexデータ品質について検証してみた(2/2) by Google Cloud研究開発チームon 2024年5月31日 頂きましたご意見につきましては、今後のより良い商品開発・サービス改善に活かしていきたいと考えております。 Author Google Cloud研究開発チーム 株式会社システムサポート(STS)のGoogle Cloud研究開発チームです。 実際に技術検証した事例を中心に記事発信していきます。 Dataplex Google Cloud 2024年5月31日 【Google Cloud】Dataplexデータ品質について検証してみた(1/2) Category Google Cloud 前の記事を読む Google Workspace 導入支援サービスのお知らせ 次の記事を読む 【Google Cloud】Dataplexデータ品質について検証してみた(2/2) Recommendation オススメ記事 2023年9月5日 Google Cloud 【Google Cloud】Looker Studio × Looker Studio Pro × Looker を徹底比較!機能・選び方を解説 2023年8月24日 Google Cloud 【Google Cloud】Migrate for Anthos and GKEでVMを移行してみた(1:概要編) 2022年10月10日 Google Cloud 【Google Cloud】AlloyDB と Cloud SQL を徹底比較してみた!!(第1回:AlloyDB の概要、性能検証編) BigQuery ML ワークショップ開催のお知らせ 生成AI導入支援パッケージ Discovery AI導入支援パッケージ Google Cloud ホワイトペーパー 新着記事 2024年10月9日 イベント・セミナー 【参加無料】typeエンジニア転職フェア 出展のお知らせ(2024/10/12) 2024年10月4日 イベント・セミナー 【11/20開催】データ分析&活用ウェビナー(事例紹介付き) 2024年9月30日 Google Cloud 【Google Cloud】サーバレスでマネージドなサービス「Cloud Run」でアプリケーションを走らせよう! HOME Google Cloud 【Google Cloud】Dataplexデータ品質について検証してみた(1/2) ご意見・ご相談・料金のお見積もりなど、お気軽にお問い合わせください。 お問い合わせはこちら HOME Categories お知らせ イベント・セミナー Google Cloud Google Workspace モバイル インフラ 技術開発 ブログ 4koma Tags 生成AI(Generative AI) Looker Studio BigQuery AlloyDB Google Workspace 事例紹介 Cloud SQL STSエンジニアリングマガジン 「サイタル」 当サイトではクッキー(Cookie)、Googleアナリティクスを利用します。 「同意する」をクリックいただくことで、サイト上での最高のエクスペリエンスをご提供いたします。 ※詳細は以下をご覧ください。 外部送信ポリシー プライバシーポリシー同意する同意しない