Amazon Redshift

Metadata Agent for Redshiftに必要なCloudFormationテンプレート、Parameter Storeの情報、および取得するメタデータについて

CloudFormationテンプレート

CloudFormationテンプレートのご利用には、Quollio Data Intelligence Cloudへの事前登録が必要です。詳しくは、お問い合わせ | 株式会社Quollio Technologies ページよりご連絡ください。

※基盤環境は全てのAgentから共通で使用するため、すでに存在している場合は構築不要です。

※エンドポイント経由でプライベートサブネットのRedshiftクラスタにアクセスする場合、基盤環境で作成されたセキュリティグループのIDに対してポートの解放が必要です。

※「QT」は会社としてのQuollio Technologies、「QDIC」は製品のQuollio Data Intelligence Cloudを指します。

Parameter Store一覧

パラメータストア名 概要
/quollio/company_id QTから提供されるCompany ID
/quollio/redshift/default/host Redshiftクラスタのエンドポイントから、ポートとデータベース名を除いたもの。例)example.123456abcdef.ap-northeast-1.redshift.amazonaws.com
/quollio/redshift/default/port Redshiftクラスタのポート
/quollio/redshift/default/username Redshiftのユーザー名。カタログ化するデータベースやスキーマに対してRead権限があるユーザーを選択します。
/quollio/redshift/default/password Redshiftのユーザーのパスワード
/quollio/redshift/default/database Redshiftクラスタのデータベース名。ジョブ開始時に最初に仕様するデータベースを指定するためのパラメータであり、実際はクラスタ内でそのユーザーがアクセスできる全てのデータベースがカタログ化されます。

 

アセット種別の対応関係

Amazon Redshift Quollio Data Intelligence Cloud
Database Schema(スキーマ)
Schema Schema(スキーマ)
Table Table(テーブル)
External Table Table(テーブル)
View Table(テーブル)
Materialized View Table(テーブル)
Column Column(カラム)

 

取得するメタデータ

System Views / Catalog Tables 取得するメタデータ
SVV_REDSHIFT_DATABASES database_name
SVV_ALL_SCHEMAS

database_name

schema_name

SVV_REDSHIFT_TABLES

database_name

schema_name

table_name

remarks

table_type

SVV_TABLES

table_catalog

table_schema

table_name

remarks

SVV_EXTERNAL_TABLES

redshift_database_name

schemaname

tablename

SVV_REDSHIFT_COLUMNS

database_name 

schema_name 

table_name 

column_name 

remarks

SVV_EXTERNAL_COLUMNS

database_name 

schema_name 

table_name 

column_name

table_catalog

table_schema

table_name

column_name

data_type

character_maximum_length
ordinal_position
remarks
PG_DATABASE_INFO datname
pg_catalog.pg_namespace

oid 

nspname

pg_catalog.pg_class

oid 

relname 

relpages 

reltuples 

relnamespace 

relkind

pg_catalog.pg_description

objoid 

description

 

SQL 取得するメタデータ
SHOW TABLE <table>; DDL statement
SHOW EXTERNAL TABLE <table>; DDL statement
SHOW VIEW <view>; DDL statement
  • カタログ対象外スキーマ: information_schema, pg_catalog, pg_internal, pg_toast