Amazon EMR on EKSのApache SparkでAWS Lake Formationを通じた細かなデータアクセス制御(FGAC)が一般提供開始
EMR on EKSのSparkワークフローでAWS Glue Data Catalogビューが一般提供開始
Lake FormationルールがEMR on EKSのSparkジョブでHudi、Delta Lake、Icebergテーブル形式に適用可能に
EMR 7.7リリースで、EMR on EKSが利用可能なすべてのリージョンで利用可能
アップデート内容要約
AWSは、Amazon EMR on EKSのApache SparkでAWS Lake Formationを通じた細かなデータアクセス制御(FGAC)の一般提供を開始しました。これにより、EMR on EKSのSparkジョブからLake Formationで定義された完全なFGACポリシーを適用できるようになります。
アップデート内容全文
AWSは、Amazon EMR on EKSのApache SparkでAWS Lake Formationを通じた細かなデータアクセス制御(FGAC)の一般提供を発表しました。
これにより、EMR on EKSのSparkジョブからデータレークテーブルに対してLake Formationで定義された完全なFGACポリシー(データベース、テーブル、列、行、セルレベル)を適用できるようになります。
また、EMR on EKSのSparkワークフローにおけるAWS Glue Data Catalogビューの一般提供も開始されました。
Lake Formationは、RDBMSに似た許可と取り消しのステートメントを通じて細かなアクセス制御を定義できるようにすることで、データレークの構築、セキュリティ確保、管理を簡素化します。
同じLake Formationルールが、EMR on EKSのSparkジョブにおけるHudi、Delta Lake、Icebergテーブル形式にも適用されるようになり、データレークのセキュリティとガバナンスがさらに簡素化されました。
AWS Glue Data CatalogビューとEMR on EKSの組み合わせにより、顧客は参照テーブルへのアクセスを必要とせずに複数のエンジンから照会可能なビューをSparkジョブから作成できます。
管理者は、EMR on EKS Sparkジョブが提供する豊富なSQL方言を使用して、基礎となるデータへのアクセスを制御できます。
アクセスは、名前付きリソース許可、データフィルター、Lake Formationタグを含むAWS Lake Formationの権限で管理されます。
すべてのリクエストはAWS CloudTrailに記録されます。
EMR on EKSのApache Sparkバッチジョブに対する細かなアクセス制御は、EMR 7.7リリースでEMR on EKSが利用可能なすべてのリージョンで利用できます。
開始するには、「Amazon EMR on EKSでのAWS Lake Formationの使用」を参照してください。
関連サービス
AWS Glue Data Catalog
AWS Lake Formation
Amazon EMR on EKS
関連サービスの説明
AWS Glue Data Catalogは、AWS Glueの一部であり、データソース、変換、ターゲットに関するメタデータを格納する中央リポジトリです。これにより、データの検出、カタログ化、クエリが容易になり、ETL(抽出、変換、ロード)ジョブの設定と管理が簡素化されます。
AWS Lake Formationは、安全なデータレークを数日で簡単に設定できるサービスです。データレークとは、構造化および非構造化データを保存、処理、保護するための中央リポジトリです。Lake Formationは、データの検出、クレンジング、変換、取り込みを自動化し、セキュリティ、ガバナンス、アクセス制御を簡素化します。
Amazon EMR on EKS(Amazon Elastic MapReduce on Amazon Elastic Kubernetes Service)は、Kubernetesクラスター上でApache Sparkなどのビッグデータフレームワークを実行するためのマネージドサービスです。これにより、コンテナ化されたビッグデータアプリケーションを柔軟に展開、管理、スケーリングできます。