用于 DataprocSubmitJobOperator 的示例 Airflow DAG,带有 pig 作业。
模块内容
-
tests.system.google.cloud.dataproc.example_dataproc_pig.DAG_ID = 'dataproc_pig'[源代码]
-
tests.system.google.cloud.dataproc.example_dataproc_pig.ENV_ID[源代码]
-
tests.system.google.cloud.dataproc.example_dataproc_pig.PROJECT_ID[源代码]
-
tests.system.google.cloud.dataproc.example_dataproc_pig.CLUSTER_NAME_BASE[源代码]
-
tests.system.google.cloud.dataproc.example_dataproc_pig.CLUSTER_NAME_FULL[源代码]
-
tests.system.google.cloud.dataproc.example_dataproc_pig.CLUSTER_NAME[源代码]
-
tests.system.google.cloud.dataproc.example_dataproc_pig.REGION = 'europe-west1'[源代码]
-
tests.system.google.cloud.dataproc.example_dataproc_pig.CLUSTER_CONFIG[源代码]
-
tests.system.google.cloud.dataproc.example_dataproc_pig.PIG_JOB[源代码]
-
tests.system.google.cloud.dataproc.example_dataproc_pig.create_cluster[源代码]
-
tests.system.google.cloud.dataproc.example_dataproc_pig.test_run[源代码]