airflow.providers.apache.hive.sensors.hive_partition

模块内容

HivePartitionSensor

等待 Hive 中出现分区。

class airflow.providers.apache.hive.sensors.hive_partition.HivePartitionSensor(*, table, partition="ds='{{ ds }}'", metastore_conn_id='metastore_default', schema='default', poke_interval=60 * 3, **kwargs)[源代码]

基类:airflow.sensors.base.BaseSensorOperator

等待 Hive 中出现分区。

注意:由于 partition 支持一般的逻辑运算符,因此效率可能不高。 如果您不需要 HivePartitionSensor 的全部灵活性,请考虑使用 NamedHivePartitionSensor 代替。

参数
  • table (str) – 要等待的表的名称,支持点符号 (my_database.my_table)

  • partition (str | None) – 要等待的分区子句。这按原样传递给 metastore Thrift 客户端 get_partitions_by_filter 方法,并且显然支持类似 SQL 的表示法,如 ds='2015-01-01' AND type='value' 和比较运算符,如 "ds>=2015-01-01"

  • metastore_conn_id (str) – 引用 :ref: metastore thrift 服务连接 ID <howto/connection:hive_metastore>

template_fields: collections.abc.Sequence[str] = ('schema', 'table', 'partition')[源代码]
ui_color = '#C5CAE9'[源代码]
poke(context)[源代码]

在派生此类时覆盖。

此条目是否有帮助?