airflow.providers.amazon.aws.triggers.s3

模块内容

S3KeyTrigger

S3KeyTrigger 作为延迟类触发,带有在触发器工作器中运行任务的参数。

S3KeysUnchangedTrigger

S3KeysUnchangedTrigger 作为延迟类触发,带有在触发器工作器中运行任务的参数。

class airflow.providers.amazon.aws.triggers.s3.S3KeyTrigger(bucket_name, bucket_key, wildcard_match=False, aws_conn_id='aws_default', poke_interval=5.0, should_check_fn=False, use_regex=False, **hook_params)[源代码]

基类: airflow.triggers.base.BaseTrigger

S3KeyTrigger 作为延迟类触发,带有在触发器工作器中运行任务的参数。

参数
  • bucket_name (str) – S3 存储桶的名称。仅当 bucket_key 未作为完整的 s3:// URL 提供时才需要。

  • bucket_key (str | list[str]) – 等待的键。支持完整的 s3:// 样式 URL 或从根级别开始的相对路径。当指定为完整的 s3:// URL 时,请将 bucket_name 保留为 None

  • wildcard_match (bool) – bucket_key 是否应被解释为 Unix 通配符模式

  • aws_conn_id (str | None) – 对 S3 连接的引用

  • use_regex (bool) – 是否使用正则表达式检查存储桶

  • hook_params (Any) – 用于 hook 的参数,它是可选的

serialize()[源代码]

序列化 S3KeyTrigger 参数和类路径。

hook()[源代码]
async run()[源代码]

使用 S3HookAsync 进行异步连接。

class airflow.providers.amazon.aws.triggers.s3.S3KeysUnchangedTrigger(bucket_name, prefix, inactivity_period=60 * 60, min_objects=1, inactivity_seconds=0, previous_objects=None, allow_delete=True, aws_conn_id='aws_default', last_activity_time=None, verify=None, **hook_params)[源代码]

基类: airflow.triggers.base.BaseTrigger

S3KeysUnchangedTrigger 作为延迟类触发,带有在触发器工作器中运行任务的参数。

参数
  • bucket_name (str) – S3 存储桶的名称。仅当 bucket_key 未作为完整的 s3:// URL 提供时才需要。

  • prefix (str) – 等待的前缀。从存储桶根级别开始的相对路径。

  • inactivity_period (float) – 指定键不变的总不活动秒数。请注意,此机制不是实时的,并且此操作符可能在没有感应到其他对象的情况下,在经过此时间段后的 poke_interval 后才会返回。

  • min_objects (int) – 键未更改传感器被视为有效所需的最少对象数。

  • inactivity_seconds (int) – 对不活动秒数的引用

  • previous_objects (set[str] | None) – 在上次轮询期间找到的对象 ID 集。

  • allow_delete (bool) – 此传感器是否应考虑正在删除的对象

  • aws_conn_id (str | None) – 对 S3 连接的引用

  • last_activity_time (datetime.datetime | None) – 上次修改或上次活动时间

  • verify (bool | str | None) – 是否验证 S3 连接的 SSL 证书。默认情况下,会验证 SSL 证书。

  • hook_params (Any) – 用于 hook 的参数,它是可选的

serialize()[源代码]

序列化 S3KeysUnchangedTrigger 参数和类路径。

hook()[源代码]
async run()[源代码]

使用 S3Hook 建立异步连接。

此条目是否有帮助?