airflow.providers.google.cloud.transfers.sftp_to_gcs

此模块包含 SFTP 到 Google Cloud Storage 的操作符。

模块内容

SFTPToGCSOperator

将文件从 SFTP 服务器传输到 Google Cloud Storage。

属性

WILDCARD

airflow.providers.google.cloud.transfers.sftp_to_gcs.WILDCARD = '*'[source]
class airflow.providers.google.cloud.transfers.sftp_to_gcs.SFTPToGCSOperator(*, source_path, destination_bucket, destination_path=None, gcp_conn_id='google_cloud_default', sftp_conn_id='ssh_default', mime_type='application/octet-stream', gzip=False, move_object=False, impersonation_chain=None, sftp_prefetch=True, **kwargs)[source]

基类:airflow.models.BaseOperator

将文件从 SFTP 服务器传输到 Google Cloud Storage。

另请参阅

有关如何使用此操作符的更多信息,请查看指南: 操作符

参数
  • source_path (str) – SFTP 远程路径。这是用于从 SFTP 服务器下载单个文件或多个文件的指定文件路径。您可以在路径中使用一个通配符。通配符可以出现在路径内部或路径末尾。

  • destination_bucket (str) – 要上传到的存储桶。

  • destination_path (str | None) – 目标 Google Cloud Storage 存储桶中对象的目的地名称。如果未提供 destination_path,则文件/文件将放置在主存储桶路径中。如果在 destination_path 参数中提供通配符,则这是将添加到最终目标对象路径的前缀。

  • gcp_conn_id (str) – (可选)用于连接到 Google Cloud 的连接 ID。

  • sftp_conn_id (str) – SFTP 连接 ID。用于建立与 SFTP 服务器连接的名称或标识符。

  • mime_type (str) – mime 类型字符串

  • gzip (bool) – 允许将文件压缩并作为 gzip 上传

  • move_object (bool) – 当 move_object 为 True 时,该对象将被移动而不是复制到新位置。这相当于 mv 命令,而不是 cp 命令。

  • impersonation_chain (str | collections.abc.Sequence[str] | None) – 可选服务帐户,用于使用短期凭据进行模拟,或用于获取列表中最后一个帐户的 access_token 的链式帐户列表,该 access_token 将在请求中被模拟。如果设置为字符串,则该帐户必须授予原始帐户“服务帐户令牌创建者”IAM 角色。如果设置为序列,则列表中的标识必须将“服务帐户令牌创建者”IAM 角色授予直接前一个标识,列表中的第一个帐户将此角色授予原始帐户(已模板化)。

  • sftp_prefetch (bool) – 是否启用 SFTP 预取,默认为 True。

template_fields: collections.abc.Sequence[str] = ('source_path', 'destination_path', 'destination_bucket', 'impersonation_chain')[source]
execute(context)[source]

在创建操作符时派生。

上下文与呈现 jinja 模板时使用的字典相同。

有关更多上下文,请参阅 get_template_context。

此条目是否有帮助?