apache-airflow-providers-docker

更新日志

4.0.0

注意

此提供程序的版本仅适用于 Airflow 2.9+,如 Apache Airflow 提供程序支持策略 中所述。

重大变更

警告

所有已弃用的类、参数和功能都已从 Kubernetes 提供程序包中删除。引入了以下重大变更

  • 装饰器
    • 已弃用的参数 use_dill 已被删除。请改用 serializer='dill'

  • 运算符
    • 已弃用的参数 use_dill 已被删除。请改用 serializer='dill'

    • 已弃用的参数 skip_exit_code 已被删除。请改用 skip_on_exit_code

    • 已弃用的方法 get_hook() 已被删除。请改用 hook 属性。

  • 移除 Docker 中的 提供程序 弃用 (#44583)

其他

  • 提供程序 中的 最低 Airflow 版本 提升到 Airflow 2.9.0 (#44956)

  • 修复 docker 文档 身份验证 URL (#44112)

  • 更新 多个 提供程序 文档中的 DAG 示例 链接 (#44034)

3.14.1

Bug 修复

  • 修复 Docker 运算符中 带有 前导空格的 日志 (#33692) (#43840)

其他

  • Python 运算符 移至 标准 提供程序 (#42081)

3.14.0

功能

  • DockerSwarmOperator 添加 日志记录设备 日志记录设备选项 (#41416)

  • 添加 检索输出 docker swarm 运算符 (#41531)

3.13.0

注意

此提供程序的版本仅适用于 Airflow 2.8+,如 Apache Airflow 提供程序支持策略 中所述。

其他

  • feat(docker): 'use_dill' 替换为 'serializer' (#41356)

  • 提供程序 中的 最低 Airflow 版本 提升到 Airflow 2.8.0 (#41396)

3.12.3

Bug 修复

  • DockerSwarmOperator: 支持 服务 日志中的 换行符 (#40705)

3.12.2

Bug 修复

  • DockerOperator TaskFlow - 更正 Python 命令中的 参数 (#39620)

其他

  • 改进 DockerOperator 日志记录 行为 (#40489)

3.12.1

其他

  • 最低 docker 版本 提升到 7.1.0 (#39839)

3.12.0

功能

  • Docker 服务 ContainerSpec 添加 参数 (#39464)

  • 添加 对在 DockerSwarmOperator 上定义 资源 的支持 (#39027)

其他

  • 更快地 导入 'airflow_version' (#39552)

  • 简化 'airflow_version' 导入 (#39497)

  • 限制 botocore 升级 测试中的 请求 (#39747)

  • 由于 docker-py 不兼容, 固定 请求 (#39740)

3.11.0

注意

此提供程序的版本仅适用于 Airflow 2.7+,如 Apache Airflow 提供程序支持策略 中所述。

其他

  • 提供程序 中的 最低 Airflow 版本 提升到 Airflow 2.7.0 (#39240)

3.10.0

注意

现在,当设置标准 DOCKER_HOST 环境变量时,它将覆盖 docker_url 参数的默认值。如果设置了 DOCKER_HOST,但您想使用之前的默认值,则必须在 DockerOperator 构造函数或 @task.docker 装饰器中显式设置 docker_url="unix://var/run/docker.sock"

功能

  • 改进 'DockerOperator' 支持 多个 Docker 主机 (#38466)

Bug 修复

  • 修复 'MappedOperator' 中已弃用的 'DockerOperator' 运算符 参数 (#38379)

其他

  • 移除 importlib_metadata 冗余 兼容性 用法 (#38368)

  • DockerOperator: DOCKER_HOST 用作 docker_url 默认值 (#38387)

3.9.2

Bug 修复

  • 修复 'docker>=7' 构造 'docker.TLSConfig' (#37481)

3.9.1

Bug 修复

  • 允许 DockerOperator.skip_on_exit_code (#36360)

其他

  • Docker 提供程序中 删除 剩余的 Airflow 2.5 向后兼容代码 (#36325)

3.9.0

注意

正如 Apache Airflow 提供者支持策略 中所述,此提供程序版本仅适用于 Airflow 2.6+。

Bug 修复

  • 修复 'enable_logging=True' 'DockerSwarmOperator' 中不起作用的问题 (#35677)

  • 修复 #35677 导致的日志流中断问题 (#36127)

其他

  • 提供程序中的 Airflow 最低版本 提升至 Airflow 2.6.0 (#36017)

  • 在子类中遵循 BaseHook 连接字段的方法签名 (#36086)

3.8.2

其他

  • 重构 docker 操作符属性验证和文档 (#35571)

3.8.1

Bug 修复

  • 修复 '_DockerDecoratedOperator' 模块类型属性的 pickle 错误 (#35293)

3.8.0

注意

正如 Apache Airflow 提供者支持策略 中所述,此提供程序版本仅适用于 Airflow 2.5+。

功能

  • DockerOperator 添加 ulimits 参数 (#34284)

其他

  • 提升 提供程序的 airflow 最低版本 (#34728)

  • 弃用 DockerOperator 中的 get_hook 方法 (#34432)

3.7.5

其他

  • 清理 Docker 操作符的日志记录 (#33914)

  • Airflow 提供程序中将序列连接替换为解包 (#33933)

  • 提供程序中使用字面量字典而不是调用 dict() (#33761)

  • DockerOperator 中将 type 函数替换为 isinstance (#33759)

3.7.4

其他

  • 重构: 改进重复项的检测和列表排序 (#33675)

  • 简化 其他提供程序中 len() 的条件 (#33569)

  • repr() 替换为适当的格式化 (#33520)

3.7.3

其他

  • 重构: 简化 providers/docker 中的代码 (#33232)

3.7.2

其他

  • 去除 Python2 的数值遗留代码 (#33050)

3.7.1

注意

此版本已删除对 Python 3.7 的支持

其他

  • 删除 Python 3.7 支持 (#30963)

3.7.0

注意

正如 Apache Airflow 提供者支持策略 中所述,此提供程序版本仅适用于 Airflow 2.4+。

其他

  • 提升 提供程序中的 Airflow 最低版本 (#30917)

3.6.0

功能

  • 'DockerOperator' 'KubernetesPodOperator' 的跳过逻辑添加多退出码处理 (#30769)

  • 'DockerOperator' 中,添加一个属性 'tls_verify' 以选择是否验证证书 (#30309) (#30310)

其他

  • 弃用 'DockerOperator' 'KubernetesPodOperator' 中的 'skip_exit_code' (#30733)

3.5.1

Bug 修复

  • 修复 装饰器 'task.docker' 中的 template_fields (#29586)

3.5.0

功能

  • Docker Hook 中添加正确的 widget (#28700)

  • 使 docker 操作符始终使用 'DockerHook' 进行 API 调用 (#28363)

  • DockerOperator 任务返回提供的退出码时跳过该任务 (#28996)

Bug 修复

  • 修复 Docker 连接中 'reauth' 字段的标签名称 (#28974)

3.4.0

功能

  • DockerOperator 添加 hostname 参数 (#27822)

  • Docker 提供程序的 airflow 最低版本 降至 2.3.0 (#28648)

3.3.0

注意

正如 Apache Airflow 提供者支持策略 中所述,此提供程序版本仅适用于 Airflow 2.3+。

其他

  • 将所有提供程序的 airflow 最低版本 提升至 2.3.0 (#27196)

功能

  • DockerOperator 添加 ipc_mode (#27553)

  • Docker 操作符添加 env-file 参数 (#26951)

3.2.0

功能

  • docker 操作符添加日志记录选项 (#26653)

  • custom_operator_name 添加 pre-commit hook (#25786)

  • 实现 ExternalPythonOperator (#25780)

Bug 修复

3.1.0

功能

  • DockerOperator 执行后强制删除容器 (#23160)

Bug 修复

  • 'DockerOperator' 修复 cli.logs 返回字符数组 而不是字符串 (#24726)

3.0.0

重大变更

注意

此提供程序版本仅适用于 Airflow 2.2+,如Apache Airflow 提供程序支持策略中所述。

其他

  • 'DockerOperator' 中移除 'xcom_push' (#23981)

  • docker 系统 测试 (#23167)

2.7.0

新特性

  • 添加 'device_requests' 参数到 'DockerOperator' (#23554)

Bug 修复

  • 修复 main 中的新 MyPy 错误 (#22884)

2.6.0

新特性

  • 添加 timeout 参数到 'DockerOperator' (#22502)

2.5.2

Bug 修复

  • 修复 错误地为所有提供程序添加的 install_requires (#22382)

其他

  • 更正 'multiple_outputs' 参数描述,提及列表/元组 (#22371)

2.5.1

Bug 修复

  • 避免 Docker 容器未成功时尝试杀死容器 (#22145)

其他

  • PyPI 中添加 Trove 分类器 (Framework :: Apache Airflow :: Provider)

2.5.0

新特性

  • 添加了 docker network_mode 选项 (#21986)

其他

  • 支持 Python 3.10

2.4.1

Bug 修复

  • 修复 Docker xcom 功能 (#21175)

  • 修复 docker 行为,使用返回的字节行 (#21429)

2.4.0

新特性

  • 允许 DockerOperator 的镜像使用模板 (#19997)

2.3.0

新特性

  • DockerSwarmOperator 中添加对 placement 的支持 (#18990)

Bug 修复

  • 修复字符串连接 (#19099)

  • 移除 docker 超时解决方法 (#18872)

其他

  • docker 装饰器示例 dag 移动到 docker 提供程序 (#18739)

2.2.0

新特性

  • 添加 Docker Taskflow 装饰器 (#15330)

此版本的 Docker 提供程序具有一个新功能 - TaskFlow 装饰器,该装饰器仅在 Airflow 2.2 中有效。如果您尝试在 Airflow 2.2 之前的版本中使用该装饰器,则会收到错误

AttributeError: '_TaskDecorator' object has no attribute 'docker'

2.1.1

新特性

  • DockerSwarmOperator 添加对 configs、secrets、networks 和 replicas 的支持 (#17474)

其他

  • 优化 Airflow 2.2.0 的连接导入

2.1.0

新特性

  • 添加 选项以禁用在 DockerOperator 中挂载临时文件夹 (#16932)

Bug 修复

  • [FIX] Docker 提供程序 - docker 中重试 docker (#17061)

  • 修复 使用 xcom / json 时的字符串编码 (#13536)

  • 如果 xcom_all 设置为 False,则只有日志的最后一行(以 \n 分隔)将包含在 XCom 值中

2.0.0 版本的 DockerOperator 不适用于远程 Docker 引擎或 Docker-In-Docker 情况。这是 #15843 的意外副作用,已在 #16932 中修复。有一个回退模式将使 Docker Operator 在发出警告的情况下工作,您可以通过使用新参数禁用挂载文件夹来消除警告。

2.0.0

重大变更

  • 自动应用 apply_default 装饰器 (#15667)

警告

由于移除了 apply_default 装饰器,此版本的提供程序需要 Airflow 2.1.0+。如果您的 Airflow 版本低于 2.1.0,并且您想要安装此提供程序版本,请先将 Airflow 升级到至少 2.1.0 版本。否则,您的 Airflow 包版本将自动升级,您必须手动运行 airflow upgrade db 以完成迁移。

  • DockerOperator 'volumes' 参数替换为 'mounts' (#15843)

airflow.providers.docker.operators.docker.DockerOperatorairflow.providers.docker.operators.docker_swarm.DockerSwarmOperator 中的 volumes 参数已替换为 mounts 参数,后者使用较新的 挂载语法 而不是 --bind

1.2.0

新特性

  • docker operator 中支持 Entrypoint (#14642)

  • PythonVirtualenvDecorator 添加到 Taskflow API (#14761)

  • Docker Swarm Operator 中支持所有 terminus 任务状态 (#14960)

1.1.0

新特性

  • DockerOperator 中添加 privileged 选项 (#14157)

1.0.2

Bug 修复

  • 发布提供程序 RC 后,在文档和工具中进行更正 (#14082)

1.0.1

更新了文档和自述文件。

Bug 修复

  • 使用 auto_remove=True 删除失败的 DockerOperator 任务 (#13532) (#13993)

  • 修复 DockerSwarmOperator auto_remove True 时发生的错误 (#13532) (#13852)

1.0.0

该 Provider 的初始版本。

此条目是否有帮助?