apache-airflow-providers-celery

更新日志

3.18.0

发布日期:2026-04-12

特性

  • 忽略已在运行的任务的重复投递消息 (#64052)

漏洞修复

  • 修复 amqps:// SSL 配置和 celery_config_options 被绕过的问题 (#64392)

其他

  • 清理 CeleryExecutor 以使用工作负载术语和类型注解 (#63888)

  • 兼容性 sdk 配置后续:Celery, Common AI, FAB, Edge3 (#64292)

3.17.2

发布日期:2026-03-28

Bug 修复

  • 为 2.11.X 路径设置任务名称 (#63746)

  • 修复混合执行程序中 'queued_tasks' 类型不匹配的问题 (#63744)

  • 添加 gc.freeze 以最大限度地减少 Celery worker 中的内存使用 (#62212)

  • 针对硬编码的 24 小时 visibility_timeout 发出警告,该超时会中断长时间运行的 Celery 任务 (#62869)

杂项

  • 添加对 Python 3.14 的支持 (#63520)

  • 重构:移除计划在 Airflow 3.2 中删除的模块 (#62927)

  • 使 test_celery_integration 可运行 (#64153)

  • 更新 celery 提供程序配置导入,以使用通用的兼容 SDK (#64134)

3.17.1

发布日期:2026-03-13

错误修复

  • 确保 Celery 任务在 worker 启动时注册 (main) (#63110)

3.17.0

发布日期:2026-03-04

特性

  • Celery:在无驱动程序的 Postgres URL 中显式指定 'psycopg2' (#62159)

  • 执行程序同步回调工作负载 (#61153)

  • 在 Celery 执行器中启用多团队功能 (#62534)

漏洞修复

  • docs(celery):修复 CLI 中的错误链接 (#62460)

  • 修复 macOS 上由于无法序列化的本地函数导致的 Celery worker 崩溃 (#62655)

其他

  • 插入类似于团队配置的 team_name 以实现 2.X 兼容性 (#61923)

3.16.0

发布日期: 2026-02-14

功能

  • AIP-67 - 多团队:更新 Celery 执行器以支持多团队 (#60675)

错误修复

  • 使用 TaskFormatter 进行 Celery 日志格式化,而不是默认的 Formatter (#61701)

  • 修复 Celery 执行器中的 Redis 导入竞态条件 (#61362)

3.15.2

发布日期:2026-02-02

其他

  • task-sdk 中定义 'TaskInstanceKey' 以支持客户端服务端分离 (#60776)

3.15.1

发布日期:2026-01-17

杂项

  • provider 中使用来自 compat sdk ''AirflowOptionalProviderFeatureException'' (#60335)

  • 新的一年意味着版权声明的更新 (#60344)

  • 在提供商元数据中引入 "cli" 部分 (#59805)

3.15.0

发布日期:2026-01-02

特性

  • 添加 result_backend_transport_options 以在 Celery 中支持 Redis Sentinel (#59498)

杂项

  • 清理 settings.py 中的变量 (#59875)

  • 移除 Core 中的顶级 SDK 引用 (#59817)

  • 添加并修复 SIM107 B012 Ruff 规则 (#59770)

3.14.1

发布日期:2025-12-13

其他

  • provider 中添加异常的向后兼容支持 (#58727)

  • 将跟踪和指标代码移动到通用的可观测性包下 (#56187)

  • 从 celery 提供程序中移除 global (#58869)

3.14.0

发布日期:2025-12-02

注意

根据 Apache Airflow providers 支持政策 <https://github.com/apache/airflow/blob/main/PROVIDERS.rst#minimum-supported-version-of-airflow-for-community-managed-providers>_ 的说明,此版本的 provider 仅适用于 Airflow 2.11+。

特性

  • 在工作负载中发送执行程序集成信息 (#57800)

  • 为 Celery worker 添加重复主机名检查 (#58591)

其他

  • 将部分异常移至 TaskSDK (#54505)

  • provider 中最低 Airflow 版本提升至 Airflow 2.11.0 (#58612)

  • 修复对 common-compat provider 的下限依赖 (#58833)

3.13.1

发布日期:2025-11-17

杂项

  • 转换所有 airflow 发行版以符合 ASF 要求 (#58138)

  • 将 'celery' 迁移到 'common.compat' (#57322)

仅限文档

  • [文档] 修复一些打字错误和拼写错误 (#57225)

3.13.0

发布日期:2025-10-26

特性

  • 添加 CLI 命令以从 Celery worker 中移除所有队列 (#56195)

杂项

  • 移除 CELERY_APP_NAME 已弃用的功能 (#56835)

仅文档

  • 更新 celery broker_url 配置描述 (#56917)

  • 更新 monkey-patch 引用的失效链接 (#56862)

3.12.4

发布日期: 2025-09-28

错误修复

  • 仅在通过 CLI 传递时才向 celery worker 发送主机名 (#55913)

  • 不要对 'airflow celery' CLI 命令进行不必要的 数据库迁移检查。 (#55878)

  • 修复:在 BulkStateFetcher 中使用 get 而不是 hasattr 获取 task_result (#52839)

杂项

  • AIP-67 - 多团队:在 CeleryExecutor 中将 args/kwargs 传递给 super (#56006)

3.12.3

发布日期:2025-09-09

错误修复

  • 修复 macos setproctitle 的使用问题 (#53122)

  • 修复 celery 可见性超时 (设置为 23.5 小时,而不是预期的 24 小时) (#54480)

杂项

  • 移除 MappedOperator 继承 (#53696)

  • 修复 provider 中超时导入的 mypy no-redef 错误 (#54471)

  • 尽可能更新为使用来自 SDK 的超时上下文管理器 (#54183)

仅限文档

  • 使 provider 文档中的 Dag 术语保持一致 (#55101)

3.12.2

发布日期:2025-08-02

杂项

  • Airflow 添加 Python 3.13 支持。 (#46891)

  • 清理 celery 提供程序中的 mypy 忽略 (#53261)

  • mypy 升级后移除整个代码库中的 type ignore (#53243)

  • 针对 Python 3.10+ 使用标准库 ''typing'' 导入 (#53158)

  • 移除“python-requires”的高版本限制 (#52980)

  • 暂时切换为使用 >=,< 模式替代“~=” (#52967)

3.12.1

发布日期: 2025-07-06

错误修复

  • 防止旧版静态混合执行器在 Airflow 3 中运行 (#51760)

其他

  • ruff 升级到最新版本 (0.12.1) (#52562)

  • 停止支持 Python 3.9 (#52072)

  • providers 中使用来自 task sdk BaseSensorOperator (#52296)

  • 从 celery_executor.py 中移除未使用的导入 Sequence (#52290)

  • type-ignores 向上移动一行 (#52195)

  • 忽略已弃用执行程序的 mypy 错误 (#52187)

3.12.0

发布日期:2025-06-18

功能

  • 通过工作器和队列管理功能增强 Celery CLI (#51257)

漏洞修复

  • 修复 Celery 执行器子进程,使其使用 subprocess.run 流式传输 stdout/stderr (#50682)

杂项

  • 将 worker_umask 添加到 celery provider.yaml (#51218)

  • 移除执行器中的 Airflow 2 代码路径 (#51009)

  • 防止旧版静态混合执行程序在 Airflow 3 中运行 (#51733)

仅限文档

  • 更新执行程序和提供程序文档,强调两个静态编码的混合执行程序在 Airflow 3.0.0+ 中不再受支持 (#51715)

3.11.0

发布日期:2025-05-18

注意

此提供程序的此发行仅在 Airflow 2.10+ 上可用,详情请参阅 Apache Airflow 提供程序支持政策

错误修复

  • 修复 Airflow v2 中执行 API 服务器 URL 的相对路径处理 (#49782)

其他

  • 最低 provider 版本=2.10;自由使用 running_state (#49924)

  • 移除 AIRFLOW_2_10_PLUS 条件 (#49877)

  • providers 中的最低 Airflow 版本提升至 2.10 (#49843)

  • 使默认执行服务器 URL 相对于 API 基础 URL (#49747)

3.10.6

发布日期:2025-04-14

Bug 修复

  • serve_logs 放回核心中 (#49031)

其他

  • 从预安装的提供者中移除 fab (#48457)

3.10.5

发布日期:2025-04-09

Bug Fixes

  • 再次修复 Airflow 2.x 上的 Celery 执行器 (#48806)

其他

  • 从基本执行程序中删除 change_sensor_mode_to_reschedule (#48649)

  • 将 Celery 库的最低版本更新至 5.5.0 (#43777)

3.10.4

发布日期: 2025-03-31

漏洞修复

  • 调度程序在为使用任务 SDK 的执行器传递 'executor_config' 时不应崩溃 (#47548)

其他

  • AIP-81: 平铺核心 CLI 命令 (#48224)

3.10.3

发布日期: 2025-03-13

Bug 修复

  • 在使用 CeleryExecutor 传递 executor_config 时避免调度程序崩溃 (#47375)

  • bugfix: Airflow v2 无法导入名称 'workloads' (#47152)

其他

  • 摆脱 google-re2 作为依赖项 (#47493)

  • 移除旧的 'task run' 命令和 LocalTaskJob (#47453)

  • 禁止从任务、DAG 处理和触发器访问 ORM (#47320)

  • 实现陈旧的 DAG 包清理 (#46503)

  • 在新 UI 中渲染结构化日志,而不是显示原始 JSON (#46827)

  • execution_api_server_url 配置移动到核心部分 (#46969)

  • 升级 flit 3.11.0 (#46938)

3.10.2

发布日期:2025-02-26

注意

此版本没有代码更改。发布此版本是由于之前的版本因打包问题被撤回(yank)。

3.10.1

发布日期:2025-02-21

漏洞修复

  • 修复 Local 和 Celery 执行器中的日志拼写错误 (#46866)

其他

  • 重构 TriggererJobRunner 以在没有数据库访问权限的进程中运行触发器 (#46677)

  • AIP-66: 使 DAG 回调能够识别 bundle (#45860)

  • 切换 CeleryExecutor 以使用 TaskSDK 进行执行。 (#46265)

  • 从 CeleryExecutor CLI 中移除 2.8 版本检查 (#46910)

3.10.0

发布日期: 2025-01-27

功能

  • 添加对自定义 celery 配置的支持 (#45038)

错误修复

  • 修复 Celery 提供程序中 CLI 导入的版本检查 (#45255)

杂项

  • AIP-72: 在任务 SDK 中支持 DAG 解析上下文 (#45694)

  • AIP-72:在 SDK 中为 Context 字典提供更好的类型提示支持  (#45583)

3.9.0

发布日期:2024-12-26

注意

Apache Airflow 提供商支持策略中所述,此版本的提供商仅适用于 Airflow 2.9+。

其他

  • 将提供商中最低 Airflow 版本提升至 Airflow 2.9.0 (#44956)

  • AIP-81 根据混合、本地和远程将 CLI 命令移动到对应目录 (#44538)

  • 从代码中移除 AIP-44 配置 (#44454)

3.8.5

发布日期:2024-11-27

Bug 修复

  • 当任务卡在排队状态时重新排队 (#43520)

3.8.4

发布日期:2024-11-18

其他

  • AIP-72:移除 DAG pickle (#43667)

  • python 算子移动到 Standard provider (#42081)

3.8.3

发布日期:2024-10-14

Bug 修复

  • 所有执行程序都应继承自 BaseExecutor (#41904)

  • 在 celery 任务处理期间移除状态同步 (#41870)

其他

  • 更改导入以对 BashOperator 使用标准提供程序 (#42252)

3.8.2

发布日期:2024-09-24

杂项

  • providers 中移除已弃用的 soft_fail (#41710)

3.8.1

发布日期:2024-08-28

Bug 修复

  • 修复:'CeleryKubernetesExecutor' 'LocalKubernetesExecutor' 中缺少 'slots_occupied' (#41602)

3.8.0

发布日期:2024-08-22

注意

根据 Apache Airflow provider 支持政策,此版本的 provider 仅适用于 Airflow 2.8+。

杂项

  • 将各 provider 的最低 Airflow 版本提升至 Airflow 2.8.0 (#41396)

  • 删除已弃用的 SubDags (#41390)

3.7.3

发布日期:2024-08-06

Bug 修复

  • 将 broker 的可见性超时增加到 24 小时 (#40879)

3.7.2

发布日期:2024-06-09

Bug 修复

  • 修复异常类型以包含 TypeError,这是在 (#40012) 中引发的异常

  • 如果 _execute_in_fork finally 块中发生异常,捕获 sentry flush (#40060)

杂项

  • 将 PID 和返回代码添加到 _execute_in_fork 日志中 (#40058)

3.7.1

发布日期:2024-05-30

杂项

  • 更快的 'airflow_version' 导入 (#39552)

  • 简化 'airflow_version' 导入 (#39497)

  • ECS 执行器:激活后将任务设置为 RUNNING 状态 (#39212)

  • 移除 2.7.0 的兼容代码 - 现在它是最低的 Airflow 版本 (#39591)

  • 其他:添加关于移除未使用代码的注释 (#39748)

3.7.0

发布日期:2024-05-06

注意

正如 Apache Airflow 提供者支持策略 中所述,此版本的提供者仅适用于 Airflow 2.7+。

杂项

  • 将提供者中的最低 Airflow 版本提升至 Airflow 2.7.0 (#39240)

3.6.2

发布日期:2024-04-13

Bug 修复

  • 确保在装饰器上下文管理器中调用 __exit__ (#38383)

  • 使用内部 API 时不要释放 sqlalchemy 引擎 (#38562)

  • 对于 Airflow < 2.8.0,使用 Airflow 包中的 celery worker CLI (#38879)

杂项

  • 允许使用 'redis'>=5 (#38385)

  • AirflowOptionalProviderFeatureException 的重新引发应是直接的 (#38555)

3.6.1

发布日期:2024-03-08

Bug 修复

  • 从 celery 选项中移除 pid 参数以修复重复 pid 问题,将 celery 命令移动到提供程序包 (#36794)

  • 将 AirflowTaskTimeout 更改为继承 BaseException (#35653)

杂项

  • 将执行器文档迁移到各自的 providers (#37728)

3.6.0

发布日期: 2024-02-15

功能特性

  • 向 Celery 执行器添加 'task_acks_late' 配置 (#37066)

杂项

  • 改进关于防止 celery 命令自动伸缩错误配置的信息 (#36576)

3.5.2

发布日期:2024-01-27

Bug 修复 (Bug Fixes)

  • 修复提供者中 warnings.warn 的 stacklevel (#36831)

3.5.1

发布日期:2023-12-27

Bug 修复

  • 修复从 ENV 加载 'sentinel_kwargs' 的问题 (#36318)

3.5.0

发布日期:2023-12-12

注意

正如 Apache Airflow 提供者支持策略 中所述,此版本的提供者仅适用于 Airflow 2.6+。

杂项

  • provider 最低 Airflow 版本 提升至 Airflow 2.6.0 (#36017)

3.4.1

发布日期:2023-10-21

Bug 修复

  • 修复 _SECRET 和 _CMD broker 配置 (#34782)

  • 从 Celery 执行器警告中删除敏感信息 (#34954)

3.4.0

发布日期:2023-10-17

注意

Apache Airflow providers 支持策略 中所述,此版本的 provider 仅适用于 Airflow 2.5+。

杂项 (Misc)

  • 提升 providers 的最低 airflow 版本 (#34728)

  • 当为 celery 传感器引发异常时,遵循 soft_fail 参数 (#34474)

3.3.4

发布日期:2023-09-12

错误修复

  • 修复 celery 执行器中 update_task_state 的条件 (#34192)

杂项

  • 合并 providers 中类似的 if 逻辑 (#33987)

  • 通过排除 5.3.2 和 5.3.3 来限制 celery (#34031)

  • providers 中用 contextlib.suppress 替换 try-except-pass (#33980)

  • 通过将部分模块导入放入类型检查块 改进 Airflow providers modules import (#33754)

3.3.3

发布日期:2023-08-29

错误修复

  • 修复 Python 3.8 的 celery 和 opentelemetry 依赖项 (#33579)

杂项

  • 使身份验证管理器提供其自己的 airflow CLI 命令 (#33481)

  • 重构 Sqlalchemy 查询为 2.0 风格 (第7部分) (#32883)

3.3.2

发布日期:2023-08-14

杂项 (Misc)

  • cncf.kubernetes celery providers 添加缺失的 re2 依赖 (#33237)

  • Airflow 执行器中用 TaskInstanceState 替换 State (#32627)

3.3.1

发布日期:2023-08-08

杂项

  • 添加执行器 CLI 命令的文档生成 (#33081)

  • 摆脱 Python2 数字遗留物 (#33050)

3.3.0

发布日期: 2023-08-01

注意

此提供程序版本是第一个将 Celery 执行器和 Celery Kubernetes 执行器从核心 apache-airflow 包移动到 Celery 提供程序包的版本。它还要求安装 apache-airflow-providers-cncf-kubernetes 7.4.0+ 版本以使用 CeleryKubernetesExecutor。您可以使用 pip install apache-airflow-providers-celery[cncf.kubernetes] 安装带有 cncf.kubernetes 扩展的提供程序,以获取正确版本的 cncf.kubernetes 提供程序。

特性

  • 将 CeleryExecutor 移动到 celery 提供程序 (#32526)

  • 为旧版本提供程序添加 Airflow-2-7 之前的硬编码配置默认值 (#32775)

  • [AIP-51] 执行器 CLI 命令 (#29055)

杂项

  • 将所有 k8S 类移动到 cncf.kubernetes 提供者中 (#32767)

  • 添加执行器发现和文档 (#32532)

  • 将 default_celery.py 移动到提供程序内部 (#32628)

  • 在执行器 CLI 销售中引发原始导入错误 (#32931)

3.2.1

发布日期: 2023-06-23

注意

此版本停止了对 Python 3.7 的支持

杂项

  • 添加 关于 提供程序 移除 Python 3.7 说明 (#32015)

3.2.0

发布日期: 2023-05-22

注意

正如 Apache Airflow 提供者支持政策中所述,此版本的提供者仅适用于 Airflow 2.4+。

杂项

  • 提高提供者中的最低 Airflow 版本要求 (#30917)

3.1.0

发布日期:2022-11-18

注意

正如 Apache Airflow 提供程序支持策略中所述,此版本的提供程序仅适用于 Airflow 2.3+。

杂项

  • 将所有提供程序的最低 airflow 版本移至 2.3.0 (#27196)

3.0.0

发布日期:2022-06-13

破坏性变更

注意

此版本的 provider 仅适用于 Airflow 2.2+,详情请参阅 Apache Airflow provider 支持政策

2.1.4

发布日期:2022-04-11

杂项

  • 更新执行器绑定依赖项的方法 (#22573)

2.1.3

发布日期:2022-03-26

Bug 修复

  • 修复错误地为所有 provider 添加的 install_requires (#22382)

2.1.2

发布日期:2022-03-19

杂项

  • PyPI 中添加 Trove 分类器 (Framework :: Apache Airflow :: Provider)

2.1.1

发布日期: 2022-03-10

杂项

  • 支持 Python 3.10

2.1.0

发布日期: 2021-09-08

功能

  • 继 airflow 2.2.0 Celery 版本变更后,celery 提供程序已转换为与 Celery 5 一起工作

2.0.0

发布日期:2021-06-23

重大变更

  • 自动应用 apply_default 装饰器 (#15667)

警告

由于移除了 apply_default 装饰器,此版本的提供程序需要 Airflow 2.1.0+。如果您的 Airflow 版本 < 2.1.0,并且您想要安装此提供程序版本,请先将 Airflow 升级到至少 2.1.0 版本。否则,您的 Airflow 软件包版本将自动升级,并且您必须手动运行 airflow upgrade db 来完成迁移。

1.0.1

发布日期:2021-02-08

更新了文档和 README 文件。

1.0.0

发布日期: 2020-12-14

提供程序的初始版本。

此条目是否有帮助?