配置参考¶
此页面包含 apache-airflow-providers-common-io
provider 的所有可用 Airflow 配置列表,这些配置可以在 airflow.cfg
文件中设置,也可以通过环境变量设置。
注意
provider 中嵌入的配置从 Airflow 2.7.0 开始使用。之前,配置是在 Airflow core package 中描述和配置的 - 因此,如果您使用的 Airflow 版本低于 2.7.0,请查阅 Airflow 文档以获取 Airflow core 中可用的配置选项列表。
注意
更多信息请参阅设置配置选项。
[common.io]¶
Common IO 配置小节
xcom_objectstorage_compression¶
在 1.3.0 版本中添加。
在对象存储中存储 XCom 时使用的压缩算法。支持的算法包括:snappy, zip, gzip, bz2 和 lzma。如果未指定,将不使用压缩。请注意,压缩算法必须在 Python 安装中可用(例如,对于 snappy,需要 python-snappy)。Zip, gz, bz2 默认可用。
- 类型:
字符串
- 默认值:
''
- 环境变量:
AIRFLOW__COMMON_IO__XCOM_OBJECTSTORAGE_COMPRESSION
- 示例:
gz
xcom_objectstorage_path¶
在 1.3.0 版本中添加。
对象存储上存储 XComs 的位置路径,使用 URL 格式。
- 类型:
字符串
- 默认值:
''
- 环境变量:
AIRFLOW__COMMON_IO__XCOM_OBJECTSTORAGE_PATH
- 示例:
s3://conn_id@bucket/path
xcom_objectstorage_threshold¶
在 1.3.0 版本中添加。
在对象存储中存储 XCom 的字节阈值。-1 表示始终存储在数据库中。0 表示始终存储在对象存储中。任何正数表示如果值的大小大于阈值,则将其存储在对象存储中。
- 类型:
整数
- 默认值:
-1
- 环境变量:
AIRFLOW__COMMON_IO__XCOM_OBJECTSTORAGE_THRESHOLD
- 示例:
1000000