配置参考¶
此页面包含 apache-airflow-providers-elasticsearch
提供程序的所有可用 Airflow 配置列表,您可以在 airflow.cfg
文件中或使用环境变量设置这些配置。
注意
从 Airflow 2.7.0 开始,嵌入在提供程序包中的配置开始被使用。以前,配置是在 Airflow 核心包中描述和配置的 - 因此,如果您使用的是低于 2.7.0 的 Airflow,请查看 Airflow 文档以获取 Airflow 核心可用的配置选项列表。
注意
有关更多信息,请参阅 设置配置选项。
[elasticsearch]¶
end_of_log_mark¶
版本 1.10.4 中的新功能。
用于标记任务日志流的结尾
- 类型
字符串
- 默认值
end_of_log
- 环境变量
AIRFLOW__ELASTICSEARCH__END_OF_LOG_MARK
frontend¶
版本 1.10.4 中的新功能。
Elasticsearch 前端(如 Kibana)的限定 URL,带有一个 log_id 模板参数 代码将使用上述参数中的 log_id 模板构造 log_id。注意:如果未提供方案,则默认为 https
- 类型
字符串
- 默认值
''
- 环境变量
AIRFLOW__ELASTICSEARCH__FRONTEND
- 示例
http://localhost:5601/app/kibana#/discover?_a=(columns:!(message),query:(language:kuery,query:'log_id: "{log_id}"'),sort:!(log.offset,asc))
host_field¶
版本 2.1.1 中的新功能。
存储主机名的字段(通常是 host 或 host.name)
- 类型
字符串
- 默认值
host
- 环境变量
AIRFLOW__ELASTICSEARCH__HOST_FIELD
index_patterns¶
版本 2.6.0 中的新功能。
搜索日志时使用的索引模式的逗号分隔列表(默认值:_all)。index_patterns_callable 优先于此。
- 类型
字符串
- 默认值
_all
- 环境变量
AIRFLOW__ELASTICSEARCH__INDEX_PATTERNS
- 示例
something-*
json_fields¶
版本 1.10.4 中的新功能。
如果启用,还要附加到 json 输出的日志字段
- 类型
字符串
- 默认值
asctime, filename, lineno, levelname, message
- 环境变量
AIRFLOW__ELASTICSEARCH__JSON_FIELDS
json_format¶
版本 1.10.4 中的新功能。
将日志行写为 JSON,而不是默认的日志格式化程序
- 类型
字符串
- 默认值
False
- 环境变量
AIRFLOW__ELASTICSEARCH__JSON_FORMAT
log_id_template¶
版本 1.10.4 中的新功能。
log_id 的格式,用于查询给定任务的日志
- 类型
字符串
- 默认值
{dag_id}-{task_id}-{run_id}-{map_index}-{try_number}
- 环境变量
AIRFLOW__ELASTICSEARCH__LOG_ID_TEMPLATE
offset_field¶
版本 2.1.1 中的新功能。
存储偏移量的字段(通常是 offset 或 log.offset)
- 类型
字符串
- 默认值
offset
- 环境变量
AIRFLOW__ELASTICSEARCH__OFFSET_FIELD
write_stdout¶
版本 1.10.4 中的新功能。
将任务日志写入工作器的标准输出,而不是默认文件
- 类型
字符串
- 默认值
False
- 环境变量
AIRFLOW__ELASTICSEARCH__WRITE_STDOUT