配置参考

此页面包含 apache-airflow-providers-elasticsearch 提供程序的所有可用 Airflow 配置列表,您可以在 airflow.cfg 文件中或使用环境变量设置这些配置。

注意

从 Airflow 2.7.0 开始,嵌入在提供程序包中的配置开始被使用。以前,配置是在 Airflow 核心包中描述和配置的 - 因此,如果您使用的是低于 2.7.0 的 Airflow,请查看 Airflow 文档以获取 Airflow 核心可用的配置选项列表。

注意

有关更多信息,请参阅 设置配置选项

[elasticsearch]

end_of_log_mark

版本 1.10.4 中的新功能。

用于标记任务日志流的结尾

类型

字符串

默认值

end_of_log

环境变量

AIRFLOW__ELASTICSEARCH__END_OF_LOG_MARK

frontend

版本 1.10.4 中的新功能。

Elasticsearch 前端(如 Kibana)的限定 URL,带有一个 log_id 模板参数 代码将使用上述参数中的 log_id 模板构造 log_id。注意:如果未提供方案,则默认为 https

类型

字符串

默认值

''

环境变量

AIRFLOW__ELASTICSEARCH__FRONTEND

示例

http://localhost:5601/app/kibana#/discover?_a=(columns:!(message),query:(language:kuery,query:'log_id: "{log_id}"'),sort:!(log.offset,asc))

host

版本 1.10.4 中的新功能。

Elasticsearch 主机

类型

字符串

默认值

''

环境变量

AIRFLOW__ELASTICSEARCH__HOST

host_field

版本 2.1.1 中的新功能。

存储主机名的字段(通常是 hosthost.name

类型

字符串

默认值

host

环境变量

AIRFLOW__ELASTICSEARCH__HOST_FIELD

index_patterns

版本 2.6.0 中的新功能。

搜索日志时使用的索引模式的逗号分隔列表(默认值:_all)。index_patterns_callable 优先于此。

类型

字符串

默认值

_all

环境变量

AIRFLOW__ELASTICSEARCH__INDEX_PATTERNS

示例

something-*

json_fields

版本 1.10.4 中的新功能。

如果启用,还要附加到 json 输出的日志字段

类型

字符串

默认值

asctime, filename, lineno, levelname, message

环境变量

AIRFLOW__ELASTICSEARCH__JSON_FIELDS

json_format

版本 1.10.4 中的新功能。

将日志行写为 JSON,而不是默认的日志格式化程序

类型

字符串

默认值

False

环境变量

AIRFLOW__ELASTICSEARCH__JSON_FORMAT

log_id_template

版本 1.10.4 中的新功能。

log_id 的格式,用于查询给定任务的日志

类型

字符串

默认值

{dag_id}-{task_id}-{run_id}-{map_index}-{try_number}

环境变量

AIRFLOW__ELASTICSEARCH__LOG_ID_TEMPLATE

offset_field

版本 2.1.1 中的新功能。

存储偏移量的字段(通常是 offsetlog.offset

类型

字符串

默认值

offset

环境变量

AIRFLOW__ELASTICSEARCH__OFFSET_FIELD

write_stdout

版本 1.10.4 中的新功能。

将任务日志写入工作器的标准输出,而不是默认文件

类型

字符串

默认值

False

环境变量

AIRFLOW__ELASTICSEARCH__WRITE_STDOUT

[elasticsearch_configs]

http_compress

版本 1.10.5 中的新功能。

类型

字符串

默认值

False

环境变量

AIRFLOW__ELASTICSEARCH_CONFIGS__HTTP_COMPRESS

verify_certs

版本 1.10.5 中的新功能。

类型

字符串

默认值

True

环境变量

AIRFLOW__ELASTICSEARCH_CONFIGS__VERIFY_CERTS

此条目有帮助吗?