配置参考

此页面列出了 apache-airflow-providers-opensearch 提供程序的所有可用 Airflow 配置,这些配置可以在 airflow.cfg 文件中设置或通过环境变量进行设置。

注意

欲了解更多信息,请参阅 设置配置选项

[opensearch]

end_of_log_mark

自 1.5.0 版起添加。

用于标记任务日志流结束的标记

类型:

字符串

默认值:

end_of_log

环境变量:

AIRFLOW__OPENSEARCH__END_OF_LOG_MARK

host

自 1.5.0 版起添加。

Opensearch 主机

类型:

字符串

默认值:

''

环境变量:

AIRFLOW__OPENSEARCH__HOST

host_field

自 1.5.0 版起添加。

存放主机名的字段(通常为 hosthost.name

类型:

字符串

默认值:

host

环境变量:

AIRFLOW__OPENSEARCH__HOST_FIELD

index_patterns

自 1.5.0 版起添加。

用于搜索日志的索引模式的逗号分隔列表(默认:_all)。index_patterns_callable 的返回值优先于此设置。

类型:

字符串

默认值:

_all

环境变量:

AIRFLOW__OPENSEARCH__INDEX_PATTERNS

示例:

something-*

index_patterns_callable

自 1.5.0 版起添加。

一个字符串,表示指向 Python 可调用对象的完整路径,该对象接受 TI 对象并返回逗号分隔的索引模式列表。此设置的优先级高于 index_patterns

类型:

字符串

默认值:

''

环境变量:

AIRFLOW__OPENSEARCH__INDEX_PATTERNS_CALLABLE

示例:

module.callable

json_fields

自 1.5.0 版起添加。

如果启用,附加到 JSON 输出的日志字段

类型:

字符串

默认值:

asctime, filename, lineno, levelname, message

环境变量:

AIRFLOW__OPENSEARCH__JSON_FIELDS

json_format

自 1.5.0 版起添加。

使用 JSON 格式写入日志行(替代默认的日志格式化器)

类型:

字符串

默认值:

False

环境变量:

AIRFLOW__OPENSEARCH__JSON_FORMAT

log_id_template

自 1.5.0 版起添加。

用于查询特定任务日志的 log_id 的格式

类型:

字符串

默认值:

{dag_id}-{task_id}-{run_id}-{map_index}-{try_number}

环境变量:

AIRFLOW__OPENSEARCH__LOG_ID_TEMPLATE

offset_field

自 1.5.0 版起添加。

存放 offset 的字段(通常为 offsetlog.offset

类型:

字符串

默认值:

offset

环境变量:

AIRFLOW__OPENSEARCH__OFFSET_FIELD

密码

自 1.5.0 版起添加。

连接 Opensearch 的密码

类型:

字符串

默认值:

''

环境变量:

AIRFLOW__OPENSEARCH__PASSWORD

AIRFLOW__OPENSEARCH__PASSWORD_CMD

AIRFLOW__OPENSEARCH__PASSWORD_SECRET

端口

自 1.5.0 版起添加。

Opensearch 主机的端口号

类型:

整数

默认值:

''

环境变量:

AIRFLOW__OPENSEARCH__PORT

target_index

自 1.9.0 版起添加。

启用直接 OpenSearch 日志写入时要写入的索引名称

类型:

字符串

默认值:

airflow-logs

环境变量:

AIRFLOW__OPENSEARCH__TARGET_INDEX

用户名

自 1.5.0 版起添加。

连接 Opensearch 的用户名

类型:

字符串

默认值:

''

环境变量:

AIRFLOW__OPENSEARCH__USERNAME

AIRFLOW__OPENSEARCH__USERNAME_CMD

AIRFLOW__OPENSEARCH__USERNAME_SECRET

write_stdout

自 1.5.0 版起添加。

将任务日志写入工作节点的 stdout,而不是默认的文件

类型:

字符串

默认值:

False

环境变量:

AIRFLOW__OPENSEARCH__WRITE_STDOUT

write_to_os

自 1.9.0 版起添加。

将任务日志直接写入 OpenSearch

类型:

字符串

默认值:

False

环境变量:

AIRFLOW__OPENSEARCH__WRITE_TO_OS

[opensearch_configs]

ca_certs

自 1.5.0 版起添加。

类型:

字符串

默认值:

''

环境变量:

AIRFLOW__OPENSEARCH_CONFIGS__CA_CERTS

http_compress

自 1.5.0 版起添加。

类型:

字符串

默认值:

False

环境变量:

AIRFLOW__OPENSEARCH_CONFIGS__HTTP_COMPRESS

ssl_assert_hostname

自 1.5.0 版起添加。

类型:

字符串

默认值:

False

环境变量:

AIRFLOW__OPENSEARCH_CONFIGS__SSL_ASSERT_HOSTNAME

ssl_show_warn

自 1.5.0 版起添加。

类型:

字符串

默认值:

False

环境变量:

AIRFLOW__OPENSEARCH_CONFIGS__SSL_SHOW_WARN

use_ssl

自 1.5.0 版起添加。

类型:

字符串

默认值:

False

环境变量:

AIRFLOW__OPENSEARCH_CONFIGS__USE_SSL

verify_certs

自 1.5.0 版起添加。

类型:

字符串

默认值:

False

环境变量:

AIRFLOW__OPENSEARCH_CONFIGS__VERIFY_CERTS

此条目是否有帮助?