AWS Step Functions¶

AWS Step Functions 可以轻松地将分布式应用程序的组件协调为可视化工作流中的一系列步骤。您可以快速构建和运行状态机，以可靠且可扩展的方式执行应用程序的步骤。

先决条件任务¶

要使用这些操作符，您必须执行以下几项操作

使用 AWS 控制台或 AWS CLI 创建必要的资源。
通过 pip 安装 API 库。
pip install 'apache-airflow[amazon]'
详细信息请参阅Airflow® 的安装
设置连接.

通用参数¶

aws_conn_id

引用 Amazon Web Services 连接 ID。如果此参数设置为 None，则使用默认的 boto3 行为，而不进行连接查找。否则，请使用存储在连接中的凭据。默认值：aws_default

region_name

AWS 区域名称。如果此参数设置为 None 或省略，则将使用 AWS 连接额外参数中的 region_name。否则，请使用指定的值而不是连接值。默认值：None

verify

是否验证 SSL 证书。

False - 不验证 SSL 证书。
path/to/cert/bundle.pem - 要使用的 CA 证书包的文件名。如果要使用与 botocore 使用的不同的 CA 证书包，则可以指定此参数。

如果此参数设置为 None 或省略，则将使用 AWS 连接额外参数中的 verify。否则，请使用指定的值而不是连接值。默认值：None

botocore_config

提供的字典用于构造 botocore.config.Config。此配置可用于配置避免节流异常、超时等。

示例，有关参数的更多详细信息，请参阅 botocore.config.Config¶

{
    "signature_version": "unsigned",
    "s3": {
        "us_east_1_regional_endpoint": True,
    },
    "retries": {
      "mode": "standard",
      "max_attempts": 10,
    },
    "connect_timeout": 300,
    "read_timeout": 300,
    "tcp_keepalive": True,
}

如果此参数设置为 None 或省略，则将使用 AWS 连接额外参数中的 config_kwargs。否则，请使用指定的值而不是连接值。默认值：None

注意

指定空字典 {} 将覆盖 botocore.config.Config 的连接配置

操作符¶

启动 AWS Step Functions 状态机执行¶

要启动新的 AWS Step Functions 状态机执行，可以使用 StepFunctionStartExecutionOperator。您还可以通过将 deferrable 参数设置为 True，在可延期模式下运行此操作符。

tests/system/amazon/aws/example_step_functions.py

start_execution = StepFunctionStartExecutionOperator(
    task_id="start_execution", state_machine_arn=state_machine_arn
)

获取 AWS Step Functions 执行输出¶

要从 AWS Step Function 状态机执行中获取输出，可以使用 StepFunctionGetExecutionOutputOperator。

tests/system/amazon/aws/example_step_functions.py

get_execution_output = StepFunctionGetExecutionOutputOperator(
    task_id="get_execution_output", execution_arn=execution_arn
)

传感器¶

等待 AWS Step Functions 状态机执行状态¶

要等待 AWS Step Function 状态机执行的状态直到它达到终端状态，可以使用 StepFunctionExecutionSensor。

tests/system/amazon/aws/example_step_functions.py

wait_for_execution = StepFunctionExecutionSensor(
    task_id="wait_for_execution", execution_arn=execution_arn
)

参考¶

Step Functions 的 AWS boto3 库文档