ApacheBeamDataFlowRunner在数据存储器写入/在ramp-up期间强制执行节流时抛出错误
创始人
2024-09-05 11:02:20
0

在 DataflowRunner 中,EnforceRampUp 用于控制计算资源的跃升,即根据数据流的负载和计算资源的状况来逐渐增加并发执行的工作数量。禁用此选项后,始终使用任务的最大并发度。

对于 DataStore 的写入,EnforceRampUp 可以导致每个任务以低于预期的速率执行,从而增加总任务时间,并可能导致资源的浪费。

因此,建议将 --experiments=disable_slow_start=true 添加到 DataflowPipelineOptions 的选项中,以禁用慢启动并在任务启动时立即使用最大并发度。这会大大减少写入到 DataStore 的任务所需的总时间。

示例代码:

from apache_beam.options.pipeline_options import PipelineOptions
from apache_beam.options.pipeline_options import GoogleCloudOptions
from apache_beam.options.pipeline_options import StandardOptions
from apache_beam.options.pipeline_options import WorkerOptions

options = PipelineOptions()
google_cloud_options = options.view_as(GoogleCloudOptions)
google_cloud_options.project = 'my_project'
google_cloud_options.region = 'us-central1'
google_cloud_options.job_name = 'my_job_name'
worker_options = options.view_as(WorkerOptions)
worker_options.disk_size_gb = 100
worker_options.autoscaling_algorithm = 'NONE'
standard_options = options.view_as(StandardOptions)
standard_options.runner = 'DataflowRunner'

experimental_options = options.view_as(ExperimentalOptions)
experimental_options.add_experiment("disable_slow_start=true")

相关内容

热门资讯

避免在粘贴双引号时向VS 20... 在粘贴双引号时向VS 2022添加反斜杠的问题通常是由于编辑器的自动转义功能引起的。为了避免这个问题...
安装apache-beam==... 出现此错误可能是因为用户的Python版本太低,而apache-beam==2.34.0需要更高的P...
安装了Anaconda之后找不... 在安装Anaconda后,如果找不到Jupyter Notebook,可以尝试以下解决方法:检查环境...
Android Recycle... 要在Android RecyclerView中实现滑动卡片效果,可以按照以下步骤进行操作:首先,在项...
omi系统和安卓系统哪个好,揭... OMI系统和安卓系统哪个好?这个问题就像是在问“苹果和橘子哪个更甜”,每个人都有自己的答案。今天,我...
本地化字符串和默认值 本地化字符串是指将应用程序中的文本内容根据不同的语言和地区进行翻译和适配的过程。当应用程序需要显示不...
原生ios和安卓系统,原生对比... 亲爱的读者们,你是否曾好奇过,为什么你的iPhone和安卓手机在操作体验上有着天壤之别?今天,就让我...
Android - NDK 预... 在Android NDK的构建过程中,LOCAL_SRC_FILES只能包含一个项目。如果需要在ND...
windows安装系统退不出来... Windows安装系统退不出来的解决方法详解在电脑使用过程中,有时会遇到在安装Windows系统时无...
不匹配以value="... 解决方法一:使用正则表达式匹配可以使用正则表达式来匹配不以value="开头的字符串。示例如下:im...