Apache Beam 中的窗口函数用于在数据流处理过程中对数据进行分组和聚合操作。窗口函数可以根据时间、数量或自定义标准对数据进行分组。在进行聚合时,它将数据放入一个时间范围内的“窗口”,然后在这个窗口内执行聚合操作。
下面是对实时电影排名数据流进行窗口操作的代码示例:
import apache_beam as beam
from apache_beam.transforms.window import FixedWindows
with beam.Pipeline() as pipeline:
(pipeline
| "Read from PubSub" >> beam.io.ReadFromPubSub(topic="movie-rankings")
| "Parse JSON" >> beam.Map(json.loads)
| "Add window key" >> beam.Map(lambda element: (element["timestamp"], element))
| "Window into fixed windows" >> beam.WindowInto(FixedWindows(30))
| "Group by movie" >> beam.Map(lambda element: (element[1]["movie"], 1))
| "Sum up ratings" >> beam.CombinePerKey(sum)
| "Format results" >> beam.Map(lambda element: f"Movie: {element[0]} Count: {element[1]}")
| "Write to console" >> beam.Map(print))
在此代码中,我们使用 “读取数据(ReadFromPubSub)” 的 Apache Beam 操作符来读取电影排名数据。然后,我们使用 “解析 JSON(Parse JSON)” 操作符将数据转换为 Python 字典。接着,我们使用 “添加窗口关键字(Add window key)”操作符为每条数据的时间戳添加一个关键字,并使用“窗口变为固定窗口(Window into fixed windows)”操作符将数据分成固定时间窗口。
之后,我们使用“按电影进行分组(Group by movie)”操作符将数据按电影名称进行分组。接下来,使用“评级求和(Sum up ratings)”操作符计算每部电影在