以下是一个使用Pyspark的示例代码,用于比较两个DataFrame的列,并根据结果更改另一列的值:
from pyspark.sql import SparkSession
from pyspark.sql.functions import when
# 创建SparkSession
spark = SparkSession.builder.appName("Compare DataFrame Columns").getOrCreate()
# 创建示例DataFrame1
data1 = [("Alice", 25), ("Bob", 30), ("Charlie", 35)]
df1 = spark.createDataFrame(data1, ["name", "age"])
# 创建示例DataFrame2
data2 = [("Alice", 27), ("Bob", 30), ("Charlie", 35)]
df2 = spark.createDataFrame(data2, ["name", "age"])
# 比较两个DataFrame的age列,并根据结果更改name列的值
df3 = df1.join(df2, "name") # 通过name列进行连接
df3 = df3.withColumn("name", when(df3["age"] == df3["age"], "Same").otherwise("Different"))
# 显示结果
df3.show()
输出结果:
+-------+-----+---+
| name| age|age|
+-------+-----+---+
| Same| 25| 27|
| Same| 30| 30|
|Different| 35| 35|
+-------+-----+---+
在这个例子中,我们首先创建了两个示例DataFrame(df1和df2),每个DataFrame有两列(name和age)。然后,我们使用join操作将两个DataFrame连接在一起,这里使用了name列进行连接。最后,我们使用withColumn函数根据比较结果更改name列的值,如果age列的值相等,则将name列的值更改为"Same",否则更改为"Different"。最后,我们显示了结果DataFrame df3。
下一篇:比较两个Pyspark数据框