欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  IT编程

spark dataframe 将一列展开,把该列所有值都变成新列的方法

程序员文章站 2024-01-12 19:05:10
the original dataframe 需求:hour代表一天的24小时,现在要将hour列展开,每一个小时都作为一个列 实现: val pivot...

the original dataframe

spark dataframe 将一列展开,把该列所有值都变成新列的方法

需求:hour代表一天的24小时,现在要将hour列展开,每一个小时都作为一个列

实现:

val pivots = beijinggeohourpopafterdrop.groupby("geohash").pivot("hour").sum("countgeoperhour").na.fill(0)

并且统计了对应的countgeoperhour的和,如果有些行没有这个新列对应的数据,将用null填充

the new dataframe

spark dataframe 将一列展开,把该列所有值都变成新列的方法

以上这篇spark dataframe 将一列展开,把该列所有值都变成新列的方法就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持。