在同一调用中从Spark Dataframes拆分方法中选择数组元素?
问题内容:
我正在拆分HTTP请求以查看元素,我想知道是否有一种方法可以指定我想在同一调用中查看的元素,而不必执行其他操作。
例如:
from pyspark.sql import functions as fn
df.select(fn.split(df.http_request, '/').alias('http'))
给了我一个新Dataframe
的数组行,像这样:
+--------------------+
| http|
+--------------------+
|[, courses, 26420...|
我想要索引1(课程)中的项目,而不必执行另一条select
语句来指定df.select(df.http[1])
或执行任何操作。这可能吗?
问题答案:
好吧,您可以定义一个UDF
:
from pyspark.sql.functions import *
from pyspark.sql.types import *
def getter(column, index):
return column[index]
getterUDF = udf(getter, StringType())
df.select(getterUDF(split(df.http_request, '/').alias('http'), lit(1)))
您也可以使用getItem
@max推荐的方法
df.select(F.split(df.http_request, '/').alias('http').getItem(1))