使用负索引从pyspark字符串列的最后一个索引对多个字符进行子字符串化


问题内容

密切相关:Spark Dataframe列与其他列的最后一个字符,

但我想从-1索引中提取多个字符。


我有以下pyspark数据框 df

+----------+----------+
|    number|event_type|
+----------+----------+
|0342224022|        11|
|0112964715|        11|
+----------+----------+

我想从该number列的最后一个索引中提取3个字符。

我尝试了以下方法:

from pyspark.sql.functions import substring 
df.select(substring(df['number'], -1, 3), 'event_type').show(2)

# which returns:

+----------------------+----------+
|substring(number,-1,3)|event_type|
+----------------------+----------+
|                     2|        11|
|                     5|        11|
+----------------------+----------+

以下是预期的输出(我不确定上面的输出是什么):

+----------------------+----------+
|substring(number,-1,3)|event_type|
+----------------------+----------+
|                   022|        11|
|                   715|        11|
+----------------------+----------+

我究竟做错了什么?

注意: Spark版本1.6.0


问题答案:

这就是你的用法substring。您的位置将是-3,长度是3。

pyspark.sql.functions.substring(str, pos, len)

您需要将子字符串函数调用更改为:

from pyspark.sql.functions import substring
df.select(substring(df['number'], -3, 3), 'event_type').show(2)
#+------------------------+----------+
#|substring(number, -3, 3)|event_type|
#+------------------------+----------+
#|                     022|        11|
#|                     715|        11|
#+------------------------+----------+