使用负索引从pyspark字符串列的最后一个索引对多个字符进行子字符串化
问题内容:
密切相关:Spark Dataframe列与其他列的最后一个字符,
但我想从-1
索引中提取多个字符。
我有以下pyspark数据框 df
+----------+----------+
| number|event_type|
+----------+----------+
|0342224022| 11|
|0112964715| 11|
+----------+----------+
我想从该number
列的最后一个索引中提取3个字符。
我尝试了以下方法:
from pyspark.sql.functions import substring
df.select(substring(df['number'], -1, 3), 'event_type').show(2)
# which returns:
+----------------------+----------+
|substring(number,-1,3)|event_type|
+----------------------+----------+
| 2| 11|
| 5| 11|
+----------------------+----------+
以下是预期的输出(我不确定上面的输出是什么):
+----------------------+----------+
|substring(number,-1,3)|event_type|
+----------------------+----------+
| 022| 11|
| 715| 11|
+----------------------+----------+
我究竟做错了什么?
注意: Spark版本1.6.0
问题答案:
这就是你的用法substring
。您的位置将是-3,长度是3。
pyspark.sql.functions.substring(str, pos, len)
您需要将子字符串函数调用更改为:
from pyspark.sql.functions import substring
df.select(substring(df['number'], -3, 3), 'event_type').show(2)
#+------------------------+----------+
#|substring(number, -3, 3)|event_type|
#+------------------------+----------+
#| 022| 11|
#| 715| 11|
#+------------------------+----------+