У меня есть приведенный ниже код на Python, но мне нужно преобразовать его в pyspark,
qm1['c1'] = [x[0] in x[1] for x in zip(qm1['id'], qm1['question'])]
qm1['c1'] = qm1['c1'].astype(str)
qm1a = qm1[(qm1.c1 == 'True')]
Вывод этого кода на python выглядит следующим образом
| вопрос | Клавиша | ID | c1 |
|---|---|---|---|
| Женщины | 0 | знамение | Правда |
| машина | 0 | Mac | Правда |
Не мог бы кто-нибудь, пожалуйста, помочь мне в том же, в чем я новичок в Python?
вот мой тестовый тест (так как ваш вопрос не содержит никаких)
df.show()
+--------+---+----+
|question|key| id|
+--------+---+----+
| Women| 0|omen|
| machine| 2| mac|
| foo| 1| bar|
+--------+---+----+
и мой код для создания ожидаемого результата :
from pyspark.sql import functions as F
df = df.withColumn("c1", F.col("question").contains(F.col("id")))
df.show()
+--------+---+----+-----+
|question|key| id| c1|
+--------+---+----+-----+
| Women| 0|omen| true|
| machine| 2| mac| true|
| foo| 1| bar|false|
+--------+---+----+-----+
тогда вы можете просто filter на с1:
df.where("c1").show()
+--------+---+----+----+
|question|key| id| c1|
+--------+---+----+----+
| Women| 0|omen|true|
| machine| 2| mac|true|
+--------+---+----+----+