Как получить список общих друзей между любой парой друзей в сети с помощью pyspark

Question 1

У меня есть три таких записи [('a1', ['b1', 'c1', 'd1', 'e1']), ('a2', ['b1', 'c2', 'd2', 'e1']),('a3', ['b1', 'c2', 'd1', 'e2'])] содержащий идентификатор ключа в виде списка значений для каждого ключа.

Я хочу получить общее количество значений в списке для каждого ключа в pyspark.
Как я могу получить список общих друзей между любой парой злодеев в писпарке.

Question 2

1 Просто используйте size функция.

df = df.withColumn('num_friends', F.expr('size(friends)'))

2 Используйте array_intersect функция для получения пересечения массивов.

cp_df = df.toDF('key_pair', 'friends_pair')
cross_df = df.crossJoin(cp_df).filter('key!=key_pair')
cross_df = cross_df.select(F.create_map('key', 'key_pair').alias('key_pair'),
                           F.array_intersect('friends', 'friends_pair').alias('common_friends'))
cross_df.show(truncate=False)

过过招 · Answer 1 · 2021-11-24T02:39:00

1 Просто используйте size функция.

df = df.withColumn('num_friends', F.expr('size(friends)'))

2 Используйте array_intersect функция для получения пересечения массивов.

cp_df = df.toDF('key_pair', 'friends_pair')
cross_df = df.crossJoin(cp_df).filter('key!=key_pair')
cross_df = cross_df.select(F.create_map('key', 'key_pair').alias('key_pair'),
                           F.array_intersect('friends', 'friends_pair').alias('common_friends'))
cross_df.show(truncate=False)

Как получить список общих друзей между любой парой друзей в сети с помощью pyspark

Вопрос

Лучший ответ

На других языках

Эта страница на других языках

Популярное в этой категории

Популярные вопросы в этой категории