猪中的组串联等价物?

时间:2023-04-03
本文介绍了猪中的组串联等价物?的处理方法,对大家解决问题具有一定的参考价值,需要的朋友们下面随着跟版网的小编来一起学习吧!

问题描述

试图在 Pig 上完成这项工作.(寻找相当于 MySQL 的 group_concat())

Trying to get this done on Pig. (Looking for the group_concat() equivalent of MySQL)

例如,在我的表中,我有这个:(3fields- userid, clickcount,pagenumber)

In my table, for example, I have this: (3fields- userid, clickcount,pagenumber)

155 | 2 | 12
155 | 3 | 133
155 | 1 | 144
156 | 6 | 1
156 | 7 | 5

所需的输出是:

155| 2,3,1 | 12,133,144

156| 6,7 | 1,5

我怎样才能在 PIG 上实现这一点?

How can I achieve this on PIG?

推荐答案

grouped = GROUP table BY userid;
   X = FOREACH grouped GENERATE group as userid, 
                                table.clickcount as clicksbag, 
                                table.pagenumber as pagenumberbag;

现在 X 将是:

{(155,{(2),(3),(1)},{(12),(133),(144)},
 (156,{(6),(7)},{(1),(5)}}

现在您需要使用 内置 UDF BagToTuple:

output = FOREACH X GENERATE userid, 
                            BagToTuple(clickbag) as clickcounts, 
                            BagToTuple(pagenumberbag) as pagenumbers;

output 现在应该包含您想要的内容.您也可以将输出步骤合并到合并步骤中:

output should now contain what you want. You can merge the output step into the merge step as well:

    output = FOREACH grouped GENERATE group as userid, 
                     BagToTuple(table.clickcount) as clickcounts, 
                     BagToTuple(table.pagenumber) as pagenumbers;

这篇关于猪中的组串联等价物?的文章就介绍到这了,希望我们推荐的答案对大家有所帮助,也希望大家多多支持跟版网!

上一篇:一种从Mysql读取表数据到Pig的方法 下一篇:在 Apache Spark 2.0.0 中,是否可以从外部数据库获取查询(而不是获取整个表)?

相关文章