Apache Pig COUNT()函数
Pig Latin的 COUNT() 函数用于获取包中的元素数量。而在计算包中元组数量时, COUNT() 函数忽略(不计算)在FIRST FIELD中具有NULL值的元组。
注意
要获取全局计数值(包中的元组总数),我们需要执行Group All操作,并使用COUNT()函数计算计数值。
要获取组的计数值(组中的元组数),我们需要使用Group By运算符对其进行分组,然后继续count函数。
语法
以下给出了 COUNT() 函数的语法。
grunt> COUNT(expression)
例
假设在HDFS目录 /pig_data/ 中有一个名为 student_details.txt 的文件,如下所示。
student_details.txt
001,Rajiv,Reddy,21,9848022337,Hyderabad,89 002,siddarth,Battacharya,22,9848022338,Kolkata,78 003,Rajesh,Khanna,22,9848022339,Delhi,90 004,Preethi,Agarwal,21,9848022330,Pune,93 005,Trupthi,Mohanthy,23,9848022336,Bhuwaneshwar,75 006,Archana,Mishra,23,9848022335,Chennai,87 007,Komal,Nayak,24,9848022334,trivendram,83 008,Bharathi,Nambiayar,24,9848022333,Chennai,72
通过关系 student_details 将此文件加载到的Pig中,如下所示。
grunt> student_details = LOAD 'hdfs://localhost:9000/pig_data/student_details.txt' USING PigStorage(',') as (id:int, firstname:chararray, lastname:chararray, age:int, phone:chararray, city:chararray, gpa:int);
计算元组数
我们可以使用内置函数 COUNT() (区分大小写)来计算关系中的元组数。使用Group All运算符将关系 student_details 分组,并将结果存储在名为 student_group_all 的关系中,如下所示。
grunt> student_group_all = Group student_details All;
它将产生如下所示的关系。
grunt> Dump student_group_all; (all,{(8,Bharathi,Nambiayar,24,9848022333,Chennai,72), (7,Komal,Nayak,24,9848022 334,trivendram,83), (6,Archana,Mishra,23,9848022335,Chennai,87), (5,Trupthi,Mohan thy,23,9848022336,Bhuwaneshwar,75), (4,Preethi,Agarwal,21,9848022330,Pune,93), (3 ,Rajesh,Khanna,22,9848022339,Delhi,90), (2,siddarth,Battacharya,22,9848022338,Ko lkata,78), (1,Rajiv,Reddy,21,9848022337,Hyderabad,89)})
现在让我们计算关系中的元组/记录的数量。
grunt> student_count = foreach student_group_all Generate COUNT(student_details.gpa);
验证
使用 DUMP 运算符验证关系 student_count ,如下所示。
grunt> Dump student_count;
输出
它将产生以下输出,显示关系student_count的内容。
8