Оператор GROUP используется для группировки данных в одно или несколько отношений. Он собирает данные, имеющие один и тот же ключ.
Синтаксис
Ниже приведен синтаксис группового оператора.
grunt> Group_data = GROUP Relation_name BY age;
пример
Предположим, что у нас есть файл student_details.txt в каталоге HDFS / pig_data /, как показано ниже.
student_details.txt
001,Rajiv,Reddy,21,9848022337,Hyderabad 002,siddarth,Battacharya,22,9848022338,Kolkata 003,Rajesh,Khanna,22,9848022339,Delhi 004,Preethi,Agarwal,21,9848022330,Pune 005,Trupthi,Mohanthy,23,9848022336,Bhuwaneshwar 006,Archana,Mishra,23,9848022335,Chennai 007,Komal,Nayak,24,9848022334,trivendram 008,Bharathi,Nambiayar,24,9848022333,Chennai
И мы загрузили этот файл в Apache Pig с именем отношения student_details, как показано ниже.
grunt> student_details = LOAD 'hdfs://localhost:9000/pig_data/student_details.txt' USING PigStorage(',') as (id:int, firstname:chararray, lastname:chararray, age:int, phone:chararray, city:chararray);
Теперь давайте сгруппируем записи / кортежи в зависимости от возраста, как показано ниже.
grunt> group_data = GROUP student_details by age;
верификация
Проверьте отношение group_data с помощью оператора DUMP, как показано ниже.
grunt> Dump group_data;
Выход
Затем вы получите вывод, отображающий содержимое отношения с именем group_data, как показано ниже. Здесь вы можете заметить, что полученная схема имеет два столбца:
-
Одним из них является возраст , по которому мы сгруппировали отношения.
-
Другой представляет собой сумку , которая содержит группу кортежей, студенческие записи с соответствующим возрастом.
Одним из них является возраст , по которому мы сгруппировали отношения.
Другой представляет собой сумку , которая содержит группу кортежей, студенческие записи с соответствующим возрастом.
(21,{(4,Preethi,Agarwal,21,9848022330,Pune),(1,Rajiv,Reddy,21,9848022337,Hydera bad)})
(22,{(3,Rajesh,Khanna,22,9848022339,Delhi),(2,siddarth,Battacharya,22,984802233 8,Kolkata)})
(23,{(6,Archana,Mishra,23,9848022335,Chennai),(5,Trupthi,Mohanthy,23,9848022336 ,Bhuwaneshwar)})
(24,{(8,Bharathi,Nambiayar,24,9848022333,Chennai),(7,Komal,Nayak,24,9848022334, trivendram)})
Вы можете увидеть схему таблицы после группировки данных с помощью команды описать, как показано ниже.
grunt> Describe group_data;
group_data: {group: int,student_details: {(id: int,firstname: chararray,
lastname: chararray,age: int,phone: chararray,city: chararray)}}
Таким же образом вы можете получить образец иллюстрации схемы, используя команду illustrate, как показано ниже.
$ Illustrate group_data;
Это даст следующий результат —
-------------------------------------------------------------------------------------------------
|group_data| group:int | student_details:bag{:tuple(id:int,firstname:chararray,lastname:chararray,age:int,phone:chararray,city:chararray)}|
-------------------------------------------------------------------------------------------------
| | 21 | { 4, Preethi, Agarwal, 21, 9848022330, Pune), (1, Rajiv, Reddy, 21, 9848022337, Hyderabad)}|
| | 2 | {(2,siddarth,Battacharya,22,9848022338,Kolkata),(003,Rajesh,Khanna,22,9848022339,Delhi)}|
-------------------------------------------------------------------------------------------------
Группировка по нескольким столбцам
Давайте сгруппируем соотношение по возрасту и городу, как показано ниже.
grunt> group_multiple = GROUP student_details by (age, city);
Вы можете проверить содержимое отношения с именем group_multiple, используя оператор Dump, как показано ниже.
grunt> Dump group_multiple;
((21,Pune),{(4,Preethi,Agarwal,21,9848022330,Pune)})
((21,Hyderabad),{(1,Rajiv,Reddy,21,9848022337,Hyderabad)})
((22,Delhi),{(3,Rajesh,Khanna,22,9848022339,Delhi)})
((22,Kolkata),{(2,siddarth,Battacharya,22,9848022338,Kolkata)})
((23,Chennai),{(6,Archana,Mishra,23,9848022335,Chennai)})
((23,Bhuwaneshwar),{(5,Trupthi,Mohanthy,23,9848022336,Bhuwaneshwar)})
((24,Chennai),{(8,Bharathi,Nambiayar,24,9848022333,Chennai)})
(24,trivendram),{(7,Komal,Nayak,24,9848022334,trivendram)})
Группа Все
Вы можете сгруппировать отношения по всем столбцам, как показано ниже.
grunt> group_all = GROUP student_details All;
Теперь проверьте содержимое отношения group_all, как показано ниже.