0000000000557506
AUTHOR
Daiga Plase
A comparison of HDFS compact data formats: Avro versus Parquet
In this paper, file formats like Avro and Parquet are compared with text formats to evaluate the performance of the data queries. Different data query patterns have been evaluated. Cloudera’s open-source Apache Hadoop distribution CDH 5.4 has been chosen for the experiments presented in this article. The results show that compact data formats (Avro and Parquet) take up less storage space when compared with plain text data formats because of binary data format and compression advantage. Furthermore, data queries from the column based data format Parquet are faster when compared with text data formats and Avro. Article in English. HDFS glaustųjų duomenų formatų palyginimas: Avro prieš Parquet…
Accelerating data queries on Hadoop framework by using compact data formats
There are massive amounts of data generated from IoT, online transactions, click streams, emails, logs, posts, social networking interactions, sensors, mobile phones and their applications etc. The question is where and how to store these data in order to provide faster data access. Understanding and handling Big Data is a big challenge. The research direction in Big Data projects using Hadoop Technology, MapReduce kind of framework and compact data formats such as RCFile, SequenceFile, ORC, Avro, Parquet shows that only two data formats (Avro and Parquet) support schema evolution and compression in order to utilize less storage space. In this paper, file formats like Avro and Parquet are c…
Lēmumu atbalsta sistēma maziem un vidējiem uzņēmumiem
Lēmumu atbalsta sistēmas mūsdienās izmanto visa veida uzņēmumi. Arī maza un vidēja uzņēmuma vadītājam, ir nepieciešams pieņemt svarīgus lēmumus, kas balstīti uz liela apjoma informācijas analīzes rezultātiem. Pareizi izsvērti lēmumi palīdz ātrāk un veiksmīgāk sasniegt uzņēmuma mērķus, palielināt apgrozījumu, gūt lielāku peļņu, samazināt uzņēmuma izmaksas, paver iespēju ātrāk kļūt par lielu uzņēmumu. Esošie lielo ražotāju risinājumi (piemēram, SAP, IBM Cognos, SAS, Oracle u.c.) ne vienmēr ir piemēroti maziem uzņēmumiem, jo tos raksturo augsta cena, augstas tehnisko resursu un infrastruktūras prasības, sarežģītība, neatbilstoša funkcionalitāte, zema elastība, lai risinātu uzdevumus strauji ma…
A systematic review of SQL-on-Hadoop by using compact data formats
Article also submitted for publication in Baltic J. Modern Computing (BJMC) on October 5, 2016.