【云计算与大数据技术】文件存储格式行式、列式、GFS、HDFS的讲解（图文解释超详细）

红太狼 2023-09-30 17:48 15阅读 0赞

## 一、分布式文件系统 ##

文件系统最后都需要以一定的格式存储数据文件，常见的文件存储布局有行式存储、列式存储以及混合式存储三种，不同的类别各有其优缺点和适用的场景，在目前的大数据分析系统中，列式存储和混合式存储方案因其特殊优点被广泛采用

### **1：行式存储** ###

在传统关系型数据库中，行式存储被主流关系型数据库广泛采用，HDFS文件系统也采用行式存储，在行式存储中，每条记录的各个字段连续的存储在一起，而对于文件中的各个记录也是连续存储在数据块中。

行式存储对于大数据系统的需求已经不能很好的满足，主要体现在以下几个方面

#### 快速访问海量数据的能力被束缚 ####

行的值由响应列的值来定位，这种访问模型会影响快速访问的能力，因为在数据访问的过程中引入了耗时的输入与输出，在行式存储中，为了提高数据处理能力，一般通过分区技术来减少查询过程中数据输入与输出的次数，从而缩短响应时间，但是这种分区技术对海量数据规模下的性能改善效果并不明显

#### 扩展性差 ####

在海量规模下，扩展性差式传统数据存储的一个致命的弱点。一般通过向上扩展和向外扩展来解决数据库扩展的问题。向上扩展是通过升级硬件来提升速度，从而缓解压力，向外扩展则是按照一定的规则将海量数据进行划分，再将原来集中存储的数据分散到不同的数据服务器上，但由于数据被表示成关系模型，从而难以被划分到不同的分片中等原因，这种解决方案仍有有局限性

![da8daf47d59c413c88e39df4ba8d1f90.png][]

### 2：列式存储 ###

列式存储 - 与行式存储布局对应,列式存储布局实际存储数据时按照列队所有记录进行垂直划分，将同一列的内容连续存放在一起

将经常联合使用的列存储在一个数据块中，避免通过不必要的网络传输来获取多列数据，采用列组方式存储布局可以在一定程度上缓解这个问题，也就是将记录的列进行分组，将经常使用的列分为一组，这样即使是按照列式来存储数据，也可以将经常联合使用的列存储在一个数据块中，避免通过不必要的网络传输来获取多列数据，对于某些场景而言会较大的提升系统性能

![e4d09af17ee242899ddc2d2ccb28d530.png][]

### 3：混合式存储 ###

混合式存储- 融合了行式和列式存储布局的优点

首先将记录表按照行进行分组，若干行划分为一组

对于每组内的所有记录,在实际存储时按照列将同一列内容连续存储在一起

## 二、Google文件系统（GFS） ##

GFS(Google文件系统)是Google为了存储百亿计的海量网页信息而专门开发的文 件系统

数据冗余备份、故障自动检测、故障机器自动恢复等都列在GFS的设计目标里

GFS中存储的文件绝大多数是大文件

系统中存在大量的“追加”写操作,即在已有文件的末尾追加内容,已经写入的 内容不做更改

对于数据读取操作来说,绝大多数操作都是“顺序”读,少量的操作是“随机” 读

![5431119540944c61a36679232c2c2dcc.png][]

## 三、HDFS ##

Hadoop 分布式文件系统 (HDFS)被设计成适合运行在通用硬件 (commodity hardware)上的分布式文件系统，HDFS是一个高度容错性的系统，适合部署在廉价的机器上，HDFS能够提供高吞吐的数据访问，非常适合大规模数据集上的应用，HDFS在最开始是在Apache Nutch搜索引擎项目的基础架构开发的。HDFS是Apache Hadoop Core项目的一部分

HDFS 采用 master/slave 架构。一个 HDFS 集群由一个namenode 和一定数目的 datanode 组成

HDFS采用Java语言开发，因此任何支持Java的机器都可以部署NameNode或者DataNode，由于采用了可移植性极强的Java语言，使得HDFS可以部署到多种类型的机器上

![4ea123b8de49456e9a30594eca44e88f.png][]

**创作不易 觉得有帮助请点赞关注收藏~~~**

[da8daf47d59c413c88e39df4ba8d1f90.png]: https://img-blog.csdnimg.cn/da8daf47d59c413c88e39df4ba8d1f90.png
[e4d09af17ee242899ddc2d2ccb28d530.png]: https://img-blog.csdnimg.cn/e4d09af17ee242899ddc2d2ccb28d530.png
[5431119540944c61a36679232c2c2dcc.png]: https://img-blog.csdnimg.cn/5431119540944c61a36679232c2c2dcc.png
[4ea123b8de49456e9a30594eca44e88f.png]: https://img-blog.csdnimg.cn/4ea123b8de49456e9a30594eca44e88f.png