欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  网络运营

ZFS是什么?使用ZFS的理由及特性介绍

程序员文章站 2022-06-12 15:32:30
zfs 的历史 z 文件系统(z file system)(zfs)是由 matthew ahrens 和 jeff bonwick 在 2001 年开发的。zfs...

zfs 的历史

z 文件系统(z file system)(zfs)是由 matthew ahrens 和 jeff bonwick 在 2001 年开发的。zfs 是作为 太阳微系统(sun microsystem) 公司的 opensolaris 的下一代文件系统而设计的。在 2008 年,zfs 被移植到了 freebsd 。同一年,一个移植 zfs 到 linux 的项目也启动了。然而,由于 zfs 是 通用开发和发布许可证 (common development and distribution license)(cddl)许可的,它和 gnu 通用公共许可证 不兼容,因此不能将它迁移到 linux 内核中。为了解决这个问题,绝大多数 linux 发行版提供了一些方法来安装 zfs。
在甲骨文公司收购太阳微系统公司之后不久,opensolaris 就闭源了,这使得 zfs 的之后的开发也变成闭源的了。许多 zfs 开发者对这件事情非常不满。 三分之二的 zfs 核心开发者 ,包括 ahrens 和 bonwick,因为这个决定而离开了甲骨文公司。他们加入了其它公司,并于 2013 年 9 月创立了 openzfs 这一项目。该项目引领着 zfs 的开源开发。
让我们回到上面提到的许可证问题上。既然 openzfs 项目已经和 oracle 公司分离开了,有人可能好奇他们为什么不使用和 gpl 兼容的许可证,这样就可以把它加入到 linux 内核中了。根据 openzfs 官网 的介绍,更改许可证需要联系所有为当前 openzfs 实现贡献过代码的人(包括初始的公共 zfs 代码以及 opensolaris 代码),并得到他们的许可才行。这几乎是不可能的(因为一些贡献者可能已经去世了或者很难找到),因此他们决定保留原来的许可证。

zfs 是什么,它有什么特性?

正如前面所说过的,zfs 是一个先进的文件系统。因此,它有一些有趣的 特性 。比如:

  • 存储池
  • 写时拷贝
  • 快照
  • 数据完整性验证和自动修复
  • raid-z
  • 最大单个文件大小为 16 eb(1 eb = 1024 pb)
  • 最大 256 千万亿(256*1015 )的 zb(1 zb = 1024 eb)的存储

让我们来深入了解一下其中一些特性。

如何安装 zfs?

如果你想立刻使用 zfs(开箱即用),那么你需要安装 freebsd 或一个 使用 illumos 内核的操作系统 。 illumos 是opensolaris 内核的一个克隆版本。
事实上,支持 zfs 是一些有经验的 linux 用户选择 bsd 的主要原因 。
如果你想在 linux 上尝试 zfs,那么只能在存储文件系统上使用。据我所知,没有任何 linux 发行版可以在根目录上安装 zfs,实现开箱即用。如果你对在 linux 上尝试 zfs 感兴趣,那么 zfs on linux 项目 上有大量的教程可以指导你怎么做。

存储池

与大多数文件系统不同,zfs 结合了文件系统和卷管理器的特性。这意味着,它与其他文件系统不同,zfs 可以创建跨越一系列硬盘或池的文件系统。不仅如此,你还可以通过添加硬盘来增大池的存储容量。zfs 可以进行分区和格式化

ZFS是什么?使用ZFS的理由及特性介绍

使用zfs的十条理由及特性

1. 再也不需要fsck, scandisk

不管你是在用linux,unix还是windows,相信大家都有过类似的体会:当系统意外断电或者非法关机,系统重起后发现文件系统有inconsistent的问题,这时 候就需要fsck或者scandisk 来修复,这段时间是非常耗时而且最后不一定能够修复成功。更糟糕的是,如果这是一台服务器需要做fsck的时候,只能offline(下线),而且现有应用往往都是大硬盘,相应fsck修 复时间也很长,这对许多使用该服务器的用户来说几乎不能忍受的。
而使用zfs后大家可以彻底抛弃fsck这种工具,因为zfs是一个基于cow(copy on write)机制的文件系统。cow是不会对硬盘上现有的文件进行重写,保证所有硬盘上的文件都是有效的。所以不会有这种inconsistent的概念,自然就不需要这种工具了。

2. 管理简单

zfs作为一个全新的文件系统,全面抛弃传统file system + volume manager + storage的架构,所有的存储设备是通过zfs pool进行管理,只要把各种存储设备加 入同一个zfs pool,大家就可以轻松的在这个zfs pool管理配置文件系统。大家再也不用牢记各种专业概念,各种命令newfs, metinit及各种volume manager的用法。在zfs中我们只需要两个命令,zpool(针 对zfs pool管理)和zfs(针对zfs文件系统的管理),就可以轻松管理128位的文件系统。举个例子,我们经常会遇到系统数据增长过 快,现有存储容量不够,需要添加硬盘,如果依照传统的volume manager管理方式,那我 们需要预先要考虑很多现有因素,还要预先根据应用计算出需要配置的各种参数。在zfs情况下,我们的系统管理员可以彻底解放,再也不需要这种人为的复杂 考虑和计算,我们可以把这些交给zfs,因为zfs pool会自动调节,动态适应需求。我们只需一个简单的命令为 这个zfs pool加入新的硬盘就可以了:

zpool add zfs_pool mirror c4t0d0 c5t0d0

基于这个动态调节的zfs pool之上的所有的文件系统就可以立即使用到这个新的硬盘,并且会自动的选择最优化的参数。而且zfs同时也提供图形化的管理界面

3.没有任何容量限制

zfs(zettabyte file system)文件系统就如其名字所预示,可以提供真正的海量存储,在现实中几乎不可能遇到容量问题。在现有的64位kernel(内 核)下,它可以容纳达到16 exabytes(264)大小的单个文件,可以使用264个存储设备,可以创建264个文件系统。

4.完全保证 数据 的正确和完整

由于zfs所有的数据操作都是基 于transaction(事务),一组相应的操作会被zfs解 析为一个事务操作,事务的操作就代表着一组操作要么一起失败,要么一起成功。而且如前所说,zfs对 所有的操作是基于cow(copy on write), 从而保证设备上的数 据始终都是有效的,再也不会因为系统崩溃或者意外掉电导致数据文件的inconsistent。
还有一种潜在威胁 数据的可能是来自于硬件设备的问题,比如磁 盘,raid卡的硬件问题或者驱动bug。现有文件系统通常遇到这个问题,往往只是简单的把错误数据直接交给上层应用,通常我们把这个问题称作silent data corruption。而在zfs中,对所有数据不管是用户数据还是文件系统自身的metadata数 据都进行256位的checksum(校 验),当zfs在提交数据时会进行校验,彻底杜绝这种silent data corruption情况。

5.提供优异 性能和扩展性

和传统file system + volume manager + storage架构不同,zfs则是直接基于存储设备提供所有的功能,因此有自己独有的创新特性,性能自然非比寻常。

dynamic striping vs. static striping

由于zfs是基于cow和一个全局动态的zfs pool,任何一次写 操作,都是对一块新数据块(block)的一次写操作。zfs从zfs pool中动态挑选出一个最优的设备,并且以一个transaction(事 务)线性写入,充分有效地利用了现有设备的带宽,我们把这个特性称为dynamic striping。而相对应的static striping则是传统文件系统所使用的方式,static striping需要管理员预先对这组stripe进行正确地计算人为 设置,而且如果加入新的设备则需要再次人为的计算和设置,更为严重的是如果人为计算错误,则会直接影响系统的性能。而在使用dynamic striping这种特性之后,我们根本不需要人为介入,zfs会自动调整,智能的为你 提供最佳的设备,最快的操作方式。

支持多种 大小的数据块(multiple block size)

zfs支持多种大小的数据块定义,从512字节到1m字节。和传统文件系统往往都是固定大小数据块不同,zfs则是可以动态的根据不同 大小的文件进行计算,动态的选择最佳的数据块。
因为不同大小数据 块,直接影响到实际使用硬盘容量和读取速度。如果使用较小的数据块,存储文件所导致的碎片则较少,读写小文件更快一些,但是会导致需要创建更多的metadata,读写大文件则会更费时。如果使用较大的数据块,使用的metadata较少,更利于读写大文件,但是会导致更多的碎片。zfs根据实际调查现有文件使 用的情况,分析出一个选择数据块大小的算法,动态的根据实际文件大小确定最佳的数据块。所以zfs是 非常智能的,在不需要系统管理员介入,就可以得到一个自我调优的结果。当然zfs也支持用户对单个文件或者整个文件系统 所使用的数据块大小的自定义设置。

智能预读取(intelligent prefetch)

多数的操作系统都 有这种将数据预先读取的功能,而zfs则是建立在文件系统上直接提供的一种更加智能的数据预读取功能。它不仅可以智能地识别出多种读取模式, 进 行提前读取数据,而且可以对每个读取数据流进行这种预读取智能识别,这个对许多流媒体提供者来说是件非常好的事情。
在扩展性上,和现有文件系统多是基于一个受限的静态模型不同,zfs是采用zfs pool这个动态概念,它的metadata也是动态,并且读写操作都是可并行的,并且具有优先级概念,所以即使在大数据量,多设备的情况下仍可以保证性能的线性增长。

6.自我修复功能

zfs mirror 和 raid-z

传统的硬盘mirror及raid 4,raid 5阵列方式都会遇到前面提到过的问题:silent data corruption。如果发生了某块硬盘物理问题导致数据错误,现有的mirror,包括raid 4,raid 5阵列会默默地把这个错误数据提交给上层应用。如果这个错误发生在metadata中,则会直接导致系统的panic。 而且还有一种更为严重的情况是:在raid 4和raid 5阵列中,如果系统正在计算parity数值,并再次写入新数据和新parity值的时候发生断电,那么整个阵列的所有存储的数据都毫无意义了。
在zfs中则提出了相对应的zfs mirror和raid-z方式,它在负责读取数据的时候会自动和256位校验码进行校验,会主动发现这种silent data corruption,然后通过相应的mirror硬 盘或者通过raid-z阵列中其他硬盘得到正确的数据返回给上层应用,并且同时自动修复原硬盘的data corruption 。

fault manager

在solaris 10中,包含 一个zfs诊断引擎和solaris的 fault manager(这也是solaris 10的 另一个新特性)交互,可以实时地诊断分析并且报告zfs pool和存储设备的错误,用户可以通过fault manager及时得到一个非常友善的消息。这个诊断引擎虽然不会采取主动的行为去修复或者解决 问题,但是会在消息中提示系统管理员可采取的动作。类似下面一个zfs报错消息,其中rec-action就是建议采取的动作:

sunw-msg-id: zfs-8000-d3, type: fault, ver: 1, severity: major
event-time: fri mar 10 11:09:06 mst 2006
platform: sunw,ultra-60, csn: -, hostname: neo
source: zfs-diagnosis, rev: 1.0
event-id: b55ee13b-cd74-4dff-8aff-ad575c372ef8
desc: a zfs device failed. refer to http://sun.com/msg/zfs-8000-d3 for more information.
auto-response: no automated response will occur.
impact: fault tolerance of the pool maybe compromised.
rec-action: run 'zpool status -x' and replace the bad device.

7. 安全

在安全上,zfs支持类似nt风格nfsv4版的acl(读取控制列表)。而且前面所提到的256位验证码,用户可选择多种验证方式,包括sha-256验证算法,从而在物理存储单元级别上保证数据的安全性。

8. 超强功能

zfs作为“最后一个文件系统”,涵盖了基本的文件系统和volume管理的功能,同时 一并提供许多企业级别的超强功能:quota(配额),reservation(预留), compression(压 缩), snapshot(快照),clone(克隆)。并且速度非常快。有了这个文件系统,大家再也不需要任何volume manager了。

9.兼容性

zfs是一个完全兼容posix规范的文件系统,所以处于上层的应用程序是完全不受影响。zfs也提供一个emulated volume模块,可以把任何一个zfs文件系统作为普通的块设备使用。同时zfs也可以使用基于volume manager构建的volume作为存储设备单 元。这样在不需要修改应用程序,不修改已有文件系统下,给了大家最大的*度去获得zfs提供的各种特性。

10.开源

zfs是sun microsystems公 司作为opensolaris的一个开源项目运作并且完全免费使用,这就代表着我们不仅同时可以享受商业公司的高质量,也可以获得开源模式的优点。
虽然目前只有solaris支持该文件系统,但是这种开源的模式必定会促进更多基于zfs的应用。现在已经有国外开发者正在将zfs移植到linux和mac os上来。如果想要体验一下zfs,由于目前它和solaris 10绑定在一起,所以需要下载最新版的solaris 10 6/06 ()。

附加说明

这篇文章论述了 zfs 的优点。现在,让我来告诉你一个关于 zfs 很现实的问题。使用 raid-z 会很贵 ,因为你需要购买大量的磁盘来增大存储空间。
你已经使用过 zfs 了吗?你的使用经验是什么样的?

总结

以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作具有一定的参考学习价值,谢谢大家对的支持。如果你想了解更多相关内容请查看下面相关链接