磁盘阵列的英文全称是Redundant Arrays of Inexpensive Disks(RAID),即容错廉价磁盘阵列。可以通过一些技术将多个较小的磁盘整合成为一个较大的磁盘设备;而这个设备可不止存储功能而已,它还具有数据保护功能。
RAID的等级:
× RAID-0(等量模式,stripe):性能较佳
这种模式使用相同型号和容量的磁盘来组成,可以有多个,RAID会将每个磁盘划分成等量的区块(一般为4K,2K等等),然后当一个文件被写入时,该文件会依据块大小切割好,之后依序放到各个磁盘里面去,由于每个磁盘交错存放数据,因此当你的数据要写入RAID时,数据会被等量的放置到各个磁盘上去。越多磁盘组成RAID-0,那么的话性能肯定就越好了。
缺点:一个磁盘挂点,整个文件系统崩盘,无法恢复了。并且所有磁盘容量必须一样,不然性能会下降。
× RAID-1(映像模式,mirror):完整备份
这种模式也要相同型号,相同容量的磁盘,最好完全一样,一个模子刻出来的。
数据传送到I/O总线被复制多份到各个磁盘,因此写的性能会变得很差,不过如果你用硬件RAID(磁盘阵列卡),磁盘阵列卡会主动帮你复制,不需要I/O总线。但是磁盘阵列卡很贵滴呀呀,我买不起,所以很悲剧。RAID-1最大的用途在于备份,不过它的读取性能很好。
× RAID 0+1, RAID 1+0
RAID-0的性能较佳但是数据不安全,RAID-1数据安全但是性能不佳,那能不能组合下撒。
RAID 0+1:先让N块磁盘组成RAID-0, 同时再让另外的N块磁盘也组成RAID-0, 这样子我得到了两组RAID-0,然后将这两组RAID-0再组成一组RAID-1。
RAID 1+0:先让2N块磁盘组成N个组,每个组两个磁盘,每个组里面的两个磁盘组成RAID-1, 然后将这N组RAID-1组成RAID-0。
缺点:磁盘有一半的容量用来做备份了,悲剧呀!!!
RAID-5:性能与数据备份的均衡考虑
RAID-5至少需要三块以上的磁盘才能组成这种类型的磁盘阵列。这种磁盘阵列的数据写入有点类似RAID-0,不过每次循环写入过程中,在每块磁盘还加入一个同位检查数据(Parity),这个数据会记录其他磁盘的备份数据,用于当有磁盘损毁时的救援。
RAID-5的容量要减掉一个磁盘容量,也就是阵列的磁盘总数N-1,因为需要一个磁盘容量来保存同位检查数据Parity
RAID-5的读取性能很不错,跟RAID-0有得一拼,但是写入性能就很尴尬了,在软件磁盘阵列的时候,CPU还得花时间去计算同位检查数据。同时它只能保证一个磁盘损坏数据的安全,如果两个磁盘损坏就挂了。
RAID-6:跟RAID-5类似,不过这次会使用两块磁盘容量作为Parity的存储,它可以支持两块磁盘同时损坏,这个概率应该比走在马路上被一辆驴车撞到的概率还低吧,^_^
====Spare Disk:预备磁盘的功能====
为了让系统可以实时在坏掉磁盘时主动重建,需要预备磁盘spare disk的辅助,平时不包含在磁盘阵列中,当磁盘阵列有任何磁盘损坏时,spare disk马上被主动拉入磁盘阵列中,并将坏掉的磁盘移除磁盘阵列,然后立即重建数据系统,如果你的磁盘阵列还支持热插拔就更爽了,因为这个时候只需要把坏的那颗磁盘拔下来,换上一个新的,再将新的磁盘设置成spare disk,完成了,不用关机重启可以完成一切。这对服务器的稳定性有很好的帮助。
磁盘阵列的优点:
× 数据安全与可靠性,这里指的是硬盘坏了数据可以挽回。
× 读写性能,RAID-0可以加强读写性能,让你的系哦I/O系统部分得以改善
× 容量:可以让多个磁盘组合起来,因此单一文件系统可以有相当大的容量。
centos提供的软件磁盘阵列为mdadm这套软件,以分区或磁盘为单位,也就是说你不需要多个磁盘就可以设计你的磁盘阵列了。此外,mdadm支持刚刚提到的RAID-0,RAID-1,RAID-5等级,还支持spare disk的功能。而且提供的管理机制还可以达到类似可以热插拔的功能,可以在线(文件系统正常使用)进行分区的抽换,使用上非常的方便。。
注意:硬盘磁盘阵列在linux看起来就是一个大的磁盘,所有设备文件名为/dev/sd[a-p],因为使用到SCSI的模块的原因。而软件磁盘阵列因为是系统仿真,因此使用的设备文件名时系统的设备文件,文件名为/dev/md0, /dev/md1,两者注意区别。
====软件磁盘阵列的设置====
# mdadm –detail /dev/md0
# mdadm –create –auto=yes /dev/md[0-9] –raid-device=4 –level=[015] –spare-device=2 /dev/sd5 /dev/sd6
–create:为新建RAID的参数
–auto=yes:决定新建后面接的软件磁盘阵列设备,即/dev/md0, /dev/md1等
–raid-devices=N:使用N个磁盘作为磁盘阵列的设备
–spare-devices=N:使用N个磁盘作为备用spare设备
–level=[015]:设置磁盘阵列的等级。支持很多,不过建议只要用0,1,5即可
–detail:后面所接的那个磁盘阵列设备的详细信息
注意最后面接的设备文件名,可以时整块磁盘,比如/dev/sdb,也可以是一个分区,比如/dev/sdb1,不过这些设备文件名的数量总数必须等于–raid-devices和–spare-devices的个数总和才行。
下面我来试试建立一个RAID-5的软件磁盘阵列,貌似这个比较常用,很适合。
我希望这个RAID-5环境时这样子的:
× 利用4个分区组成RAID-5
× 每个分区大约为1G大小,需要确定每个分区一样大较佳
× 另外加一个分区设置为sparedisk
× 这个sparedisk的大小与其他RAID所需分区一样大
× 将此RAID-5设备挂载到/mnt/raid目录下面
先用fdisk构建5个1G的分区:
# fdisk /dev/sda
前面省略。。。
Command (m for help):n每次分1000M空间大小,注意,我不知道神马原因,first 扇区要手动输入,用p选项查看后,用最后一个分区的扇区号+2049才是第一个空闲扇区号,这个可能时fedora的一个bug,分区居然不是连续的,不管了,自己去试试。囧
最后的分区用p查看后,是这样子的:
设备 Boot Start End Blocks Id System
/dev/sda1 2048 206847 102400 7 HPFS/NTFS/exFAT
/dev/sda2 * 206848 169859071 84826112 7 HPFS/NTFS/exFAT
/dev/sda3 169859072 462827821 146484375 7 HPFS/NTFS/exFAT
/dev/sda4 462829568 976773119 256971776 5 Extended
/dev/sda5 462833664 463243263 204800 83 Linux
/dev/sda6 463245312 631181311 83968000 83 Linux
/dev/sda7 631183360 799119359 83968000 83 Linux
/dev/sda8 799121408 803315711 2097152 82 Linux swap / Solaris
/dev/sda9 803317760 805365759 1024000 83 Linux
/dev/sda10 805367808 807415807 1024000 83 Linux
/dev/sda11 807417856 809465855 1024000 83 Linux
/dev/sda12 809467904 811515903 1024000 83 Linux
/dev/sda13 811517952 813565951 1024000 83 Linux
后面的从9到13就是刚刚我分的5个分区,每个大概1G,大小都相同。# partprobe
接下来就简单啦啦,,通过mdadm来创建磁盘阵列吧。哦也
# mdadm –create –auto=yes /dev/md0 –level=5 –raid-devices=4 –spare-devices=1 /dev/sda{9,10,11,12,13}
查看下(等下,先去喝杯咖啡先,因为如果你直接立马运行,可能出现下面的正在building数据的信息):
代码如下:
# mdadm –detail /dev/md0
/dev/md0: <==RAID设备文件名
Version : 1.2
Creation Time : Sun Oct 28 10:03:43 2012 <==RAID被创建的时间
Raid Level : raid5 <==此RAID的等级
Array Size : 3068928 (2.93 GiB 3.14 GB) <==此RAID可用磁盘容量
Used Dev Size : 1022976 (999.17 MiB 1047.53 MB) <==每个设备可用容量
Raid Devices : 4 <==用作RAID的设备数量
Total Devices : 5 <==全部的设备数量
Persistence : Superblock is persistent
Update Time : Sun Oct 28 10:04:01 2012
State : clean, degraded, recovering
Active Devices : 3 <==启动的(active)设备数量
Working Devices : 5 <==可工作的设备数量
Failed Devices : 0 <==出现错误的设备数量
Spare Devices : 2 <==预备spare磁盘的数量
Layout : left-symmetric
Chunk Size : 512K
Rebuild Status : 17% complete
Name : localhost.localdomain:0 (local to host localhost.localdomain)
UUID : 657db303:887c7b6f:b8d8fc91:dc7b3374
Events : 3
Number Major Minor RaidDevice State
0 8 9 0 active sync /dev/sda9
1 8 10 1 active sync /dev/sda10
2 8 11 2 active sync /dev/sda11
5 8 12 3 spare rebuilding /dev/sda12
4 8 13 – spare /dev/sda13真正的完成build后的信息应该是:
代码如下:
# mdadm –detail /dev/md0
/dev/md0:
Version : 1.2
Creation Time : Sun Oct 28 10:03:43 2012
Raid Level : raid5
Array Size : 3068928 (2.93 GiB 3.14 GB)
Used Dev Size : 1022976 (999.17 MiB 1047.53 MB)
Raid Devices : 4
Total Devices : 5
Persistence : Superblock is persistent
Update Time : Sun Oct 28 10:06:00 2012
State : clean
Active Devices : 4
Working Devices : 5
Failed Devices : 0
Spare Devices : 1
Layout : left-symmetric
Chunk Size : 512K
Name : localhost.localdomain:0 (local to host localhost.localdomain)
UUID : 657db303:887c7b6f:b8d8fc91:dc7b3374
Events : 20
Number Major Minor RaidDevice State
0 8 9 0 active sync /dev/sda9
1 8 10 1 active sync /dev/sda10
2 8 11 2 active sync /dev/sda11
5 8 12 3 active sync /dev/sda12
4 8 13 – spare /dev/sda13还可以通过查看/proc/mdstat查看磁盘阵列情况:
# cat /proc/mdstat
Personalities : [raid6] [raid5] [raid4]
md0 : active raid5 sda12[5] sda13[4](S) sda11[2] sda10[1] sda9[0]
3068928 blocks super 1.2 level 5, 512k chunk, algorithm 2 [4/4] [UUUU]
unused devices: <none>格式化与挂载使用RAID:
# mkfs -t ext4 /dev/md0
# mkdir /mnt/raid
# mount /dev/md
# mount /dev/md0 /mnt/raid
# df
文件系统 1K-块 已用 可用 已用% 挂载点
rootfs 82649712 4681980 73769332 6% /
devtmpfs 1964632 4 1964628 1% /dev
tmpfs 1975352 600 1974752 1% /dev/shm
tmpfs 1975352 1160 1974192 1% /run
/dev/sda6 82649712 4681980 73769332 6% /
tmpfs 1975352 0 1975352 0% /sys/fs/cgroup
tmpfs 1975352 0 1975352 0% /media
/dev/sda7 82649712 8355056 70096256 11% /home
/dev/sda5 198337 90718 97379 49% /boot
/dev/md0 3020688 70048 2797196 3% /mnt/raid
看到了吧,最后一个,是不是很有成就感,=_=====仿真RAID错误的救援模式====
# mdadm –manage /dev/md[0-9] [–add 设备] [–remove 设备] [–fail 设备]
–add:将后面的设备加入到这个md中
–remove:将后面的设备从这个md中删除
–fail:将后面的设备设置成出错的状态
手动模拟磁盘错误:
# cp -a /etc /var/log /mnt/raid/
# df -h /mnt/raid/; du -smh /mnt/raid/*
文件系统 容量 已用 可用 已用% 挂载点
/dev/md0 2.9G 126M 2.7G 5% /mnt/raid
45M /mnt/raid/etc
4.4M /mnt/raid/log
16K /mnt/raid/lost+found# mdadm –manage /dev/md0 –fail /dev/sda10
mdadm: set /dev/sda10 faulty in /dev/md0然后马上查看状态,这个动作要快点,因为raid会自动重建数据系统:
代码如下:
# mdadm –detail /dev/md0
/dev/md0:
Version : 1.2
Creation Time : Sun Oct 28 10:03:43 2012
Raid Level : raid5
Array Size : 3068928 (2.93 GiB 3.14 GB)
Used Dev Size : 1022976 (999.17 MiB 1047.53 MB)
Raid Devices : 4
Total Devices : 5
Persistence : Superblock is persistent
Update Time : Sun Oct 28 10:24:42 2012
State : clean, degraded, recovering
Active Devices : 3
Working Devices : 4
Failed Devices : 1
Spare Devices : 1
Layout : left-symmetric
Chunk Size : 512K
Rebuild Status : 6% complete
Name : localhost.localdomain:0 (local to host localhost.localdomain)
UUID : 657db303:887c7b6f:b8d8fc91:dc7b3374
Events : 23
Number Major Minor RaidDevice State
0 8 9 0 active sync /dev/sda9
4 8 13 1 spare rebuilding /dev/sda13
2 8 11 2 active sync /dev/sda11
5 8 12 3 active sync /dev/sda12
1 8 10 – faulty spare /dev/sda10喝完咖啡后,看一下(其实也就1分钟左右)
代码如下:
# mdadm –detail /dev/md0
/dev/md0:
Version : 1.2
Creation Time : Sun Oct 28 10:03:43 2012
Raid Level : raid5
Array Size : 3068928 (2.93 GiB 3.14 GB)
Used Dev Size : 1022976 (999.17 MiB 1047.53 MB)
Raid Devices : 4
Total Devices : 5
Persistence : Superblock is persistent
Update Time : Sun Oct 28 10:26:53 2012
State : clean
Active Devices : 4
Working Devices : 4
Failed Devices : 1
Spare Devices : 0
Layout : left-symmetric
Chunk Size : 512K
Name : localhost.localdomain:0 (local to host localhost.localdomain)
UUID : 657db303:887c7b6f:b8d8fc91:dc7b3374
Events : 43
Number Major Minor RaidDevice State
0 8 9 0 active sync /dev/sda9
4 8 13 1 active sync /dev/sda13
2 8 11 2 active sync /dev/sda11
5 8 12 3 active sync /dev/sda12
1 8 10 – faulty spare /dev/sda10看到了吧,不用我来给你解释了吧。
接下来,我将出错的磁盘删除并加入新的磁盘:
首先,先新建一个新的分区,这个分区大小要与其他的分区一样大才好。然后再用mdadm删除错误的并加入新的
# fdisk /dev/sda
….下面建新分区步骤省略,如果不知道怎么建,参考我的企鹅日记(一)
# partprobe
# partprobe
[root@localhost ~]# mdadm –manage /dev/md0 –add /dev/sda14 –remove /dev/sda10
mdadm: added /dev/sda14
mdadm: hot removed /dev/sda10 from /dev/md0代码如下:
# mdadm –detail /dev/md0
/dev/md0:
Version : 1.2
Creation Time : Sun Oct 28 10:03:43 2012
Raid Level : raid5
Array Size : 3068928 (2.93 GiB 3.14 GB)
Used Dev Size : 1022976 (999.17 MiB 1047.53 MB)
Raid Devices : 4
Total Devices : 5
Persistence : Superblock is persistent
Update Time : Sun Oct 28 10:33:04 2012
State : clean
Active Devices : 4
Working Devices : 5
Failed Devices : 0
Spare Devices : 1
Layout : left-symmetric
Chunk Size : 512K
Name : localhost.localdomain:0 (local to host localhost.localdomain)
UUID : 657db303:887c7b6f:b8d8fc91:dc7b3374
Events : 45
Number Major Minor RaidDevice State
0 8 9 0 active sync /dev/sda9
4 8 13 1 active sync /dev/sda13
2 8 11 2 active sync /dev/sda11
5 8 12 3 active sync /dev/sda12
6 8 14 – spare /dev/sda14看到了吧,结果不用我解释了吧。。哈哈
而这一切的一切都是online的状态下完成的,是不是很NB呢 =_=
====开机自动挂载RAID====
只需要知道/dev/md0的UUID就行
# mdadm –detail /dev/md0 | grep -i uuid
UUID : 657db303:887c7b6f:b8d8fc91:dc7b3374# vi /etc/mdadm.conf
ARRAY /dev/md0 UUID=657db303:887c7b6f:b8d8fc91:dc7b3374
# vi /etc/fstab,在最后一行加入/dev/md0 /mnt/raid ext4 defaults 1 2
测试下可行否(这个很重要,因为如果fstab修改不对可能导致开不了机器)
# umount /dev/md0; mount -a
[root@localhost ~]# df /mnt/raid/
文件系统 1K-块 已用 可用 已用% 挂载点
/dev/md0 3020688 120464 2746780 5% /mnt/raid
OK,没有问题,那么你就可以重启了,看是不是自动挂载了呢。====关闭RAID====
1,先卸载
# umount /dev/md0
2,删除配置文件内容:
# vi /etc/fstab,删除(注释)下面这行
/dev/md0 /mnt/raid ext4 defaults 1 2
3,关闭/dev/md0:
# mdadm –stop /dev/md0
4,# cat /proc/mdstat
Personalities : [raid6] [raid5] [raid4]
unused devices: <none>5,vi /etc/mdadm.conf,删除(注释)下面的行
ARRAY /dev/md0 UUID=657db303:887c7b6f:b8d8fc91:dc7b3374
好的,所有的RAID的基本都讲完了。不过上面我用的时一块磁盘,实际用途中记得用多块磁盘啊!!
=======================================END=========================================