小知识:让gzip压缩速度加快的解决方案:使用支持多核CPU多线程并发压缩的pigz

pig是个啥东东?

官网:http://zlib.net/pigz

一句话简介:

 
复制代码

代码如下:

A parallel implementation of gzip for modernmulti-processor, multi-core machines。

简单的说,就是支持并行的gzip。废话不多说,开始测试。

pig默认用当前逻辑cpu个数来并发压缩,无法检测个数的话,则并发8个线程。

一、测试压缩包文件1  

复制代码

代码如下:

压缩前

-rw-r–r– 1 root root 2474772480 Dec 3 19:54 dbs.tar

1、gzip测试

压缩耗时,CPU最高:101.6%

real 2m18.042s

user 2m10.204s

sys 0m6.876s

解压缩耗时,CPU最高:101.6%

real 0m26.756s

user 0m20.175s

sys 0m6.580s

压缩后

-rw-r–r– 1 root root 2349563863 Dec 3 19:54 dbs.tar.gz

2、pigz测试

并发8线程(默认):

压缩耗时,CPU最高:832%

real 0m21.710s

user 2m31.229s

sys 0m9.101s

解压缩耗时,CPU最高:199%

real 0m13.239s

user 0m11.791s

sys 0m12.426s

并发4线程:

压缩耗时,CPU最高:427.6%

real 0m38.299s

user 2m30.701s

sys 0m8.369s

解压缩耗时,CPU最高:202%

real 0m13.294s

user 0m12.154s

sys 0m11.862s

压缩后

-rw-r–r– 1 root root 2350161547 Dec 3 19:54 dbs.tar.gz

二、测试压缩包文件2

压缩前

-rw-r–r– 1 root root 5248890880 Dec 3 20:26 mysql-5.5.28-linux2.6-x86_64.tar

1、gzip测试

压缩耗时,CPU最高:101%

real 6m20.524s

user 6m2.466s

sys 0m7.410s

解压缩耗时,CPU最高: 101%

real 0m58.893s

user 0m46.258s

sys 0m11.944s

压缩后

-rw-r–r– 1 root root 1410045513 Dec 3 20:26 mysql-5.5.28-linux2.6-x86_64.tar.gz

2、pigz测试

并发8线程(默认):

压缩耗时,CPU最高: 799%

real 1m11.908s

user 6m36.717s

sys 0m9.860s

解压缩耗时,CPU最高:179%

real 0m33.188s

user 0m38.069s

sys 0m16.728s

并发4线程:

压缩耗时,CPU最高: 418%

real 1m41.547s

user 6m36.782s

sys 0m9.806s

解压缩耗时,CPU最高: 179%

real 0m33.120s

user 0m37.500s

sys 0m16.956s

压缩后

-rw-r–r– 1 root root 1406061442 Dec 3 20:26 mysql-5.5.28-linux2.6-x86_64.tar.gz

结论:

1、pigz默认用法(默认并发线程是逻辑cpu个数)可比gzip快5.3倍,CPU消耗则是gzip的8倍,压缩比则相当;

2、并发8线程对比4线程提升:41.2%,16线程对比8线程提升:27.9%,32线程对比16线程提升:3%;

3、在对压缩效率要求较高、但对短时间内CPU消耗较高不受影响的场景,使用pigz非常合适。
声明: 猿站网有关资源均来自网络搜集与网友提供,任何涉及商业盈利目的的均不得使用,否则产生的一切后果将由您自己承担! 本平台资源仅供个人学习交流、测试使用 所有内容请在下载后24小时内删除,制止非法恶意传播,不对任何下载或转载者造成的危害负任何法律责任!也请大家支持、购置正版! 。本站一律禁止以任何方式发布或转载任何违法的相关信息访客发现请向站长举报,会员发帖仅代表会员个人观点,并不代表本站赞同其观点和对其真实性负责。本网站的资源部分来源于网络,如有侵权烦请发送邮件至:2697268773@qq.com进行处理。
建站知识

小知识:XFS文件系统简介 Linux中使用XFS文件系统的配置方法

2023-6-11 6:22:15

建站知识

小知识:Linux crontab报错:BAD FILE MODE的解决方法

2023-6-11 6:38:51

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
购物车
优惠劵
今日签到
有新私信 私信列表
搜索