技术标签: zip java 解压缩文件 ZipOutputStream 笔记杂谈 压缩文件
在现代计算机上,数据传输和存储越来越依赖于文件压缩技术。当我们需要发送大量数据时,压缩文件可以大大减少传输时间和网络带宽,而且压缩文件还可以帮助我们节省磁盘空间。在Java中提供了压缩和解压缩文件的功能,可以使用java.util.zip包中的类来实现。本篇将对如何使用 Java 实现单文多件压缩和解压缩进行总结。
文件压缩指的是将一个或多个文件通过压缩算法,将其存储为一个更小的文件,以便于存储和传输。压缩的原理是通过对文件的数据进行编码和压缩,使其占用更少的空间。压缩后的文件可以通过解压缩算法还原成原始的文件格式。在文件压缩过程中,常见的操作是将多个文件打包成一个压缩文件,例如zip、tar等格式。
常见的文件压缩格式包括:
Java提供了多种用于压缩和解压缩文件的API,主要包括以下类和方法:
通过使用Java 自带的 java.util.zip
类库下的ZipOutputStream
、ZipInputStream
、ZipEntry
实现文件的压缩和解压缩,其中ZipOutputStream
用于创建ZIP压缩文件输出流输出ZIP压缩文件,ZipInputStream
用于创建ZIP文件输入流读取ZIP文件用于解压缩而ZipEntry
对应ZIP压缩包中的每个被压缩对象;
生成ZIP文件
压缩单个文件或者单个文件夹方法,代码如下:
/**
* 压缩文件(支持单个文件和单个文件夹)
* @param sourceFile 被压缩文件/文件夹
* @param zipFile Zip文件
*/
public static void zipCompress(File sourceFile, File zipFile) {
try (ZipOutputStream zos = new ZipOutputStream(new FileOutputStream(zipFile))) {
// 设置压缩方法
zos.setMethod(ZipOutputStream.DEFLATED);
zos.setLevel(Deflater.BEST_COMPRESSION); // 默认为-1,压缩级别,1速度快,效率低,9 速度满,效率高
// zos.setLevel(Deflater.BEST_SPEED);
zos.setComment("zip文件说明");
// 处理文件夹
if (sourceFile.exists() && sourceFile.isDirectory() && Objects.nonNull(sourceFile.listFiles())){
Arrays.stream(Objects.requireNonNull(sourceFile.listFiles())).forEach(file -> {
addZipFile(file, zos);
});
}else{
addZipFile(sourceFile, zos);
}
} catch (IOException e) {
e.printStackTrace();
}
}
为了支持读取单个文件夹进行压缩,增加一个向ZipOutputStream
中添加ZipEntry
的方法,代码如下:
/**
* 向ZIP中添加文件
* @param file 源文件
* @param zos zip输出流
*/
private static void addZipFile(File file, ZipOutputStream zos){
if (!file.exists() || file.isDirectory()){
throw new RuntimeException("文件不存在或该文件为文件夹,请检查");
}
try {
// 读入文件
FileInputStream fis = new FileInputStream(file);
// 创建压缩对象并设置一些属性
ZipEntry entry = new ZipEntry(file.getName());
entry.setMethod(ZipEntry.DEFLATED); // 压缩方法默认为DEFLATED
// entry.setMethod(ZipEntry.STORED); // STORED(不压缩)。当使用STORED压缩方法时,需要设置未压缩的数据大小和CRC-32校验和,否则压缩和解压缩时会出现错误。
entry.setSize(file.length()); // 设置未压缩的数据大小,这里设置的是文件大小
// 计算 CRC-32 校验码
// byte[] data = Files.readAllBytes(file.toPath());
// CRC32 crc = new CRC32();
// crc.update(data);
// entry.setCrc(crc.getValue()); // 设置CRC-32校验和,用于保证压缩后的数据完整性,尽量别手动设置,可以通过CRC-32计算
entry.setCompressedSize(file.length()); // 设置压缩后的数据大小,这里设置的是使用DEFLATED方法压缩后的数据大小
entry.setExtra(new byte[]{
}); // 设置额外的数据,这里设置为空
entry.setComment("file comment"); // 设置ZipEntry的注释,即文件说明
entry.setCreationTime(FileTime.from(Instant.now())); // 设置文件的创建时间
entry.setLastAccessTime(FileTime.from(Instant.now())); // 设置文件的最后访问时间
entry.setLastModifiedTime(FileTime.from(Instant.now())); // 设置文件的最后修改时间。
// 向ZIP输出流中添加一个ZIP实体,构造方法中的name参数指定文件在ZIP包中的文件名
zos.putNextEntry(entry);
// 向ZIP实体中写入内容
byte[] buf = new byte[1024];
int len;
while ((len = fis.read(buf)) > 0) {
zos.write(buf, 0, len);
}
// 关闭ZipEntry
zos.closeEntry();
} catch (IOException e) {
e.printStackTrace();
}
}
注意
:
涉及到文件IO流,如果没有使用try with source 的语法,一定要记得关闭输入输出流;
使用Java.util.zip下的工具类压缩成ZIP不支持设置ZIP密码且每种模式下生成的ZIP文件大小大于等于原文件/文件夹;
当使用STORED压缩方法时,需要设置未压缩的数据大小和CRC-32校验和,该值需要借助CRC-32计算非常的麻烦,不设置此值会抛出异常;
对于压缩,可以使用 ZipOutputStream 的 putNextEntry 方法逐个添加文件,避免将所有文件一次性读入内存;
可以设置缓冲区大小,例如对于文件的读取和写入,可以设置缓冲区大小为 4KB 或者 8KB,减少内存的占用;
对于解压缩,可以使用 ZipInputStream 的 getNextEntry 方法逐个读取文件,避免将所有文件一次性读入内存;
解压缩ZIP文件
将ZIP文件解压缩支持生成文件夹,代码如下:
/**
* 解压缩ZIP文件
* @param zipFile ZIP文件
* @param destDir 目标路径
*/
public static void zipDecompress(File zipFile, File destDir) {
byte[] buffer = new byte[1024];
try (ZipInputStream zis = new ZipInputStream(new FileInputStream(zipFile))) {
ZipEntry entry = zis.getNextEntry();
while (entry != null) {
File file = new File(destDir, entry.getName());
if (entry.isDirectory()) {
file.mkdirs();
} else {
File parent = file.getParentFile();
if (!parent.exists()) {
parent.mkdirs();
}
try (FileOutputStream fos = new FileOutputStream(file)) {
int len;
while ((len = zis.read(buffer)) > 0) {
fos.write(buffer, 0, len);
}
}
}
entry = zis.getNextEntry();
}
} catch (IOException e) {
e.printStackTrace();
}
}
如何避免压缩文件中的注入攻击?
压缩文件中的路径名和文件名可以被精心构造的攻击者利用,从而使得解压缩的过程中可能会导致路径遍历、文件覆盖等问题,进而导致安全问题。为了避免这些安全问题,可以进行如下处理:
主要测试使用上述代码压缩单文件和解压缩单文件能否成功以后测量单个文件的处理耗时,同时测试单文件夹多文件压缩和解压缩能否成功以及处理耗时,单元测试代码如下:
@Test
void testJavaUtilZip(){
// 测试压缩和解压缩单文件ZIP
// 被压缩的MP4单文件,大小112.5MB
File inputFile = new File("/Users/zlc/Documents/own/images/GPT-4 Developer Livestream.mp4");
// ZIP文件路径
File zipFile = new File("/Users/zlc/Documents/own/mp4.zip");
// ZIP 解压缩路径
File unzipFile = new File("/Users/zlc/Documents/own/unzip");
long start = System.currentTimeMillis();
// 压缩文件
ZipFileUtil.zipCompress(inputFile, zipFile);
long end = System.currentTimeMillis();
System.out.println("ZIP-压缩单文件耗时:" + (end - start) + "毫秒");
start = System.currentTimeMillis();
ZipFileUtil.zipDecompress(zipFile, unzipFile);
end = System.currentTimeMillis();
System.out.println("ZIP-解压缩单文件耗时:" + (end - start) + "毫秒");
// 单文件夹多文件压缩和解压缩测试
// 文件夹大小2.42G
File inputFiles = new File("/Users/zlc/Documents/own/images");
File zipFiles = new File("/Users/zlc/Documents/own/imagesZip.zip");
File unzipFiles = new File("/Users/zlc/Documents/own/imagesUnzip");
start = System.currentTimeMillis();
// 压缩文件
ZipFileUtil.zipCompress(inputFiles, zipFiles);
end = System.currentTimeMillis();
System.out.println("ZIP - 多文件压缩耗时:" + (end - start) + "毫秒");
start = System.currentTimeMillis();
ZipFileUtil.zipDecompress(zipFiles, unzipFiles);
end = System.currentTimeMillis();
System.out.println("ZIP - 多文件解压缩耗时:" + (end - start) + "毫秒");
}
测试结果如下:
ZIP-压缩单文件耗时:5492毫秒
ZIP-解压缩单文件耗时:1920毫秒
ZIP - 多文件压缩耗时:136059毫秒
ZIP - 多文件解压缩耗时:45739毫秒
同时测试了设置不同压缩等级的耗时比较,结果如下:
// 不同压缩等级下的处理耗时
BEST_COMPRESSION 2.43G 文件夹耗时119801毫秒快两分钟了
BEST_SPEED 2.43G 文件夹耗时112646毫秒 也没差多少,但确实快了
结论:
测试环境为MacOS 四核Intel Core i7,16G内存,处理将近2.5G大小的文件夹耗时接近两分钟,效率十分低下,在总文件大小不大的时候可以考虑使用JDK自带的压缩工具类。
设计一个API,通过使用Hutool生成两个CSV文件和一个Excel文件,将这三个文件放入到ZIP压缩包中,当通过浏览器调用API时,下载ZIP压缩包。
同时在服务器上不生成CVS、EXCEL以及Zip文件而是直接通过HttpServletResponse将文件传送给客户端,避免服务器因过多生成这些文件导致服务硬盘不够用(PS:生成文件以后基本上不会有人管了,会随着时间的增加爆炸式增加,当然如果你需要留存建议生成本地文件存储到OSS中),代码如下:
/**
* 下载ZIP
* @param response HttpServletResponse 响应流
* @return zip file
*/
@GetMapping(value = "/downloadZip")
public String downloadZipFile(HttpServletResponse response) {
// 设置响应头
response.setContentType("application/octet-stream");
response.setHeader("Content-Disposition", "attachment; filename=download.zip");
try (ZipOutputStream outputStream = new ZipOutputStream(response.getOutputStream())) {
ExcelWriter writer = new ExcelWriter(true);
List<String> header = Arrays.asList("开始日期", "结束日期", "算法厂商", "期末资产总额", "累计成交金额",
"期间委托笔数", "期间成交笔数", "期间撤单笔数");
writer.writeHeadRow(header);
List<List<String>> rows = new ArrayList<>();
rows.add(Arrays.asList("张三", "里斯", "男", "张三", "里斯", "男", "张三", "里斯"));
rows.add(Arrays.asList("李四", "王武", "女", "张三", "里斯", "男", "张三", "里斯"));
writer.write(rows);
writer.passRows(1);
List<String> header1 = Arrays.asList("日期", "资金账号", "算法母单编号", "委托编号", "交易所", "股票代码",
"委托数量", "交易方向", "订单类型", "委托价格", "委托状态", "累计成交数量", "累计成交金额");
writer.writeHeadRow(header1);
writer.autoSizeColumn(writer.getCurrentRow());
List<List<String>> rows2 = new ArrayList<>();
rows2.add(Arrays.asList("张三", "里斯", "男", "张三", "里斯", "男", "张三", "里斯", "找大大", "赵打打", "炸", "茅台", "米线"));
rows2.add(Arrays.asList("李四", "王武", "女", "张三", "里斯", "男", "张三", "里斯", "找大大", "赵打打", "炸", "茅台", "米线"));
writer.write(rows2);
writer.autoSizeColumnAll();
ZipEntry entry = new ZipEntry("数据.xlsx");
outputStream.putNextEntry(entry);
writer.flush(outputStream);
writer.close();
outputStream.closeEntry();
ZipEntry entry1 = new ZipEntry("母单.csv");
outputStream.putNextEntry(entry1);
CsvWriter csvWriter1 = new CsvWriter(new OutputStreamWriter(outputStream));
String[] csvHead1 = {
"日期", "资金账号", "算法厂商", "算法", "算法母单编号", "交易所", "股票代码", "委托数量", "交易方向", "启动时间", "停止时间", "算法状态"};
csvWriter1.writeLine(csvHead1);
String[] csvData1 = {
"20230203", "98830901", "XX", "TWAP", "12984", "SH", "600000", "10000", "4", "102311", "112311", "1"};
String[] csvData2 = {
"20230203", "98830901", "XX", "TWAP", "12984", "SH", "600000", "10000", "4", "102311", "112311", "1"};
csvWriter1.writeLine(csvData1);
csvWriter1.writeLine(csvData2);
csvWriter1.flush();
outputStream.closeEntry();
ZipEntry entry2 = new ZipEntry("子单.csv");
outputStream.putNextEntry(entry2);
CsvWriter csvWriter2 = new CsvWriter(new OutputStreamWriter(outputStream));
String[] csvHead2 = {
"日期", "资金账号", "算法母单编号", "委托编号", "交易所", "股票代码", "委托数量", "交易方向", "订单类型", "委托价格", "委托状态", "累计成交数量", "累计成交金额"};
csvWriter2.writeLine(csvHead2);
String[] csvData3 = {
"20230203", "98830901", "12984", "ord1122", "SH", "600000", "1000", "4", "1", "7.23", "1", "800", "5600"};
String[] csvData4 = {
"20230203", "98830901", "12984", "ord1122", "SH", "600000", "1000", "4", "1", "7.23", "1", "800", "5600"};
csvWriter2.writeLine(csvData3);
csvWriter2.writeLine(csvData4);
csvWriter2.flush();
outputStream.closeEntry();
outputStream.finish();
return "success";
} catch (Exception e) {
return "faild";
}
}
Java 自带的 java.util.zip
类库是一个基础的压缩和解压缩类库,它提供了很基本的压缩和解压缩功能。在处理小型文件或数据时,java.util.zip
是一个可行的选择。不过,对于大型文件或数据的处理,效率可能会受到影响。相比之下,一些第三方的类库如 Apache Commons Compress、Zip4j 等提供了更为高级的压缩和解压缩功能,同时也提供了更好的性能。
本文首发于香菜喵,打开微信随时随地读,文章下方 ↓ ↓ ↓
文章浏览阅读2.5w次,点赞6次,收藏50次。官方解释是,docker 容器是机器上的沙盒进程,它与主机上的所有其他进程隔离。所以容器只是操作系统中被隔离开来的一个进程,所谓的容器化,其实也只是对操作系统进行欺骗的一种语法糖。_docker菜鸟教程
文章浏览阅读5.7k次,点赞3次,收藏14次。该如何避免的,今天小编给大家推荐两个下载Windows系统官方软件的资源网站,可以杜绝软件捆绑等行为。该站提供了丰富的Windows官方技术资源,比较重要的有MSDN技术资源文档库、官方工具和资源、应用程序、开发人员工具(Visual Studio 、SQLServer等等)、系统镜像、设计人员工具等。总的来说,这两个都是非常优秀的Windows系统镜像资源站,提供了丰富的Windows系统镜像资源,并且保证了资源的纯净和安全性,有需要的朋友可以去了解一下。这个非常实用的资源网站的创建者是国内的一个网友。_msdn我告诉你
文章浏览阅读1.2k次。vue2封装对话框el-dialog组件_
文章浏览阅读4.7k次,点赞5次,收藏6次。MFC 文本框换行 标签: it mfc 文本框1.将Multiline属性设置为True2.换行是使用"\r\n" (宽字符串为L"\r\n")3.如果需要编辑并且按Enter键换行,还要将 Want Return 设置为 True4.如果需要垂直滚动条的话将Vertical Scroll属性设置为True,需要水平滚动条的话将Horizontal Scroll属性设_c++ mfc同一框内输入二行怎么换行
文章浏览阅读832次。检查Linux是否是否开启所需端口,默认为6379,若未打开,将其开启:以root用户执行iptables -I INPUT -p tcp --dport 6379 -j ACCEPT如果还是未能解决,修改redis.conf,修改主机地址:bind 192.168.85.**;然后使用该配置文件,重新启动Redis服务./redis-server redis.conf..._redis-server doesn't support auth command or ismisconfigured. try
文章浏览阅读4.9k次。济大数电实验报告_数据选择器及其应用
文章浏览阅读236次。1研究内容消费在生产中占据十分重要的地位,是生产的最终目的和动力,是保持省内经济稳定快速发展的核心要素。预测河南省社会消费品零售总额,是进行宏观经济调控和消费体制改变创新的基础,是河南省内人民对美好的全面和谐社会的追求的要求,保持河南省经济稳定和可持续发展具有重要意义。本文建立灰色预测模型,利用MATLAB软件,预测出2019年~2023年河南省社会消费品零售总额预测值分别为21881...._灰色预测模型用什么软件
文章浏览阅读1.2k次。12.4-在Qt中使用Log4Qt输出Log文件,看这一篇就足够了一、为啥要使用第三方Log库,而不用平台自带的Log库二、Log4j系列库的功能介绍与基本概念三、Log4Qt库的基本介绍四、将Log4qt组装成为一个单独模块五、使用配置文件的方式配置Log4Qt六、使用代码的方式配置Log4Qt七、在Qt工程中引入Log4Qt库模块的方法八、获取示例中的源代码一、为啥要使用第三方Log库,而不用平台自带的Log库首先要说明的是,在平时开发和调试中开发平台自带的“打印输出”已经足够了。但_log4qt
文章浏览阅读786次。全局观思维模型,一个教我们由点到线,由线到面,再由面到体,不断的放大格局去思考问题的思维模型。_计算机中对于全局观的
文章浏览阅读330次。一、CountDownLatch介绍CountDownLatch采用减法计算;是一个同步辅助工具类和CyclicBarrier类功能类似,允许一个或多个线程等待,直到在其他线程中执行的一组操作完成。二、CountDownLatch俩种应用场景: 场景一:所有线程在等待开始信号(startSignal.await()),主流程发出开始信号通知,既执行startSignal.countDown()方法后;所有线程才开始执行;每个线程执行完发出做完信号,既执行do..._countdownluach于cyclicbarrier的用法
文章浏览阅读508次。Prometheus 算是一个全能型选手,原生支持容器监控,当然监控传统应用也不是吃干饭的,所以就是容器和非容器他都支持,所有的监控系统都具备这个流程,_-自动化监控系统prometheus&grafana实战
文章浏览阅读4.7k次。输入关键字,可以通过键盘的搜索按钮完成搜索功能。_react search