EasyExcel对大数据量表格操作导入导出

2022/11/19 2:23:54

本文主要是介绍EasyExcel对大数据量表格操作导入导出,对大家解决编程问题具有一定的参考价值,需要的程序猿们随着小编来一起学习吧!

前言

最近有个项目里面中有大量的Excel文档导入导出需求,数据量最多的文档有上百万条数据,之前的导入导出都是用apache的POI,于是这次也决定使用POI,结果导入一个四十多万的文档就GG了,内存溢出...  于是找到EasyExcel的文档,学习了一番,解决了大数据量导入导出的痛点。

由于项目中很多接口都需要用到导入导出,部分文档都是根据日期区分,部分文档是需要全表覆盖,于是抽出一个工具类,简化下重复代码,在此把实现过程记录一下。

测试结果

数据量100W

导入 

测试了几次,读取完加保存到数据库总耗时都是在140秒左右

导出 

由于在业务中不涉及到大数据量的导出,最多只有10W+数据的导出,所以用的是最简单的写,测试二十万的数据量五十秒左右

依赖

1
2
3
4
5
<dependency>
    <groupId>com.alibaba</groupId>
    <artifactId>easyexcel</artifactId>
    <version>3.1.2</version>
</dependency>

  

具体实现

实体类

@ExcelProperty注解对应Excel文档中的表头,其中默认属性是value,对应文字,也有index属性,可以对应下标。converter属性是指定一个转换器,这个转换器中实现了把Excel内容转换成java对象(导入使用),Java对象转Excel内容(导出使用),我这里实现的是LocalDateTime和文本的转换。

@ExcelIgnoreUnannotated注解的意思就是在导入导出的时候忽略掉未加@ExcelProperty注解的字段

@Data
@TableName("t_test_user")
@ApiModel(value = "TestUserEntity对象", description = "测试表")
@ExcelIgnoreUnannotated
public class TestUserEntity implements Serializable {

    private static final long serialVersionUID = 1L;

    @TableId(value = "id", type = IdType.AUTO)
    private Long id;

    @ExcelProperty("用户名")
    @ApiModelProperty("用户名")
    @TableField("user_name")
    private String userName;

    @ExcelProperty("账号")
    @ApiModelProperty("账号")
    @TableField("account")
    private String account;

    @ExcelProperty("性别")
    @ApiModelProperty("性别")
    @TableField("sex")
    private String sex;

    @ExcelProperty(value = "注册时间", converter = StringToLocalDateTimeConverter.class)
    @ApiModelProperty("注册时间")
    @TableField("registered_time")
    private LocalDateTime registeredTime;

    @ApiModelProperty("数据日期")
    @TableField("data_date")
    private Integer dataDate;

    @ApiModelProperty("创建人")
    @TableField("create_user")
    private String createUser;

    @ApiModelProperty("创建时间")
    @TableField("create_time")
    private LocalDateTime createTime;
}

 

转换器

在这里实现导入导出的数据格式转换

/**
 * @author Tang
 * @describe easyExcel格式转换器
 * @date 2022年08月29日 09:41:03
 */
public class StringToLocalDateTimeConverter implements Converter<LocalDateTime> {
    /**
     * 这里读的时候会调用
     */
    @Override
    public LocalDateTime convertToJavaData(ReadConverterContext<?> context) {
        String stringValue = context.getReadCellData().getStringValue();
        return StringUtils.isBlank(stringValue) ? null : DateUtil.stringToLocalDatetime(stringValue);
    }

    /**
     * @describe 写的时候调用
     * @Param context
     * @return com.alibaba.excel.metadata.data.WriteCellData<?>
     * @date 2022年11月17日 16:03:39
     * @author Tang
     */
    @Override
    public WriteCellData<?> convertToExcelData(WriteConverterContext<LocalDateTime> context) {
        return new WriteCellData<>(DateUtil.localDateToDayString(context.getValue()));
    }

}

标签:数据库,站点,文件,架构,数据,服务器,创建,结束,设置 来源:

本站声明: 1. iCode9 技术分享网(下文简称本站)提供的所有内容,仅供技术学习、探讨和分享; 2. 关于本站的所有留言、评论、转载及引用,纯属内容发起人的个人观点,与本站观点和立场无关; 3. 关于本站的所有言论和文字,纯属内容发起人的个人观点,与本站观点和立场无关; 4. 本站文章均是网友提供,不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属;如您发现该文章侵犯了您的权益,可联系我们第一时间进行删除; 5. 本站为非盈利性的个人网站,所有内容不会用来进行牟利,也不会利用任何形式的广告来间接获益,纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。



这篇关于EasyExcel对大数据量表格操作导入导出的文章就介绍到这儿,希望我们推荐的文章对大家有所帮助,也希望大家多多支持为之网!


扫一扫关注最新编程教程