请问checkPoint在HDFS生成的持久化文件，什么时候回被删除呢？

是需要后期通过手工方式删除吗？

codesci 2021-11-09

源自：Spark性能优化的道与术 3-4 checkpoint代码执行分析

13

收起

1回答

徐老师回答被采纳获得+3积分 2021-11-09 14:38:36

checkpoint生成的持久化文件，不会被删除，除非手工删除。

可以开发一个脚本，定期删除数据

相似问题

checkpoint之前先持久化

删除的文件不存在

老师，关于spark checkpoint如何读取的还是有疑问

sink为hdfs时，生成的文件名能否自己命名

checkpoint的疑问

登录后可查看更多问答，登录/注册

大数据工程师

参与学习 1168 人
提交作业 6095 份
解答问题 1171 个

不用Java初级内容充数！不用与大数据岗位无关内容占课时！我们做的就是“精华版”大数据课程

本课精华内容

问答作业

老师，每个比较大的文件都会分割成块保存在DataNode中，那就说一个datanode坏了导致整个文件不可用，这样不就减低了可靠性吗？

56 2

对多个executor并行处理，对数据进行去重，这样会不会有重复数据

32 1

数据倾斜问题

78 5

并行度调优疑问

29 9

yum install -y ntpdate执行报错

19 22

查看更多本课问答

请稍等 ...

意见反馈帮助中心 APP下载