13518219792
本篇内容介绍了“Hadoop SequenceFile BLOCK压缩类型文件数据丢失怎么办”的有关知识，在实际案例的操作过程中，不少人都会遇到这样的困境，接下来就让小编带领大家学习一下如何处理这些情况吧！希望大家仔细阅读，能够学有所成！
作为一家“创意+整合+营销”的成都网站建设机构，我们在业内良好的客户口碑。创新互联提供从前期的网站品牌分析策划、网站设计、成都网站制作、成都网站设计、创意表现、网页制作、系统开发以及后续网站营销运营等一系列服务，帮助企业打造创新的互联网品牌经营模式与有效的网络营销方法,创造更大的价值。
先来了解SequenceFile BLOCK压缩类型的数据写入机制：
BLOCK压缩类型的SequenceFile数据结构图
BLOCK压缩类型的SequenceFile.Writer实现类为SequenceFile.BlockCompressWriter，写入流程如下：
1.写入头部信息：版本信息，压缩类型信息，压缩算法类信息，keyClass/valueClass类名，Metadata等；
2.写入Sync标记；
3.将key和value序列化并写入缓存，当缓存大小达到阈值（默认io.seqfile.compress.blocksize=1000000字节），触发sync()操作，sync操作：先写入sync标记，再将缓存中的key和value进行压缩写入FSDataOutputStream，格式如上图中的Block compression。 这样就成功写入了一个block；
4. 后续的数据写入流程和3一样；
5. 当最后数据写入完成后，会存在最后一个block的数据小于io.seqfile.compress.blocksize，这样不会触发sync()操作，所以必须调用BlockCompressWriter的close()方法，其中会去调用sync()操作将最后剩余的数据写入FSDataOutputStream，并对FSDataOutputStream做close(),至此完成整个写入流程。
解决我的问题：
我的问题是由于在写入数据结束后只对FSDataOutputStream做了close()操作，而根据BLOCK压缩类型的写入必须调用Writer的close()操作，才能触发sync()操作将剩余数据压缩写入FSDataOutputStream。而在我的实现中，当设置io.seqfile.compression.type为NONE和RECORD，不会出现数据丢失。 因为这两种压缩类型，是来一条数据就写入outputStream，没有BLOCK这样的缓存后再写入机制。
“Hadoop SequenceFile BLOCK压缩类型文件数据丢失怎么办”的内容就介绍到这里了，感谢大家的阅读。如果想了解更多行业相关的知识可以关注创新互联网站，小编将为大家输出更多高质量的实用文章！
