谈谈lucene中的BytesRefHash

◇◆丶佛笑我妖孽 提交于 2019-12-17 20:50:09

【推荐】2019 Java 开发者跳槽指南.pdf(吐血整理) >>>

lucene中很多的数据结构都采用了个性化的实现,而且没有利用一些通用的开源的其它框架,主要的目的还是为了灵活可控、保证高效率、节约内存,BytesRefHash就是其中一个基本的、重要的、核心的数据结构。

根据lucene中给出的注释,BytesRefHash是一个类似于HashMap的数据结构,但我个人认为它更像一个ArrayList与HashSet的混合物。因为它并不能像传统的HashMap一样存储任意的key和value,只能基于元素的索引号与元素值进行一些简单的读取、判断元素是否存在等功能。基于元素的索引号读取元素类似于ArrayList,判断元素是否存在(内部实现通过哈希算法实现)类似于HashSet。

在其内部有一个核心的类就是ByteBlockPool,基于该类可以保证数据在物理上的连续性,带来的好处是提高数据的访问效率,并节约内存空间。

关于提高数据的访问效率比较好理解,因为物理上连续的数据能更好的利用cpu cache。能节约内存空间主要是因为java对象的内存布局主要包含3个部分:对象头、数据域和padding,而BytesRefHash主要是对BytesRef字节对象进行处理,通过对字节对象的合并连续存储能够减少对象头和padding占用的空间,从而节约内存。

BytesRefHash为了实现的方便将值的大小限制在32766及以下。

标签
易学教程内所有资源均来自网络或用户发布的内容,如有违反法律规定的内容欢迎反馈
该文章没有解决你所遇到的问题?点击提问,说说你的问题,让更多的人一起探讨吧!