欢迎来到 北京市某某食品机械制造厂
全国咨询热线:020-123456789
联系我们

地址:联系地址联系地址联系地址

电话:020-123456789

传真:020-123456789

邮箱:admin@aa.com

新闻中心
ES 源码分析之数据类型转换
  来源:北京市某某食品机械制造厂  更新时间:2024-04-29 12:36:06

ES 源码分析之数据类型转换

公司有的源码小伙伴问我 ,为什么不推荐我们使用 nested 结构呢 ,分析还说性能低 。据类那么,型转ES 针对 nested 之类的源码结构。因为ES 源码我也基本看完了。分析索性 ,据类直接写成笔记 。型转比直接在代码里面写注释来的源码更舒心点。

1问题描述

  • ES 是分析 lucene 不仅仅是集群版的概念,还有涉及到支持丰富的据类数据类型。如 nested  、型转object 等等结构。源码它是分析怎么支持的呢 ?
  • ES 还支持 _id 、_version 等等字段。据类这种是怎么存储的呢 ?
  • 听说 ES 的 parent doc 和 nested doc 是分开来存储的,那么获取的时候 ,他们是通过哪种关系关联的呢 ?

2类型转换

2.1初步代码入口

代码具体入口 org.elasticsearch.index.shard.IndexShard#prepareIndex

public static Engine.Index prepareIndex(DocumentMapperForType docMapper, SourceToParse source, long seqNo,n long primaryTerm, long version, VersionType versionType, Engine.Operation.Origin origin,n long autoGeneratedIdTimestamp, boolean isRetry,n long ifSeqNo, long ifPrimaryTerm) { n long startTime = System.nanoTime();nn // 涉及到 nested 等等结构的转换,直接看【2.2 类型具体转换代码】n ParsedDocument doc = docMapper.getDocumentMapper().parse(source);nn // Mapping 是否要处理n if (docMapper.getMapping() != null) { n doc.addDynamicMappingsUpdate(docMapper.getMapping());n }nn // _id 转 uid 。这里是为了数据能保持整齐 ,方便压缩  。可以参考 【哈夫曼编码】 。n Term uid = new Term(IdFieldMapper.NAME, Uid.encodeId(doc.id()));nn return new Engine.Index(uid, doc, seqNo, primaryTerm, version, versionType, origin, startTime, autoGeneratedIdTimestamp, isRetry,n ifSeqNo, ifPrimaryTerm);n }n

2.2类型具体转换代码

/**n * 内部转换文档 ,如果有 nested 结构,需要再次转换一下n * @param mappingn * @param contextn * @param parsern * @throws IOExceptionn */n private static void internalParseDocument(Mapping mapping, MetadataFieldMapper[] metadataFieldsMappers,n ParseContext context, XContentParser parser) throws IOException { n final boolean emptyDoc = isEmptyDoc(mapping, parser);nn /**n * 预处理,为 root document 拆开,添加如下 :比如 ,_id、_version 也是一个 document,具体看下面的 【2.3 支持 _id 之类的字段】n */n for (MetadataFieldMapper metadataMapper : metadataFieldsMappers) { n metadataMapper.preParse(context);n }nn if (mapping.root.isEnabled() == false) { n // entire type is disabledn parser.skipChildren();n } else if (emptyDoc == false) { n // 转换对象或者 nested 结构 ,这个方法会反复递归调用 。主要是 object 结构或者 nested 结构n parseObjectOrNested(context, mapping.root);n }nn // 为各个非 root document 添加 _version 等等字段n for (MetadataFieldMapper metadataMapper : metadataFieldsMappers) { n metadataMapper.postParse(context);n }n }n

2.3前置处理之支持_id之类的字段

代码位置:org.elasticsearch.index.mapper.MetadataFieldMapper#preParse
下面只贴出 _id 的处理

/**n * _id 也是一个 docn * @param contextn */n @Overriden public void preParse(ParseContext context) { n BytesRef id = Uid.encodeId(context.sourceToParse().id());n context.doc().add(new Field(NAME, id, Defaults.FIELD_TYPE));n }n

这里只是了其中的一个例子 :_id ,其他的比如 _version 、_seqno 、_source 等等处理也类似。

2.4转换复杂的结构,比如nested结构

ES 在转换 nested 结构的时候 ,比较有意思。

2.4.1类型转换整体入口

/**n * 转换 object 或者 nested 结构的 ,这里会出现递归调用 ,主要是为了解决 object 、nested 结构n * @param contextn * @param mappern * @throws IOExceptionn */n static void parseObjectOrNested(ParseContext context, ObjectMapper mapper) throws IOException { n if (mapper.isEnabled() == false) { n context.parser().skipChildren();n return;n }n XContentParser parser = context.parser();n XContentParser.Token token = parser.currentToken();n if (token == XContentParser.Token.VALUE_NULL) { n // the object is null ("obj1" : null), simply bailn return;n }nn String currentFieldName = parser.currentName();n if (token.isValue()) { n throw new MapperParsingException("object mapping for [" + mapper.name() + "] tried to parse field [" + currentFieldNamen + "] as object, but found a concrete value");n }nn ObjectMapper.Nested nested = mapper.nested();n // 如果是 nested 结构,每次都会new 一个空白的 document  ,而且  ,这个方法 #{ innerParseObject},是递归实现,把 object 或者 document 变成多个 documentn if (nested.isNested()) { n // 进入下方的 :【2.4.2 nested 转换初步入口】n context = nestedContext(context, mapper);n }nn // if we are at the end of the previous object, advancen if (token == XContentParser.Token.END_OBJECT) { n token = parser.nextToken();n }n if (token == XContentParser.Token.START_OBJECT) { n // if we are just starting an OBJECT, advance, this is the object we are parsing, we need the name firstn token = parser.nextToken();n }nn // 转换对象n innerParseObject(context, mapper, parser, currentFieldName, token);nn // restore the enable path flagn if (nested.isNested()) { n nested(context, nested);n }n }n

2.4.2nested转换初步入口

/**n * 内部转换 nested 结构,生成一个空白的 nested 结构n * TODO nested 文档的 _id 既然跟父文档的一样,lucene 写入每个 doc ,都是拼接。那么,在get 的时候,自然会获取到相同的 _id 多个文档,包含了 nested 结构。然后,再内部转换为我们 最想要的结果 。n * @param contextn * @param mappern * @returnn */n private static ParseContext nestedContext(ParseContext context, ObjectMapper mapper) { nn // 创建 nested 上下文,并且,new 一个空白的 document 。为后面的 nested 的字段或者对象之类的,全部加上n context = context.createNestedContext(mapper.fullPath());nn ParseContext.Document nestedDoc = context.doc();n ParseContext.Document parentDoc = nestedDoc.getParent();nn // We need to add the uid or id to this nested Lucene document too,n // If we do not do this then when a document gets deleted only the root Lucene document gets deleted andn // not the nested Lucene documents! Besides the fact that we would have zombie Lucene documents, the ordering ofn // documents inside the Lucene index (document blocks) will be incorrect, as nested documents of different rootn // documents are then aligned with other root documents. This will lead tothe nested query, sorting, aggregationsn // and inner hits to fail or yield incorrect results.n IndexableField idField = parentDoc.getField(IdFieldMapper.NAME);n if (idField != null) { n // We just need to store the id as indexed field, so that IndexWriter#deleteDocuments(term) can thenn // delete it when the root document is deleted too.n nestedDoc.add(new Field(IdFieldMapper.NAME, idField.binaryValue(), IdFieldMapper.Defaults.NESTED_FIELD_TYPE));n } else { n throw new IllegalStateException("The root document of a nested document should have an _id field");n }nn // the type of the nested doc starts with __, so we can identify that its a nested one in filtersn // note, we don't prefix it with the type of the doc since it allows us to execute a nested queryn // across types (for example, with similar nested objects)n nestedDoc.add(new Field(TypeFieldMapper.NAME, mapper.nestedTypePathAsString(), TypeFieldMapper.Defaults.NESTED_FIELD_TYPE));n return context;n }n

仔细看看里面的英文  。主要的一点是:nested 结构的 _id 和 parent 的 _id 保持一致 。那么,通过 GET docId 这种操作,就可以拿到所有的文档了。而且 ,删除的时候 ,特别的方便。算是 ES 这种的一个方案吧。

2.4.3数据处理

每个字段的填充入口在:org.elasticsearch.index.mapper.DocumentParser#innerParseObject
这里是一个递归调用的操作。比较绕。

2.5后置处理之设置_version等等

下面贴出来 _version 的处理
代码的入口:org.elasticsearch.index.mapper.VersionFieldMapper#postParse ,可以看看具体的实现 。

@Overriden public void postParse(ParseContext context) { n // In the case of nested docs, let's fill nested docs with version=1 so that Lucene doesn't write a Bitset for documentsn // that don't have the field. This is consistent with the default value for efficiency.n Field version = context.version();n assert version != null;n for (Document doc : context.nonRootDocuments()) { n // 为此 doc 添加一个 _version 字段n doc.add(version);n }n }n

这里支持举了 _version 举个例子 ,其他类似。

3总结

  • ES 是 lucene 不仅仅是集群版的概念 ,还有涉及到支持丰富的数据类型 。如 nested 、object 等等结构 。它是怎么支持的呢?
    答:ES 针对 nested  、object 直接拍平处理
  • ES 还支持 _id 、_version 等等字段。这种是怎么存储的呢?
    答:ES 针对 _id 、_version 是保存为独立的文档的。
  • 听说 ES 的 parent doc 和 nested doc 是分开来存储的,那么获取的时候,他们是通过那种关系关联的呢 ?
    答:通过 root Doc 的 ID 来做关联的。

4其他

后续请关注 ES 写入流程。让我们看看 ES 是如何处理分布式请求及保证高可用的。


友情链接《光遇》远古战场怎么进积分商城新春营业闯关无敌版中文版小游戏大全我才不会轻易上当 《问道》防骗之术大揭秘王者荣耀黄忠2017出装推荐 黄忠出什么装备洛克王国阴阳平衡活动怎么玩 洛克王国阴阳平衡活动玩法攻略英雄联盟手游删档内测公告:本次测试仅招募安卓用户英雄合击1.80合击版本网易蜗牛读书会员有什么特权英雄联盟手游狮子狗和螳螂隐藏任务是什么《魔兽世界》怀旧服wlk钓鱼大赛攻略破解版手机单机游戏 免费无限苹果破解游戏合集洛克王国八大徽章有什么用?洛克王国八大徽章详解英雄联盟手游s11什么时候开始 s11赛季开启时间介绍[多图]dnf增幅名望值加成表超级变态传奇手游一刀秒舞者之星游戏下载的亮点和玩法魔兽世界武器幻化排行(魔兽世界十大武器幻化排行)最全Linux驱动开发全流程详细解析破解版游戏软件app哪个好 手机破解版游戏平台大全御龙在天技能加点模拟器(御龙在天手游属性点怎么加)DNF站街最帅的4把巨剑 最后一把魔剑都比不了《光遇》远古战场怎么进女亡灵牧师布甲幻化 经典红与黑 血天使重现人间梦幻西游胡姬琵琶行副本攻略(新区岁岁长安,从零五开第19天)安卓破解游戏盒子大全 热门破解游戏安卓版盒子推荐天罡河魁《魔兽世界》乌龟服10级声望武器获取攻略 新阵营10级声望武器怎么获得?神秘的肉,魔兽世界 神秘的肉有什么用怎么一键快速取消搜狗输入法的繁体字输入模式网易蜗牛读书购买季度会员后有要求turbo会员,每天依然只能免费一小时梦幻西游网页版平民攻略(充值1000内新手必看)暴风城监狱任务大全攻略(魔兽监狱在哪个地图)lol乐芙兰出装最新 2023诡术妖姬最新出装WOWER珍藏魔兽小说全集(共8册)迷你世界2024年4月最新激活码免费领取大放送!超级变态新开传奇网站推荐 变态传奇网站新开网拼多多砍价领现金骗局——另一种拉新LOL新英雄塔莉垭什么时候出 岩雀技能皮肤特效一览魔兽争霸3冰封王座傻瓜补丁下载1.27B简体中文版(含地图)
联系我们

地址:联系地址联系地址联系地址

电话:020-123456789

传真:020-123456789

邮箱:admin@aa.com

0.2784

Copyright © 2024 Powered by 北京市某某食品机械制造厂   sitemap