0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看威廉希尔官方网站 视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

软件系统的数据检索设计

h1654155333.5939 来源:laobabab 作者:laobabab 2024-08-22 14:08 次阅读

软件系统的数据检索设计

随着业务量加大,数据检索量也会日益增多,为了减轻数据库压力,本系统采用ElasticSearch来实现数据检索功能。

简单来说,Elasticsearch 是一个实时的分布式存储、搜索、分析的引擎,它可以近乎实时的存储、检索数据,本身扩展性很好,可以扩展到上百台服务器,处理PB级别(大数据时代)的数据,ElasticSearch的检索流程如下:

wKgaombG1EeAZD2LAACHH6UYoQU520.png

数据检索流程图

1) 执行refresh操作将mem buffer中的数据写入到新的segment并写入os cache,然后打开本segment以供search使用,最后再次清空mem buffer。

2) 一个commit point被写入磁盘,这个commit point中标明所有的index segment。

3) filesystem cache(os cache)中缓存的所有的index segment文件被fsync强制刷到磁盘os disk,当index segment被fsync强制刷到磁盘上以后,就会被打开,供查询使用。

translog被清空和删除,创建一个新的translog。

审核编辑 黄宇

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 数据
    +关注

    关注

    8

    文章

    7014

    浏览量

    88980
  • 软件系统
    +关注

    关注

    0

    文章

    62

    浏览量

    9505
收藏 人收藏

    评论

    相关推荐

    检索增强型生成(RAG)系统详解

    成流畅且类似人类的文本方面表现出色,但它们有时在事实准确性上存在困难。当准确性非常重要时,这可能是一个巨大的问题。 那么,这个问题的解决方案是什么呢?答案是检索增强型生成(RAG)系统。 RAG集成了像GPT这样的模型的强大功能,并增加了从外
    的头像 发表于 12-24 10:44 125次阅读
    <b class='flag-5'>检索</b>增强型生成(RAG)<b class='flag-5'>系统</b>详解

    Redis缓存与Memcached的比较

    Redis和Memcached都是广泛使用的内存数据存储系统,它们主要用于提高应用程序的性能,通过减少对数据库的直接访问来加速数据检索。以下是对Redis和Memcached的比较,涵
    的头像 发表于 12-18 09:33 119次阅读

    缓存威廉希尔官方网站 在软件开发中的应用

    在现代软件开发中,随着数据量的爆炸性增长和用户对响应速度的高要求,缓存威廉希尔官方网站 成为了提升系统性能的重要手段。缓存威廉希尔官方网站 通过将数据存储在离用户更近的位置,减少
    的头像 发表于 12-18 09:32 209次阅读

    可与MES系统集成的数据采集监控平台

    ,确保数据的全面接入。 数据存储与管理: 采用数据库或数据仓库存储采集到的数据。 提供高效的数据检索
    发表于 12-16 15:08

    PDM产品数据管理系统软件是什么?一文读懂PDM系统软件

    在现代制造业和工程领域中,产品数据管理(Product Data Management,简称PDM)系统已成为提升企业生产效率、保证产品质量的关键工具。PDM系统是以软件为基础,专门用
    的头像 发表于 11-14 14:52 712次阅读
    PDM产品<b class='flag-5'>数据</b>管理<b class='flag-5'>系统软件</b>是什么?一文读懂PDM<b class='flag-5'>系统软件</b>

    WDS分布式存储系统软件助力电信工程海量数据存储项目

    WDS分布式存储系统软件助力电信工程海量数据存储项目
    的头像 发表于 11-11 09:59 185次阅读
    WDS分布式存储<b class='flag-5'>系统软件</b>助力电信工程海量<b class='flag-5'>数据</b>存储项目

    AD软件打开DigIPCBA工作区,希望可以按照文件夹检索

    希望在AD软件中打开工作区的时候,工作区内的文件夹能显示,文件可以按照文件夹检索,如果工作区内PCB项目很多,不能区分文件夹,不方便访问
    发表于 11-01 11:15

    京东APP百亿级商品与车关系数据检索实践

    作者:京东零售 张强 导读 本文主要讲解了京东百亿级商品车型适配数据存储结构设计以及怎样实现适配接口的高性能查询。通过京东百亿级数据缓存架构设计实践案例,简单剖析了jimdb的位图(bitmap
    的头像 发表于 10-18 14:14 726次阅读
    京东APP百亿级商品与车关系<b class='flag-5'>数据检索</b>实践

    RFID威廉希尔官方网站 引领应急物资管理新模式

    /S(浏览器/服务器)架构,构建了一个高效率的紧急物资管理平台。基于B/S结构的系统以其迅速的数据检索功能,在应急救援任务中能即时调配库存资源,为紧急物资的有效管控及决策提供坚实后盾。
    的头像 发表于 10-17 15:46 423次阅读
    RFID威廉希尔官方网站
引领应急物资管理新模式

    K8S学习教程三:在PetaExpress KubeSphere 容器部署 Wiki 系统 wiki.js 并启用中文全文检索

    K8S学习教程(三):在PetaExpress KubeSphere 容器部署 Wiki 系统 wiki.js 并启用中文全文检索  。
    的头像 发表于 07-08 17:03 640次阅读
    K8S学习教程三:在PetaExpress KubeSphere 容器部署 Wiki <b class='flag-5'>系统</b> wiki.js 并启用中文全文<b class='flag-5'>检索</b>

    mdk5添加头文件路径检索不出来文件是怎么回事?

    mdk5添加头文件路径检索不出来文件
    发表于 05-29 07:39

    电表自动抄表系统软件

    1.电表自动抄表系统软件简述电表自动抄表系统软件,是一种现代化电力工程可视化工具,它利用先进的信息科技,实现远程、实时电能计量数据收集和分析。该系统不仅提升了电力工程公司的运营高效率,
    的头像 发表于 05-17 14:19 569次阅读
    电表自动抄表<b class='flag-5'>系统软件</b>

    微软应用商店无法下载内容,错误显示“信息检索中”

    用户反映只要试图启动微软应用商店并进行应用安装操作时,页面便立即显示“正在从微软应用商店检索信息”的提示,但是此过程可能会长达数小时之久。
    的头像 发表于 05-14 09:44 646次阅读

    态势数据分析系统软件

    智慧华盛恒辉态势分析软件系统的功能描述、部署环境、界面使用、威廉希尔官方网站 支持及一些常见问题及其解决办法等。为数据态势分析软件系统的管理人员和使用人员
    的头像 发表于 04-22 11:36 444次阅读

    edr系统软件有什么用 EDR系统与传统杀毒软件有什么区别

    能够实时监测和检测终端设备上的恶意活动,包括恶意软件的启动、数据泄露和异常行为等。通过全面分析终端设备的活动记录、网络流量和系统日志等数据,EDR
    的头像 发表于 01-19 10:15 7920次阅读