发布时间:2023-09-15
点击次数: 随着步入工业4.0时代,数字化和自动化的引入,生产环境变得更加高效。同时,人们开始关注智能设备带来的海量数据的潜在价值,但如何高效地存储智能设备产生的数据,以及如何更好地对海量数据进行分析成为了一个难题。传统的数据库模型和存储方式已经无法满足这些需求。因此,时序数据库应运而生,旨在实现高效的数据存储和查询,帮助更好地挖掘数据的潜在价值
面对这样的状况,清华大学于 2015 年启动了 IoTDB 的研制。2025 年 9 月 23 日 Apache IoTDB 毕业成为 Apache 顶级项目 (Top-Level Project),是目前唯一由我国高校发起的 Apache 基金会顶级项目,也是 Apache 基金会旗下唯一物联网数据管理领域开源项目。2025 年 10 月,Apache IoTDB 核心团队创立了天谋科技,继续运营 IoTDB,帮助工业用户解决数据 “存、查、用” 难题。
关于 Apache IoTDB 研发的核心技术,几位参与者合作发表了一篇综述论文,详细而完整地阐述了 IoTDB 的设计。文章以一个需要管理上万台挖掘机的工业公司为例,描述了需求:“数据首先被打包到设备中,然后通过 5G 移动网络发送到服务器。在服务器中,数据被写入时间序列数据库,用于 OLTP 查询。最后,数据科学家可以将数据从数据库加载到大数据平台,用于复杂的分析和预测,即 OLAP 任务。”
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜
论文的重点包括以下几个部分:
1. 数据模型的设计:时间序列在逻辑层次上的组织方式和在物理模式中的存储;
2. TsFile 文件格式:自研的列式存储文件格式,同时满足写入、查询等的高效性;
3. IoTDB 引擎:主要包括存储引擎、查询引擎等;
分布式解决方案是指将一个任务或问题分解成多个子任务,并将这些子任务分配给多个计算机或节点进行处理的方法。这种解决方案可以提高系统的可靠性、可扩展性和性能。通过将任务分布到多个计算机上,可以减轻单个计算机的负载,提高系统的并发处理能力。同时,分布式解决方案还可以通过冗余备份和故障转移来增强系统的容错性,即使某个节点发生故障,系统仍然可以继续运行。在当今的大数据和云计算环境中,分布式解决方案已经成为一种常见的架构模式,被广泛应用于各种领域,如分布式数据库、分布式存储系统和分布式计算平台等
对于接下来的内容,我们将会对这几个重点部分进行更加详细的解读
需要进行数据模型设计
如下图所示,我们采用了树的结构来满足高强度的写入操作,并且能够有效处理物联网场景中常见的延迟数据到达问题
在树结构中,每个叶子节点都代表一个传感器,每个传感器都有对应的设备归属。就像图中最底下的两层所示,向上的层级同样适用

(2)在前文中已经阐述了逻辑结构,现在我们将来看物理结构的实现,主要包括时间序列(Time series)和序列簇(Series family)两部分。下图展示了每个时间序列由时间和值两个属性组成,通过根节点到叶子节点的完整路径来定位时间序列。上图展示了序列簇的概念,一个序列簇中可能包含多个设备,它们的数据将一起存储在TsFile(一种文件结构,在后文中会进行解释)中

需要重新写的内容是:2. TsFile 文件格式的设计
TsFile是Apache IoTDB自研的列式存储文件格式。其结构如下图所示:

在设计TsFile时,研究团队主要关注解决的问题是:
主要提供的解决方案是:
属于同一个时间序列,大小可变;Chunk Group 包含多个 Chunk,一个组中的多个 chunk 属于同一段时间内写入的一个或多个系列的设备,将他们放在连续的磁盘空间,是因为他们经常会被一起查询;Block 是在内存中的,写入的块组先在内存中进行缓冲,当内存达到阈值时,将所有块组刷新到 TsFile 中;索引(FileIndex)于文件末尾记录信息,用于数据访问。需要被重写的内容是:3. IoTDB 引擎
Narration Box
Narration Box是一种语音生成服务,用户可以创建画外音、旁白、有声读物、音频页面、播客等
68
查看详情
在这个部分,研究者们主要关注了物联网场景下的延迟到达、高效查询处理和类似 SQL 查询的设计。IoTDB 引擎的结构如下图所示:

在图中,我们可以看到存储引擎部分主要用于处理TsFile的写入、读取和管理。在这个部分中,采用了自动延迟分离技术(如下图所示)

在大多数情况下,当TsFile中的时间范围没有重叠时,建议使用延迟数据分离。然而,对于大多数数据是无序的情况,不建议使用延迟数据分离
重写后的内容:另一个重要的组成部分是查询引擎,它负责将 SQL 查询转化为可以在数据库中执行的操作符。同时,为了适应工业物联网场景,Apache IoTDB 还设计了丰富的时间序列数据查询功能
需要重新写的内容是:4. 分散式的解決方案
TsFile可以在HDFS上进行分布,并由Spark进行操作。此外,它还提供了原生的解决方案,用于更好地处理数据分布和查询处理,包括分区复制、NB-Raft复制和动态读一致性
在论文中,我们对TsFile和IoTDB进行了比较,这两者是工业界广泛使用的最先进的文件格式和时序数据库。通过下图展示,我们展示了Apache IoTDB在多个方面的优势


以上两张图展示了TsFile在写入吞吐量、读取时间成本和同步性能方面的优势,这主要归因于TsFile的物联网感知结构设计,避免了存储冗余信息如deviceId。尽管TsFile的磁盘占用没有明显优势,但这是因为构建了更精细的索引,导致占用更多空间。然而,这种牺牲可以带来非凡的查询时间改善,如我们可以看到读取时间成本的明显优势

在上述图表中可以清楚地看到,IoTDB在几乎所有测试中都展现出更出色的性能,包括更高的写入吞吐量和更低的写入延迟

在上述实验中,我们观察到当查询数据规模较大时,IoTDB展现出更好的性能。特别是在大规模数据聚合方面,IoTDB的优势尤为明显
这篇论文介绍了一种名为Apache IoTDB的新型时序数据管理系统,该系统采用开放式架构,专门设计用于支持物联网应用的实时查询和大数据分析。该系统包括一种新的时序文件格式,名为TsFile,它采用列存储的方式来存储时间和值,以避免空值并实现有效的压缩。在TsFile的基础上,IoTDB引擎采用类似LSM树的策略来处理高强度的写入,并且能够处理物联网场景中常见的延迟数据到达问题。丰富的可扩展查询功能以及在TsFile中预计算的统计信息,使得IoTDB能够高效地处理OLTP和OLAP任务
IoTDB已经成为能够更好应对工业物联网场景的新型数据库,这是基于上述技术的结果
以上就是Apache IoTDB:解决工业物联网场景下的存储、查询和使用难题的创新数据库的详细内容,更多请关注其它相关文章!
# 可以看到
# 芜湖网站优化推广费用
# 黔江高效网站建设哪家好
# 网站seo基础工具
# 云南网站推广方式
# seo资源咨询
# 南通品牌营销推广
# 长春外贸网站推广工厂
# 北辰区全网营销推广方式
# 云浮seo网络营销推广
# 肇庆大型网站推广
# AI
# 采用了
# 展示了
# 在这个
# 是因为
# 是在
# 如下图
# 所示
# 开源
# 多个
# 智能
相关栏目:
【
行业新闻62819 】
【
科技资讯67470 】
相关推荐:
谷歌推出新 AI 工具 Imagen Editor,一句话对图片二次创作
AI遇上大运丨热身拉伸、娱乐K歌……AI智能健身镜将亮相成都大运会
微软在 Build 大会上宣布的新 Microsoft Store AI Hub 现已开始推出
实测 AI 建筑设计软件的自动生成效果图能力
美图秀秀发布7款AI产品:支持用户创作、商业创作
CharacterAI - 也许会成为会话人工智能的未来
美图公司:Wink国内首发AI画面拓展功能
2025VR&AR显示技术峰会视频解析: 歌尔光学展示最新一代VR/AR光学模组
陈丹琦ACL学术报告来了!详解大模型「*」数据库7大方向3大挑战,3小时干货满满
国内阅读行业首款对话式AI应用“阅爱聊”封闭内测
消息称 ChatGPT 未来有望增加更多功能:上传文件分析信息,还能记住用户画像
创新全场景清洁方案!海尔商用机器人首发上市
人工智能和你聊天 成本有多高
日媒关注中国推进鸟类识别 AI 普及,除监测保护外还可预防传染性疾病
网易云音乐和小冰推出AI歌手音乐创作软件,首发内置12名AI歌手
郭帆导演成功利用AI技术制作的《流浪地球3》预告片在央视热播,引发巨大反响
AI 冥想应用 Ogimi.ai 推出,可为用户提供教练级个性化指导
国家发改委组织工业机器人产业高质量发展现场会
七大主流AI企业包括OpenAI、谷歌等联合承诺:引入水印技术,并允许第三方审核AI内容
WHEE上线时间介绍
Dubbo负载均衡策略之 一致性哈希
掌阅科技入选北京市通用人工智能产业创新伙伴计划第二批成员名单
跑不动的元宇宙,虚拟世界比现实更冷酷
OpenAI已向中国申请注册“GPT-5”商标,此前已在美国提交申请
全新小艺搭载AI大模型,有效提升学生和职场人士的工作效率
令人震惊的特斯拉机器人
以分布式网络串联闲置GPU,这家创企称可将AI模型训练成本降低90%
如布科技发布新产品AI口袋学习机S12
亲身体验鸿蒙4:AI大模型带来的便利,告别单纯的旁观者状态
13 个提高生产力的 AI 工具
美图设计室2.0什么时候上线
“五年内人类程序员将消失”预言引争议,AI真的那么强大了吗?
OpenAI 向所有付费 API 用户开放 GPT-4
印象笔记开放旗下“印象 AI”,可一键生成思维导图、写文章等
国产医疗企业的人工智能
重磅! 捷通华声灵云AICC荣获第二届光合组织AI解决方案大赛二等奖
马斯克称人类是半机器人,记忆外包给了电脑
拓普龙7188ML:轻便壁挂式工控机箱,为人工智能应用场景提供有力保障
AI无法对传统文化符号进行解构和创新
人工智能颠覆软件测试四大方式
【机智云物联网低功耗转接板】远程环境数据采集探索
人脸识别+全景双摄+AI算法 萤石推动智能锁行业革新
特斯拉首发人形机器人“擎天柱”亮相世界人工智能大会
《上古卷轴5》AI高清材质包优化游戏中所有怪物
全球首款AI裸眼3D平板 国产的售价破万
《爱康未来之夜嘉宾官宣,携手共赴AI未来》
关于开展“与AI共创未来”——2025年全国青少年人工智能创新实践活动的通知
2025VR&AR显示技术峰会展示歌尔光学最新一代光学模组
掌阅科技申请阅爱聊商标 掌阅科技申请AI相关商标
IBM 与 NASA 携手开源地理空间 AI 模型,促进气候科学研究进步