日志数据的存储方法及系统
陈跃国 覃雄派 杜小勇 金国栋 丛一鸣 刘阳 · 2017
收藏
阅读量:251
专利权人:
中国人民大学
申请人:
中国人民大学
通讯地址:
中国人民大学
专利类型:
发明专利
专利号:
CN106354434A
摘要:
本发明涉及计算机技术领域,公开了一种日志数据的存储方法及系统,所述方法包括:将日志数据按照所属实体簇的不同划分为多个日志记录分片;将各个日志记录分片分别写入分布式消息队列的不同主题;采用多线程方式,将所述分布式消息队列的不同主题中存放的日志记录分片并行装载到分布式文件系统。本发明实施例提出的日志数据的存储方法及系统,不仅实现了日志数据的无丢失暂存与快速装载,而且还能够保证日志数据以方便查询的格式装载到数据仓库中。
相关专家
相关课题