内存数据库内核开发 工作日志(内存索引实现原理)(附红黑树实现清晰完整直接可编译运行代码)(十)

本文涉及的产品
日志服务 SLS,月写入数据量 50GB 1个月
简介:

 

   之前由于考虑到使用Page的内存和磁盘互换的机制实现了B-tree做为数据库的键值索引,在真实的生产环境下2000万以上的数据建立索引会使到B-tree层数增多,效率明显下降,在运算工程中使用AIX大型机都用了数天才将2000多万的数据生成出来,效果非常不理想。
   全新的框架采用了纯内存的红黑树作为数据的索引,效果很好,性能测试中,用thinkpad 201i 电脑建立1000万的红黑树只用了3分钟,消耗内存270M这在电信项目的生产环境是完全可以接受的。
   该代码使用内存池和红黑树的技术,参考主要文献包括:
   http://zh.wikipedia.org/zh/%E7%BA%A2%E9%BB%91%E6%A0%91 维基百科
   IBM文章,http://www.ibm.com/developerworks/cn/linux/l-cn-ppp/index6.html
   当然网上许多人的实现也给了我很好的启示,恕在下不能一一列出。
   也许你会说,不就实现了STL MAP的功能吗?可以这么说,因为内存中建立数据结构,红黑树是最优的方案,我只能使用这样的---像map一样的东西。
   以下是大致实现代码的思路,使用内存池来存放两类数据,一类是存放红黑树节点的内存池,一类是存放键值节点的内存池。

 

   实例代码并不是用于项目中的实现,而是呈现内存索引的DEMO,其中delete的实现我没有实现内存释放,读者可以自己添加,相信它是网上能找到的最好,最清晰的红黑树能直接编译并稳定使用的代码,网上文章的代码都有这样那样的问题,最后还是根据理论自己实现了。

   很多朋友对于内存数据库开发Email给我不能一一回复很抱歉,希望代码对各位有帮助。 

 

  另外内存池的代码请参考我的另一篇文章,内存池的实现 内存池完整实现代码及一些思考

 

 

 


复制代码
复制代码
//该代码参照维基百科提供http://zh.wikipedia.org/zh/%E7%BA%A2%E9%BB%91%E6%A0%91 提供理论基础,2010-2011年由 konyellin Email: konyel@163.com进行整理修改



#include <string>
#include "MemoryPool.h"

#define    RB_INT        0
#define    RB_FLOAR    1
#define    RB_CHAR     2



struct rb_node
{
    unsigned short  color;
#define    RB_RED        0
#define    RB_BLACK    1
    struct rb_node* right;
    struct rb_node* left;
    struct rb_node* parent;
    void* memoryblock;
    void* key;
};

class rb_tree{
public:
    rb_tree(unsigned short type);
   //search
   rb_node* rb_search(void* key);
   void  rb_insert(void* key);
   rb_node*  rb_delete(void* key);
   //debug
   void print_tree(struct rb_node* root,int nLayer);


   struct rb_node* root;
   
private:
   MemoryPool* pool;
   unsigned short datetype;
  
   //insert case
   void __insert_case1(struct rb_node* n);
   void __insert_case2(struct rb_node* n);
   void __insert_case3(struct rb_node* n);
   void __insert_case4(struct rb_node* n);
   void __insert_case5(struct rb_node* n);

   //delete case
   void __delete_case1(struct rb_node* n);
   void __delete_case2(struct rb_node* n);
   void __delete_case3(struct rb_node* n);
   void __delete_case4(struct rb_node* n);
   void __delete_case5(struct rb_node* n);
   void __delete_case6(struct rb_node* n);

   //rotate
   void __rotate_left(struct rb_node *node);
   void __rotate_right(struct rb_node *node);
   void __replace_node(struct rb_node* node ,struct rb_node*  child);
   bool __is_leaf(struct rb_node* n);
   
   //查户口
   rb_node* __grandparent(struct rb_node* n);
   rb_node* __uncle(struct rb_node* n);
   rb_node* __sibling(struct rb_node* n);

   //比较键值查询
   int __rb_cmpkey(void* key1,void* key2);

   rb_node* __createnode(void* key);
};
复制代码
复制代码

 

复制代码
复制代码
#include "Rbtree.h"


rb_tree::rb_tree(unsigned short type):datetype(type){
   root=NULL;
   pool=new MemoryPool(sizeof(rb_node));
}

/*----------------------------------------------------------- 
|   node           right 
|   / \    ==>     / \ 
|   a  right     node  y 
|       / \       / \     
|       b  y     a   b    //左旋 
-----------------------------------------------------------*/  
rb_node* rb_tree::rb_search(void* key){
  struct rb_node* fnode=root;
  bool iskey=true;int ret=0;
  while(ret=__rb_cmpkey(fnode->key,key)){
      if(__is_leaf(fnode)){
         iskey=0;
         break;
      }
      if(ret>0)
            fnode=fnode->right;
      else
            fnode=fnode->left;
            
  }
  if(iskey)
    return fnode;
  else
    return NULL;
}



void rb_tree::__rotate_left(struct rb_node *node){
  rb_node* right = node->right;                   //指定指针指向 right<--node->right  
    if ((node->right = right->left))     
        right->left->parent = node;                 //好比上面的注释图,node成为b的父母  
    right->left = node;                             //node成为right的左孩子   
    if ((right->parent = node->parent)) {           //如果node根节点为空,node本身为根节点  
        if (node == node->parent->right)            //如果node为右节点
            node->parent->right = right;  
        else  
            node->parent->left = right;  
    }  
    else  
        root = right;   
    node->parent = right;                           //right成为node的父母   
}

void rb_tree::__rotate_right(struct rb_node *node){
    rb_node* left = node->left;  
    if ((node->left = left->right))
        left->right->parent = node;  
    left->right = node;  
    if ((left->parent = node->parent)){  
        if (node == node->parent->right)  
            node->parent->right = left;  
        else  
            node->parent->left = left;  
    }  
    else  
        root = left;  
    node->parent = left; 
}

rb_node* rb_tree::__grandparent(struct rb_node* n) {
   if(n->parent==NULL)
       return NULL;
   return n->parent->parent;
}
rb_node* rb_tree::__uncle(struct rb_node* n) {
    if(__grandparent(n)==NULL)
        return NULL;
    if (n->parent == __grandparent(n)->left)
    return __grandparent(n)->right;
    else
    return __grandparent(n)->left;
}

rb_node* rb_tree::__sibling(struct rb_node* n){
    if (n == n->parent->left)
    return n->parent->right;
    else
    return n->parent->left;
}

void rb_tree::__replace_node(struct rb_node* n, struct rb_node* child){
    child->memoryblock=n->memoryblock;
    child->key=n->key;
}
rb_node* rb_tree::__createnode(void* key){
       struct rb_node* node=(rb_node*)pool->Alloc();
       memset(node,0x00,sizeof(rb_node));
       node->key=key;
       node->color=RB_RED;
       return node;
}

bool rb_tree::__is_leaf(struct rb_node* n){
    if(n->left==NULL&&n->right==NULL)
        return true;
    return false;
}
int rb_tree::__rb_cmpkey(void* key1,void* key2){
    switch(datetype){
       case RB_INT:{
            if(*((int*)key1)<*((int*)key2))
              return -1;
            else if(*((int*)key1)>*((int*)key2))
              return 1;
            else 
              return 0;
            break;
            }
       case RB_FLOAR:{
            if(*((float*)key1)<*((float*)key2))
                  return -1;
                else if(*((float*)key1)>*((float*)key2))
                  return 1;
                else 
                  return 0;
                break;
            }
       case RB_CHAR:{
            char* s1=(char*)key1;char* s2=(char*)key1;
            return strcmp(s1,s2);
            break;
            }
    }
    return 0;
}
//按树状打印的二叉树
void rb_tree::print_tree(struct rb_node* root,int nLayer)
{
    if(root==NULL)
        return ;
    print_tree(root->right,nLayer+1);
    for(int i=0;i<nLayer;i++){
       printf("   ");
    }
    printf("%d-%d\n",*(int*)root->key,root->color);
    print_tree(root->left,nLayer+1);
}
复制代码
复制代码

 

复制代码
复制代码
#include "Rbtree.h"



//如果插入为根节点
void rb_tree::__insert_case1(struct rb_node* n){
    if (n->parent == NULL){
        n->color = RB_BLACK;
    }
    else
    __insert_case2(n);
}

void rb_tree::__insert_case2(struct rb_node* n){
   if (!(n->parent->color == RB_BLACK))
   __insert_case3(n);
}
//叔叔为红色节点的情况
void rb_tree::__insert_case3(struct rb_node* n){
    if (__uncle(n) != NULL && __uncle(n)->color == RB_RED) {
        n->parent->color = RB_BLACK;
        __uncle(n)->color = RB_BLACK;
        __grandparent(n)->color = RB_RED;
        __insert_case1(__grandparent(n));
    }
    else{
        __insert_case4(n);
    }
}

void rb_tree::__insert_case4(struct rb_node* n) {
    if (n == n->parent->right && n->parent == __grandparent(n)->left) {
        __rotate_left(n->parent);
        n = n->left;
    } else if (n == n->parent->left && n->parent == __grandparent(n)->right) {
        __rotate_right(n->parent);
        n = n->right;
    }
    __insert_case5(n);
}

void rb_tree::__insert_case5(struct rb_node* n) {
    n->parent->color = RB_BLACK;
    __grandparent(n)->color = RB_RED;
    if (n == n->parent->left && n->parent == __grandparent(n)->left) {
        __rotate_right(__grandparent(n));
    } else {
        __rotate_left(__grandparent(n));
   }
}


void rb_tree::rb_insert(void* key){
    struct rb_node* addnode = __createnode(key);
    //为空树的情况,创建根节点
    if(root==NULL){
         root=addnode;
         //根节点染黑
         root->color=RB_BLACK;
         return;
    }
    struct rb_node* fnode=root;
    int ret=0;
    while(ret=__rb_cmpkey(fnode->key,key)){
        if(__is_leaf(fnode)){
            if(ret>0){
                fnode->right=addnode;
                addnode->parent=fnode;
            }
            else{
                fnode->left=addnode;
                addnode->parent=fnode;
            }
            break;
        }
        if(ret>0)
            fnode=fnode->right;
        else
            fnode=fnode->left;
    }
    __insert_case1(addnode);
}

 

 

复制代码
复制代码
//Rbtree_Delete.cpp by konyel
#include "Rbtree.h"



void rb_tree::__delete_case1(struct rb_node* n){
    if (n->parent != NULL)
    __delete_case2(n);
}

void rb_tree::__delete_case2(struct rb_node* n)
{
    struct rb_node* s = __sibling(n);
    if (s->color == RB_RED) {
        n->parent->color = RB_RED;
        s->color = RB_BLACK;
        if (n == n->parent->left)
        __rotate_left(n->parent);
        else
        __rotate_right(n->parent);
    }
    __delete_case3(n);
}

void rb_tree::__delete_case3(struct rb_node* n){
    struct rb_node* s = __sibling(n);
    if ((n->parent->color == RB_BLACK) &&
    (s->color == RB_BLACK) &&
    (s->left==NULL||s->left->color == RB_BLACK) &&
    (s->right==NULL||s->right->color == RB_BLACK)) {
        s->color = RB_RED;
        __delete_case1(n->parent);
    } else
    __delete_case4(n);
}

void rb_tree::__delete_case4(struct rb_node* n){
    struct rb_node* s = __sibling(n);
    if ((n->parent->color == RB_RED) &&
    (s->color == RB_BLACK) &&
    (s->left==NULL||s->left->color == RB_BLACK) &&
    (s->right==NULL||s->right->color == RB_BLACK)) {
            s->color = RB_RED;
            n->parent->color = RB_BLACK;
    } else
    __delete_case5(n);
}

void rb_tree::__delete_case5(struct rb_node* n){
    struct rb_node* s = __sibling(n);
    if (s->color == RB_BLACK) {/* this if statement is trivial,
        due to Case 2 (even though Case two changed the sibling to a sibling's child,
        the sibling's child can't be red, since no red parent can have a red child). */
        // the following statements just force the red to be on the left of the left of the parent,
        // or right of the right, so case six will rotate correctly.
        if ((n == n->parent->left) &&
        (s->right->color == RB_BLACK) &&
        (s->left->color == RB_RED)) { // this last test is trivial too due to cases 2-4.
            s->color = RB_RED;
            s->left->color = RB_BLACK;
            __rotate_right(s);
            } else if ((n == n->parent->right) &&
            (s->left->color == RB_BLACK) &&
            (s->right->color == RB_RED)) {// this last test is trivial too due to cases 2-4.
                s->color = RB_RED;
                s->right->color = RB_BLACK;
                __rotate_left(s);
            }
    }
    __delete_case6(n);
}

void rb_tree::__delete_case6(struct rb_node* n){
    struct rb_node* s = __sibling(n);
    s->color = n->parent->color;
    n->parent->color = RB_BLACK;
    if (n == n->parent->left) {
        s->right->color = RB_BLACK;
        __rotate_left(n->parent);
    } else {
        s->left->color = RB_BLACK;
        __rotate_right(n->parent);
    }
}
rb_node* rb_tree::rb_delete(void* key){
    //两边都不是叶子节点
    struct rb_node* min_node;
    struct rb_node* fnode=root;
    int ret=0;
    while(ret=__rb_cmpkey(fnode->key,key)){
         if(__is_leaf(fnode)){
           return NULL;
         }
         if(ret>0)
             fnode=fnode->right;
         else
             fnode=fnode->left;
    }
    if(fnode->right!=NULL){
          min_node=fnode->right;
          while(min_node->left!=NULL)
              min_node=min_node->left;
    }
    else if(fnode->left!=NULL){
        min_node=fnode->left;
        while(min_node->right!=NULL)
              min_node=min_node->right;
    }
    else{
        min_node=fnode;
    }
    
    __replace_node(fnode, min_node);
    //用非叶子节点替换要删除的节点
    if (fnode->color == RB_BLACK) {
        if (min_node->color == RB_RED)
            min_node->color = RB_BLACK;
        else
            __delete_case1(min_node);
    }
    if(!__is_leaf(min_node)){
       return NULL;
    }
    if(min_node==root)
        root==NULL;
    else if(min_node->parent->right==min_node)
        min_node->parent->right=NULL;
    else
        min_node->parent->left=NULL;
    pool->Free(min_node);
    return NULL;
}
复制代码
复制代码

 


 

复制代码

 

复制代码
 
相关实践学习
日志服务之使用Nginx模式采集日志
本文介绍如何通过日志服务控制台创建Nginx模式的Logtail配置快速采集Nginx日志并进行多维度分析。
相关文章
|
4天前
|
存储 SQL API
探索后端开发:构建高效API与数据库交互
【10月更文挑战第36天】在数字化时代,后端开发是连接用户界面和数据存储的桥梁。本文深入探讨如何设计高效的API以及如何实现API与数据库之间的无缝交互,确保数据的一致性和高性能。我们将从基础概念出发,逐步深入到实战技巧,为读者提供一个清晰的后端开发路线图。
|
2天前
|
存储 缓存 NoSQL
2款使用.NET开发的数据库系统
2款使用.NET开发的数据库系统
|
5天前
|
存储 SQL 数据库
深入浅出后端开发之数据库优化实战
【10月更文挑战第35天】在软件开发的世界里,数据库性能直接关系到应用的响应速度和用户体验。本文将带你了解如何通过合理的索引设计、查询优化以及恰当的数据存储策略来提升数据库性能。我们将一起探索这些技巧背后的原理,并通过实际案例感受优化带来的显著效果。
18 4
|
14天前
|
存储 Java 关系型数据库
在Java开发中,数据库连接是应用与数据交互的关键环节。本文通过案例分析,深入探讨Java连接池的原理与最佳实践
在Java开发中,数据库连接是应用与数据交互的关键环节。本文通过案例分析,深入探讨Java连接池的原理与最佳实践,包括连接创建、分配、复用和释放等操作,并通过电商应用实例展示了如何选择合适的连接池库(如HikariCP)和配置参数,实现高效、稳定的数据库连接管理。
31 2
|
14天前
|
监控 Java 数据库连接
在Java开发中,数据库连接管理是关键问题之一
在Java开发中,数据库连接管理是关键问题之一。本文介绍了连接池技术如何通过预创建和管理数据库连接,提高数据库操作的性能和稳定性,减少资源消耗,并简化连接管理。通过示例代码展示了HikariCP连接池的实际应用。
16 1
|
15天前
|
存储 关系型数据库 MySQL
查询服务器CPU、内存、磁盘、网络IO、队列、数据库占用空间等等信息
查询服务器CPU、内存、磁盘、网络IO、队列、数据库占用空间等等信息
187 1
|
18天前
|
存储 JavaScript 前端开发
如何优化代码以避免闭包引起的内存泄露
本文介绍了闭包引起内存泄露的原因,并提供了几种优化代码的策略,帮助开发者有效避免内存泄露问题,提升应用性能。
|
23天前
|
SQL JavaScript 关系型数据库
node博客小项目:接口开发、连接mysql数据库
【10月更文挑战第14天】node博客小项目:接口开发、连接mysql数据库
|
1月前
|
Rust 前端开发 关系型数据库
Tauri 开发实践 — Tauri 集成本地数据库
本文介绍了在 Tauri 框架中集成本地数据库的几种方案,包括直接绑定 SQLite、使用第三方数据库库和使用 tauri-plugin-sql-api 插件。最终选择了 tauri-plugin-sql-api,因为它集成简单、支持多种数据库类型,并且与 Tauri 框架深度整合,提升了开发效率和安全性。文章详细介绍了如何安装和使用该插件,以及如何编写核心代码实现数据库操作。
137 2
|
21天前
|
NoSQL 前端开发 MongoDB
前端的全栈之路Meteor篇(三):运行在浏览器端的NoSQL数据库副本-MiniMongo介绍及其前后端数据实时同步示例
MiniMongo 是 Meteor 框架中的客户端数据库组件,模拟了 MongoDB 的核心功能,允许前端开发者使用类似 MongoDB 的 API 进行数据操作。通过 Meteor 的数据同步机制,MiniMongo 与服务器端的 MongoDB 实现实时数据同步,确保数据一致性,支持发布/订阅模型和响应式数据源,适用于实时聊天、项目管理和协作工具等应用场景。