RISC-V生态全景解析(十五):YoC组件介绍系列五: KV组件

简介: 芯片开放社区(OCC)面向开发者推出RISC-V系列内容,通过多角度、全方位解读RISC-V,系统性梳理总结相关理论知识,构建RISC-V知识图谱,促进开发者对RISC-V生态全貌的了解。

编辑语:

芯片开放社区(OCC)面向开发者推出RISC-V系列内容,通过多角度、全方位解读RISC-V,系统性梳理总结相关理论知识,构建RISC-V知识图谱,促进开发者对RISC-V生态全貌的了解。


为了帮助广大开发者快速上手YoC基础软件平台,实现RISC-V生态应用的极简开发,我们推出了YoC组件介绍系列内容,并向大家介绍了其中的CSI组件AT组件AV(多媒体)PARTITION组件。本期我们将为大家讲解YoC的KV组件,通过KV组件的简介、设计概述、主要原理描述以及示例四部分内容,带大家全面了解该组件。


01 介绍

KV是基于Nor Flash的一种Key-Value 数据存储系统,该系统采用极小的代码及内存开销(最小资源 rom:3K bytes,ram:100bytes),在小规模的Nor Flash上实现数据的存储管理能力,支持断电保护、磨损均衡、坏块处理等功能,并提供标准的aos kv接口进行访问。


KV 存储系统支持只读模式与读写模式共存,只读模式可以用于工厂生产数据,读写模式可用于运行时的数据存储。


02 设计概述

2.1 数据格式

为了简化设计,降低复杂性,减少代码规模及内存开销,又考虑到只读KV与读写KV的兼容性,KV系统未采用传统KV系统或文件系统中采用的HEAD描述结构,采用的链式遍历方式设计。


根据FLASH 的特点,以block 为单位,每一个block 都是一个独立的存储单元,限制一个KV必须存储在一个block上。


KV格式:

  • 只读:=\n
  • 读写:<key><\0><size_lo><size_hi><version>=<value><size_hi><erase_flag>


如下表

字节数

n

1

1

1

1

1

n

1

4

字段

KEY

0

SIZE_LO

SIZE_HI

VERSION

=

VALUE

SIZE_HI

ERASE FLAG


  • 字段具体说明

字段

空间(Byte)

说明

KEY

n

用户传入的key,由字母、数字等可打印字符组成

0位

1

数值0的特殊值,紧跟在KEY后,是检索的关键标记值

SIZE_LO/

SIZE_HI

2

占两个字节,保存KEY的长度与Value的长度,Value占高10位,KEY占低6位(允许最大KEY长度为63字节,Value理论长度为1023,但由到block 的大小限制,最大长度不得超出block)SIZE_LO为value 长度的低8位,SIZE_HI 的低2位为value 长度的高2位

Version

1

版本,用于保存KEY被修改的次数,当一个KV被多次修改时,Version最累加,累加到255时掉头为1;该字符用于保证KV修改的有效性,在写入时断电可能会造成KV的重复,采用最新版本的KV为有效KV,删除历史版本的KV;

等号位

1

即字符”c”,占位及检索标记位,用于识别有效KV

Value

n

用户传入的value值,长度由实际Value 长度决定,受block 及 key 长度限制

SIZE_HI

/

保存上述SIZE_HI 数据,该位用于校检KV的有效性

Erase flag

4

KV删除标记位,由四个字节组成,非0时为有效KV,为0时,表示该KV已被删除


2.2 重点功能设计概述

2.2.1 断电保护

断电保护的设计是为了在修改KV时,能保证KV不会被破坏的事务处理机制,即要写入失败,要么写入成功,对于已经存的KV,写失败后,KV的值仍然为旧值。对于不存在的KV,写失败后,KV不存在。


2.2.2 磨损均衡

在通常的应用中,部分KV被经常修改,由于FLASH物理特性,擦写的次数有一定的限制,擦写次数超过次数时,该块会损坏不能使用。磨损均衡的设计是将KV的写入分散到多 block上,避免存储在固定的位置上,达到磨损均衡的效果。磨损均衡主要依赖以下两个策略来实现:


  • 异地更新策略 Key-Value键值对采用顺序写入、异地更新的方式,即不再在原存储位置擦除重写,而是在其余空闲位置写入新键值并将原键值标记无效等待回收。这样既可以减少flash的擦除操作次数,又可以提高flash的空间利用率,也避免了对“特定”存储区块过度使用的问题。


  • 垃圾回收策略 当free block总数接近gc下限时,会触发gc操作。flash数据在gc前,存在有效键值和无效键值交织的情况;gc后,把有效文件数据归并到free block,原区域则被擦除并置入free block。gc循环向后搬运键值。


2.2.3 坏块处理

Nor flash有一定的擦写次数限制,如果达到这个限制,或者由于物理方面的损坏,会导致这些block写入有问题。KV系统采用直接片上链式读取,擦除与写入时校验数据正确性,不采用特殊的标识信息来处理坏块,当block 擦除失败或者写失败后,会重新申请新的数据块,避免坏块被错误使用。


03 主要原理描述

3.1 关键过程处理流程

  • 格式化

将所有块擦除后,若擦除失败则置为坏块。


  • 初始化

遍历整个系统,统计每个block 上KV的个数、占用空间、可用位置,删除KV的数量,清理无效的KV,回收无用的block,若cache功能打开,则还会将所有key信息存入cache中。


  • 写键值

3.1 查找系统中是否已存在该键值

3.2 分配新的kvnode,计算版本号、长度,将kvnode 写入block

3.3 删除已存在的键值


  • 读取及删除键值

4.1 查找系统中是否已存在该键值

4.2 读取或删除已存在的键值


3.2 GC处理流程

当free block总数接近gc下限时,会触发gc操作。如下图,flash数据在gc前,存在有效键值和无效键值交织的情况;gc后,把有效文件数据归并到free block,原区域则被擦除并置入free block。gc循环向后搬运键值

截屏2021-11-22 下午9.53.30.png


3.3 CACHE功能

对于资源相对丰富的芯片,可以通过打开在package.yaml中配置CONFIG_KV_ENABLE_CACHE来打开cache功能,cache打开后,KV初始化时会统一将所有key的信息存储到cache中,之后的读写删等操作通过cache可快速定位到flash上的位置,减少对flash的遍历操作,从而可提升读速率30%,写速率95%,删除速率50%。

截屏2021-11-22 下午9.54.05.png


04 示例

#include <aos/kv.h>
void kv_test(void)
{
    int ret =aos_kv_init("kv"); //初始化kv,注意需要将partition先处理化
    if (ret != 0) {
      printf("kv init failed");
        return;
    }
    aos_kv_set("test_key", "hello"); //向kv里写入"hello"
    char buffer[6];
    aos_kv_get("test_key", buffer, 6); //从kv里读取数据到buffer
    printf("kv read: %s\r\n", buffer);
}


05 下期预告

本文是YoC组件介绍系列的完结篇,下期内容将为大家讲解如何上传组件到OCC进行开源。欢迎大家持续关注RISC-V系列内容。

相关文章
|
18天前
|
监控 网络协议 Java
Tomcat源码解析】整体架构组成及核心组件
Tomcat,原名Catalina,是一款优雅轻盈的Web服务器,自4.x版本起扩展了JSP、EL等功能,超越了单纯的Servlet容器范畴。Servlet是Sun公司为Java编程Web应用制定的规范,Tomcat作为Servlet容器,负责构建Request与Response对象,并执行业务逻辑。
Tomcat源码解析】整体架构组成及核心组件
|
19天前
|
Kubernetes API 调度
Kubernetes 架构解析:理解其核心组件
【8月更文第29天】Kubernetes(简称 K8s)是一个开源的容器编排系统,用于自动化部署、扩展和管理容器化应用。它提供了一个可移植、可扩展的环境来运行分布式系统。本文将深入探讨 Kubernetes 的架构设计,包括其核心组件如何协同工作以实现这些功能。
39 0
|
7天前
|
开发工具
Flutter-AnimatedWidget组件源码解析
Flutter-AnimatedWidget组件源码解析
|
21天前
|
存储 安全 虚拟化
深入解析:Docker的架构与组件
【8月更文挑战第27天】
111 2
|
17天前
|
前端开发 UED 开发者
React组件优化全攻略:深度解析让你的前端应用飞速运行的秘诀——从PureComponent到React.memo的彻底性能比较
【8月更文挑战第31天】在构建现代Web应用时,性能是提升用户体验的关键因素。React作为主流前端库,其组件优化尤为重要。本文深入探讨了React组件优化策略,包括使用`PureComponent`、`React.memo`及避免不必要的渲染等方法,帮助开发者显著提升应用性能。通过实践案例对比优化前后效果,不仅提高了页面渲染速度,还增强了用户体验。优化React组件是每个开发者必须关注的重点。
28 0
|
24天前
|
Kubernetes 负载均衡 网络协议
在K8S中,DNS组件有什么特性?
在K8S中,DNS组件有什么特性?
|
29天前
|
存储 Kubernetes 网络协议
在K8s中,提供的DNS组件是什么?有什么特性?
在K8s中,提供的DNS组件是什么?有什么特性?
|
1月前
|
存储 NoSQL Redis
redis 6源码解析之 object
redis 6源码解析之 object
53 6
|
3天前
|
存储 缓存 Java
什么是线程池?从底层源码入手,深度解析线程池的工作原理
本文从底层源码入手,深度解析ThreadPoolExecutor底层源码,包括其核心字段、内部类和重要方法,另外对Executors工具类下的四种自带线程池源码进行解释。 阅读本文后,可以对线程池的工作原理、七大参数、生命周期、拒绝策略等内容拥有更深入的认识。
什么是线程池?从底层源码入手,深度解析线程池的工作原理
|
3天前
|
设计模式 Java 关系型数据库
【Java笔记+踩坑汇总】Java基础+JavaWeb+SSM+SpringBoot+SpringCloud+瑞吉外卖/谷粒商城/学成在线+设计模式+面试题汇总+性能调优/架构设计+源码解析
本文是“Java学习路线”专栏的导航文章,目标是为Java初学者和初中高级工程师提供一套完整的Java学习路线。

热门文章

最新文章

推荐镜像

更多