nvs_flash.rst 20 KB

123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129130131132133134135136137138139140141142143144145146147148149150151152153154155156157158159160161162163164165166167168169170171172173174175176177178179180181182183184185186187188189190191192193194195196197198199200201202203204205206207208209210211212213214215216217218219220221222223224225226227228229230231232233234235236237238239240241242243244245246247248249250251252253254255256257258259260261262263264265266267268269270271272273274275276277278279280281282283284285286287288289290291292293294295296297298299300301302303304305306307308309310311312313314315316317318319320321322323324325326327328329330331332333334335336337
  1. 非易失性存储库
  2. ============================
  3. :link_to_translation:`en:[English]`
  4. 简介
  5. ------------
  6. 非易失性存储 (NVS) 库主要用于在 flash 中存储键值格式的数据。本文档将详细介绍 NVS 常用的一些概念。
  7. 底层存储
  8. ^^^^^^^^^^^^^^^^^^
  9. NVS 通过调用 ``spi_flash_{read|write|erase}`` API 对主 flash 的部分空间进行读、写、擦除操作,包括 ``data`` 类型和 ``nvs`` 子类型的所有分区。应用程序可调用 ``nvs_open`` API 选择使用带有 ``nvs`` 标签的分区,也可以通过调用 ``nvs_open_from_part`` API 选择使用指定名称的任意分区。
  10. NVS 库后续版本可能会增加其他存储器后端,实现将数据保存至其他 flash 芯片(SPI 或 I2C 接口)、RTC 或 FRAM 中。
  11. .. note:: 如果 NVS 分区被截断(例如,更改分区表布局时),则应擦除分区内容。可以使用 ESP-IDF 构建系统中的 ``idf.py erase_flash`` 命令擦除 flash 上的所有内容。
  12. .. note:: NVS 最适合存储一些较小的数据,而非字符串或二进制大对象 (BLOB) 等较大的数据。如需存储较大的 BLOB 或者字符串,请考虑使用基于磨损均衡库的 FAT 文件系统。
  13. 键值对
  14. ^^^^^^^^^^^^^^^
  15. NVS 的操作对象为键值对,其中键是 ASCII 字符串,当前支持最大键长为 15 个字符,值可以为以下几种类型:
  16. - 整数型:``uint8_t``、``int8_t``、``uint16_t``、``int16_t``、``uint32_t``、``int32_t``、``uint64_t`` 和 ``int64_t``;
  17. - 以 ``\0`` 结尾的字符串;
  18. - 可变长度的二进制数据 (BLOB)
  19. .. note::
  20. 字符串值当前上限为 4000 字节,其中包括空终止符。BLOB 值上限为 508,000 字节或分区大小减去 4000 字节的 97.6%,以较低值为准。
  21. 后续可能会增加对 ``float`` 和 ``double`` 等其他类型数据的支持。
  22. 键必须唯一。为现有的键写入新的值可能产生如下结果:
  23. - 如果新旧值数据类型相同,则更新值;
  24. - 如果新旧值数据类型不同,则返回错误。
  25. 读取值时也会执行数据类型检查。如果读取操作的数据类型与该值的数据类型不匹配,则返回错误。
  26. 命名空间
  27. ^^^^^^^^^^
  28. 为了减少不同组件之间键名的潜在冲突,NVS 将每个键值对分配给一个命名空间。命名空间的命名规则遵循键名的命名规则,即最多可占 15 个字符。命名空间的名称在调用 ``nvs_open`` 或 ``nvs_open_from_part`` 中指定,调用后将返回一个不透明句柄,用于后续调用 ``nvs_get_*``、``nvs_set_*`` 和 ``nvs_commit`` 函数。这样,一个句柄关联一个命名空间,键名便不会与其他命名空间中相同键名冲突。请注意,不同 NVS 分区中具有相同名称的命名空间将被视为不同的命名空间。
  29. 安全性、篡改性及鲁棒性
  30. ^^^^^^^^^^^^^^^^^^^^^^^^^^
  31. NVS 与 ESP32 flash 加密系统不直接兼容。但如果 NVS 加密与 ESP32 flash 加密一起使用时,数据仍可以加密形式存储。更多详情请参阅 :ref:`nvs_encryption`。
  32. 如果未启用 NVS 加密,任何对 flash 芯片有物理访问权限的人都可以修改、擦除或添加键值对。NVS 加密启用后,如果不知道相应的 NVS 加密密钥,则无法修改或添加键值对并将其识别为有效键值。但是,针对擦除操作没有相应的防篡改功能。
  33. 当 flash 处于不一致状态时,NVS 库会尝试恢复。在任何时间点关闭设备电源,然后重新打开电源,不会导致数据丢失;但如果关闭设备电源时正在写入新的键值对,这一键值对可能会丢失。该库还应当能对 flash 中的任意数据进行正确初始化。
  34. 内部实现
  35. ---------
  36. 键值对日志
  37. ^^^^^^^^^^^^^^^^^^^^^^
  38. NVS 按顺序存储键值对,新的键值对添加在最后。因此,如需更新某一键值对,实际是在日志最后增加一对新的键值对,同时将旧的键值对标记为已擦除。
  39. 页面和条目
  40. ^^^^^^^^^^^^^^^^^
  41. NVS 库在其操作中主要使用两个实体:页面和条目。页面是一个逻辑结构,用于存储部分的整体日志。逻辑页面对应 flash 的一个物理扇区,正在使用中的页面具有与之相关联的序列号。序列号赋予了页面顺序,较高的序列号对应较晚创建的页面。页面有以下几种状态:
  42. 空或未初始化
  43. 页面对应的 flash 扇区为空白状态(所有字节均为 ``0xff``)。此时,页面未存储任何数据且没有关联的序列号。
  44. 活跃状态
  45. 此时 flash 已完成初始化,页头部写入 flash,页面已具备有效序列号。页面中存在一些空条目,可写入数据。任意时刻,至多有一个页面处于活跃状态。
  46. 写满状态
  47. Flash 已写满键值对,状态不再改变。用户无法向写满状态下的页面写入新键值对,但仍可将一些键值对标记为已擦除。
  48. 擦除状态
  49. 未擦除的键值对将移至其他页面,以便擦除当前页面。这一状态仅为暂时性状态,即 API 调用返回时,页面应脱离这一状态。如果设备突然断电,下次开机时,设备将继续把未擦除的键值对移至其他页面,并继续擦除当前页面。
  50. 损坏状态
  51. 页头部包含无效数据,无法进一步解析该页面中的数据,因此之前写入该页面的所有条目均无法访问。相应的 flash 扇区并不会被立即擦除,而是与其他处于未初始化状态的扇区一起等待后续使用。这一状态可能对调试有用。
  52. Flash 扇区映射至逻辑页面并没有特定的顺序,NVS 库会检查存储在 flash 扇区的页面序列号,并根据序列号组织页面。
  53. ::
  54. +--------+ +--------+ +--------+ +--------+
  55. | Page 1 | | Page 2 | | Page 3 | | Page 4 |
  56. | Full +---> | Full +---> | Active | | Empty | <- 状态
  57. | #11 | | #12 | | #14 | | | <- 序列号
  58. +---+----+ +----+---+ +----+---+ +---+----+
  59. | | | |
  60. | | | |
  61. | | | |
  62. +---v------+ +-----v----+ +------v---+ +------v---+
  63. | Sector 3 | | Sector 0 | | Sector 2 | | Sector 1 | <- 物理扇区
  64. +----------+ +----------+ +----------+ +----------+
  65. 页面结构
  66. ^^^^^^^^^^^^^^^^^^^
  67. 当前,我们假设 flash 扇区大小为 4096 字节,并且 ESP32 flash 加密硬件在 32 字节块上运行。未来有可能引入一些编译时可配置项(可通过 menuconfig 进行配置),以适配具有不同扇区大小的 flash 芯片。但目前尚不清楚 SPI flash 驱动和 SPI flash cache 之类的系统组件是否支持其他扇区大小。
  68. 页面由头部、条目状态位图和条目三部分组成。为了实现与 ESP32 flash 加密功能兼容,条目大小设置为 32 字节。如果键值为整数型,条目则保存一个键值对;如果键值为字符串或 BLOB 类型,则条目仅保存一个键值对的部分内容(更多信息详见条目结构描述)。
  69. 页面结构如下图所示,括号内数字表示该部分的大小(以字节为单位)::
  70. +-----------+--------------+-------------+-------------------------+
  71. | State (4) | Seq. no. (4) | version (1) | Unused (19) | CRC32 (4) | 页头部 (32)
  72. +-----------+--------------+-------------+-------------------------+
  73. | Entry state bitmap (32) |
  74. +------------------------------------------------------------------+
  75. | Entry 0 (32) |
  76. +------------------------------------------------------------------+
  77. | Entry 1 (32) |
  78. +------------------------------------------------------------------+
  79. / /
  80. / /
  81. +------------------------------------------------------------------+
  82. | Entry 125 (32) |
  83. +------------------------------------------------------------------+
  84. 头部和条目状态位图写入 flash 时不加密。如果启用了 ESP32 flash 加密功能,则条目写入 flash 时将会加密。
  85. 通过将 0 写入某些位可以定义页面状态值,表示状态改变。因此,如果需要变更页面状态,并不一定要擦除页面,除非要将其变更为擦除状态。
  86. 头部中的 ``version`` 字段反映了所用的 NVS 格式版本。为实现向后兼容,版本升级从 0xff 开始依次递减(例如,version-1 为 0xff,version-2 为 0xfe 等)。
  87. 头部中 CRC32 值是由不包含状态值的条目计算所得(4 到 28 字节)。当前未使用的条目用 ``0xff`` 字节填充。
  88. 条目结构和条目状态位图详细信息见下文描述。
  89. 条目和条目状态位图
  90. ^^^^^^^^^^^^^^^^^^^^^^^^^^^^
  91. 每个条目可处于以下三种状态之一,每个状态在条目状态位图中用两位表示。位图中的最后四位 (256 - 2 * 126) 未使用。
  92. 空 (2'b11)
  93. 条目还未写入任何内容,处于未初始化状态(全部字节为 ``0xff``)。
  94. 写入(2'b10)
  95. 一个键值对(或跨多个条目的键值对的部分内容)已写入条目中。
  96. 擦除(2'b00)
  97. 条目中的键值对已丢弃,条目内容不再解析。
  98. .. _structure_of_entry:
  99. 条目结构
  100. ^^^^^^^^^^^^^^^^^^
  101. 如果键值类型为基础类型,即 1 - 8 个字节长度的整数型,条目将保存一个键值对;如果键值类型为字符串或 BLOB 类型,条目将保存整个键值对的部分内容。另外,如果键值为字符串类型且跨多个条目,则键值所跨的所有条目均保存在同一页面。BLOB 则可以切分为多个块,实现跨多个页面。BLOB 索引是一个附加的固定长度元数据条目,用于追踪 BLOB 块。目前条目仍支持早期 BLOB 格式(可读取可修改),但这些 BLOB 一经修改,即以新格式储存至条目。
  102. ::
  103. +--------+----------+----------+----------------+-----------+---------------+----------+
  104. | NS (1) | Type (1) | Span (1) | ChunkIndex (1) | CRC32 (4) | Key (16) | Data (8) |
  105. +--------+----------+----------+----------------+-----------+---------------+----------+
  106. Primitive +--------------------------------+
  107. +--------> | Data (8) |
  108. | Types +--------------------------------+
  109. +-> Fixed length --
  110. | | +---------+--------------+---------------+-------+
  111. | +--------> | Size(4) | ChunkCount(1)| ChunkStart(1) | Rsv(2)|
  112. Data format ---+ BLOB Index +---------+--------------+---------------+-------+
  113. |
  114. | +----------+---------+-----------+
  115. +-> Variable length --> | Size (2) | Rsv (2) | CRC32 (4) |
  116. (Strings, BLOB Data) +----------+---------+-----------+
  117. 条目结构中各个字段含义如下:
  118. 命名空间 (NS, NameSpace)
  119. 该条目的命名空间索引,详细信息见命名空间实现章节。
  120. 类型 (Type)
  121. 一个字节表示的值的数据类型,可能的类型见 ``nvs_types.h`` 中 ``ItemType`` 枚举。
  122. 跨度 (Span)
  123. 该键值对所用的条目数量。如果键值为整数型,条目数量即为 1。如果键值为字符串或 BLOB,则条目数量取决于值的长度。
  124. 块索引 (ChunkIndex)
  125. 用于存储 BLOB 类型数据块的索引。如果键值为其他数据类型,则此处索引应写入 ``0xff``。
  126. CRC32
  127. 对条目下所有字节进行校验,所得的校验和(CRC32 字段不计算在内)。
  128. 键 (Key)
  129. 即以零结尾的 ASCII 字符串,字符串最长为 15 字节,不包含最后一个字节的 NULL (``\0``) 终止符。
  130. 数据 (Data)
  131. 如果键值类型为整数型,则数据字段仅包含键值。如果键值小于八个字节,使用 ``0xff`` 填充未使用的部分(右侧)。
  132. 如果键值类型为 BLOB 索引条目,则该字段的八个字节将保存以下数据块信息:
  133. - 块大小
  134. 整个 BLOB 数据的大小(以字节为单位)。该字段仅用于 BLOB 索引类型条目。
  135. - ChunkCount
  136. 存储过程中 BLOB 分成的数据块数量。该字段仅用于 BLOB 索引类型条目。
  137. - ChunkStart
  138. BLOB 第一个数据块的块索引,后续数据块索引依次递增,步长为 1。该字段仅用于 BLOB 索引类型条目。
  139. 如果键值类型为字符串或 BLOB 数据块,数据字段的这八个字节将保存该键值的一些附加信息,如下所示:
  140. - 数据大小
  141. 实际数据的大小(以字节为单位)。如果键值类型为字符串,此字段也应将零终止符包含在内。此字段仅用于字符串和 BLOB 类型条目。
  142. - CRC32
  143. 数据所有字节的校验和,该字段仅用于字符串和 BLOB 类型条目。
  144. 可变长度值(字符串和 BLOB)写入后续条目,每个条目 32 字节。第一个条目的 span 字段将指明使用了多少条目。
  145. 命名空间
  146. ^^^^^^^^^^
  147. 如上所述,每个键值对属于一个命名空间。命名空间标识符(字符串)也作为键值对的键,存储在索引为 0 的命名空间中。与这些键对应的值就是这些命名空间的索引。
  148. ::
  149. +-------------------------------------------+
  150. | NS=0 Type=uint8_t Key="wifi" Value=1 | Entry describing namespace "wifi"
  151. +-------------------------------------------+
  152. | NS=1 Type=uint32_t Key="channel" Value=6 | Key "channel" in namespace "wifi"
  153. +-------------------------------------------+
  154. | NS=0 Type=uint8_t Key="pwm" Value=2 | Entry describing namespace "pwm"
  155. +-------------------------------------------+
  156. | NS=2 Type=uint16_t Key="channel" Value=20 | Key "channel" in namespace "pwm"
  157. +-------------------------------------------+
  158. 条目哈希列表
  159. ^^^^^^^^^^^^^^
  160. 为了减少对 flash 执行的读操作次数,Page 类对象均设有一个列表,包含一对数据:条目索引和条目哈希值。该列表可大大提高检索速度,而无需迭代所有条目并逐个从 flash 中读取。``Page::findItem`` 首先从哈希列表中检索条目哈希值,如果条目存在,则在页面内给出条目索引。由于哈希冲突,在哈希列表中检索条目哈希值可能会得到不同的条目,对 flash 中条目再次迭代可解决这一冲突。
  161. 哈希列表中每个节点均包含一个 24 位哈希值和 8 位条目索引。哈希值根据条目命名空间、键名和块索引由 CRC32 计算所得,计算结果保留 24 位。为减少将 32 位条目存储在链表中的开销,链表采用了数组的双向链表。每个数组占用 128 个字节,包含 29 个条目、两个链表指针和一个 32 位计数字段。因此,每页额外需要的 RAM 最少为 128 字节,最多为 640 字节。
  162. .. _nvs_encryption:
  163. NVS 加密
  164. --------------
  165. NVS 分区内存储的数据可使用 AES-XTS 进行加密,类似于 IEEE P1619 磁盘加密标准中提到的加密方式。为了实现加密,每个条目被均视为一个扇区,并将条目相对地址(相对于分区开头)传递给加密算法,用作扇区号。NVS 加密所需的密钥存储于其他分区,并进行了 :doc:`flash 加密 <../../security/flash-encryption>`。因此,在使用 NVS 加密前应先启用 :doc:`flash 加密 <../../security/flash-encryption>`。
  166. .. _nvs_key_partition:
  167. NVS 密钥分区
  168. ^^^^^^^^^^^^^^^^^
  169. 应用程序如果想使用 NVS 加密,则需要编译进一个类型为 ``data``,子类型为 ``key`` 的密钥分区。该分区应标记为已加密,且最小为 4096 字节,具体结构见下表。如需了解更多详细信息,请参考 :doc:`分区表 <../../api-guides/partition-tables>`。
  170. ::
  171. +-----------+--------------+-------------+----+
  172. | XTS encryption key(32) |
  173. +---------------------------------------------+
  174. | XTS tweak key (32) |
  175. +---------------------------------------------+
  176. | CRC32(4) |
  177. +---------------------------------------------+
  178. 使用 NVS 分区生成程序生成上述分区表,并烧录至设备。由于分区已标记为已加密,而且启用了 :doc:`flash 加密 <../../security/flash-encryption>`,引导程序在首次启动时将使用 flash 加密对密钥分区进行加密。您也可以在设备启动后调用 ``nvs_flash.h`` 提供的 ``nvs_flash_generate_keys`` API 生成加密密钥,然后再将密钥以加密形式写入密钥分区。
  179. 应用程序可以使用不同的密钥对不同的 NVS 分区进行加密,这样就会需要多个加密密钥分区。应用程序应为加解密操作提供正确的密钥或密钥分区。
  180. 加密读取/写入
  181. ^^^^^^^^^^^^^^^^^^^^
  182. ``nvs_get_*`` 和 ``nvs_set_*`` 等 NVS API 函数同样可以对 NVS 加密分区执行读写操作。但用于初始化 NVS 非加密分区和加密分区的 API 则有所不同:初始化 NVS 非加密分区可以使用 ``nvs_flash_init`` 和 ``nvs_flash_init_partition``,但初始化 NVS 加密分区则需调用 ``nvs_flash_secure_init`` 和 ``nvs_flash_secure_init_partition``。上述 API 函数所需的 ``nvs_sec_cfg_t`` 结构可使用 ``nvs_flash_generate_keys`` 或者 ``nvs_flash_read_security_cfg`` 进行填充。
  183. 应用程序如需在加密状态下执行 NVS 读写操作,应遵循以下步骤:
  184. 1. 使用 ``esp_partition_find*`` API 查找密钥分区和 NVS 数据分区;
  185. 2. 使用 ``nvs_flash_read_security_cfg`` 或 ``nvs_flash_generate_keys`` API 填充 ``nvs_sec_cfg_t`` 结构;
  186. 3. 使用 ``nvs_flash_secure_init`` 或 ``nvs_flash_secure_init_partition`` API 初始化 NVS flash 分区;
  187. 4. 使用 ``nvs_open`` 或 ``nvs_open_from_part`` API 打开命名空间;
  188. 5. 使用 ``nvs_get_*`` 或 ``nvs_set_*`` API 执行 NVS 读取/写入操作;
  189. 6. 使用 ``nvs_flash_deinit`` API 释放已初始化的 NVS 分区。
  190. NVS 迭代器
  191. ^^^^^^^^^^^^^
  192. 迭代器允许根据指定的分区名称、命名空间和数据类型轮询 NVS 中存储的键值对。
  193. 您可以使用以下函数,执行相关操作:
  194. - ``nvs_entry_find``:返回一个不透明句柄,用于后续调用 ``nvs_entry_next`` 和 ``nvs_entry_info`` 函数;
  195. - ``nvs_entry_next``:返回指向下一个键值对的迭代器;
  196. - ``nvs_entry_info``:返回每个键值对的信息。
  197. 如果未找到符合标准的键值对,``nvs_entry_find`` 和 ``nvs_entry_next`` 将返回 NULL,此时不必释放迭代器。若不再需要迭代器,可使用 ``nvs_release_iterator`` 释放迭代器。
  198. NVS 分区生成程序
  199. ------------------
  200. NVS 分区生成程序帮助生成 NVS 分区二进制文件,可使用烧录程序将二进制文件单独烧录至特定分区。烧录至分区上的键值对由 CSV 文件提供,详情请参考 :doc:`NVS 分区生成程序 <nvs_partition_gen>`。
  201. 应用示例
  202. -------------------
  203. ESP-IDF :example:`storage` 目录下提供了两个代码示例:
  204. :example:`storage/nvs_rw_value`
  205. 演示如何读取及写入 NVS 单个整数值。
  206. 此示例中的值表示 ESP32 模组重启次数。NVS 中数据不会因为模组重启而丢失,因此只有将这一值存储于 NVS 中,才能起到重启次数计数器的作用。
  207. 该示例也演示了如何检测读取/写入操作是否成功,以及某个特定值是否在 NVS 中尚未初始化。诊断程序以纯文本形式提供,帮助您追踪程序流程,及时发现问题。
  208. :example:`storage/nvs_rw_blob` 
  209. 演示如何读取及写入 NVS 单个整数值和 Blob(二进制大对象),并在 NVS 中存储这一数值,即便 ESP32 模组重启也不会消失。
  210. * value - 记录 ESP32 模组软重启次数和硬重启次数。
  211. * blob - 内含记录模组运行次数的表格。此表格将被从 NVS 读取至动态分配的 RAM 上。每次手动软重启后,表格内运行次数即增加一次,新加的运行次数被写入 NVS。下拉 GPIO0 即可手动软重启。
  212. 该示例也演示了如何执行诊断程序以检测读取/写入操作是否成功。
  213. API 参考
  214. -------------
  215. .. include-build-file:: inc/nvs_flash.inc
  216. .. include-build-file:: inc/nvs.inc