Unicode编码

简介: 本篇文章介绍 Unicode 编码。

介绍 Unicode 编码

Unicode 的全称是 Unicode 标准(The Unicode Standard)。

Unicode 又被称为:统一码、万国码、统一字元码、统一字符编码。

Unicode 至今仍在不断增修,每个新版本都加入更多新的字符。目前 Unicode 最新的版本为 2021 年 9 月 14 日公布的 14.0.0,已经收录超过 14 万个字符。


技术是为了解决问题而生的,Unicode 编码解决了什么问题,它的作用是什么呢?

  • Unicode 为解决传统字符编码方案的局限而产生。传统字符编码方案的局限是:它们只能表示一种语言的字符,而不能表示多种语言的字符,这就导致了不同语言的字符无法混合出现在一个文本中。
  • Unicode 编码了世界上大部分的文字系统,使得电脑能以通用的编码方案来处理多种语言混合出现的文本。

Unicode 的编码和实现

大概来说,Unicode 编码系统可分为 “编码方式” 和 “实现方式” 两个层次。

十大设计原则

Wayback Machine (archive.org)

《The Unicode Standard Version 6.2 – Core Specification》文档给出了 Unicode 的十大设计原则:

  • Universality:提供单一、综合的字符集,编码一切现代与大部分历史文献的字符。
  • Efficiency:易于处理与分析。
  • Characters, not glyphs:字符,而不是字形。
  • Semantics:字符要有良好定义的语义。
  • Plain text:仅限于文本字符。
  • Logical order:默认内存表示是其逻辑序。
  • Unification:把不同语言的同一书写系统(scripts)中相同字符统一起来。
  • Dynamic composition:附加符号可以动态组合。
  • Stability:已分配的字符与语义不再改变。
  • Convertibility:Unicode 与其他著名字符集可以精确转换。

Unicode 的编码方式

Unicode 为每一个有效字符定义一个唯一的代码点(code point,即一个整数)。通常使用十六进制表示法来表示 Unicode 代码点,并使用 "U+" 作为前缀。比如,“字母 a” 的 Unicode 代码点是 U+0061。

Unicode 的实现方式

Unicode 的实现方式不同于编码方式。一个字符的 Unicode 编码结果确定,但是在实际传输过程中,由于不同系统平台的设计不一定一致,以及出于节省空间的目的,对 Unicode 编码的实现方式有所不同。

系统平台指的是:在电脑里让软件运行的系统环境,包括硬件环境 和 软件环境。

Mac 和 Windows 对字节序的理解不一致。这时同一字节序列可能会被 Mac 和 Win 解码为不同内容,比如某字符的代码点为 4E59,按两个字节拆分为 4E 和 59:

  • 在 Mac 上是从低字节开始读取,那么 Mac 会认为此 4E59 编码为 594E,找到的字符为 “奎”;
  • 在 Windows 上是从高字节开始读取,那么 Mac 会认为此 4E59 编码为 4E59,找到的字符为 “乙”。

字节序指的是:数据在存储和传输时的字节顺序,也就是字节的排列顺序。


Unicode 的实现方式称为 Unicode 转换格式(Unicode Transformation Format,简称为 UTF)。Unicode 相当于规定了字符对应的代码点,这个代码点需要转换为字节序列的形式去存储、传输。

Unicode 常见的实现方式有:UTF-8、UTF-16小端序(LE)、UTF-16大端序(BE)、UTF-32

在这几种实现方式的名称中,“-” 右边的整数的含义是:以多少个比特位作为一个编码单元。以 UTF-8 为例,它会以 8 个比特(一个字节)作为一个编码单元。

介绍 Unicode 字符平面映射

Unicode 的编码空间从 U+0000 到 U+10FFFF,共有 1,112,064 个代码点(code point)可用来映射字符。Unicode 字符 和 代码点是一对一映射的。

Unicode 将编码空间分成 17 个平面,以 0 到 16 编号。每个平面包含 65536(2^16^)个代码点。

  • 第 0 平面被称为 “基本多文种平面”;
  • 第 1 - 16 平面被称为 “辅助平面”。

第 0 平面(或者说基本多文种平面)中的码点,都可以用一个 UTF-16 单位来编码,或者以 UTF-8 来编码的话,会使用一、二 或 三 个字节。而第 1 到 16 平面(或称辅助平面)中的码点,UTF-16 会以代理对的方式来使用,而 UTF-8 则会编码成 4 个字节。

平面 始末字符值 中文名称
0号平面 U+0000 - U+FFFF 基本多文种平面
1号平面 U+10000 - U+1FFFF 多文种补充平面
2号平面 U+20000 - U+2FFFF 表意文字补充平面
3号平面 U+30000 - U+3FFFF 表意文字第三平面
4号平面 至 13号平面 U+40000 - U+DFFFF (尚未使用)
14号平面 U+E0000 - U+EFFFF 特别用途补充平面
15号平面 U+F0000 - U+FFFFF 保留作为私人使用区(A区)
16号平面 U+100000 - U+10FFFF 保留作为私人使用区(B区)

参考资料

Unicode - 维基百科,自由的百科全书 (wikipedia.org)

Unicode字符平面映射 - 维基百科,自由的百科全书 (wikipedia.org)

相关文章
|
9月前
|
JavaScript 关系型数据库 MySQL
关于 MySQL 重复读导致的重复插入问题
本文介绍了在开发业务接口时遇到的MySQL重复读导致的数据重复插入问题,并通过伪代码示例详细解析了问题产生的原因。文章提出了四种解决方案:使用共享锁、控制事务并发执行、强制当前读以及调整隔离级别为READ COMMITTED,旨在确保读取最新数据,避免数据重复插入。
387 3
|
10月前
|
数据库
三大范式的特点
第一范式确保数据库表中每列都是不可分割的基本数据项,无重复列;第二范式在满足第一范式基础上,要求每个实例被唯一标识,属性完全依赖于主键;第三范式在满足第二范式基础上,排除非主键信息的冗余,避免数据重复。
310 0
|
关系型数据库 Java MySQL
从0开始部署阿里云服务器(萌新必看)
搭建阿里云服务器涉及购买、控制台介绍及配置。购买时可选择免费试用或直接购买,根据需求选择计费方式和地区。在服务器控制台,可找到实例并进行远程连接。配置包括Java环境,卸载OpenJDK,下载安装Java,配置环境变量。接着配置Tomcat,下载对应版本,解压并启动,确保防火墙允许8080端口。最后配置MySQL,安装,设置密码,更新远程访问权限。整个过程旨在提供一个基础的云服务器配置指南。
2360 0
|
10月前
|
分布式计算 资源调度 Hadoop
【赵渝强老师】基于ZooKeeper实现Hadoop HA
本文介绍了如何在4个节点(bigdata112、bigdata113、bigdata114和bigdata115)上部署HDFS高可用(HA)架构,并同时部署Yarn的HA。详细步骤包括环境变量设置、配置文件修改、ZooKeeper集群启动、JournalNode启动、HDFS格式化、ZooKeeper格式化以及启动Hadoop集群等。最后通过jps命令检查各节点上的后台进程,确保部署成功。
343 0
|
12月前
|
存储 缓存 关系型数据库
深度解密 MySQL 的 Buffer Pool
深度解密 MySQL 的 Buffer Pool
221 0
|
存储 分布式计算 监控
Hadoop集群添加新的DataNode
【6月更文挑战第19天】
348 1
|
JavaScript 中间件 数据库
中间件应用身份验证和授权
【5月更文挑战第1天】你可以编写类似的中间件函数来检查用户的角色和权限,并根据需要允许或拒绝访问。
237 2
中间件应用身份验证和授权
|
存储 NoSQL 算法
redis存储什么类型的数据?redis分布式锁怎么实现的?
redis存储什么类型的数据?redis分布式锁怎么实现的?