17. Unicode - 简要介绍(高级)
Unicode 是在世界上大多数书写系统中表示和管理文本的标准。几乎所有使用文本的现代软件都支持 Unicode。该标准由 Unicode Consortium 维护。该标准的新版本每年发布(使用新的 Emojis 等)。 Unicode 1 于 1991 年发布。
17.1。代码点与代码单元
两个概念对于理解 Unicode 至关重要:
- 代码点:是表示 Unicode 字符的数字。
- 代码单元:是具有固定大小的数据片段。一个或多个代码单元编码单个代码点。代码单元的大小取决于编码格式。最流行的格式 UTF-8 具有 8 位代码单元。
17.1.1。代码点
Unicode 的第一个版本有 16 位代码点。从那时起,字符数量大大增加,代码点的大小扩展到 21 位。这 21 个位分为 17 个平面,每个平面 16 位:
- 平面 0:基本多语言平面(BMP),0x0000-0xFFFF
- 这是最常用的飞机。粗略地说,它包含原始的 Unicode。
- 平面 1:补充多语平面(SMP),0x10000-0x1FFFF
- 平面 2:补充表意平面(SIP),0x20000-0x2FFFF
- 飞机 3-13:未分配
- 平面 14:补充专用平面(SSP),0xE0000-0xEFFFF
- 平面 15-16:补充专用区(S PUA A / B),0x0F0000-0x10FFFF
平面 1-16 称为辅助平面或星体平面。
让我们检查几个字符的代码点:
> 'A'.codePointAt(0).toString(16)
'41'
> 'ü'.codePointAt(0).toString(16)
'fc'
> 'π'.codePointAt(0).toString(16)
'3c0'
> '\u{1f642}'.codePointAt(0).toString(16)
'1f642'
代码点的十六进制数告诉我们前三个字符位于平面 0(16 位内)中,而表情符号位于平面 1 中。
17.1.2。代码单元的编码格式:UTF-32,UTF-16,UTF-8
让我们介绍将代码点编码为代码单元的三种方法。
17.1.2.1。 UTF-32(Unicode 转换格式 32)
UTF-32 使用 32 位来存储代码单元,从而每个代码点产生一个代码单元。这种格式是唯一具有 _ 固定长度编码 _ 的格式(所有其他格式使用不同数量的代码单元来编码单个代码点)。
17.1.2.2。 UTF-16(Unicode 转换格式 16)
UTF-16 使用 16 位代码单元。它编码代码点如下:
BMP(Unicode 的前 16 位):以单个代码单位存储。
星体平面:从 Unicode 的 0x110000 字符数减去 BMP 的 0x10000 个字符数后,保留 0x100000 个字符(20 位)。这些存储在 BMP 中未占用的“漏洞”中:
- 最重要的 10 位(_ 领先代理 _):0xD800-0xDBFF
- 最低有效 10 位(_ 尾随代理 _):0xDC00-0xDFFF
因此,通过查看 UTF-16 代码单元,我们可以判断它是否是 BMP 字符,星体平面字符的第一部分(主要代理)或星体平面字符的最后部分(尾随代理)。
17.1.2.3。 UTF-8(Unicode 转换格式 8)
UTF-8 具有 8 位代码单元。它使用 1-4 个代码单元来编码代码点:
代码点 | 代码单位 |
---|---|
0000-007F | 0xxxxxxx(7 位) |
0080-07FF | 110xxxxx,10xxxxxx(5 + 6 位) |
0800-FFFF | 1110xxxx,10xxxxxx,10xxxxxx(4 + 6 + 6 位) |
10000-1FFFFF | 11110xxx,10xxxxxx,10xxxxxx,10xxxxxx(3 + 6 + 6 + 6 位) |
笔记:
- 每个代码单元的位前缀告诉我们:
- 它是一系列代码单元中的第一个吗?如果是,将跟随多少代码单元?
- 它是一系列代码单元中的第二个还是后来的?
- 0000-007F 范围内的字符映射与 ASCII 相同,这导致与旧软件的向后兼容性。
17.2。 Web 开发:UTF-16 和 UTF-8
对于 Web 开发,两种 Unicode 编码格式是相关的:UTF-16 和 UTF-8。
17.2.1。内部源代码:UTF-16
ECMAScript 规范在内部将源代码表示为 UTF-16。
17.2.2。字符串:UTF-16
JavaScript 字符串中的字符是 UTF-16 代码单元:
> const smiley = '\u{1f642}';
> smiley.length
2
> smiley === '\uD83D\uDE42' // code units
true
> smiley === '\u{1F642}' // code point
true
有关 Unicode 和字符串的更多信息,请参阅关于字符串一章的文本原子部分。
17.2.3。文件中的源代码:UTF-8
当 JavaScript 存储在.html
和.js
文件中时,编码几乎总是 UTF-8,这些天:
<!doctype html>
<html>
<head>
<meta charset="UTF-8">
···
17.3。 Grapheme 集群 - 真正的人物
一旦你考虑了世界上许多的书写系统,角色的概念就变得非常复杂。
一方面,代码点可以说代表 Unicode“字符”。
另一方面,存在 _ 石墨烯簇 _。字形簇最接近于屏幕或纸张上显示的符号。它被定义为“可水平分段的文本单元”。编码字素集群需要一个或多个代码点。
例如,一个家族的一个表情符号由 7 个代码点组成 - 其中 4 个是字形本身,它们由不可见的代码点连接起来:
另一个例子是标志表情符号:
有关更多信息,请参阅 Manish Goregaokar 的“让我们停止将意义归于代码点”。
参见测验应用程序。