UTF-8编码（来自百度百科）

Myth丶恋晨 2022-05-22 09:24 311阅读 0赞

## 发展历程 ##

在所有 [字符集][Link 1]中，最知名的可能要数被称为 [ASCII][]的7位字符集了。它是 [美国标准信息交换代码][Link 2]（American Standard Code for Information Interchange）的缩写, 为美国英语通信所设计。它由128个 [字符][Link 3]组成，包括大小写字母、数字0-9、标点符号、非 [打印][Link 4]字符（换行符、 [制表符][Link 5]等4个）以及 [控制字符][Link 6]（退格、响铃等）组成。

但是，由于他是针对英语设计的，当处理带有音调标号（形如汉语的拼音）的亚洲文字时就会出现问题。因此，创建出了一些包括255个字符的由ASCII扩展的字符集。其中有一种通常被称为IBM字符集，它把值为128-255之间的字符用于画图和画线，以及一些特殊的欧洲字符。另一种8位字符集是 [ISO 8859-1][]Latin 1，也简称为ISOLatin-1。它把位于128-255之间的 [字符][Link 3]用于拉丁字母表中特殊语言字符的编码，也因此而得名。欧洲语言不是地球上的唯一语言，因此亚洲和非洲语言并不能被8位 [字符集][Link 1]所支持。仅汉语字母表（或pictograms）就有80000以上个 [字符][Link 3]。但是把汉语、日语和越南语的一些相似的字符结合起来，在不同的语言里，使不同的字符代表不同的字，这样只用2个 [字节][Link 7]就可以编码地球上几乎所有地区的文字。因此，创建了 [UNICODE][]编码。它通过增加一个高字节对ISO Latin-1字符集进行扩展，当这些高字节位为0时，低字节就是ISO Latin-1字符。UNICODE支持欧洲、非洲、中东、亚洲（包括统一标准的东亚象形汉字和韩国表音文字）。但是，UNICODE并没有提供对诸如Braille, [Cherokee][], Ethiopic, Khmer, Mongolian, Hmong, Tai Lu, Tai Mau文字的支持。同时它也不支持如Ahom, Akkadian, Aramaic,  [Babylonian][]Cuneiform, Balti, Brahmi, Etruscan, Hittite, Javanese, Numidian, Old Persian Cuneiform, Syrian之类的古老文字。

事实证明，对可以用 [ASCII][]表示的 [字符][Link 3]使用UNICODE并不高效，因为UNICODE比ASCII占用大一倍的空间，而对ASCII来说高 [字节][Link 7]的0对他毫无用处。为了解决这个问题，就出现了一些中间格式的 [字符集][Link 1]，他们被称为通用转换格式，即 [UTF][]（Unicode Transformation Format）。常见的UTF格式有：UTF-7, UTF-7.5, UTF-8, [UTF-16][], 以及  [UTF-32][]。

## 字符集 ##

编辑

如果UNICODE [字符][Link 3]由2个 [字节][Link 7]表示，则编码成UTF-8很可能需要3个字节。而如果UNICODE字符由4个字节表示，则编码成UTF-8可能需要6个字节。用4个或6个字节去编码一个UNICODE字符可能太多了，但很少会遇到那样的UNICODE字符。

UTF-8编码规则：如果只有一个字节则其最高二进制位为0；如果是多字节，其第一个字节从最高位开始，连续的二进制位值为1的个数决定了其编码的字节数，其余各字节均以10开头。UTF-8转换表表示如下：

<table style="border-spacing:0px;margin:5px 0px;font-size:12px;line-height:22px;color:rgb(0,0,0);font-family:arial, '宋体', sans-serif;background-color:rgb(255,255,255);"> 
 <tbody> 
  <tr> 
   <td align="left" style="margin:0px;padding:2px 10px;font-size:12px;height:22px;border-color:rgb(230,230,230);"> 
    <div style="color:rgb(51,51,51);margin:0px;line-height:24px;height:auto;"> 
     <span style="font-weight:700;">Unicode/UCS-4</span> 
    </div></td> 
   <td align="left" style="margin:0px;padding:2px 10px;font-size:12px;height:22px;border-color:rgb(230,230,230);"> 
    <div style="color:rgb(51,51,51);margin:0px;line-height:24px;height:auto;">
      bit数 
    </div></td> 
   <td align="left" style="margin:0px;padding:2px 10px;font-size:12px;height:22px;border-color:rgb(230,230,230);"> 
    <div style="color:rgb(51,51,51);margin:0px;line-height:24px;height:auto;"> 
     <span style="font-weight:700;">UTF-8</span> 
    </div></td> 
   <td align="left" style="margin:0px;padding:2px 10px;font-size:12px;height:22px;border-color:rgb(230,230,230);"> 
    <div style="color:rgb(51,51,51);margin:0px;line-height:24px;height:auto;">
      byte数 
    </div></td> 
   <td align="left" style="margin:0px;padding:2px 10px;font-size:12px;height:22px;border-color:rgb(230,230,230);"> 
    <div style="color:rgb(51,51,51);margin:0px;line-height:24px;height:auto;">
      备注 
    </div></td> 
  </tr> 
  <tr> 
   <td align="left" style="margin:0px;padding:2px 10px;font-size:12px;height:22px;border-color:rgb(230,230,230);"> 
    <div style="color:rgb(51,51,51);margin:0px;line-height:24px;height:auto;">
      0000 ~ 
    </div> 
    <div style="color:rgb(51,51,51);margin:0px;line-height:24px;height:auto;">
      007F 
    </div></td> 
   <td align="left" style="margin:0px;padding:2px 10px;font-size:12px;height:22px;border-color:rgb(230,230,230);"> 
    <div style="color:rgb(51,51,51);margin:0px;line-height:24px;height:auto;">
      0~7 
    </div></td> 
   <td align="left" style="margin:0px;padding:2px 10px;font-size:12px;height:22px;border-color:rgb(230,230,230);"> 
    <div style="color:rgb(51,51,51);margin:0px;line-height:24px;height:auto;"> 
     <span style="font-weight:700;">0</span>XXX XXXX 
    </div></td> 
   <td align="left" style="margin:0px;padding:2px 10px;font-size:12px;height:22px;border-color:rgb(230,230,230);"> 
    <div style="color:rgb(51,51,51);margin:0px;line-height:24px;height:auto;">
      1 
    </div></td> 
   <td align="left" style="margin:0px;padding:2px 10px;font-size:12px;height:22px;border-color:rgb(230,230,230);">&nbsp;</td> 
  </tr> 
  <tr> 
   <td align="left" style="margin:0px;padding:2px 10px;font-size:12px;height:22px;border-color:rgb(230,230,230);"> 
    <div style="color:rgb(51,51,51);margin:0px;line-height:24px;height:auto;">
      0080 ~ 
    </div> 
    <div style="color:rgb(51,51,51);margin:0px;line-height:24px;height:auto;">
      07FF 
    </div></td> 
   <td align="left" style="margin:0px;padding:2px 10px;font-size:12px;height:22px;border-color:rgb(230,230,230);"> 
    <div style="color:rgb(51,51,51);margin:0px;line-height:24px;height:auto;">
      8~11 
    </div></td> 
   <td align="left" style="margin:0px;padding:2px 10px;font-size:12px;height:22px;border-color:rgb(230,230,230);"> 
    <div style="color:rgb(51,51,51);margin:0px;line-height:24px;height:auto;"> 
     <span style="font-weight:700;">110</span>X XXXX 
    </div> 
    <div style="color:rgb(51,51,51);margin:0px;line-height:24px;height:auto;"> 
     <span style="font-weight:700;">10</span>XX XXXX 
    </div></td> 
   <td align="left" style="margin:0px;padding:2px 10px;font-size:12px;height:22px;border-color:rgb(230,230,230);"> 
    <div style="color:rgb(51,51,51);margin:0px;line-height:24px;height:auto;">
      2 
    </div></td> 
   <td align="left" style="margin:0px;padding:2px 10px;font-size:12px;height:22px;border-color:rgb(230,230,230);">&nbsp;</td> 
  </tr> 
  <tr> 
   <td align="left" style="margin:0px;padding:2px 10px;font-size:12px;height:22px;border-color:rgb(230,230,230);"> 
    <div style="color:rgb(51,51,51);margin:0px;line-height:24px;height:auto;">
      0800 ~ 
    </div> 
    <div style="color:rgb(51,51,51);margin:0px;line-height:24px;height:auto;">
      FFFF 
    </div></td> 
   <td align="left" style="margin:0px;padding:2px 10px;font-size:12px;height:22px;border-color:rgb(230,230,230);"> 
    <div style="color:rgb(51,51,51);margin:0px;line-height:24px;height:auto;">
      12~16 
    </div></td> 
   <td align="left" style="margin:0px;padding:2px 10px;font-size:12px;height:22px;border-color:rgb(230,230,230);"> 
    <div style="color:rgb(51,51,51);margin:0px;line-height:24px;height:auto;"> 
     <span style="font-weight:700;">1110</span>XXXX 
    </div> 
    <div style="color:rgb(51,51,51);margin:0px;line-height:24px;height:auto;"> 
     <span style="font-weight:700;">10</span>XX XXXX 
    </div> 
    <div style="color:rgb(51,51,51);margin:0px;line-height:24px;height:auto;"> 
     <span style="font-weight:700;">10</span>XX XXXX 
    </div></td> 
   <td align="left" style="margin:0px;padding:2px 10px;font-size:12px;height:22px;border-color:rgb(230,230,230);"> 
    <div style="color:rgb(51,51,51);margin:0px;line-height:24px;height:auto;">
      3 
    </div></td> 
   <td align="left" style="margin:0px;padding:2px 10px;font-size:12px;height:22px;border-color:rgb(230,230,230);"> 
    <div style="color:rgb(51,51,51);margin:0px;line-height:24px;height:auto;">
      基本定义范围：0~FFFF 
    </div></td> 
  </tr> 
  <tr> 
   <td align="left" style="margin:0px;padding:2px 10px;font-size:12px;height:22px;border-color:rgb(230,230,230);"> 
    <div style="color:rgb(51,51,51);margin:0px;line-height:24px;height:auto;">
      1 0000 ~ 
    </div> 
    <div style="color:rgb(51,51,51);margin:0px;line-height:24px;height:auto;">
      1F FFFF 
    </div></td> 
   <td align="left" style="margin:0px;padding:2px 10px;font-size:12px;height:22px;border-color:rgb(230,230,230);"> 
    <div style="color:rgb(51,51,51);margin:0px;line-height:24px;height:auto;">
      17~21 
    </div></td> 
   <td align="left" style="margin:0px;padding:2px 10px;font-size:12px;height:22px;border-color:rgb(230,230,230);"> 
    <div style="color:rgb(51,51,51);margin:0px;line-height:24px;height:auto;"> 
     <span style="font-weight:700;">1111 0</span>XXX 
    </div> 
    <div style="color:rgb(51,51,51);margin:0px;line-height:24px;height:auto;"> 
     <span style="font-weight:700;">10</span>XX XXXX 
    </div> 
    <div style="color:rgb(51,51,51);margin:0px;line-height:24px;height:auto;"> 
     <span style="font-weight:700;">10</span>XX XXXX 
    </div> 
    <div style="color:rgb(51,51,51);margin:0px;line-height:24px;height:auto;"> 
     <span style="font-weight:700;">10</span>XX XXXX 
    </div></td> 
   <td align="left" style="margin:0px;padding:2px 10px;font-size:12px;height:22px;border-color:rgb(230,230,230);"> 
    <div style="color:rgb(51,51,51);margin:0px;line-height:24px;height:auto;">
      4 
    </div></td> 
   <td align="left" style="margin:0px;padding:2px 10px;font-size:12px;height:22px;border-color:rgb(230,230,230);"> 
    <div style="color:rgb(51,51,51);margin:0px;line-height:24px;height:auto;">
      Unicode6.1定义范围：0~10 FFFF 
    </div></td> 
  </tr> 
  <tr> 
   <td align="left" style="margin:0px;padding:2px 10px;font-size:12px;height:22px;border-color:rgb(230,230,230);"> 
    <div style="color:rgb(51,51,51);margin:0px;line-height:24px;height:auto;">
      20 0000 ~ 
    </div> 
    <div style="color:rgb(51,51,51);margin:0px;line-height:24px;height:auto;">
      3FF FFFF 
    </div></td> 
   <td align="left" style="margin:0px;padding:2px 10px;font-size:12px;height:22px;border-color:rgb(230,230,230);"> 
    <div style="color:rgb(51,51,51);margin:0px;line-height:24px;height:auto;">
      22~26 
    </div></td> 
   <td align="left" style="margin:0px;padding:2px 10px;font-size:12px;height:22px;border-color:rgb(230,230,230);"> 
    <div style="color:rgb(51,51,51);margin:0px;line-height:24px;height:auto;"> 
     <span style="font-weight:700;">1111 10</span>XX 
    </div> 
    <div style="color:rgb(51,51,51);margin:0px;line-height:24px;height:auto;"> 
     <span style="font-weight:700;">10</span>XX XXXX 
    </div> 
    <div style="color:rgb(51,51,51);margin:0px;line-height:24px;height:auto;"> 
     <span style="font-weight:700;">10</span>XX XXXX 
    </div> 
    <div style="color:rgb(51,51,51);margin:0px;line-height:24px;height:auto;"> 
     <span style="font-weight:700;">10</span>XX XXXX 
    </div> 
    <div style="color:rgb(51,51,51);margin:0px;line-height:24px;height:auto;"> 
     <span style="font-weight:700;">10</span>XX XXXX 
    </div></td> 
   <td align="left" style="margin:0px;padding:2px 10px;font-size:12px;height:22px;border-color:rgb(230,230,230);"> 
    <div style="color:rgb(51,51,51);margin:0px;line-height:24px;height:auto;">
      5 
    </div></td> 
   <td align="left" colspan="1" style="margin:0px;padding:2px 10px;font-size:12px;height:22px;border-color:rgb(230,230,230);"> 
    <div style="color:rgb(51,51,51);margin:0px;line-height:24px;height:auto;">
      说明：此非unicode编码范围，属于UCS-4 编码 
    </div> 
    <div style="color:rgb(51,51,51);margin:0px;line-height:24px;height:auto;">
      早期的规范UTF-8可以到达6字节序列，可以覆盖到31位元（通用字符集原来的极限）。尽管如此，2003年11月UTF-8 被 RFC 3629 重新规范，只能使用原来Unicode定义的区域， U+0000到U+10FFFF。根据规范，这些字节值将无法出现在合法 UTF-8序列中 
    </div></td> 
  </tr> 
  <tr> 
   <td align="left" style="margin:0px;padding:2px 10px;font-size:12px;height:22px;border-color:rgb(230,230,230);"> 
    <div style="color:rgb(51,51,51);margin:0px;line-height:24px;height:auto;">
      400 0000 ~ 
    </div> 
    <div style="color:rgb(51,51,51);margin:0px;line-height:24px;height:auto;">
      7FFF FFFF 
    </div></td> 
   <td align="left" style="margin:0px;padding:2px 10px;font-size:12px;height:22px;border-color:rgb(230,230,230);"> 
    <div style="color:rgb(51,51,51);margin:0px;line-height:24px;height:auto;">
      27~31 
    </div></td> 
   <td align="left" style="margin:0px;padding:2px 10px;font-size:12px;height:22px;border-color:rgb(230,230,230);"> 
    <div style="color:rgb(51,51,51);margin:0px;line-height:24px;height:auto;"> 
     <span style="font-weight:700;">1111 110</span>X 
    </div> 
    <div style="color:rgb(51,51,51);margin:0px;line-height:24px;height:auto;"> 
     <span style="font-weight:700;">10</span>XX XXXX 
    </div> 
    <div style="color:rgb(51,51,51);margin:0px;line-height:24px;height:auto;"> 
     <span style="font-weight:700;">10</span>XX XXXX 
    </div> 
    <div style="color:rgb(51,51,51);margin:0px;line-height:24px;height:auto;"> 
     <span style="font-weight:700;">10</span>XX XXXX 
    </div> 
    <div style="color:rgb(51,51,51);margin:0px;line-height:24px;height:auto;"> 
     <span style="font-weight:700;">10</span>XX XXXX 
    </div> 
    <div style="color:rgb(51,51,51);margin:0px;line-height:24px;height:auto;"> 
     <span style="font-weight:700;">10</span>XX XXXX 
    </div></td> 
   <td align="left" style="margin:0px;padding:2px 10px;font-size:12px;height:22px;border-color:rgb(230,230,230);"> 
    <div style="color:rgb(51,51,51);margin:0px;line-height:24px;height:auto;">
      6 
    </div></td> 
  </tr> 
 </tbody> 
</table>

实际表示ASCII [字符][Link 3]的UNICODE字符，将会编码成1个 [字节][Link 7]，并且UTF-8表示与ASCII字符表示是一样的。所有其他的UNICODE字符转化成UTF-8将需要至少2个字节。每个字节由一个 [换码序列][Link 8]开始。第一个字节由唯一的换码序列，由n位连续的1加一位0组成, 首字节连续的1的个数表示 [字符编码][Link 9]所需的字节数。

Unicode转换为UTF-8时，可以将Unicode二进制从低位往高位取出二进制数字，每次取6位，如上述的二进制就可以分别取出为如下示例所示的格式，前面按格式填补，不足8位用0填补。

注：Unicode转换为UTF-8需要的字节数可以根据这个规则计算：如果Unicode小于0X80（Ascii字符），则转换后为1个字节。否则转换后的字节数为Unicode二进制位数减1再除以5。

示例

UNICODE uCA(1100 1010) 编码成UTF-8将需要2个 [字节][Link 7]：

uCA -> C3 8A， 过程如下：

uCA(1100 1010)处于0080 ~07FF之间，从上文中的转换表可知对其编码需要2bytes，即两个字节，其对 应 UTF-8格式为： 110X XXXX10XX XXXX。从此格式中可以看到，对其编码还需要11位，而uCA(1100 1010)仅有8位，这时需要在其二进制数前补0凑成11位: 000 1100 1010, 依次填入110X XXXX 10XX XXXX的空位中， 即得 1100 0011 1000 1010（C38A）。

同理，UNICODE uF03F (1111 0000 0011 1111) 编码成UTF-8将需要3个字节:

u F03F -> EF 80 BF，对应格式为：1110XXXX10XX XXXX10XX XXXX，编码还需要16位，将1111 0000 0011 1111(F03F)依次填入，可得 1110 1111 1000 0000 1011 1111（EF 80 BF）。

## 优缺点 ##

编辑

### 优点 ###

UTF-8编码可以通过屏蔽位和 [移位][Link 10]操作快速读写。 [字符][Link 3]串比较时strcmp()和 [wcscmp][]()的返回结果相同，因此使排序变得更加容易。 [字节][Link 7]FF和FE在UTF-8编码中永远不会出现，因此他们可以用来表明UTF-16或UTF-32文本（见BOM） UTF-8 是 [字节顺序][Link 11]无关的。它的字节顺序在所有系统中都是一样的，因此它实际上并不需要BOM。

### 缺点 ###

你无法从UNICODE [字符][Link 3]数判断出UTF-8文本的 [字节][Link 7]数，因为UTF-8是一种 [变长编码][Link 12]它需要用2个字节编码那些用 [扩展ASCII][ASCII 1] [字符集][Link 1]只需1个字节的字符 ISO Latin-1 是UNICODE的 [子集][Link 13]，但不是UTF-8的子集 8位字符的UTF-8编码会被email网关过滤，因为internet信息最初设计为7位ASCII码。因此产生了UTF-7编码。 UTF-8 在它的表示中使用值100xxxxx的几率超过50%， 而现存的实现如ISO 2022， 4873， 6429， 和8859系统，会把它错认为是C1 控制码。因此产生了UTF-7.5编码。

## 修正更新 ##

编辑

[java][]使用UTF-16表示内部文本，并支持用于 [字符][Link 3]串 [串行化][Link 14]的非标准的修正UTF-8编码。

[![UTF-8保存使用][UTF-8]][UTF-8_UTF-8] UTF-8保存使用

标准UTF-8和修正的UTF-8有两点不同：

修正的UTF-8中，null [字符编码][Link 9]成2个 [字节][Link 7]（1100000010000000）而不是标准的1个字节（00000000），这样作可以保证编码后的字符串中不会嵌入null字符。因此如果在 [类C语言][C]中处理 [字符][Link 3]串，文本不会在第一个null字符时截断（C字符串以'\\0'结尾）。

在标准UTF-8编码中，超出基本多语言范围（BMP-Basic Multilingual Plane）的字符被编码为4字节格式，但是在修正的UTF-8编码中，他们由 [代理][Link 15]编码对（surrogatepairs）表示，然后这些代理编码对在序列中分别重新编码。结果标准UTF-8编码中需要4个 [字节][Link 7]的字符，在修正后的UTF-8编码中将需要6个字节。

[Link 1]: https://baike.baidu.com/item/%E5%AD%97%E7%AC%A6%E9%9B%86
[ASCII]: https://baike.baidu.com/item/ASCII
[Link 2]: https://baike.baidu.com/item/%E7%BE%8E%E5%9B%BD%E6%A0%87%E5%87%86%E4%BF%A1%E6%81%AF%E4%BA%A4%E6%8D%A2%E4%BB%A3%E7%A0%81
[Link 3]: https://baike.baidu.com/item/%E5%AD%97%E7%AC%A6
[Link 4]: https://baike.baidu.com/item/%E6%89%93%E5%8D%B0
[Link 5]: https://baike.baidu.com/item/%E5%88%B6%E8%A1%A8%E7%AC%A6
[Link 6]: https://baike.baidu.com/item/%E6%8E%A7%E5%88%B6%E5%AD%97%E7%AC%A6
[ISO 8859-1]: https://baike.baidu.com/item/ISO%208859-1
[Link 7]: https://baike.baidu.com/item/%E5%AD%97%E8%8A%82
[UNICODE]: https://baike.baidu.com/item/UNICODE
[Cherokee]: https://baike.baidu.com/item/Cherokee/61025
[Babylonian]: https://baike.baidu.com/item/Babylonian
[UTF]: https://baike.baidu.com/item/UTF
[UTF-16]: https://baike.baidu.com/item/UTF-16
[UTF-32]: https://baike.baidu.com/item/UTF-32
[Link 8]: https://baike.baidu.com/item/%E6%8D%A2%E7%A0%81%E5%BA%8F%E5%88%97
[Link 9]: https://baike.baidu.com/item/%E5%AD%97%E7%AC%A6%E7%BC%96%E7%A0%81
[Link 10]: https://baike.baidu.com/item/%E7%A7%BB%E4%BD%8D
[wcscmp]: https://baike.baidu.com/item/wcscmp
[Link 11]: https://baike.baidu.com/item/%E5%AD%97%E8%8A%82%E9%A1%BA%E5%BA%8F
[Link 12]: https://baike.baidu.com/item/%E5%8F%98%E9%95%BF%E7%BC%96%E7%A0%81
[ASCII 1]: https://baike.baidu.com/item/%E6%89%A9%E5%B1%95ASCII
[Link 13]: https://baike.baidu.com/item/%E5%AD%90%E9%9B%86
[java]: https://baike.baidu.com/item/java/85979
[Link 14]: https://baike.baidu.com/item/%E4%B8%B2%E8%A1%8C%E5%8C%96
[UTF-8]: http://g.hiphotos.baidu.com/baike/s%3D220/sign=35f68574510fd9f9a417526b152dd42b/8c1001e93901213f6600e4d454e736d12f2e9583.jpg
[UTF-8_UTF-8]: /images/20220522/d6660ff6d88140e288bfd956d0b6b4aa.png
[C]: https://baike.baidu.com/item/%E7%B1%BBC%E8%AF%AD%E8%A8%80
[Link 15]: https://baike.baidu.com/item/%E4%BB%A3%E7%90%86