字符编码小知识
ASCII
ASCII码是 7位编码,编码范围是 0×00-0×7F。ASCII字符集包括英文字母、阿拉伯数字和标点符
号等字符。其中 0×00-0×20和 0×7F共 33个控制字符。
只支持 ASCII码的系统会忽略每个字节的最高位,只认为低 7位是有效位。HZ字符编码就是早期
为了在只支持 7位 ASCII系统中传输中文而设计的编码。早期很多邮件系统也只支持 ASCII编码,
为了传输中文邮件必须使用 BASE64或者其他编码方式。
GB2312
GB2312是基于区位码设计的,区位码把编码表分为 94个...
ASCII
ASCII码是 7位编码,编码范围是 0×00-0×7F。ASCII字符集包括英文字母、阿拉伯数字和标点符
号等字符。其中 0×00-0×20和 0×7F共 33个控制字符。
只支持 ASCII码的系统会忽略每个字节的最高位,只认为低 7位是有效位。HZ字符编码就是早期
为了在只支持 7位 ASCII系统中传输中文而设计的编码。早期很多邮件系统也只支持 ASCII编码,
为了传输中文邮件必须使用 BASE64或者其他编码方式。
GB2312
GB2312是基于区位码设计的,区位码把编码
分为 94个区,每个区对应 94个位,每个字符的区
号和位号组合起来就是该汉字的区位码。区位码一般用 10进制数来表示,如 1601就表示 16区 1
位,对应的字符是“啊”。在区位码的区号和位号上分别加上 0xA0就得到了 GB2312编码。
区位码中 01-09区是符号、数字区,16-87区是汉字区,10-15和 88-94是未定义的空白区。它将
收录的汉字分成两级:第一级是常用汉字计 3755个,置于 16-55区,按汉语拼音字母/笔形顺序
排列;第二级汉字是次常用汉字计 3008个,置于 56-87区,按部首/笔画顺序排列。一级汉字是
按照拼音排序的,这个就可以得到某个拼音在一级汉字区位中的范围,很多根据汉字可以得到拼
音的程序就是根据这个原理编写的。
GB2312字符集中除常用简体汉字字符外还包括希腊字母、日文平假名及片假名字母、俄语西里尔
字母等字符,未收录繁体中文汉字和一些生僻字。可以用繁体汉字测试某些系统是不是只支持
GB2312编码。
GB2312的编码范围是 0xA1A1-0×7E7E,去掉未定义的区域之后可以理解为实际编码范围是
0xA1A1-0xF7FE。
EUC-CN可以理解为 GB2312的别名,和 GB2312完全相同。
区位码更应该认为是字符集的定义,定义了所收录的字符和字符位置,而 GB2312及 EUC-CN是实
际计算机环境中支持这种字符集的编码。HZ和 ISO- 2022-CN是对应区位码字符集的另外两种编码,
都是用 7位编码空间来支持汉字。区位码和 GB2312编码的关系有点像 Unicode和 UTF-8。
GBK
GBK编码是 GB2312编码的超集,向下完全兼容 GB2312,同时 GBK收录了 Unicode基本多文种平
面中的所有 CJK汉字。同 GB2312一样,GBK也支持希腊字母、日文假名字母、俄语字母等字符,
但不支持韩语中的表音字符(非汉字字符)。GBK还收录了 GB2312不包含的汉字部首符号、竖
排标点符号等字符。
GBK的整体编码范围是为 0×8140-0xFEFE,不包括低字节是 0×7F的组合。高字节范围是 0×81-
0xFE,低字节范围是 0×40-7E和 0×80-0xFE。
低字节是 0×40-0×7E的 GBK字符有一定特殊性,因为这些字符占用了 ASCII码的位置,这样会
给一些系统带来麻烦。
有些系统中用 0×40-0×7E中的字符(如“|”)做特殊符号,在定位这些符号时又没有判断这些
符号是不是属于某个 GBK字符的低字节,这样就会造成错误判断。在支持 GB2312的环境下就不
存在这个问题。需要注意的是支持 GBK的环境中小于 0×80的某个字节未必就是 ASCII符号;另
外就是最好选用小于 0×40的 ASCII符号做一些特殊符号,这样就可以快速定位,且不用担心是
某个汉字的另一半。Big5编码中也存在相应问题。
CP936和 GBK的有些许差别,绝大多数情况下可以把 CP936当作 GBK的别名。
GB18030
GB18030编码向下兼容 GBK和 GB2312,兼容的含义是不仅字符兼容,而且相同字符的编码也相
同。GB18030收录了所有 Unicode3.1中的字符,包括中国少数民族字符,GBK不支持的韩文字符
等等,也可以说是世界大多民族的文字符号都被收录在内。
GBK和 GB2312都是双字节等宽编码,如果算上和 ASCII兼容所支持的单字节,也可以理解为是单
字节和双字节混合的变长编码。GB18030 编码是变长编码,有单字节、双字节和四字节三种方式。
GB18030的单字节编码范围是 0×00-0×7F,完全等同与 ASCII;双字节编码的范围和 GBK相同,
高字节是 0×81-0xFE,低字节的编码范围是 0×40-0×7E和 0×80-FE;四字节编码中第一、三字
节的编码范围是 0×81-0xFE,二、四字节是 0×30-0×39。
Windows中 CP936代码页使用 0×80来表示欧元符号,而在 GB18030编码中没有使用 0×80编码
位,用其他位置来表示欧元符号。这可以理解为是 GB18030向下兼容性上的一点小问题;也可以
理解为 0×80是 CP936对 GBK的扩展,而 GB18030只是和 GBK兼容良好。
Unicode
每一种语言的不同的编码页,增加了那些需要支持不同语言的软件的复杂度。因而人们制定了一
个世界
,叫做 unicode。unicode为每个字符提供了唯一的特定数值,不论在什么平台上、不
论在什么软件中,也不论什么语言。也就是说,它世界上使用的所有字符都列出来,并给每一个
字符一个唯一特定数值。
Unicode的最初目标,是用 1个 16位的编码来为超过 6500
符提供映射。但这还不够,它不能
覆盖全部历史上的文字,也不能解决传输的问题 (implantation head-ache’s),尤其在那些基于网
络的应用中。已有的软件必须做大量的工作来程序 16位的数据。
因此,Unicode 用一些基本的保留字符制定了三套编码方式。它们分别是 UTF-8,UTF-16 和 UTF-32。
正如名字所示,在 UTF-8 中,字符是以 8 位序列来编码的,用一个或几个字节来表示一个字符。
这种方式的最大好处,是 UTF-8保留了 ASCII字符的编码做为它的一部分,例如,在 UTF-8和
ASCII中,“A”的编码都是 0×41.
UTF-16和 UTF-32分别是 Unicode的 16位和 32位编码方式。考虑到最初的目的,通常说的
Unicode就是指 UTF-16。在讨论 Unicode时,搞清楚哪种编码方式非常重要。
【进一步阅读】http://baike.baidu.com/view/40801.htm
UTF-8
Unicode Transformation Format-8bit,允许含 BOM,但通常不含 BOM。是用以解决国际上字符的
一种多字节编码,它对英文使用 8位(即一个字节),中文使用 24为(三个字节)来编码。UTF-
8包含全世界所有国家需要用到的字符,是国际编码,通用性强。UTF-8编码的文字可以在各国支
持 UTF8字符集的浏览器上显示。如,如果是 UTF8编码,则在外国人的英文 IE上也能显示中文,
他们无需下载 IE的中文语言支持包。
GBK 的文字编码是用双字节来表示的,即不论中、英文字符均使用双字节来表示,为了区分中文,
将其最高位都设定成 1。GBK包含全部中文字符,是国家编码,通用性比 UTF8差,不过 UTF8占
用的数据库比 GBD大。
GBK、GB2312等与 UTF8之间都必须通过 Unicode编码才能相互转换:
GBK、GB2312--Unicode--UTF8
UTF8--Unicode--GBK、GB2312
对于一个网站、论坛来说,如果英文字符较多,则建议使用 UTF-8节省空间。不过现在很多论
坛的插件一般只支持 GBK。
ASCII
GB2312
GBK
GB18030
Unicode
UTF-8
本文档为【字符编码小知识】,请使用软件OFFICE或WPS软件打开。作品中的文字与图均可以修改和编辑,
图片更改请在作品中右键图片并更换,文字修改请直接点击文字进行修改,也可以新增和删除文档中的内容。
[版权声明] 本站所有资料为用户分享产生,若发现您的权利被侵害,请联系客服邮件isharekefu@iask.cn,我们尽快处理。
本作品所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用。
网站提供的党政主题相关内容(国旗、国徽、党徽..)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。