JAVA及相关字符集编码问题研究.docVIP

JAVA及相关字符集编码问题研究 关于JAVA学习者们，或多或少都会遇到这样的问题：编码基本知识，java，系统软件，url，工具软件等。下面本文将针对以上几点问题进行描述讨论，我们就以“中文”两个字为例来说明，查找相关资料可知“中文”的GB2312编码是“d6d0 cec4”，为Unicode编码为4e2d 6587，UTF编码就是e4b8ad e69687。（注意，“中文”这两个字没有iso8859-1编码，但可以用iso8859-1编码来表示）。一、编码基本知识：最早的编码是iso8859-1，和ascii编码相似。但为了方便表示各种各样的语言，逐渐出现了很多标准编码，重要的有如下几个:1. iso8859-1属于单字节编码，最多能表示的字符范围是0-255，应用于英文系列。比如，字母a的编码为0x61=97。很明显，iso8859-1编码表示的字符范围很窄，无法表示中文字符。但是，由于是单字节编码，和计算机最基础的表示单位一致，所以很多时候，仍旧使用iso8859-1编码来表示。而且在很多协议上，默认使用该编码。比如，虽然中文两个字不存在iso8859-1编码，以gb2312编码为例，应该是d6d0 cec4两个字符，使用iso8859-1编码的时候则将它拆开为4个字节来表示：d6 d0 ce c4（事实上，在进行存储的时候，也是以字节为单位处理的）。而如果是UTF编码，则是6个字节e4 b8 ad e6 96 87。很明显，这种表示方法还需要以另一种编码为基础。2. GB2312/GBK这就是汉子的国标码，专门用来表示汉字，是双字节编码，而英文字母和iso8859-1一致（兼容iso8859-1编码）。其中gbk编码能够用来同时表示繁体字和简体字，而gb2312只能表示简体字，gbk是兼容gb2312编码的。3. unicode这是最统一的编码，可以用来表示所有语言的字符，而且是定长双字节（也有四字节的）编码，包括英文字母在内。所以可以说它是不兼容iso8859-1编码的，也不兼容任何编码。不过，相对于iso8859-1编码来说，uniocode编码只是在前面增加了一个0字节，比如字母a为00 61。需要说明的是，定长编码便于计算机处理（注意GB2312/GBK不是定长编码），而unicode又可以用来表示所有字符，所以在很多软件内部是使用unicode编码来处理的，比如java。4. UTF考虑到unicode编码不兼容iso8859-1编码，而且容易占用更多的空间：因为对于英文字母，unicode也需要两个字节来表示。所以unicode不便于传输和存储。因此而产生了utf编码，utf编码兼容iso8859-1编码，同时也可以用来表示所有语言的字符，不过，utf编码是不定长编码，每一个字符的长度从1-6个字节不等。另外，utf编码自带简单的校验功能。一般来讲，英文字母都是用一个字节表示，而汉字使用三个字节。注意，虽然说utf是为了使用更少的空间而使用的，但那只是相对于unicode编码来说，如果已经知道是汉字，则使用GB2312/GBK无疑是最节省的。不过另一方面，值得说明的是，虽然utf编码对汉字使用3个字节，但即使对于汉字网页，utf编码也会比unicode编码节省，因为网页中包含了很多的英文字符。 二、java对字符的处理在编写java应用程序中，会有多处涉及到字符集编码，有些地方需要进行正确的设置，有些地方需要进行一定程度的处理。1. getBytes(charset)这是java字符串处理的一个标准函数，其作用是将字符串所表示的字符按照charset编码，并以字节方式表示。注意字符串在java内存中总是按unicode编码存储的。比如中文，正常情况下（即没有错误的时候）存储为4e2d 6587，如果charset为gbk，则被编码为d6d0 cec4，然后返回字节d6 d0 ce c4。如果charset为utf8则最后是e4 b8 ad e6 96 87。如果是iso8859-1，则由于无法编码，最后返回 3f 3f（注： 3f 3f是两个问号）。2. new String(charset)这是java字符串处理的另一个标准函数，和上一个函数的作用相反，将字节数组按照charset编码进行组合识别，最后转换为unicode存储。参考上述getBytes的例子，gbk 和utf8都可以得出正确的结果4e2d 6587，但iso8859-1最后变成了003f 003f（两个问号）。因为utf8可以用来表示/编码所有字符，所以new String( str.getBytes( utf8 ),