會員登錄 - 用戶注冊 - 網站地圖 Office中國(office-cn.net),專業(yè)Office論壇
當前位置:主頁 > 技巧 > Access技巧 > 編程心得絕招 > 經驗泛談 > 正文

UTF-8編碼研究

時間:2005-04-20 12:09 來源:blueidea 作者:蕭蕭小雨 閱讀:
這幾天研究UTF-8編碼,太暈了,把我的看法和各位討論討論。
歡迎來批啊。以下都是我的想法,哪里有不對的請不吝賜教,幫忙指出來。
==========================================================
相關的題外話:
一、操作系統(tǒng)
window系統(tǒng)內部都是unicode的。文件夾名,文件名等都是unicode的,任何語言系統(tǒng)下都能正常顯示。
二、輸入法:
微軟拼音輸出的是Unicode的,智能ABC輸出是簡體中文的(所以智能ABC在非簡體中文系統(tǒng)根本不能用,只能打英文)。
三、網頁的textarea
網頁的textarea是用unicode顯示的。所以往里打什么字都能顯示。而一些flash做的輸入框就不行了。
四、access2000
access里面保存的數(shù)據(jù)是unicode的,在任何語言系統(tǒng)下都能顯示。
如果數(shù)據(jù)視圖查看有些字符不正常,那是因為顯示所用的字體不是Unicode字體,
換用Arial Unicode MS 字體就能全部顯示了。(access幫助,搜索,輸入unicode,有說明)
五、Word
word里的繁簡轉換,簡體轉換到繁體后,內碼仍是簡體中文的,其實只是簡體中的繁體字。
六、ASP內部是Unicode的,所有文本都是Unicode存儲的。需要時轉換到指定字符集。
=======================================================
首先說下結論:
<%@ codepage=936%>簡體中文
<%@ codepage=950%>繁體中文
<%@ codepage=65001%>UTF-8

codepage指定了IIS按什么編碼讀取傳遞過來的串串(表單提交,地址欄傳遞等)。
也指定了所有文本變量從Unicode轉換到的編碼,
也就指定了從數(shù)據(jù)庫取出的數(shù)據(jù)從Unicode轉換到的編碼。(注意這個,很重要。)

關鍵字:
讀。阂粋串串,按簡體讀取是一些字,按繁體讀取是一些字,串串本身編碼沒有變。
轉換:系統(tǒng)主動的轉換,比如從Unicode的“化”字到Big5的“化”字,內碼變成Big5的。如果Big5沒有對應的字,保留Unicode形式(&#xxxx;)

簡體中文:化六個結論
Unicode16進制形式:&#x5316;&#x516d;&#x4e2a;&#x7ED3;&#x8bba;
Unicode10進制形式:&#21270;&#20845;&#20010;&#32467;&#35770;

下面是我推測出來的編碼轉換的過程:
客戶端:輸入法Unicode--輸入框unicode--從Unicode按charset轉換到對應編碼()--表單發(fā)送編碼

服務器端:IIS解開表單編碼--按codepage指定編碼讀取--轉換到對應的Unicode--可以用request("")讀取了--進行一些處理--以Unicode編碼保存到數(shù)據(jù)庫

服務器端:讀取數(shù)據(jù)庫的Unicode數(shù)據(jù),轉換到codepage指定編碼---生成源代碼--IE按charset讀取顯示。


下面舉例說明:
例一:
假設有三個asp頁面,典型的留言頁面:
1.    write.asp 簡單的輸入表單,提交到add.asp。
<META http-equiv="Content-Type" content="text/html; charset=big5">
2.    add.asp 接收留言,保存到數(shù)據(jù)庫
<%@ codepage=936%>
3.    read.asp 從數(shù)據(jù)庫取得留言,顯示。
<%@ codepage=936%> charset=GB2312 或
<%@ codepage=950%> charset=big5

大家可以猜一猜,我在write.asp里用微軟拼音輸入法輸入“化六個討論”。最后在read.asp里會顯示什么樣?
是不是暈了。讓我們從頭分析。

click for full size

例二:
把例一的add.asp的<%@ codepage=936%>改為<%@ codepage=950%>,又會怎么樣呢?

click for full size

到這里發(fā)現(xiàn)了什么?
1.如果輸入的文字和Charset對應的不同,一轉換,就可能出現(xiàn)Unicode形式的字了。這里就是原因所在。以后整個過程都保留著。
2.Add.asp里codepage決定了保存到數(shù)據(jù)庫的文字,用的是哪個語言對應的Unicode.如codepage=936,
那么數(shù)據(jù)庫保存的就是簡體中文的Unicode(數(shù)據(jù)庫拿回簡體中文系統(tǒng),一切正常的),
codepage=950保存的就是繁體中文的Unicode.(拿回簡體中文系統(tǒng),就不對了)。
3.注意一下串串的變化過程:
--------------------------------------------------------------------
1)    輸入法---Charset    Unicode----指定字符集的映射
2)    Charset----表單編碼    串串簡單編碼
3)    表單解碼    上步的逆過程,兩步抵消了。
4)    串串à按codepage讀取    串串沒變,這步有可能“誤會讀取”
5)    轉為對應的Unicode    Codepage指定字符集----Unicode映射
6)    中間處理,進數(shù)據(jù)庫    無變化,直接以Unicode形式進入
7)        
8)    按codepage讀取數(shù)據(jù)庫     Unicode----codepage指定字符集的映射
9)    顯示,按Charset指定字符集讀取    串串沒變。
-------------------------------------------------------------------------------
以例一說明:
click for full size

例二:
click for full size

=============================================
暈了。現(xiàn)在來用用知識。

案例1。
簡體中文系統(tǒng)下跑的好好的代碼,放到國外空間上,數(shù)據(jù)庫里亂碼,原有的數(shù)據(jù)也亂碼。
分析:因為大多數(shù)人平時用的都是簡體中文系統(tǒng),默認的codepage=936,所以平時大家不寫也沒有關系。
但到了國外空間問題就出來了。從數(shù)據(jù)庫里的Unicode轉換到英文編碼去了,所以數(shù)據(jù)庫原有的簡體中文轉換到英文后,按GB顯示自然亂碼。
如圖,新輸入的文字顯示正常,但數(shù)據(jù)庫里保存的是英文的Unicode的。
解決方法:全部加上<%@codepage=936即可%>。
全程只有簡體中文與對應Unicode間的轉換。

click for full size

案例二:
簡體中文的代碼和數(shù)據(jù),想轉為完全的繁體版,該怎么辦?
分析:1。代碼文件編碼全部改為Big5的,文件本身保存編碼選繁體。
2.<%@ codepage=936 %>
3.Charset=big5
4.access版本無所謂,因為access里的數(shù)據(jù)是Unicode的。
5.好了,代碼可以在純繁體系統(tǒng)下跑了。
6.遺留問題:原有的簡體中文數(shù)據(jù)讀出會有一些問號。效果同例一的950讀取,big5顯示。因為從簡體中文的Unicode轉換到繁體中文了,有些字繁體中沒有,就會出問號。
7.解決:用一個臨時asp頁,codepage=65001,讀出為簡體中文的Unicode,用一個Unicode->Big5的函數(shù),轉為繁體中文,然后寫回數(shù)據(jù)庫,應該行了吧?
案例三:
簡體中文的代碼和數(shù)據(jù)庫,想轉為完全的UTF-8版,怎么辦?
分析:1。代碼文件編碼全部改為UTF-8的,文件本身保存編碼選UTF8。
2.<%@ codepage=65001 %>
3.Charset=UTF-8
4.access版本無所謂,因為access里的數(shù)據(jù)是Unicode的。
5.OK,沒有任何遺留問題。原有的簡體中文也會正常顯示。因為數(shù)據(jù)庫里是Unicode的,按Unicode讀出沒有任何轉換。自然不會亂碼。看來轉到UTF-8還是很簡單的。
=============================================
案例完全是我按照理論推導出來了,未經證實。
有類似經歷的歡迎批評指正。

 


文件保存編碼和codepage之間的關系

結論:

codepage指定了IIS按什么編碼讀取源文件。如果codepage和源文件的實際編碼相同,則讀取正確,否則就會亂碼。有時還會報編譯錯誤,大概意思是無效字符吧。

題外話:
1.一個文件保存格式為GB2312,那么你在編輯的時候,不論是用輸入法輸入的,還是copy粘貼的,所有的字都會轉為GB2312編碼。
2.象Mid,Left,Chr,Instr等函數(shù)都是面向Unicode形式變量的,他們的入口和出口參數(shù)都是unicode形式的,也就是說,進入時從Unicode轉為對應編碼,出來時轉回Unicode。

試驗過程:
假設文件a.asp,保存編碼格式為GB2312,輸入:帳票マッ(日文輸入法輸入),自動變?yōu)镚B2312編碼的,但因為GB2312字庫中有日文,所以顯示正常。
上面四個字如果按日文Shift-JIS編碼查看,則是: click for full size(圖片,否則后面三個是空白)。

--A--
.asp中有代碼:
---------------------
<%@codepage=936%>
aa="帳票マッ"
response.write aa
-------------------------
輸出結果,按charset=GB2312查看為:帳票マッ
按charset=Shift-JIS查看為: click for full size
如果codepage=932,輸出按charset=GB2312查看為:帳票マッ
按charset=Shift-JIS查看為: click for full size

過程分析:IIS編譯器按936簡體中文讀取源文件,把“帳票マッ”轉為對應的Unicode編碼,賦值給變量aa,也就是說LenB(aa)=8。
Response.write輸出的時候,從Unicode形式轉換到對應的936簡體中文編碼,輸出為html,發(fā)送給瀏覽器,瀏覽器按charset顯示。

--B--
如果把文件的保存編碼換為Shift-JIS,注意四個文字要重新輸入。保存的是Shift-JIS編碼。
<% @codepage=936 %>輸出結果,
按charset=GB2312查看為:挔昜儅僢
按shift-jis查看為:帳票マッ
<% @codepage=932 %>輸出結果,
按charset=GB2312查看為:挔昜儅僢
按shift-jis查看為:帳票マッ

總結:
GB—按GB讀取—對應的Unicode—轉回GB—按GB2312查看,正常。
GB—按GB讀取—對應的Unicode—轉回GB—按Shift-JIS查看,不正常。
GB—按Shift-JIS讀取—對應的Unicode—轉回Shift-JIS—按GB2312查看,正常。
GB—按Shift-JIS讀取—對應的Unicode—轉回Shift-JIS—按Shift-JIS查看,不正常。

Shift-JIS---按GB讀取—對應的Unicode---轉回GB—按GB2312查看,不正常。
Shift-JIS---按GB讀取—對應的Unicode---轉回GB—按Shift-JIS查看,正常。
Shift-JIS---按Shift-JIS讀取—對應的Unicode---轉回Shift-JIS—按GB2312查看,不正常。
Shift-JIS---按Shift-JIS讀取—對應的Unicode---轉回Shift-JIS—按Shift-JIS查看,正常。

可以看出,ASP中的處理是對稱的,所以對于直接輸出和簡單處理的文字,codepage設置為什么都沒有影響,只要文件的編碼和最終顯示的charset相同,那么就會正常顯示。

 

 

不會出現(xiàn)亂碼。
因為簡體中文字庫>繁體字庫,所以繁體轉換到簡體時,總是能找到對應的字,
程序接收的已經是簡體Unicode的了,數(shù)據(jù)庫里的數(shù)據(jù)都不會亂碼,后面讀取顯示自然沒有問題。
==============================
而如果是繁體的代碼,charset=big5的話,輸入簡體中文,就有出現(xiàn)亂碼的可能。
因為簡體-->繁體的轉換,就可能沒有字對應。
========================================
陳橋輸出的繁體字是純繁體內碼的吧?
如果是,那么數(shù)據(jù)庫里應該是對應的簡體字的,
輸入簡體字檢索應該可以檢索到的。
====================
你先都加上codepage看看吧。

(責任編輯:admin)

頂一下
(2)
100%
踩一下
(0)
0%
發(fā)表評論
請自覺遵守互聯(lián)網相關的政策法規(guī),嚴禁發(fā)布色情、暴力、反動的言論。
評價: