加载中…
个人资料
  • 博客等级:
  • 博客积分:
  • 博客访问:
  • 关注人气:
  • 获赠金笔:0支
  • 赠出金笔:0支
  • 荣誉徽章:
正文 字体大小:

彻底解决python字符乱码问题

(2018-06-29 14:22:31)
标签:

python字符乱码

分类: 随意而发
1、python中一切皆对象,字符对象分为两种,一种是unicode对象,一种是str对象。 
 
2、python中字符是unicode为基础的,所以平时我们的字符串,也就是str在python内存中其实是以unicode编码存储的。  

3、所以我们平时print一个字符串的时候,看到的是中文,但是如果你把这个字符串放在list里(就是外面加上[ ]),再print,就能看到原生的编码了。因为前面说了,在python内存存储中都是以unicode存储的,所以放在List里面,打印就能看见原生的存储模式。 
 
4、str是字符串对象,但是可以有很多不同的编码,utf-8,gbk,ascii,都是编码。  

5、不同编码的str对象,互相不能直接转换,也就是说utf-8编码的不能直接转换成gbk的。  

6、但是不同编码的str对象都可以解码成unicode对象,因为一切数据在Python都是以unicode存储的,str.decode(编码类型)  

7、unicode对象也可以编码成任意一种编码的str对象。 unicode.encode('编码类型')  

8、所以不同编码的str对象可以先解码(decode)成unicode 再编码(encode)成其他编码的str对象。  

9、utf-8包含国际上所有字符的编码,GBK主要包含全部中文字符,所以说我们大家爱用utf-8,因为全。  

10、所以说utf-8中有一些字符,gbk没有,所以有一些Utf-8解码后再编码成gbk后会报错,因为gbk没有那种字符。  

11、有一些str中可能混着有gbk,utf-8等好几种编码,所以有时候decode的时候会报错,因为你按照gbk解码,可能里面又包含了一种不识别的utf-8码得到。  

12、以上两条,有没有只编码或者解码对的啊,错误的字符就跳过?  

13、有,decode('utf-8','ignore'),encode('utf-8','ignore') 加一个'ignore'参数 就会忽略错误。
  
14、在python中可以使用chardet.detect(str)来检测一个str是什么编码的:  

15、chardet.detect(str)有一个缺点就是,他是根据概率来的,比如如果字符串是'aaaaaa你',前面的单字符就会判断为其他编码,因为单字母本身就是其他编码都支持,所以:  #ISO-8859-2 西欧字符集  

16、print str 或者 unicode 都会显示出正常的文字,但是python中直接显示 str是'\xe3\xbd'这种字符,unicode是 u'\u4f60' 这种的  

17、大家可以在自己本机上多试试。  

0

阅读 收藏 喜欢 打印举报/Report
  

新浪BLOG意见反馈留言板 欢迎批评指正

新浪简介 | About Sina | 广告服务 | 联系我们 | 招聘信息 | 网站律师 | SINA English | 产品答疑

新浪公司 版权所有