加载中…
个人资料
  • 博客等级:
  • 博客积分:
  • 博客访问:
  • 关注人气:
  • 获赠金笔:0支
  • 赠出金笔:0支
  • 荣誉徽章:
正文 字体大小:

使用C语言计算utf-8字符串长度

(2012-11-20 23:13:46)
标签:

c语言

utf-8

字符串

长度

杂谈

C或C++语言处理宽字节字符串上是个弱项,虽然stl定义了wstring等类型,但是实际应用中还是存在一些问题,而C语言的支持就更少了,如果想跨平台,问题就会更多。
最近项目中要处理utf-8字符串,需要计算字符串长度以及对其裁剪,例子代码如下:

#include <stdio.h>

#include <string.h>

#include <stdlib.h>


 

//utf8字符长度1-6,可以根据每个字符第一个字节判断整个字符长度

//0xxxxxxx

//110xxxxx 10xxxxxx

//1110xxxx 10xxxxxx 10xxxxxx

//11110xxx 10xxxxxx 10xxxxxx 10xxxxxx

//111110xx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx

//1111110x 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx

//

//定义查找表,长度256,表中的数值表示以此为起始字节的utf8字符长度

unsigned char utf8_look_for_table[] = 

{

1111111111111111,

1111111111111111,

1111111111111111,

1111111111111111,

1111111111111111,

1111111111111111,

1111111111111111,

1111111111111111,

1111111111111111,

1111111111111111,

1111111111111111,

1111111111111111,

2222222222222222,

2222222222222222,

3333333333333333,

4444444455556611

};


#define UTFLEN(x)  utf8_look_for_table[(x)]


//计算str字符数目

int getUtf8Length(char *str)

{

int clen = strlen(str);

int len = 0;

 

for(char *ptr = str; 

*ptr!=0&&len<clen; 

len++, ptr+=UTFLEN((unsigned char)*ptr));

 

return len;

}


//get子串

char* subUtfString(char *str, unsigned int start, unsigned int end)

{

int len = getUtf8Length(str);

 

if(start >= len) return NULL;

if(end > len) end = len;

 

char *sptr = str;

for(int i = 0; i < start; ++i,sptr+=UTFLEN((unsigned char)*sptr));

 

char *eptr = sptr;

for(int i = start; i < end; ++i,eptr += UTFLEN((unsigned char)*eptr));

 

int retLen = eptr - sptr;

char *retStr = (char*)malloc(retLen+1);

memcpy(retStr, sptr, retLen);

retStr[retLen] = 0;

 

return retStr;

}


int main()

{

char *str = "我的a测试工具阿斯顿aaab123阿斯顿个流氓了卡斯!";

 

printf("%s\n", str);

 

for(char *ptr=str; *ptr!=0;) {

unsigned char c = (unsigned char)*ptr;

printf("str[%d] is a word character with %d bytes\n", c, UTFLEN(c));

ptr += UTFLEN(c);

}

 

printf("%d\n"getUtf8Length(str));

 

char *sub = subUtfString(str, 2100);

if(sub) {

printf("%s\n", sub);

free(sub);

sub = NULL;

}

 

return 0;

}


程序在osx下调试通过。

在vs2005下,默认的文件编码格式是gb2312,需要将文件保存成utf8格式。




0

阅读 收藏 喜欢 打印举报/Report
  

新浪BLOG意见反馈留言板 欢迎批评指正

新浪简介 | About Sina | 广告服务 | 联系我们 | 招聘信息 | 网站律师 | SINA English | 产品答疑

新浪公司 版权所有