首页 > 编程 > C++ > 正文

C++实现判断一个字符串是否为UTF8或GBK格式的方法

2020-05-23 13:37:13
字体:
来源:转载
供稿:网友

本文实例讲述了C++实现判断一个字符串是否为UTF8或GBK格式的方法。分享给大家供大家参考,具体如下:

在处理外部数据的时候,很可能因为数据格式不一样而导致乱码,甚至导致某些程序挂掉。鉴于对多数系统来说,使用是更被广泛使用的utf8,所以判断是不是utf8格式显得很重要了。

下面是一个判断字符串是否为utf8的函数:

bool is_str_utf8(const char* str){  unsigned int nBytes = 0;//UFT8可用1-6个字节编码,ASCII用一个字节  unsigned char chr = *str;  bool bAllAscii = true;  for (unsigned int i = 0; str[i] != '/0'; ++i){    chr = *(str + i);    //判断是否ASCII编码,如果不是,说明有可能是UTF8,ASCII用7位编码,最高位标记为0,0xxxxxxx    if (nBytes == 0 && (chr & 0x80) != 0){      bAllAscii = false;    }    if (nBytes == 0) {      //如果不是ASCII码,应该是多字节符,计算字节数      if (chr >= 0x80) {        if (chr >= 0xFC && chr <= 0xFD){          nBytes = 6;        }        else if (chr >= 0xF8){          nBytes = 5;        }        else if (chr >= 0xF0){          nBytes = 4;        }        else if (chr >= 0xE0){          nBytes = 3;        }        else if (chr >= 0xC0){          nBytes = 2;        }        else{          return false;        }        nBytes--;      }    }    else{      //多字节符的非首字节,应为 10xxxxxx      if ((chr & 0xC0) != 0x80){        return false;      }      //减到为零为止      nBytes--;    }  }  //违返UTF8编码规则  if (nBytes != 0) {    return false;  }  if (bAllAscii){ //如果全部都是ASCII, 也是UTF8    return true;  }  return true;}

关于utf8的一般性简介和二进制格式可以参考百度百科。同样关于GBK的判断,也是使用的同样的方法,具体代码如下:

bool is_str_gbk(const char* str){  unsigned int nBytes = 0;//GBK可用1-2个字节编码,中文两个 ,英文一个  unsigned char chr = *str;  bool bAllAscii = true; //如果全部都是ASCII,  for (unsigned int i = 0; str[i] != '/0'; ++i){    chr = *(str + i);    if ((chr & 0x80) != 0 && nBytes == 0){// 判断是否ASCII编码,如果不是,说明有可能是GBK      bAllAscii = false;    }    if (nBytes == 0) {      if (chr >= 0x80) {        if (chr >= 0x81 && chr <= 0xFE){          nBytes = +2;        }        else{          return false;        }        nBytes--;      }    }    else{      if (chr < 0x40 || chr>0xFE){        return false;      }      nBytes--;    }//else end  }  if (nBytes != 0) {   //违返规则    return false;  }  if (bAllAscii){ //如果全部都是ASCII, 也是GBK    return true;  }  return true;}

按照编码规则这么写,是正确的。但鉴于现在的utf8对于中文一般都是三个字节,而且utf8的编码规则存在重合,如果是utf8,使用上面的这个函数,就会出现一个尴尬的问题,当中文字符为奇数个判断正确,为则偶数个无法区别。

最后:如果谁有更好的办法判断一个字符串是否为GBK格式,欢迎告知。

希望本文所述对大家C++程序设计有所帮助。


发表评论 共有条评论
用户名: 密码:
验证码: 匿名发表