天天看点

Ansi、Unicode、UTF8字符串之间的转换,wprintf

Ansi字符串我们最熟悉,英文占一个字节,汉字2个字节,以一个/0结尾,常用于txt文本文件

Unicode字符串,每个字符(汉字、 英文字母)都占2个字节,以2个连续的/0结尾,NT操作系统内核用的是这种字符串,常被定义为typedef unsigned short wchar_t;所以我们有时常会见到什么char*无法转换为unsigned short*之类的错误,其实就是unicode

UTF8是 Unicode一种压缩形式,英文A在unicode中表示为0x0041,老外觉得这种存储方式太浪费,因为浪费了50%的空间,于是就把英文压缩成1 个字节,成了utf8编码,但是汉字在utf8中占3个字节,显然用做中文不如ansi合算,这就是中国的网页用作ansi编码而老外的网页常用utf8 的原因。

UTF8在还游戏里运用的很广泛,比如WOW的lua脚本等

下面来说一下转换,主要用代码来说明吧

写文件我用了CFile类,其实用FILE*之类的也是一样,写文件和字符串什么类别没有关系,硬件只关心数据和长度

Ansi转Unicode

介绍2种方法

Ansi、Unicode、UTF8字符串之间的转换,wprintf

void  CConvertDlg::OnBnClickedButtonAnsiToUnicode()

Ansi、Unicode、UTF8字符串之间的转换,wprintf
Ansi、Unicode、UTF8字符串之间的转换,wprintf
Ansi、Unicode、UTF8字符串之间的转换,wprintf

{

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    // ansi to unicode

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    char* szAnsi = "abcd1234你我他";

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    //预转换,得到所需空间的大小

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    int wcsLen = ::MultiByteToWideChar(CP_ACP, NULL, szAnsi, strlen(szAnsi), NULL, 0);

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    //分配空间要给'/0'留个空间,MultiByteToWideChar不会给'/0'空间

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    wchar_t* wszString = new wchar_t[wcsLen + 1];

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    //转换

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    ::MultiByteToWideChar(CP_ACP, NULL, szAnsi, strlen(szAnsi), wszString, wcsLen);

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    //最后加上'/0'

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    wszString[wcsLen] = '/0';

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    //unicode版的MessageBox API

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    ::MessageBoxW(GetSafeHwnd(), wszString, wszString, MB_OK);

Ansi、Unicode、UTF8字符串之间的转换,wprintf
Ansi、Unicode、UTF8字符串之间的转换,wprintf

    //接下来写入文本

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    //写文本文件,头2个字节0xfeff,低位0xff写在前

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    CFile cFile;

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    cFile.Open(_T("1.txt"), CFile::modeWrite | CFile::modeCreate);

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    //文件开头

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    cFile.SeekToBegin();

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    cFile.Write("/xff/xfe", 2);

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    //写入内容

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    cFile.Write(wszString, wcsLen * sizeof(wchar_t));

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    cFile.Flush();

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    cFile.Close();

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    delete[] wszString;

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    wszString =NULL;

Ansi、Unicode、UTF8字符串之间的转换,wprintf
Ansi、Unicode、UTF8字符串之间的转换,wprintf
Ansi、Unicode、UTF8字符串之间的转换,wprintf

    //方法2

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    //设置当前地域信息,不设置的话,使用这种方法,中文不会正确显示

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    //需要#include<locale.h>

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    setlocale(LC_CTYPE, "chs"); 

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    wchar_t wcsStr[100];

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    //注意下面是大写S,在unicode中,代表后面是ansi字符串

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    //swprintf是sprintf的unicode版本

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    //格式的前面要加大写L,代表是unicode

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    swprintf(wcsStr, L"%S", szAnsi);

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    ::MessageBoxW(GetSafeHwnd(), wcsStr, wcsStr, MB_OK);

Ansi、Unicode、UTF8字符串之间的转换,wprintf
Ansi、Unicode、UTF8字符串之间的转换,wprintf

}

Unicode转Ansi

也是2种方法

Ansi、Unicode、UTF8字符串之间的转换,wprintf

void  CConvertDlg::OnBnClickedButtonUnicodeToAnsi()

Ansi、Unicode、UTF8字符串之间的转换,wprintf
Ansi、Unicode、UTF8字符串之间的转换,wprintf
Ansi、Unicode、UTF8字符串之间的转换,wprintf

{

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    // unicode to ansi

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    wchar_t* wszString = L"abcd1234你我他";

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    //预转换,得到所需空间的大小,这次用的函数和上面名字相反

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    int ansiLen = ::WideCharToMultiByte(CP_ACP, NULL, wszString, wcslen(wszString), NULL, 0, NULL, NULL);

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    //同上,分配空间要给'/0'留个空间

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    char* szAnsi = new char[ansiLen + 1];

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    //转换

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    //unicode版对应的strlen是wcslen

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    ::WideCharToMultiByte(CP_ACP, NULL, wszString, wcslen(wszString), szAnsi, ansiLen, NULL, NULL);

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    //最后加上'/0'

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    szAnsi[ansiLen] = '/0';

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    //Ansi版的MessageBox API

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    ::MessageBoxA(GetSafeHwnd(), szAnsi, szAnsi, MB_OK);

Ansi、Unicode、UTF8字符串之间的转换,wprintf
Ansi、Unicode、UTF8字符串之间的转换,wprintf

    //接下来写入文本

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    //写文本文件,ANSI文件没有BOM

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    CFile cFile;

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    cFile.Open(_T("1.txt"), CFile::modeWrite | CFile::modeCreate);

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    //文件开头

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    cFile.SeekToBegin();

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    //写入内容

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    cFile.Write(szAnsi, ansiLen * sizeof(char));

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    cFile.Flush();

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    cFile.Close();

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    delete[] szAnsi;

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    szAnsi =NULL;

Ansi、Unicode、UTF8字符串之间的转换,wprintf
Ansi、Unicode、UTF8字符串之间的转换,wprintf
Ansi、Unicode、UTF8字符串之间的转换,wprintf

    //方法2

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    //和上面一样有另一种方法

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    setlocale(LC_CTYPE, "chs"); 

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    char szStr[100];

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    //注意下面是大写,在ansi中,代表后面是unicode字符串

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    //sprintf

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    sprintf(szStr, "%S", wszString);

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    ::MessageBoxA(GetSafeHwnd(), szStr, szStr, MB_OK);

Ansi、Unicode、UTF8字符串之间的转换,wprintf

}

Unicode转UTF8

Ansi、Unicode、UTF8字符串之间的转换,wprintf

void  CConvertDlg::OnBnClickedButtonUnicodeToU8()

Ansi、Unicode、UTF8字符串之间的转换,wprintf
Ansi、Unicode、UTF8字符串之间的转换,wprintf
Ansi、Unicode、UTF8字符串之间的转换,wprintf

{

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    // unicode to UTF8

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    wchar_t* wszString = L"abcd1234你我他";

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    //预转换,得到所需空间的大小,这次用的函数和上面名字相反

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    int u8Len = ::WideCharToMultiByte(CP_UTF8, NULL, wszString, wcslen(wszString), NULL, 0, NULL, NULL);

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    //同上,分配空间要给'/0'留个空间

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    //UTF8虽然是Unicode的压缩形式,但也是多字节字符串,所以可以以char的形式保存

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    char* szU8 = new char[u8Len + 1];

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    //转换

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    //unicode版对应的strlen是wcslen

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    ::WideCharToMultiByte(CP_UTF8, NULL, wszString, wcslen(wszString), szU8, u8Len, NULL, NULL);

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    //最后加上'/0'

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    szU8[u8Len] = '/0';

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    //MessageBox不支持UTF8,所以只能写文件

Ansi、Unicode、UTF8字符串之间的转换,wprintf
Ansi、Unicode、UTF8字符串之间的转换,wprintf

    //接下来写入文本

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    //写文本文件,UTF8的BOM是0xbfbbef

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    CFile cFile;

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    cFile.Open(_T("1.txt"), CFile::modeWrite | CFile::modeCreate);

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    //文件开头

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    cFile.SeekToBegin();

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    //写BOM,同样低位写在前

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    cFile.Write("/xef/xbb/xbf", 3);

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    //写入内容

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    cFile.Write(szU8, u8Len * sizeof(char));

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    cFile.Flush();

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    cFile.Close();

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    delete[] szU8;

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    szU8 =NULL;

Ansi、Unicode、UTF8字符串之间的转换,wprintf
Ansi、Unicode、UTF8字符串之间的转换,wprintf

}

UTF8转UNICODE

Ansi、Unicode、UTF8字符串之间的转换,wprintf

void  CConvertDlg::OnBnClickedButtonU8ToUnicode()

Ansi、Unicode、UTF8字符串之间的转换,wprintf
Ansi、Unicode、UTF8字符串之间的转换,wprintf
Ansi、Unicode、UTF8字符串之间的转换,wprintf

{

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    //UTF8 to Unicode

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    //由于中文直接复制过来会成乱码,编译器有时会报错,故采用16进制形式

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    char* szU8 = "abcd1234/xe4/xbd/xa0/xe6/x88/x91/xe4/xbb/x96/x00";

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    //预转换,得到所需空间的大小

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    int wcsLen = ::MultiByteToWideChar(CP_UTF8, NULL, szU8, strlen(szU8), NULL, 0);

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    //分配空间要给'/0'留个空间,MultiByteToWideChar不会给'/0'空间

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    wchar_t* wszString = new wchar_t[wcsLen + 1];

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    //转换

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    ::MultiByteToWideChar(CP_UTF8, NULL, szU8, strlen(szU8), wszString, wcsLen);

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    //最后加上'/0'

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    wszString[wcsLen] = '/0';

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    //unicode版的MessageBox API

Ansi、Unicode、UTF8字符串之间的转换,wprintf

    ::MessageBoxW(GetSafeHwnd(), wszString, wszString, MB_OK);

Ansi、Unicode、UTF8字符串之间的转换,wprintf
Ansi、Unicode、UTF8字符串之间的转换,wprintf

    //写文本同ansi to unicode

Ansi、Unicode、UTF8字符串之间的转换,wprintf

}

Ansi、Unicode、UTF8字符串之间的转换,wprintf

Ansi转换utf8和utf8转换Ansi就是上面2个的结合,把unicode作为中间量,进行2次转换即可

================

使用C++标准库的iostream,可以方便地将控制台、文件、字符串以及其它可扩充的外部表示作为流来处理,但要处理中文,却会碰到很多问题。 本人原来没怎么用过这个iostream,这几天尝试用这个写点东西,一会儿不能输出中文,一会儿不支持中文文件名的,搞得头大。网上搜了搜,没有发现适 用于所有情况的解决方案。不过后来自己经过多次测试,基本解决了这些问题,现在写成文字作为一个总结,也供碰到同样问题的朋友参考。关于C语言中的 printf和wprintf的中文输出,本文也进行了探讨。

  需要说明的是,我的开发环境是VS 2005(标准库当然也是微软实现的),不保证其它环境下是相同的效果。

1、cout和wcout

  在缺省的C locale下,cout可以直接输出中文,但对于wcout却不行(至少VS 2005下不行)。对于wcout,需要将其locale设为本地语言才能输出中文:

  wcout.imbue(locale(locale(),"",LC_CTYPE));  // ①

  也有人用如下语句的,但这会改变wcout的所有locale设置,比如数字“1234”会输出为“1,234”。

  wcout.imbue(locale(""));

2、ofstream和wofstream

   在缺省的C locale下,ofstream能正确输出中文到文件中,但不支持中文文件名;wofstream支持中文文件名,但不能向文件中输出中文。要解决这个 问题,需要在打开文件之前将全局locale设为本地语言。将全局locale设为本地语言后,ofstream和wofstream的问题都解决了,但 cout和wcout却不能输出中文了。要让cout和wcout输出中文,需要将全局locale恢复原来的设置,如下所示:

  locale &loc=locale::global(locale(locale(),"",LC_CTYPE));  // ②

  ofstream ofs("ofs测试.txt");

  wofstream wofs(L"wofs测试.txt");

  locale::global(loc);  // ③

  ofs<<"test测试"<<1234<<endl;

  wofs<<L"Another test还是测试"<<1234<<endl;

3、printf和wprintf

  加上这两位C语言中的老兄,问题更加复杂。考虑如下语句(注意s的大小写):

   printf("%s", "multibyte中文/n");  // ④

   printf("%S", L"unicode中文/n");  // ⑤

   wprintf(L"%S", "multibyte中文/n");  // ⑥

   wprintf(L"%s", L"unicode中文/n");  // ⑦

  缺省情况下,⑤、⑦两条语句不能输出中文,这两条语句中字符串的形式是unicode形式的。如果在所有输出语句之前加上如下语句将C语言的全局locale设置为本地语言(C语言中只有全局locale)就可以正常输出了:

  setlocale(LC_CTYPE, "");  // ⑧

  但这会导致cout和wcout不能输出中文(汗,的确麻烦),将C语言的全局locale恢复后cout和wcout就正常了,如下所示:

  setlocale(LC_CTYPE, "C");  // ⑨

   但恢复后,printf和wprintf输出Unicode文本又不正常了(输出MultiByte文本总是正常的)。总不能每写一个 printf/wprintf就设置一次然后再恢复一次吧?所以,建议不要混用iostream和printf/wprintf,实在要混用,那就让 printf/wprintf只输出MultiByte字符串,这样不需要调用setlocale(),也就不会影响到cout和wcout。

总结

  总之,用iostream、printf/wprintf输出中文,有点麻烦。概括起来要点如下:

  • 如果要用wcout,需要在使用之前按语句①将其locale设置为本地语言;
  • 如果要用ofstream或wofstream,要在打开文件之前按语句②将全局locale设为本地语言并保存初始的全局locale。然后在打开文件之后,按语句③将全局locale恢复为初始值;
  • 不要混用iostream和printf/wprintf。如果要混用,只用printf/wprintf输出MultiByte字符串;
  • 单独使用printf/wprintf时,如果要输出Unicode字符串,需要按语句⑧设置C语言的全局locale。如果只输出MultiByte字符串,则不需设置。

在wprintf()函数里面,调用了WideCharToMultiByte()函数,就是通过当前的Locale将Unicode的字符转换成本地字符。在不使用setlocale()的时候,wprintf()会使用默认的“C”locale判断给定的宽字符是否<255,如果大于255就返回错误,而不会进行显示。这也就是在没有setlocale()的情况下wprintf((wchar_t*)paName)不能显示的真正原因。我觉得,如果wprintf()不进行这种判断而直接将字符串给Console的话,就能够正确显示了