利用iconv函式族進行編碼轉換

2021-05-27 16:45:34 字數 4937 閱讀 2438

在linux上進行編碼轉換時,既可以利用iconv函式族程式設計實現,也可以利用iconv命令來實現,只不過後者是針對檔案的,即將指定檔案從一種編碼轉換為另一種編碼。

iconv函式族的標頭檔案是iconv.h,使用前需包含之。

#include

iconv函式族有三個函式,原型如下:

(1) iconv_t iconv_open(const char *tocode, const char *fromcode);

此函式說明將要進行哪兩種編碼的轉換,tocode是目標編碼,fromcode是原編碼,該函式返回乙個轉換控制代碼,供以下兩個函式使用。

(2) size_t iconv(iconv_t cd,char **inbuf,size_t *inbytesleft,char **outbuf,size_t *outbytesleft);

此函式從inbuf中讀取字元,轉換後輸出到outbuf中,inbytesleft用以記錄還未轉換的字元數,outbytesleft用以記錄輸出緩衝的剩餘空間。 (3) int iconv_close(iconv_t cd);

此函式用於關閉轉換控制代碼,釋放資源。

例子1: 用c語言實現的轉換示例程式

/* f.c : **轉換示例c程式 */

#include

#define outlen 255

main()

//**轉換:從一種編碼轉為另一種編碼

int code_convert(char *from_charset,char *to_charset,char *inbuf,int inlen,char *outbuf,int outlen)

//unicode碼轉為gb2312碼

int u2g(char *inbuf,int inlen,char *outbuf,int outlen)

//gb2312碼轉為unicode碼

int g2u(char *inbuf,size_t inlen,char *outbuf,size_t outlen)

例子2: 用c++語言實現的轉換示例程式

/* f.cpp : **轉換示例c++程式 */

#include

#include

#define outlen 255

using namespace std;

// **轉換操作類

class codeconverter

// 析構

~codeconverter()

// 轉換輸出

int convert(char *inbuf,int inlen,char *outbuf,int outlen)

};int main(int argc, char **argv)

在linux上進行編碼轉換時,既可以利用iconv函式族程式設計實現,也可以利用iconv命令來實現,只不過後者是針對檔案的,即將指定檔案從一種編碼轉換為另一種編碼。

iconv命令用於轉換指定檔案的編碼,預設輸出到標準輸出裝置,亦可指定輸出檔案。

用法: iconv [選項...] [檔案...]

有如下選項可用:

輸入/輸出格式規範:

-f, --from-code=名稱 原始文字編碼

-t, --to-code=名稱 輸出編碼

資訊:-l, --list 列舉所有已知的字符集

輸出控制:

-c 從輸出中忽略無效的字元

-o, --output=file 輸出檔案

-s, --silent 關閉警告

--verbose 列印進度資訊

-?, --help 給出該系統求助列表

--usage 給出簡要的用法資訊

-v, --version 列印程式版本號

例子:iconv -f utf-8 -t gb2312 aaa.txt >bbb.txt

這個命令讀取aaa.txt檔案,從utf-8編碼轉換為gb2312編碼,其輸出定向到bbb.txt檔案。

小結: linux為我們提供了強大的編碼轉換工具,給我們帶來了方便。

glibc帶了一套轉碼函式iconv,使用方便,可識別的碼很多,如果程式需要涉及到編碼之間的轉換,可考慮用它。

iconv命令的用法。

$ iconv --list # 顯示可識別的編碼名稱

$ iconv -f gb2312 -t utf-8 a.html > b.html # 轉換gb2312編碼的檔案a.html為utf-8編碼,存入b.html

$ iconv -f gb2312 -t big5 a.html > b.html # 轉換gb2312編碼的檔案a.html為big5編碼,存入b.html

iconv程式設計涉及到以下glibc庫的呼叫:

#include

iconv_t iconv_open(const char *tocode, const char *fromcode);

int iconv_close(iconv_t cd);

size_t iconv(iconv_t cd,

char **inbuf, size_t *inbytesleft,

char **outbuf, size_t *outbytesleft);

在使用iconv轉碼的時候,首先用iconv_open獲取轉碼控制代碼,然後呼叫iconv轉碼,轉完了後呼叫iconv_close關閉控制代碼。

iconv函式中:

引數cd是用iconv_open呼叫返回的轉碼控制代碼;

引數inbuf指向需要轉碼的緩衝區;

引數inbytesleft是inbuf所儲存的需要轉碼的位元組數;

引數outbuf存放轉碼結果;

引數outbytesleft存放outbuf空間的大小。

如果呼叫成功,iconv返回轉換的位元組數(不可逆轉呼叫的位元組數,可逆轉呼叫的位元組數不包括在內)。否則返回-1,並設定相應的errno。

iconv逐步掃瞄inbuf,每轉換乙個字元,就增加inbuf,減少inbytesleft,並將結果存入outbuf,結果位元組數存入outbytesleft。遇到下列情況將停止掃瞄並返回:

1. 多位元組序列無效,這時候errno為eilseq,*inbuf指向第乙個無效的字元;

2. 有位元組留在inbuf尚未轉換,errno為einval;

3. outbuf空間不夠,errno為e2big;

4. 正常轉換完備。

對於iconv函式,還有兩種呼叫情況:

1. inbuf或者*inbuf為null,outbuf和*outbuf不為null,iconv會設定轉換狀態為初始狀態,並儲存轉換序列到*outbuf。如果outbuf空間不足,errno會設定為e2big,返回(size_t)(-1);

2. inbuf或者*inbuf為null,outbuf或者*outbuf也為null,iconv設定轉換狀態為初始狀態。

iconv命令的使用固然方便,可是如果轉換過程中如果遇到問題則會停止轉換,有時候我們希望跳過不能轉換的位元組序列繼續轉換。以下的一段程式能實現這種功能。

/**

* siconv.cpp - a ****** way to demostrate the usage of iconv calling

** report bugs to [email protected]

* july 15th, 2006

*/#include

#include

#include

#include

#include

#include

#include

#include

#include

#ifdef debug

#define trace(fmt, args...) fprintf(stderr, "%s:%s:%d:"fmt, \

__file__, __function__, __line__, ##args)

#else

#define trace(fmt, args...)

#endif

#define convbuf_size 32767

extern int errno;

void print_err(const char *fmt, ...)

int print_out(const char* buf, size_t num)

return 0;

}void print_usage()

int conv_file_fd(const char* from, const char *to, int fd,

::std::string& result, int c)

start = mmap(null, st.st_size, prot_read, map_shared, fd, 0);

if (map_failed == start)

if (iconv_string(from, to, (char*)start,

st.st_size, result, c, convbuf_size) < 0)

munmap(start, st.st_size);

return 0;

}int conv_file(const char* from, const char* to,

const char* filename, int c)

if (conv_file_fd(from, to, fileno(fp), result, c) < 0)

print_out(result.data(), result.size());

fclose(fp);

return 0;

}可以用記憶體映像檔案解決檔案太大記憶體緩衝不夠的情況。相對於iconv命令,加-c選項,以忽略轉換過程中可能引發的問題。

$ g++ -o siconv siconv.cpp

如果在命令列加了-ddebug選項,會編譯進除錯語句,如果加了-dtestcase選項,則僅會編譯對iconv_string函式測試的情況。

利用iconv函式族進行編碼轉換

一 利用iconv函式族進行編碼轉換 在linux上進行編碼轉換時,既可以利用iconv函式族程式設計實現,也可以利用iconv命令來實現,只不過後者是針對檔案的,即將指定檔案從一種編碼轉換為另一種編碼。iconv函式族的標頭檔案是iconv.h,使用前需包含之。include iconv函式族有三...

Linux下編碼轉換(iconv函式族)

在linux上進行編碼轉換時,既可以利用iconv函式族程式設計實現,也可以利用iconv命令來實現 針對檔案進行轉換 一 利用iconv函式族進行編碼轉換 iconv函式族的標頭檔案是iconv.h 使用前需包含之 include iconv函式族有三個函式,原型如下 1 iconv open 函...

Linux下編碼轉換(iconv函式族)

在linux上進行編碼轉換時,既可以利用iconv函式族程式設計實現,也可以利用iconv命令來實現 針對檔案進行轉換 一 利用iconv函式族進行編碼轉換 iconv函式族的標頭檔案是iconv.h 使用前需包含之 include iconv函式族有三個函式,原型如下 1 iconv open 函...