如何将全角字符转换为半角字符(反之亦然)?

如何将全角字符转换为半角字符(反之亦然)?

这是我的简单问题,如何从命令行将半角转换为全角。我认为这将内置在我的iconv命令行中,但我在这里没有找到任何内容:

$ iconv  -l | grep -i full
-> nothing
$ iconv  -l | grep -i half
-> nothing

典型的输入是:

$ echo -n "Ab9876543210" | iconv -f utf8 -t utf16be | hexdump -C
00000000  ff 21 00 62 ff 19 ff 18  ff 17 ff 16 ff 15 ff 14  |.!.b............|
00000010  ff 13 ff 12 ff 11 ff 10                           |........|
00000018

答案1

如果您有uconvICU 工具中的实用程序(icu-devtools基于 Debian 的操作系统上的软件包):

$ echo 'Ab9876543210' | uconv -x Fullwidth-Halfwidth
Ab9876543210

(请注意,它还会将通常为全角的字符(例如韩语或日语脚本中的字符)转换为半角表示形式)。

改为Halfwidth-Fullwidth相反。

如果没有,并且您只对转换 ASCII 可打印字符的全角变体感兴趣:

$ echo 'Ab9876543210' | perl -C -pe 'y/\x{ff01}-\x{ff5e}/!-~/'
Ab9876543210

或者也将 U+3000(表意空间)转换为 ASCII 空间:

$ echo 'Ab9876543210' | perl -C -pe 'y/\x{3000}\x{ff01}-\x{ff5e}/ !-~/'
Ab9876543210
curl -s https://www.unicode.org/Public/UNIDATA/UnicodeData.txt | grep '<wide>'

将显示一些额外的内容,即一些非 ASCII 字符的全角变体,您可以将其添加到列表中。

perl -C -pe 'y/\x{3000}\x{ff01}-\x{ff60}\x{ffe0}-\x{ffe6}/ !-~\x{2985}\x{2986}\xa2\xa3\xac\xaf\xa6\xa5\x{20a9}/'

(搜索<narrow>将显示一些通常全角字符的半角变体,但这是一个很大的列表并且具有不连续的范围,因此添加这些将使表达式变得更大)。

tr在某些系统上,如果在 C.UTF-8 语言环境中,您可以执行相同的操作,不适用于当前版本的 GNU,tr除非您的操作系统供应商进行了修补

$ uname
FreeBSD
$ echo 'Ab9876543210' | LC_ALL=C.UTF-8 tr $'\u3000\uff01-\uff5e' ' !-~'
Ab9876543210

(还假设 shell 支持 zsh $'\uXXXX')。

对于反向转换,只需将 更改y/from/to/y/to/from/

perl它的模块中还有一个 Unicode 数据的接口Unicode::UCD,所以你也可以这样做:

perl -C -MUnicode::UCD=charprop -pe '
  s{\p{Decomposition_Type: Wide}}{
    $cache{$&} //= charprop(ord($&), "Decomposition_Mapping")
  }ge'

尽管即使通过使用缓存来缓解,速度还是相当慢。详情请参阅perldoc perluniprops和。perldoc Unicode::UCD

或者使用NFKD分解对于那些有宽的分解类型:

perl -MUnicode::Normalize=NFKD -C -pe 's/\p{Dt=Wide}/NFKD$&/ge'

如果要转换为 ASCII,至少在 GNU 系统上,iconv -t ASCII//translit也会将这些字符(以及更多字符转换为最接近的 ASCII 字符1 表示形式)

$ echo 'Stéphane' | iconv -t ASCII//translit
Stephane

显然,没有办法做到相反的事情。

无论如何,在这里,它不是将同一个字符从字符集转换为您想要的字符集,而是从某些字符到其他字符的某种形式的音译。

iconv -l类似uconv -l列出了支持的编码/字符集。uconv -L列出音译者。 GNUiconv只有//translit在目标字符集中不存在该字符时才给出可能的近似值(此外//ignore只是丢弃它们)。


1 或字符sæ就像->ae->中那样ffi,顺便说一句,它们没有全角形式,但曾经近似过;例如,您可能想要转换affixaffix而不是affix转换为全角时,这里提到的解决方案都无法处理。

相关内容