了解Python Unicode和Linux终端

Question

我有一个Python脚本，该脚本使用UTF-8编码写一些字符串。在我的脚本中，我主要使用该str()函数来强制转换为字符串。看起来像这样：

mystring="this is unicode string:"+japanesevalues[1] 
#japanesevalues is a list of unicode values, I am sure it is unicode
print mystring

我不使用Python终端，仅使用标准的Linux Red Hat x86_64终端。我将终端设置为输出utf8字符。

如果我执行此操作：

#python myscript.py
this is unicode string: カラダーズ ソフィー

但是，如果我这样做：

#python myscript.py > output

我遇到了典型的错误：

UnicodeEncodeError: 'ascii' codec can't encode characters in position 253-254: ordinal not in range(128)

这是为什么？

Answer 1

终端具有一个字符集，Python知道该字符集是什么，因此它将自动将您的Unicode字符串解码为终端使用的字节编码（在您的情况下为UTF-8）。

但是，当您重定向时，您将不再使用终端。您现在仅使用Unix管道。该Unix管道没有字符集，Python无法知道您现在想要哪种编码，因此它将退回到默认字符集。您已经用“
Python-3.x”标记了问题，但是print语法是Python
2，因此我怀疑您实际上是在使用Python2。然后sys.getdefaultencoding()通常是'ascii'，在您的情况下肯定是这样。当然，您不能将日语字符编码为ASCII，因此会出现错误。

使用Python
2时，最好的选择是在打印字符串之前先用UTF-8对其进行编码。然后重定向将起作用，并且生成的文件为UTF-8。但这意味着如果您的终端不是其他终端，它将无法正常工作，但是您可以从终端编码中获取sys.stdout.encoding并使用该终端编码（在Python
2下重定向时为None）。

在Python 3中，您的代码应按原样工作，除了需要更改print mystring为print(mystring)。