用 Python 修改下载文件名乱码

用 Python 修改下载文件名乱码

从互联网下载带有中文名称的文件,下载的文件名中有可能会带有乱码。文件名的乱码一般可以分为两类,一类形如“%E9%82%A3%E8%8B%B1-%E5%BE%81%E6%9C%8D.ape”;另一类形如“é�£è�± - ä¸�管æ��å¤�è�¦.flac”。

形成原因

包含 "%E9" 的文件名是该文件名中含有 URL 编码,下载时没有正确转码所致。

包含 “é�£è” 之类乱码的,是因为方件名存储的二进制格式与其应该存储的二进制格式不一致造成的。比方说,Windows 系统的文件名本来应该存储成 GBK 内码,但实际上存储的内码却是 UTF8,那么在显示文件名时会先按 GBK 解码成 unicode 字符串,解码失败会逐字节的转换成 unicode 字符串。这样解码出来的字符串显示出来肯定是乱码。

补充:在 MacOS 系统,在逐字转成 unicode 的时候,还有多做一步,将"\u00E9"(重音字母)转换成 "\u0065\u0301"(基础字母+重音符号),所以在 MacOS 系统上,还要将双字节的重音字母转换成单字节。代码如下:

if os.name=='posix':
    from unicodedata import normalize
    name=normalize('NFC',name)

解决方案

URL 编码文件乱码

判断 URL 编码的乱码很简单,只要包含任一形如"%[0-9A-E]{2}"的字符串,就可以确定了。修正时,使用 urllib.parse 模块的 unquote_plus函数进行转码解决。

编码错误乱码

判断编码错误的文件名有点复杂,但我们可以跳过它。根据解码失败会逐字节解码成 unicode 的规则,我们可以强制使用 latin1 进行转码。正常带有汉字的字符串进行转码会触发 UnicodeEncodeError 异常,忽略就可以了。编码成功的,就可能是乱码字符串了。我们再根据预定的编码去解码就可以了。解码成功后,乱码的文件名就复原了。

修复文件名代码

from unicodedata import normalize
from urllib.parse import unquote_plus
from re import compile
from contextlib import suppress
import os
 
Url_Path = compile(r'\%[0-9A-E]{2}')    # URL 乱码的正则表达式,形如 %E9
 
Codes = 'utf8', 'gbk', 'big5'           # 常见编码清单
 
 
def decode(data: bytes)->str:
    '''对二进制数据按指定的编码进行尝试解码后返回字符串,
    解码失败,则触发 UnicodeDecodeError 异常'''
    for code in Codes:
        with suppress(UnicodeDecodeError):
            return data.decode(code)     # 成功解码返回字符串
    raise UnicodeDecodeError             # 失败触发异常
 
 
def repare_name(name: str)->str:
    '''修改文件名乱码,
    返回正常的字符串'''
    if Url_Path.search(name):          # 判断文件名中是否有 URL 字符
        name = unquote_plus(name)      # 对 URL 文件名进行转码
    else:
        if os.name == 'posix':         # MacOS 系统中对重音字母进行压缩
            name = normalize('NFC', name)
        with suppress(UnicodeEncodeError):
            data = name.encode('latin1') # 将字符串转换成二进制,包含汉字的字符串会跳过
            name = decode(data)          # 对转换的二进制数据进行解码
    return name
 
 
if __name__ == '__main__':
    from pathlib import Path
    for path in Path('.').glob('*.*'):
        print(repare_name(path.name))

推荐阅读更多精彩内容