Python with 语句操作文件(转)
introduction
在磁盘上读写文件的功能都是由操作系统提供的,现代操作系统不允许普通的程序直接操作磁盘,所以,读写文件就是请求操作系统打开一个文件对象(通常称为文件描述符),然后,通过操作系统提供的接口从这个文件对象中读取数据(读文件),或者把数据写入这个文件对象(写文件)。
Python 提供了 with 语句来管理资源关闭。比如可以把打开的文件放在 with 语句中,这样 with 语句就会帮我们自动关闭文件。
读文件
要以读文件的模式打开一个文件对象,使用 Python 内置的
open()
函数,传入文件名和标示符:
1 | open('/Users/michael/test.txt', 'r') f = |
标示符 'r' 表示读,这样我们就成功地打开了一个文件。
如果文件不存在,open()
函数就会抛出一个IOError
的错误,并且给出错误码和详细的信息告诉你文件不存在:
1 | open('/Users/michael/notfound.txt', 'r') f= |
如果文件打开成功,接下来,调用 read()
方法可以一次读取文件的全部内容,Python
把内容读到内存,用一个str
对象表示:
1 | f.read() |
最后一步是调用 close()
方法关闭文件。文件使用完毕后必须关闭,因为文件对象会占用操作系统的资源,并且操作系统同一时间能打开的文件数量也是有限的:
1 | f.close() |
由于文件读写时都有可能产生 IOError
,一旦出错,后面的
f.close()
就不会调用。所以,为了保证无论是否出错都能正确地关闭文件,我们可以使用try ... finally
来实现:
1 | try: |
但是每次都这么写实在太繁琐,所以,Python
引入了with
语句来自动帮我们调用 close()
方法:
1 | with open('/path/to/file', 'r') as f: |
这和前面的 try ... finally
是一样的,但是代码更佳简洁,并且不必调用 f.close()
方法。
调用 read()
会一次性读取文件的全部内容,如果文件有
10G,内存就爆了,所以,要保险起见,可以反复调用 read(size)
方法,每次最多读取 size 个字节的内容。另外,调用 readline()
可以每次读取一行内容,调用 readlines()
一次读取所有内容并按行返回
list
。因此,要根据需要决定怎么调用。
如果文件很小,read()
一次性读取最方便;如果不能确定文件大小,反复调用read(size)
比较保险;如果是配置文件,调用readlines()
最方便:
1 | for line in f.readlines(): |
写文件
写文件和读文件是一样的,唯一区别是调用 open()
函数时,传入标识符 w
或者 wb
表示写文本文件或写二进制文件:
1 | open('/Users/michael/test.txt', 'w') f = |
你可以反复调用write()
来写入文件,但是务必要调用f.close()
来关闭文件。当我们写文件时,操作系统往往不会立刻把数据写入磁盘,而是放到内存缓存起来,空闲的时候再慢慢写入。只有调用close()
方法时,操作系统才保证把没有写入的数据全部写入磁盘。忘记调用close()
的后果是数据可能只写了一部分到磁盘,剩下的丢失了。所以,还是用with
语句来得保险:
1 | with open('/Users/michael/test.txt', 'w') as f: |
要写入特定编码的文本文件,请给open()
函数传入encoding
参数,将字符串自动转换成指定编码
字符编码
要读取非 UTF-8 编码的文本文件,需要给 open()
函数传入encoding
参数,例如,读取 GBK 编码的文件:
1 | open('/Users/michael/gbk.txt', 'r', encoding='gbk') >>> f.read() '测试' f = |
遇到有些编码不规范的文件,你可能会遇到
UnicodeDecodeError
,因为在文本文件中可能夹杂了一些非法编码的字符。遇到这种情况,open()
函数还接收一个
errors
参数,表示如果遇到编码错误后如何处理。最简单的方式是直接忽略:
1 | open('/Users/michael/gbk.txt', 'r', encoding='gbk', errors='ignore') f = |
在 Windows 下打开文件时,容易遇到这种错误:“UnicodeEncodeError: 'gbk' codec can't encode character '' in position 46:illegal multibyte sequence”,此时,只需要设置 open 的参数: encoding='utf-8' 即可。
二进制文件
前面讲的默认都是读取文本文件,并且是 UTF-8
编码的文本文件。要读取二进制文件,比如图片、视频等等,用'rb'
模式打开文件即可:
1 | open('/Users/michael/test.jpg', 'rb') >>> f.read() f = |
总结:以后读写文件都使用 with open 语句,不要再像以前那样用 f = open()这种语句了 with 语句的语法格式如下:
with context expression [as target(s)]: with 代码块
参考资料
UnicodeEncodeError: 'gbk' codec can't encode character '' in position 46:illegal multibyte sequence