文件处理

发表于 更新于 分类于

引入

1
# 应用程序运行过程中产生的数据最先都是存放于内存中的，若想用就保存下来，必须要保存与硬盘中。应用程序若想操作硬件必须通过操作系统，而文件就是操作系统提供给应用程序来操作硬盘的虚拟概念，用户或应用程序对文件的操作，就是向操作系统发起调用，然后由操作系统完成对硬盘的具体操作

文件操作的基本流程

基本流程

1
2
3
4
5
6
7
8
9
10
有了文件的概念，我们无需再去考虑操作硬盘的细节，只需要关注操作文件的流程：

# 1 打开文件，由应用程序向操作系统发起系统调用open(...),操作系统打开改文件，对应一块硬盘空间，并返回一个文件对象赋值给一个变量f
f = open('a.txt','r',encoding='utf-8') # 默认打开模式就为r

# 2 调用文件对象下的读/写方法，会被操作系统转换为读/写硬盘的操作
data = f.read()

# 3 向操作系统发起关闭文件的请求，回收系统资源
f.close()

img

资源回收与with上下文管理

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
打开一个文件包含两部分资源：应用程序的变量f和操作系统打开的文件。

在操作完毕一个文件时，必须把与该文件的这两部分资源全部回收，回收方法为：

1 f.close() # 回收操作系统打开的文件资源
2 def f # 回收应用程序级的变量

其中del f一定要发生在f.close()之后，否则就会导致操作系统打开的文件无法关闭，白白占用资源，而python自动的垃圾回收机制决定了我们无需考虑del f，这就要求我们，在操作完毕文件后，一定要记住f.close()，虽然我们如此强调，但是大多数还是会不由自主的忘记f.close(),考虑到这一点，python提供了with关键字来帮我们管理上下文

# 1 在执行完子代码块后，with 会自动执行f.close()
with open('a.txt','w')as f:
    pass

# 2 可用with同时打开多个文件，用逗号分隔开即可
with open('a.txt','r')as read_f,open('b.txt','w')as write_f:
    data = read_f.read()
    write_f.write(data)

指定操作文本文件的字符编码

1
2
3
f = open(...)是由操作系统打开文件，如果打开的是文本文件，会涉及到字符编码问题，如果没有为open指定编码，那么打开文本文件的默认编码很明显是操作系统说了算，操作系统会用自己的默认编码去打开文件，在windows下是gbk，在Linux下还是utf-8 这就用到了上节课讲的字符编码的知识：若要保证不乱码，文件以什么方式存的，就要以什么方式打开

f = open('a.txt','r',encoding = 'utf-8')

文件的操作模式

控制文件读写操作的模式

1
2
3
r(默认的)：只读
w：只写
a：只追加写

案例一：r模式的使用

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
# r只读模式：在文件不存在时则报错，文件存在文件内指针直接跳到文件开头

with open('a.txt',mode='r',encoding='utf-8')as f:
    res = f.read() # 会将文件的内容由硬盘全部读入内存，赋值给res
    
# 练习：实现用户认证功能
inp_name = input('请输入名字: ').strip()
inp_pwd = input('请输入密码').strip()
with open(r'db.txt',mode = 'r', encoding = 'utf-8')as f:
    for line in f:
        # 把用户输入的名字与密码与读出的内容做比对
        u, p = line.strip('\n').split(':')
        if inp_name == u and inp_pwd == p:
            print('登录成功')
            break
        else:
            print('账户名或密码错误')

案例二：w 模式的使用

1
2
3
4
5
6
7
8
w只写模式: 
    在文件不存在时会创建空文档,文件存在会清空文件,文件指针跑到文件开头

with open('b.txt',mode='w',encoding='utf-8') as f:
    f.write('你好\n')
    f.write('我好\n') 
    f.write('大家好\n')
    f.write('111\n222\n333\n')
1
2
3
强调：
 1 在文件不关闭的情况下,连续的写入，后写的内容一定跟在前写内容的后面
 2 如果重新以w模式打开文件，则会清空文件内容

案例三：a 模式的使用

1
# a只追加写模式: 在文件不存在时会创建空文档,文件存在会将文件指针直接移动到文件末尾
1
2
3
4
5
6
小练习：实现注册功能:
name=input('username>>>: ').strip()
pwd=input('password>>>: ').strip()
with open('db1.txt',mode='a',encoding='utf-8') as f:
    info='%s:%s\n' %(name,pwd)
    f.write(info)
1
2
3
4
强调 w 模式与 a 模式的异同：
 1 相同点：在打开的文件不关闭的情况下，连续的写入，新写的内容总会跟在前写的内容之后
 2 不同点：以 a 模式重新打开文件，不会清空原文件内容，会将文件指针直接移动到文件末尾，新写的内容永远写在最后

案例四：+ 模式的使用(了解)

1
2
r+ w+ a+ :可读可写
在平时工作中，我们只单纯使用r/w/a，要么只读，要么只写，一般不用可读可写的模式

控制文件读写内容的模式

1
2
3
4
5
6
7
8
大前提：tb模式均不能单独使用，必须与r/w/a其中之一结合使用
r(默认的文本模式)：
    　　1 读写文件都是以字符串为单位的
    　　2 只针对文本文件
    　　3 必须指定encoding参数
b：二进制模式
　　　　1 读写文件都是以bytes/二进制为单位的　　　　2 可以针对所有文件
    　 3 一定不能指定encoding参数

案例一：t 模式的使用

1
2
3
4
5
6
7
8
t 模式：如果我们指定的文件打开模式为r/w/a，其实默认就是rt/wt/at
 with open('a.txt',mode='rt',encoding='utf-8') as f:
     res=f.read() 
     print(type(res)) # 输出结果为：<class 'str'>

 with open('a.txt',mode='wt',encoding='utf-8') as f:
     s='abc'
     f.write(s) # 写入的也必须是字符串类型
1
# 强调：t模式只能用于操作文本文件,无论读写，都应该以字符串为单位，而存取硬盘本质都是二进制的形式，当指定t模式时，内部帮我们做了编码与解码

案例二： b 模式的使用

1
2
3
4
5
6
7
8
9
b: 读写都是以二进制位单位
 with open('1.mp4',mode='rb') as f:
     data=f.read()
     print(type(data)) # 输出结果为：<class 'bytes'>

 with open('a.txt',mode='wb') as f:
     msg="你好"
     res=msg.encode('utf-8') # res为bytes类型
     f.write(res) # 在b模式下写入文件的只能是bytes类型
1
2
3
4
5
强调：b模式对比t模式
1、在操作纯文本文件方面t模式帮我们省去了编码与解码的环节，b模式则需要手动编码与解码，所以此时t模式更为方便
2、针对非文本文件（如图片、视频、音频等）只能使用b模式


1
2
3
4
5
6
7
8
小练习： 编写拷贝工具

src_file=input('源文件路径: ').strip()
dst_file=input('目标文件路径: ').strip()
with open(r'%s' %src_file,mode='rb') as read_f,open(r'%s' %dst_file,mode='wb') as write_f:
    for line in read_f:
        # print(line)
        write_f.write(line)

操作文件的方法

重点

1
2
3
4
5
6
7
8
读操作：
　　f.read() # 读取所有内容，执行完该操作后，文件指针会移动到文件末尾
　　f.readline() # 读取一行内容，光标移动到第二行首部
　　f.readlines() # 读取每一行内容，存放于列表中

强调：
　　f.read()与f.readlines()都是将内容一次性读入内容，如果内容过大会导致内存溢出，若还想将内容全部读入内存，则必须分多次读入，有两种实现方式:
	
1
2
3
4
5
方式一：

with open('a.txt',mode = 'rt', encoding = 'utf-8')as f:
    for line in f:
    print(line) # 同一时刻只读入一行内容到内存中
1
2
3
4
5
6
7
8
方式二：
    　　
with open('1.mp4',mode = 'rb')as f:
    while True:
        data = f.read(1024) # 同一时刻只读入1024个bytes到内存中
        if len(data) == 0:
            break
        print(data)

imgView Code

1
2
3
4
5
写操作： 
　　　　f.write('1111\n222\n') # 针对文本模式的写，需要自己写换行符
　　　　f.write('1111\n222\n'.encode('utf-8')) # 针对b模式的写，需要自己写换行符
　　　　f.writelines(['333\n', '444\n']) # 文件模式
　　　　f.writelines([bytes('333\n',encoding = 'utf-8'),'444\n'.encode('utf-8')]) # b模式

了解

1
2
3
4
5
6
f.readable()  	# 文件是否可读
f.writable()  	# 文件是否可读
f.closed  		# 文件是否关闭
f.encoding  	# 如果文件打开模式为b,则没有该属性
f.flush()  		# 立刻将文件内容从内存刷到硬盘
f.name

主动控制文件内指针移动

大前提：文件内指针的移动都是bytes为单位的，唯一例外的是t模式下的read(n)，n以字符为单位

1
2
3
4
5
with open('a.txt',mode = 'rt',encoding = 'utf-8')as f:
    data = f.read(3) # 读取3个字符
    
with open('a.txt',mode = 'rb')as f:
    data = f.read(3) # 读取3个bytes
1
2
3
4
5
6
7
8
9
10
之前文件内指针的移动都是由读/写操作而被动触发的，若想读取文件某一特定位置的数据，则需要用f.seek方法主动控制文件内指针的移动，详细用法如下：

f.seek(指针移动的字节数，模式控制)：

# 模式控制：
模式0：默认的模式，该模式代表指针移动的字节数是以文件开头为参照的
模式1：该模式代表指针移动的字节数是以当前所在位置为参照的
模式2：该模式代表指针移动的字节数是以文件末尾的位置为参照的

# 强调：其中模式0可以在t或者b模式使用，而模式1和模式2只能在b模式下使用

案例一： 0模式详解

1
2
3
4
5
6
7
8
9
10
11
12
13
14
# a.txt用utf-8编码，内容如下（abc各占1个字节，中文“你好”各占3个字节）
abc你好

# 0模式的使用

with open('a.txt',mode='rt',encoding='utf-8') as f:
    f.seek(3,0)     # 参照文件开头移动了3个字节
    print(f.tell()) # 查看当前文件指针距离文件开头的位置，输出结果为3
    print(f.read()) # 从第3个字节的位置读到文件末尾，输出结果为：你好
    # 注意：由于在t模式下，会将读取的内容自动解码，所以必须保证读取的内容是一个完整中文数据，否则解码失败

with open('a.txt',mode='rb') as f:
    f.seek(6,0)
    print(f.read().decode('utf-8')) #输出结果为: 好

案例二： 1模式详解

1
2
3
4
5
6
# 1模式的使用
with open('a.txt',mode='rb') as f:
    f.seek(3,1) # 从当前位置往后移动3个字节，而此时的当前位置就是文件开头
    print(f.tell()) # 输出结果为：3
    f.seek(4,1)     # 从当前位置往后移动4个字节，而此时的当前位置为3
    print(f.tell()) # 输出结果为：7

案例三： 2模式详解

1
2
3
4
5
6
7
8
# a.txt用utf-8编码，内容如下（abc各占1个字节，中文“你好”各占3个字节）
abc你好
# 2模式的使用
with open('a.txt',mode='rb') as f:
    f.seek(0,2)     # 参照文件末尾移动0个字节， 即直接跳到文件末尾
    print(f.tell()) # 输出结果为：9
    f.seek(-3,2)     # 参照文件末尾往前移动了3个字节
    print(f.read().decode('utf-8')) # 输出结果为：好
1
2
3
4
5
6
7
8
9
10
11
# 小练习：实现动态查看最新一条日志的效果
import time
with open('access.log',mode='rb') as f:
    f.seek(0,2)
    while True:
        line=f.readline()
        if len(line) == 0:
            # 没有内容
            time.sleep(0.5)
        else:
            print(line.decode('utf-8'),end='')

文件的修改

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
# 文件a.txt内容如下：

张一蛋     山东    179    49    12344234523
李二蛋     河北    163    57    13913453521
王全蛋     山西    153    62    18651433422

# 执行操作

with open('a.txt',mode = 'r+t',encoding = 'utf-8')as f:
    f.seek(9)
    f.write('<妇女主任>')
    
# 文件修改后的内容如下：

张一蛋<妇女主任> 179    49    12344234523
李二蛋     河北    163    57    13913453521
王全蛋     山西    153    62    18651433422

'''
强调：
    1 硬盘中是无法修改的，硬盘中数据的更新都是用新内容覆盖旧内容
    2 内存中的数据是可以修改的
'''

文件对应的是硬盘，硬盘不能修改 --->  文件本质也不能修改 

那我们看到文件的内容可以修改，是如何实现的呢？
大致思路是将硬盘中文件内容读入内存，然后再内存中修改完毕后，再覆盖回硬盘

具体的实现方式分为两种   ↓↓↓

文件修改方式一：

1
2
3
4
5
6
7
8
9
# 实现思路：将文件内容一次性全部读入内存，然后再内存中修改完毕后再覆盖写回文件

# 优点：在文件修改过程中同一份数据 只有一份
# 缺点：会过多地占用内存
with open('db.txt',mode='rt',encoding='utf-8') as f:
    data=f.read()

with open('db.txt',mode='wt',encoding='utf-8') as f:
    f.write(data.replace('kevin','SB'))

文件修改方式二：

1
2
3
4
5
6
7
8
9
10
11
12
13
# 实现思路：以读的方式打开源文件，以写的方式打开一个临时文件，一行行读取原文件内容，修改完后写入临时文件...，将临时文件重命名原文件名

# 优点：不会占用过多的内存
# 缺点：在文件修改过程中同一份数据存了两份
import os

with open('db.txt',mode='rt',encoding='utf-8') as read_f,\
        open('.db.txt.swap',mode='wt',encoding='utf-8') as wrife_f:
    for line in read_f:
        wrife_f.write(line.replace('SB','kevin'))

os.remove('db.txt')
os.rename('.db.txt.swap','db.txt')