做水果的有什么網(wǎng)站桂林seo顧問
IO在計(jì)算機(jī)中指Input/Output,也就是輸入和輸出。由于程序和運(yùn)行時(shí)數(shù)據(jù)是在內(nèi)存中駐留,由CPU這個(gè)超快的計(jì)算核心來執(zhí)行,涉及到數(shù)據(jù)交換的地方,通常是磁盤、網(wǎng)絡(luò)等,就需要IO接口。
比如你打開瀏覽器,訪問新浪首頁,瀏覽器這個(gè)程序就需要通過網(wǎng)絡(luò)IO獲取新浪的網(wǎng)頁。瀏覽器首先會(huì)發(fā)送數(shù)據(jù)給新浪服務(wù)器,告訴它我想要首頁的HTML,這個(gè)動(dòng)作是往外發(fā)數(shù)據(jù),叫Output,隨后新浪服務(wù)器把網(wǎng)頁發(fā)過來,這個(gè)動(dòng)作是從外面接收數(shù)據(jù),叫Input。所以,通常,程序完成IO操作會(huì)有Input和Output兩個(gè)數(shù)據(jù)流。當(dāng)然也有只用一個(gè)的情況,比如,從磁盤讀取文件到內(nèi)存,就只有Input操作,反過來,把數(shù)據(jù)寫到磁盤文件里,就只是一個(gè)Output操作。
IO編程中,Stream(流)是一個(gè)很重要的概念,可以把流想象成一個(gè)水管,數(shù)據(jù)就是水管里的水,但是只能單向流動(dòng)。Input Stream就是數(shù)據(jù)從外面(磁盤、網(wǎng)絡(luò))流進(jìn)內(nèi)存,Output Stream就是數(shù)據(jù)從內(nèi)存流到外面去。對(duì)于瀏覽網(wǎng)頁來說,瀏覽器和新浪服務(wù)器之間至少需要建立兩根水管,才可以既能發(fā)數(shù)據(jù),又能收數(shù)據(jù)。
由于CPU和內(nèi)存的速度遠(yuǎn)遠(yuǎn)高于外設(shè)的速度,所以,在IO編程中,就存在速度嚴(yán)重不匹配的問題。舉個(gè)例子來說,比如要把100M的數(shù)據(jù)寫入磁盤,CPU輸出100M的數(shù)據(jù)只需要0.01秒,可是磁盤要接收這100M數(shù)據(jù)可能需要10秒,怎么辦呢?有兩種辦法:
第一種是CPU等著,也就是程序暫停執(zhí)行后續(xù)代碼,等100M的數(shù)據(jù)在10秒后寫入磁盤,再接著往下執(zhí)行,這種模式稱為同步IO;
另一種方法是CPU不等待,只是告訴磁盤,“您老慢慢寫,不著急,我接著干別的事去了”,于是,后續(xù)代碼可以立刻接著執(zhí)行,這種模式稱為異步IO。
同步和異步的區(qū)別就在于是否等待IO執(zhí)行的結(jié)果。好比你去麥當(dāng)勞點(diǎn)餐,你說“來個(gè)漢堡”,服務(wù)員告訴你,對(duì)不起,漢堡要現(xiàn)做,需要等5分鐘,于是你站在收銀臺(tái)前面等了5分鐘,拿到漢堡再去逛商場(chǎng),這是同步IO。
你說“來個(gè)漢堡”,服務(wù)員告訴你,漢堡需要等5分鐘,你可以先去逛商場(chǎng),等做好了,我們?cè)偻ㄖ?#xff0c;這樣你可以立刻去干別的事情(逛商場(chǎng)),這是異步IO。
很明顯,使用異步IO來編寫程序性能會(huì)遠(yuǎn)遠(yuǎn)高于同步IO,但是異步IO的缺點(diǎn)是編程模型復(fù)雜。想想看,你得知道什么時(shí)候通知你“漢堡做好了”,而通知你的方法也各不相同。如果是服務(wù)員跑過來找到你,這是回調(diào)模式,如果服務(wù)員發(fā)短信通知你,你就得不停地檢查手機(jī),這是輪詢模式??傊?#xff0c;異步IO的復(fù)雜度遠(yuǎn)遠(yuǎn)高于同步IO。
操作IO的能力都是由操作系統(tǒng)提供的,每一種編程語言都會(huì)把操作系統(tǒng)提供的低級(jí)C接口封裝起來方便使用,Python也不例外。我們后面會(huì)詳細(xì)討論P(yáng)ython的IO編程接口。
注意,本章的IO編程都是同步模式,異步IO由于復(fù)雜度太高,后續(xù)涉及到服務(wù)器端程序開發(fā)時(shí)我們?cè)儆懻摗?/p>
文件讀寫
讀寫文件是最常見的IO操作。Python內(nèi)置了讀寫文件的函數(shù),用法和C是兼容的。
讀寫文件前,我們先必須了解一下,在磁盤上讀寫文件的功能都是由操作系統(tǒng)提供的,現(xiàn)代操作系統(tǒng)不允許普通的程序直接操作磁盤,所以,讀寫文件就是請(qǐng)求操作系統(tǒng)打開一個(gè)文件對(duì)象(通常稱為文件描述符),然后,通過操作系統(tǒng)提供的接口從這個(gè)文件對(duì)象中讀取數(shù)據(jù)(讀文件),或者把數(shù)據(jù)寫入這個(gè)文件對(duì)象(寫文件)。
讀文件
要以讀文件的模式打開一個(gè)文件對(duì)象,使用Python內(nèi)置的open()函數(shù),傳入文件名和標(biāo)示符:
>>> f = open('/Users/michael/test.txt', 'r')
標(biāo)示符’r’表示讀,這樣,我們就成功地打開了一個(gè)文件。
如果文件不存在,open()
函數(shù)就會(huì)拋出一個(gè)IOError的錯(cuò)誤,并且給出錯(cuò)誤碼和詳細(xì)的信息告訴你文件不存在:
>>> f=open('/Users/michael/notfound.txt', 'r')
Traceback (most recent call last):File "<stdin>", line 1, in <module>
FileNotFoundError: [Errno 2] No such file or directory: '/Users/michael/notfound.txt'
如果文件打開成功,接下來,調(diào)用read()
方法可以一次讀取文件的全部?jī)?nèi)容,Python把內(nèi)容讀到內(nèi)存,用一個(gè)str對(duì)象表示:
>>> f.read()
'Hello, world!'
最后一步是調(diào)用close()
方法關(guān)閉文件。文件使用完畢后必須關(guān)閉,因?yàn)槲募?duì)象會(huì)占用操作系統(tǒng)的資源,并且操作系統(tǒng)同一時(shí)間能打開的文件數(shù)量也是有限的:
>>> f.close()
由于文件讀寫時(shí)都有可能產(chǎn)生IOError
,一旦出錯(cuò),后面的f.close()
就不會(huì)調(diào)用。所以,為了保證無論是否出錯(cuò)都能正確地關(guān)閉文件,我們可以使用try ... finally
來實(shí)現(xiàn):
try:f = open('/path/to/file', 'r')print(f.read())
finally:if f:f.close()
但是每次都這么寫實(shí)在太繁瑣,所以,Python引入了with
語句來自動(dòng)幫我們調(diào)用close()
方法:
with open('/path/to/file', 'r') as f:print(f.read())
這和前面的try ... finally
是一樣的,但是代碼更佳簡(jiǎn)潔,并且不必調(diào)用f.close()
方法。
調(diào)用read()
會(huì)一次性讀取文件的全部?jī)?nèi)容,如果文件有10G,內(nèi)存就爆了,所以,要保險(xiǎn)起見,可以反復(fù)調(diào)用read(size)
方法,每次最多讀取size個(gè)字節(jié)的內(nèi)容。另外,調(diào)用readline()
可以每次讀取一行內(nèi)容,調(diào)用readlines()
一次讀取所有內(nèi)容并按行返回list
。因此,要根據(jù)需要決定怎么調(diào)用。
如果文件很小,read()
一次性讀取最方便;如果不能確定文件大小,反復(fù)調(diào)用read(size)
比較保險(xiǎn);如果是配置文件,調(diào)用readlines()
最方便:
for line in f.readlines():print(line.strip()) # 把末尾的'\n'刪掉
file-like Object
像open()
函數(shù)返回的這種有個(gè)read()
方法的對(duì)象,在Python中統(tǒng)稱為file-like Object。除了file外,還可以是內(nèi)存的字節(jié)流,網(wǎng)絡(luò)流,自定義流等等。file-like Object不要求從特定類繼承,只要寫個(gè)read()
方法就行。
StringIO
就是在內(nèi)存中創(chuàng)建的file-like Object,常用作臨時(shí)緩沖。
二進(jìn)制文件
前面講的默認(rèn)都是讀取文本文件,并且是UTF-8編碼的文本文件。要讀取二進(jìn)制文件,比如圖片、視頻等等,用'rb'
模式打開文件即可:
>>> f = open('/Users/michael/test.jpg', 'rb')
>>> f.read()
b'\xff\xd8\xff\xe1\x00\x18Exif\x00\x00...' # 十六進(jìn)制表示的字節(jié)
字符編碼
要讀取非UTF-8編碼的文本文件,需要給open()
函數(shù)傳入encoding
參數(shù),例如,讀取GBK編碼的文件:
>>> f = open('/Users/michael/gbk.txt', 'r', encoding='gbk')
>>> f.read()
'測(cè)試'
遇到有些編碼不規(guī)范的文件,你可能會(huì)遇到UnicodeDecodeError
,因?yàn)樵谖谋疚募锌赡軍A雜了一些非法編碼的字符。遇到這種情況,open()
函數(shù)還接收一個(gè)errors
參數(shù),表示如果遇到編碼錯(cuò)誤后如何處理。最簡(jiǎn)單的方式是直接忽略:
>>> f = open('/Users/michael/gbk.txt', 'r', encoding='gbk', errors='ignore')
寫文件
寫文件和讀文件是一樣的,唯一區(qū)別是調(diào)用open()函數(shù)時(shí),傳入標(biāo)識(shí)符'w'
或者'wb'
表示寫文本文件或?qū)懚M(jìn)制文件:
>>> f = open('/Users/michael/test.txt', 'w')
>>> f.write('Hello, world!')
>>> f.close()
你可以反復(fù)調(diào)用write()
來寫入文件,但是務(wù)必要調(diào)用f.close()
來關(guān)閉文件。當(dāng)我們寫文件時(shí),操作系統(tǒng)往往不會(huì)立刻把數(shù)據(jù)寫入磁盤,而是放到內(nèi)存緩存起來,空閑的時(shí)候再慢慢寫入。只有調(diào)用close()
方法時(shí),操作系統(tǒng)才保證把沒有寫入的數(shù)據(jù)全部寫入磁盤。忘記調(diào)用close()的后果是數(shù)據(jù)可能只寫了一部分到磁盤,剩下的丟失了。所以,還是用with
語句來得保險(xiǎn):
with open('/Users/michael/test.txt', 'w') as f:f.write('Hello, world!')
要寫入特定編碼的文本文件,請(qǐng)給open()
函數(shù)傳入encoding
參數(shù),將字符串自動(dòng)轉(zhuǎn)換成指定編碼。
細(xì)心的童鞋會(huì)發(fā)現(xiàn),以'w'
模式寫入文件時(shí),如果文件已存在,會(huì)直接覆蓋(相當(dāng)于刪掉后新寫入一個(gè)文件)。如果我們希望追加到文件末尾怎么辦?可以傳入'a'
以追加(append)模式寫入。
所有模式的定義及含義可以參考Python的官方文檔。
練習(xí)
請(qǐng)將本地一個(gè)文本文件讀為一個(gè)str并打印出來:
fpath = '/etc/timezone'with open(fpath, 'r') as f:s = f.read()print(s)
小結(jié)
在Python中,文件讀寫是通過open()
函數(shù)打開的文件對(duì)象完成的。使用with
語句操作文件IO是個(gè)好習(xí)慣。
StringIO和BytesIO
StringIO
很多時(shí)候,數(shù)據(jù)讀寫不一定是文件,也可以在內(nèi)存中讀寫。
StringIO顧名思義就是在內(nèi)存中讀寫str。
要把str寫入StringIO,我們需要先創(chuàng)建一個(gè)StringIO,然后,像文件一樣寫入即可:
>>> from io import StringIO
>>> f = StringIO()
>>> f.write('hello')
5
>>> f.write(' ')
1
>>> f.write('world!')
6
>>> print(f.getvalue())
hello world!
getvalue()
方法用于獲得寫入后的str。
要讀取StringIO,可以用一個(gè)str初始化StringIO,然后,像讀文件一樣讀取:
>>> from io import StringIO
>>> f = StringIO('Hello!\nHi!\nGoodbye!')
>>> while True:
... s = f.readline()
... if s == '':
... break
... print(s.strip())
...
Hello!
Hi!
Goodbye!
BytesIO
StringIO操作的只能是str,如果要操作二進(jìn)制數(shù)據(jù),就需要使用BytesIO。
BytesIO實(shí)現(xiàn)了在內(nèi)存中讀寫bytes,我們創(chuàng)建一個(gè)BytesIO,然后寫入一些bytes:
>>> from io import BytesIO
>>> f = BytesIO()
>>> f.write('中文'.encode('utf-8'))
6
>>> print(f.getvalue())
b'\xe4\xb8\xad\xe6\x96\x87'
請(qǐng)注意,寫入的不是str,而是經(jīng)過UTF-8編碼的bytes。
和StringIO類似,可以用一個(gè)bytes初始化BytesIO,然后,像讀文件一樣讀取:
>>> from io import BytesIO
>>> f = BytesIO(b'\xe4\xb8\xad\xe6\x96\x87')
>>> f.read()
b'\xe4\xb8\xad\xe6\x96\x87'
小結(jié)
StringIO和BytesIO是在內(nèi)存中操作str和bytes的方法,使得和讀寫文件具有一致的接口。
操作文件和目錄
如果我們要操作文件、目錄,可以在命令行下面輸入操作系統(tǒng)提供的各種命令來完成。比如dir
、cp
等命令。
如果要在Python程序中執(zhí)行這些目錄和文件的操作怎么辦?其實(shí)操作系統(tǒng)提供的命令只是簡(jiǎn)單地調(diào)用了操作系統(tǒng)提供的接口函數(shù),Python內(nèi)置的os
模塊也可以直接調(diào)用操作系統(tǒng)提供的接口函數(shù)。
打開Python交互式命令行,我們來看看如何使用os
模塊的基本功能:
>>> import os
>>> os.name # 操作系統(tǒng)類型
'posix'
如果是posix
,說明系統(tǒng)是Linux
、Unix
或Mac OS X
,如果是nt
,就是Windows
系統(tǒng)。
要獲取詳細(xì)的系統(tǒng)信息,可以調(diào)用uname()
函數(shù):
>>> os.uname()
posix.uname_result(sysname='Darwin', nodename='MichaelMacPro.local', release='14.3.0', version='Darwin Kernel Version 14.3.0: Mon Mar 23 11:59:05 PDT 2015; root:xnu-2782.20.48~5/RELEASE_X86_64', machine='x86_64')
注意uname()
函數(shù)在Windows上不提供,也就是說,os
模塊的某些函數(shù)是跟操作系統(tǒng)相關(guān)的。
環(huán)境變量
在操作系統(tǒng)中定義的環(huán)境變量,全部保存在os.environ
這個(gè)變量中,可以直接查看:
>>> os.environ
environ({'VERSIONER_PYTHON_PREFER_32_BIT': 'no', 'TERM_PROGRAM_VERSION': '326', 'LOGNAME': 'michael', 'USER': 'michael', 'PATH': '/usr/bin:/bin:/usr/sbin:/sbin:/usr/local/bin:/opt/X11/bin:/usr/local/mysql/bin', ...})
要獲取某個(gè)環(huán)境變量的值,可以調(diào)用os.environ.get('key')
:
>>> os.environ.get('PATH')
'/usr/bin:/bin:/usr/sbin:/sbin:/usr/local/bin:/opt/X11/bin:/usr/local/mysql/bin'
>>> os.environ.get('x', 'default')
'default'
操作文件和目錄
操作文件和目錄的函數(shù)一部分放在os
模塊中,一部分放在os.path
模塊中,這一點(diǎn)要注意一下。查看、創(chuàng)建和刪除目錄可以這么調(diào)用:
# 查看當(dāng)前目錄的絕對(duì)路徑:
>>> os.path.abspath('.')
'/Users/michael'
# 在某個(gè)目錄下創(chuàng)建一個(gè)新目錄,首先把新目錄的完整路徑表示出來:
>>> os.path.join('/Users/michael', 'testdir')
'/Users/michael/testdir'
# 然后創(chuàng)建一個(gè)目錄:
>>> os.mkdir('/Users/michael/testdir')
# 刪掉一個(gè)目錄:
>>> os.rmdir('/Users/michael/testdir')
把兩個(gè)路徑合成一個(gè)時(shí),不要直接拼字符串,而要通過os.path.join()
函數(shù),這樣可以正確處理不同操作系統(tǒng)的路徑分隔符。在Linux/Unix/Mac下,os.path.join()
返回這樣的字符串:
part-1/part-2
而Windows下會(huì)返回這樣的字符串:
part-1\part-2
同樣的道理,要拆分路徑時(shí),也不要直接去拆字符串,而要通過os.path.split()
函數(shù),這樣可以把一個(gè)路徑拆分為兩部分,后一部分總是最后級(jí)別的目錄或文件名:
>>> os.path.split('/Users/michael/testdir/file.txt')
('/Users/michael/testdir', 'file.txt')
os.path.splitext()
可以直接讓你得到文件擴(kuò)展名,很多時(shí)候非常方便:
>>> os.path.splitext('/path/to/file.txt')
('/path/to/file', '.txt')
這些合并、拆分路徑的函數(shù)并不要求目錄和文件要真實(shí)存在,它們只對(duì)字符串進(jìn)行操作。
文件操作使用下面的函數(shù)。假定當(dāng)前目錄下有一個(gè)test.txt
文件:
# 對(duì)文件重命名:
>>> os.rename('test.txt', 'test.py')
# 刪掉文件:
>>> os.remove('test.py')
但是復(fù)制文件的函數(shù)居然在os模塊中不存在!原因是復(fù)制文件并非由操作系統(tǒng)提供的系統(tǒng)調(diào)用。理論上講,我們通過上一節(jié)的讀寫文件可以完成文件復(fù)制,只不過要多寫很多代碼。
幸運(yùn)的是shutil
模塊提供了copyfile()
的函數(shù),你還可以在shutil
模塊中找到很多實(shí)用函數(shù),它們可以看做是os
模塊的補(bǔ)充。
最后看看如何利用Python的特性來過濾文件。比如我們要列出當(dāng)前目錄下的所有目錄,只需要一行代碼:
>>> [x for x in os.listdir('.') if os.path.isdir(x)]
['.lein', '.local', '.m2', '.npm', '.ssh', '.Trash', '.vim', 'Applications', 'Desktop', ...]
要列出所有的.py
文件,也只需一行代碼:
>>> [x for x in os.listdir('.') if os.path.isfile(x) and os.path.splitext(x)[1]=='.py']
['apis.py', 'config.py', 'models.py', 'pymonitor.py', 'test_db.py', 'urls.py', 'wsgiapp.py']
小結(jié)
Python的os
模塊封裝了操作系統(tǒng)的目錄和文件操作,要注意這些函數(shù)有的在os
模塊中,有的在os.path
模塊中。
練習(xí)
- 利用
os
模塊編寫一個(gè)能實(shí)現(xiàn)dir -l
輸出的程序。
# -*- coding: utf-8 -*-import os
import stat
import timedef list_dir_long_format():# 獲取當(dāng)前目錄下的所有文件和目錄名entries = os.listdir('.')for entry in entries:# 獲取文件詳細(xì)信息full_path = os.path.join('.', entry)file_stat = os.stat(full_path)# 獲取文件權(quán)限permissions = stat.filemode(file_stat.st_mode)# 獲取文件所有者uid = file_stat.st_uiduser = os.path.basename(f'/proc/{uid}')# 獲取文件大小size = file_stat.st_size# 獲取文件最后修改時(shí)間mtime = file_stat.st_mtime# 格式化時(shí)間戳為可讀的日期時(shí)間字符串time_str = time.ctime(mtime)# 打印文件信息print(f"{permissions} {user} {size} {time_str} {entry}")if __name__ == '__main__':list_dir_long_format()
- 編寫一個(gè)程序,能在當(dāng)前目錄以及當(dāng)前目錄的所有子目錄下查找文件名包含指定字符串的文件,并打印出相對(duì)路徑。
# -*- coding: utf-8 -*-import osdef find_files_by_name(root_dir, search_name):for root, dirs, files in os.walk(root_dir):for file in files:if search_name in file:# 打印文件的相對(duì)路徑print(os.path.relpath(os.path.join(root, file), root_dir))# 要搜索的目錄(當(dāng)前目錄)
current_directory = '.'
# 要搜索的文件名字符串
search_string = input("Enter the file name string to search for: ")# 調(diào)用函數(shù)進(jìn)行搜索
find_files_by_name(current_directory, search_string)
序列化
在程序運(yùn)行的過程中,所有的變量都是在內(nèi)存中,比如,定義一個(gè)dict:
d = dict(name='Bob', age=20, score=88)
可以隨時(shí)修改變量,比如把name
改成'Bill'
,但是一旦程序結(jié)束,變量所占用的內(nèi)存就被操作系統(tǒng)全部回收。如果沒有把修改后的'Bill'
存儲(chǔ)到磁盤上,下次重新運(yùn)行程序,變量又被初始化為'Bob'
。
我們把變量從內(nèi)存中變成可存儲(chǔ)或傳輸?shù)倪^程稱之為序列化,在Python中叫pickling,在其他語言中也被稱之為serialization,marshalling,flattening等等,都是一個(gè)意思。
序列化之后,就可以把序列化后的內(nèi)容寫入磁盤,或者通過網(wǎng)絡(luò)傳輸?shù)絼e的機(jī)器上。
反過來,把變量?jī)?nèi)容從序列化的對(duì)象重新讀到內(nèi)存里稱之為反序列化,即unpickling。
Python提供了pickle
模塊來實(shí)現(xiàn)序列化。
首先,我們嘗試把一個(gè)對(duì)象序列化并寫入文件:
>>> import pickle
>>> d = dict(name='Bob', age=20, score=88)
>>> pickle.dumps(d)
b'\x80\x03}q\x00(X\x03\x00\x00\x00ageq\x01K\x14X\x05\x00\x00\x00scoreq\x02KXX\x04\x00\x00\x00nameq\x03X\x03\x00\x00\x00Bobq\x04u.'
pickle.dumps()
方法把任意對(duì)象序列化成一個(gè)bytes
,然后,就可以把這個(gè)bytes
寫入文件?;蛘哂昧硪粋€(gè)方法pickle.dump()
直接把對(duì)象序列化后寫入一個(gè)file-like Object:
>>> f = open('dump.txt', 'wb')
>>> pickle.dump(d, f)
>>> f.close()
看看寫入的dump.txt
文件,一堆亂七八糟的內(nèi)容,這些都是Python保存的對(duì)象內(nèi)部信息。
當(dāng)我們要把對(duì)象從磁盤讀到內(nèi)存時(shí),可以先把內(nèi)容讀到一個(gè)bytes
,然后用pickle.loads()
方法反序列化出對(duì)象,也可以直接用pickle.load()
方法從一個(gè)file-like Object
中直接反序列化出對(duì)象。我們打開另一個(gè)Python命令行來反序列化剛才保存的對(duì)象:
>>> f = open('dump.txt', 'rb')
>>> d = pickle.load(f)
>>> f.close()
>>> d
{'age': 20, 'score': 88, 'name': 'Bob'}
變量的內(nèi)容又回來了!
當(dāng)然,這個(gè)變量和原來的變量是完全不相干的對(duì)象,它們只是內(nèi)容相同而已。
Pickle的問題和所有其他編程語言特有的序列化問題一樣,就是它只能用于Python,并且可能不同版本的Python彼此都不兼容,因此,只能用Pickle保存那些不重要的數(shù)據(jù),不能成功地反序列化也沒關(guān)系。
JSON
如果我們要在不同的編程語言之間傳遞對(duì)象,就必須把對(duì)象序列化為標(biāo)準(zhǔn)格式,比如XML,但更好的方法是序列化為JSON,因?yàn)镴SON表示出來就是一個(gè)字符串,可以被所有語言讀取,也可以方便地存儲(chǔ)到磁盤或者通過網(wǎng)絡(luò)傳輸。JSON不僅是標(biāo)準(zhǔn)格式,并且比XML更快,而且可以直接在Web頁面中讀取,非常方便。
JSON表示的對(duì)象就是標(biāo)準(zhǔn)的JavaScript語言的對(duì)象,JSON和Python內(nèi)置的數(shù)據(jù)類型對(duì)應(yīng)如下:
Python內(nèi)置的json
模塊提供了非常完善的Python對(duì)象到JSON格式的轉(zhuǎn)換。我們先看看如何把Python對(duì)象變成一個(gè)JSON:
>>> import json
>>> d = dict(name='Bob', age=20, score=88)
>>> json.dumps(d)
'{"age": 20, "score": 88, "name": "Bob"}'
dumps()
方法返回一個(gè)str
,內(nèi)容就是標(biāo)準(zhǔn)的JSON。類似的,dump()
方法可以直接把JSON寫入一個(gè)file-like Object
。
要把JSON反序列化為Python對(duì)象,用loads()
或者對(duì)應(yīng)的load()
方法,前者把JSON的字符串反序列化,后者從file-like Object
中讀取字符串并反序列化:
>>> json_str = '{"age": 20, "score": 88, "name": "Bob"}'
>>> json.loads(json_str)
{'age': 20, 'score': 88, 'name': 'Bob'}
由于JSON標(biāo)準(zhǔn)規(guī)定JSON編碼是UTF-8,所以我們總是能正確地在Python的str
與JSON的字符串之間轉(zhuǎn)換。
JSON進(jìn)階
Python的dict對(duì)象可以直接序列化為JSON的{}
,不過,很多時(shí)候,我們更喜歡用class
表示對(duì)象,比如定義Student
類,然后序列化:
import jsonclass Student(object):def __init__(self, name, age, score):self.name = nameself.age = ageself.score = scores = Student('Bob', 20, 88)
print(json.dumps(s))
運(yùn)行代碼,毫不留情地得到一個(gè)TypeError
:
Traceback (most recent call last):...
TypeError: <__main__.Student object at 0x10603cc50> is not JSON serializable
錯(cuò)誤的原因是Student
對(duì)象不是一個(gè)可序列化為JSON的對(duì)象。
如果連class
的實(shí)例對(duì)象都無法序列化為JSON,這肯定不合理!
別急,我們仔細(xì)看看dumps()
方法的參數(shù)列表,可以發(fā)現(xiàn),除了第一個(gè)必須的obj
參數(shù)外,dumps()
方法還提供了一大堆的可選參數(shù):
https://docs.python.org/3/library/json.html#json.dumps
這些可選參數(shù)就是讓我們來定制JSON序列化。前面的代碼之所以無法把Student
類實(shí)例序列化為JSON,是因?yàn)槟J(rèn)情況下,dumps()
方法不知道如何將Student實(shí)例變?yōu)橐粋€(gè)JSON的{}
對(duì)象。
可選參數(shù)default
就是把任意一個(gè)對(duì)象變成一個(gè)可序列為JSON的對(duì)象,我們只需要為Student
專門寫一個(gè)轉(zhuǎn)換函數(shù),再把函數(shù)傳進(jìn)去即可:
def student2dict(std):return {'name': std.name,'age': std.age,'score': std.score}
這樣,Student
實(shí)例首先被student2dict()
函數(shù)轉(zhuǎn)換成dict
,然后再被順利序列化為JSON:
>>> print(json.dumps(s, default=student2dict))
{"age": 20, "name": "Bob", "score": 88}
不過,下次如果遇到一個(gè)Teacher
類的實(shí)例,照樣無法序列化為JSON。我們可以偷個(gè)懶,把任意class
的實(shí)例變?yōu)?code>dict:
print(json.dumps(s, default=lambda obj: obj.__dict__))
因?yàn)橥ǔlass的實(shí)例都有一個(gè)__dict__
屬性,它就是一個(gè)dict,用來存儲(chǔ)實(shí)例變量。也有少數(shù)例外,比如定義了__slots__
的class。
同樣的道理,如果我們要把JSON反序列化為一個(gè)Student
對(duì)象實(shí)例,loads()
方法首先轉(zhuǎn)換出一個(gè)dict
對(duì)象,然后,我們傳入的object_hook
函數(shù)負(fù)責(zé)把dict
轉(zhuǎn)換為Student
實(shí)例:
def dict2student(d):return Student(d['name'], d['age'], d['score'])
運(yùn)行結(jié)果如下:
>>> json_str = '{"age": 20, "score": 88, "name": "Bob"}'
>>> print(json.loads(json_str, object_hook=dict2student))
<__main__.Student object at 0x10cd3c190>
打印出的是反序列化的Student
實(shí)例對(duì)象。
練習(xí)
對(duì)中文進(jìn)行JSON序列化時(shí),json.dumps()
提供了一個(gè)ensure_ascii
參數(shù),觀察該參數(shù)對(duì)結(jié)果的影響:
根據(jù)官方文檔:
json.dump(obj, fp, *, skipkeys=False, ensure_ascii=True, check_circular=True, allow_nan=True, cls=None, indent=None, separators=None, default=None, sort_keys=False, **kw)
這個(gè)ensure_ascii
參數(shù)一直是True
,If ensure_ascii is true (the default), the output is guaranteed to have all incoming non-ASCII characters escaped. If ensure_ascii is false, these characters will be output as-is.(ensure_ascii參數(shù)決定了序列化時(shí)是否將所有非ASCII字符轉(zhuǎn)換為\uXXXX形式的Unicode轉(zhuǎn)義序列。如果你將它設(shè)置為False,json.dumps()將嘗試保留這些字符的原始編碼,而不是將它們轉(zhuǎn)換為Unicode轉(zhuǎn)義序列。)
# -*- coding: utf-8 -*-import jsonobj = dict(name='小明', age=20)
# s = json.dumps(obj, ensure_ascii=True)
s = json.dumps(obj)print(s)s = json.dumps(obj, ensure_ascii=False)print(s)
結(jié)果:
{"name": "\u5c0f\u660e", "age": 20}
{"name": "小明", "age": 20}
小結(jié)
Python語言特定的序列化模塊是pickle
,但如果要把序列化搞得更通用、更符合Web標(biāo)準(zhǔn),就可以使用json
模塊。
json
模塊的dumps()
和loads()
函數(shù)是定義得非常好的接口的典范。當(dāng)我們使用時(shí),只需要傳入一個(gè)必須的參數(shù)。但是,當(dāng)默認(rèn)的序列化或反序列機(jī)制不滿足我們的要求時(shí),我們又可以傳入更多的參數(shù)來定制序列化或反序列化的規(guī)則,既做到了接口簡(jiǎn)單易用,又做到了充分的擴(kuò)展性和靈活性。
參考自https://www.liaoxuefeng.com/