Linux 指令行:cURL 的十種常見用法
2017年5月11日 Wray Zheng
文章目錄
1. 擷取頁面内容
2. 顯示 HTTP 頭
3. 将連結儲存到檔案
4. 同時下載下傳多個檔案
5. 使用 -L 跟随連結重定向
6. 使用 -A 自定義 User-Agent
7. 使用 -H 自定義 header
8. 使用 -c 儲存 Cookie
9. 使用 -b 讀取 Cookie
10. 使用 -d 發送 POST 請求
1. 擷取頁面内容
當我們不加任何選項使用 curl 時,預設會發送 GET 請求來擷取連結内容到标準輸出。
curl http://www.codebelief.com
2. 顯示 HTTP 頭
如果我們隻想要顯示 HTTP 頭,而不顯示檔案内容,可以使用 -I 選項:
curl -I http://www.codebelief.com
輸出為:
HTTP/1.1 200 OK
Server: nginx/1.10.3
Date: Thu, 11 May 2017 08:24:45 GMT
Content-Type: text/html; charset=utf-8
Content-Length: 24206
Connection: keep-alive
X-Powered-By: Express
Cache-Control: public, max-age=0
ETag: W/"5e8e-Yw5ZdnVVly9/aEnMX7fVXQ"
Vary: Accept-Encoding
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
也可以同時顯示 HTTP 頭和檔案内容,使用 -i 選項:
curl -i http://www.codebelief.com
輸出為:
HTTP/1.1 200 OK
Server: nginx/1.10.3
Date: Thu, 11 May 2017 08:25:46 GMT
Content-Type: text/html; charset=utf-8
Content-Length: 24206
Connection: keep-alive
X-Powered-By: Express
Cache-Control: public, max-age=0
ETag: W/"5e8e-Yw5ZdnVVly9/aEnMX7fVXQ"
Vary: Accept-Encoding
<!DOCTYPE html>
<html >
......
</html>
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
- 11
- 12
- 13
- 14
- 15
3. 将連結儲存到檔案
我們可以使用 > 符号将輸出重定向到本地檔案中。
curl http://www.codebelief.com > index.html
也可以通過 curl 自帶的 -o/-O 選項将内容儲存到檔案中。
-o(小寫的 o):結果會被儲存到指令行中提供的檔案名
-O(大寫的 O):URL 中的檔案名會被用作儲存輸出的檔案名
curl -o index.html http://www.codebelief.com
curl -O 代碼信條 - Code Belief - 第2頁
注意:使用 -O 選項時,必須確定連結末尾包含檔案名,否則 curl 無法正确儲存檔案。如果遇到連結中無檔案名的情況,應該使用 -o 選項手動指定檔案名,或使用重定向符号。
4. 同時下載下傳多個檔案
我們可以使用 -o 或 -O 選項來同時指定多個連結,按照以下格式編寫指令:
curl -O 代碼信條 - Code Belief - 第2頁 -O 代碼信條 - Code Belief - 第3頁
或者:
curl -o page1.html 代碼信條 - Code Belief -o page2.html 代碼信條 - Code Belief - 第2頁
5. 使用 -L 跟随連結重定向
如果直接使用 curl 打開某些被重定向後的連結,這種情況下就無法擷取我們想要的網頁内容。例如:
curl http://codebelief.com
會得到如下提示:
<html>
<head><title>301 Moved Permanently</title></head>
<body bgcolor="white">
<center><h1>301 Moved Permanently</h1></center>
<hr><center>nginx/1.10.3</center>
</body>
</html>
- 1
- 2
- 3
- 4
- 5
- 6
- 7
而當我們通過浏覽器打開該連結時,會自動跳轉到 http://www.codebelief.com。此時我們想要 curl 做的,就是像浏覽器一樣跟随連結的跳轉,擷取最終的網頁内容。我們可以在指令中添加 -L 選項來跟随連結重定向:
curl -L http://codebelief.com
這樣我們就能擷取到經過重定向後的網頁内容了。
6. 使用 -A 自定義 User-Agent
我們可以使用 -A 來自定義使用者代理,例如下面的指令将僞裝成安卓火狐浏覽器對網頁進行請求:
curl -A “Mozilla/5.0 (Android; Mobile; rv:35.0) Gecko/35.0 Firefox/35.0” http://www.baidu.com
下面我們會使用 -H 來實作同樣的目的。
7. 使用 -H 自定義 header
當我們需要傳遞特定的 header 的時候,可以仿照以下指令來寫:
curl -H “Referer: www.example.com” -H “User-Agent: Custom-User-Agent” http://www.baidu.com
可以看到,當我們使用 -H 來自定義 User-Agent 時,需要使用 “User-Agent: xxx” 的格式。
我們能夠直接在 header 中傳遞 Cookie,格式與上面的例子一樣:
curl -H “Cookie: JSESSIONID=D0112A5063D938586B659EF8F939BE24” http://www.example.com
另一種方式會在下面介紹。
8. 使用 -c 儲存 Cookie
當我們使用 cURL 通路頁面的時候,預設是不會儲存 Cookie 的。有些情況下我們希望儲存 Cookie 以便下次通路時使用。例如登陸了某個網站,我們希望再次通路該網站時保持登陸的狀态,這時就可以現将登陸時的 Cookie 儲存起來,下次通路時再讀取。
-c 後面跟上要儲存的檔案名。
curl -c “cookie-example” http://www.example.com
9. 使用 -b 讀取 Cookie
前面講到了使用 -H 來發送 Cookie 的方法,這種方式是直接将 Cookie 字元串寫在指令中。如果使用 -b 來自定義 Cookie,指令如下:
curl -b “JSESSIONID=D0112A5063D938586B659EF8F939BE24” http://www.example.com
如果要從檔案中讀取 Cookie,-H 就無能為力了,此時可以使用 -b 來達到這一目的:
curl -b “cookie-example” http://www.example.com
即 -b 後面既可以是 Cookie 字元串,也可以是儲存了 Cookie 的檔案名。
10. 使用 -d 發送 POST 請求
我們以登陸網頁為例來進行說明使用 cURL 發送 POST 請求的方法。假設有一個登入頁面 www.example.com/login,隻需要送出使用者名和密碼便可登入。我們可以使用 cURL 來完成這一 POST 請求,-d 用于指定發送的資料,-X 用于指定發送資料的方式:
curl -d “userName=tom&passwd=123456” -X POST http://www.example.com/login
在使用 -d 的情況下,如果省略 -X,則預設為 POST 方式:
curl -d “userName=tom&passwd=123456” http://www.example.com/login
強制使用 GET 方式
發送資料時,不僅可以使用 POST 方式,也可以使用 GET 方式,例如:
curl -d “somedata” -X GET http://www.example.com/api
或者使用 -G 選項:
curl -d “somedata” -G http://www.example.com/api
從檔案中讀取 data
curl -d “@data.txt” http://www.example.com/login
帶 Cookie 登入
當然,如果我們再次通路該網站,仍然會變成未登入的狀态。我們可以用之前提到的方法儲存 Cookie,在每次通路網站時都帶上該 Cookie 以保持登入狀态。
curl -c “cookie-login” -d “userName=tom&passwd=123456” http://www.example.com/login
再次通路該網站時,使用以下指令:
curl -b “cookie-login” http://www.example.com/login
這樣,就能保持通路的是登入後的頁面了。