天天看點

Linux 指令行:cURL 的十種常見用法

Linux 指令行:cURL 的十種常見用法 

2017年5月11日 Wray Zheng 

文章目錄 

1. 擷取頁面内容 

2. 顯示 HTTP 頭 

3. 将連結儲存到檔案 

4. 同時下載下傳多個檔案 

5. 使用 -L 跟随連結重定向 

6. 使用 -A 自定義 User-Agent 

7. 使用 -H 自定義 header 

8. 使用 -c 儲存 Cookie 

9. 使用 -b 讀取 Cookie 

10. 使用 -d 發送 POST 請求

1. 擷取頁面内容

當我們不加任何選項使用 curl 時,預設會發送 GET 請求來擷取連結内容到标準輸出。 

curl http://www.codebelief.com

2. 顯示 HTTP 頭

如果我們隻想要顯示 HTTP 頭,而不顯示檔案内容,可以使用 -I 選項: 

curl -I http://www.codebelief.com 

輸出為:

HTTP/1.1 200 OK
Server: nginx/1.10.3
Date: Thu, 11 May 2017 08:24:45 GMT
Content-Type: text/html; charset=utf-8
Content-Length: 24206
Connection: keep-alive
X-Powered-By: Express
Cache-Control: public, max-age=0
ETag: W/"5e8e-Yw5ZdnVVly9/aEnMX7fVXQ"
Vary: Accept-Encoding
           
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10

也可以同時顯示 HTTP 頭和檔案内容,使用 -i 選項: 

curl -i http://www.codebelief.com 

輸出為:

HTTP/1.1 200 OK
Server: nginx/1.10.3
Date: Thu, 11 May 2017 08:25:46 GMT
Content-Type: text/html; charset=utf-8
Content-Length: 24206
Connection: keep-alive
X-Powered-By: Express
Cache-Control: public, max-age=0
ETag: W/"5e8e-Yw5ZdnVVly9/aEnMX7fVXQ"
Vary: Accept-Encoding

<!DOCTYPE html>
<html >
......
</html>
           
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15

3. 将連結儲存到檔案

我們可以使用 > 符号将輸出重定向到本地檔案中。 

curl http://www.codebelief.com > index.html 

也可以通過 curl 自帶的 -o/-O 選項将内容儲存到檔案中。

-o(小寫的 o):結果會被儲存到指令行中提供的檔案名 

-O(大寫的 O):URL 中的檔案名會被用作儲存輸出的檔案名 

curl -o index.html http://www.codebelief.com 

curl -O 代碼信條 - Code Belief - 第2頁 

注意:使用 -O 選項時,必須確定連結末尾包含檔案名,否則 curl 無法正确儲存檔案。如果遇到連結中無檔案名的情況,應該使用 -o 選項手動指定檔案名,或使用重定向符号。

4. 同時下載下傳多個檔案

我們可以使用 -o 或 -O 選項來同時指定多個連結,按照以下格式編寫指令: 

curl -O 代碼信條 - Code Belief - 第2頁 -O 代碼信條 - Code Belief - 第3頁

或者: 

curl -o page1.html 代碼信條 - Code Belief -o page2.html 代碼信條 - Code Belief - 第2頁

5. 使用 -L 跟随連結重定向

如果直接使用 curl 打開某些被重定向後的連結,這種情況下就無法擷取我們想要的網頁内容。例如: 

curl http://codebelief.com 

會得到如下提示:

<html>
<head><title>301 Moved Permanently</title></head>
<body bgcolor="white">
<center><h1>301 Moved Permanently</h1></center>
<hr><center>nginx/1.10.3</center>
</body>
</html>
           
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7

而當我們通過浏覽器打開該連結時,會自動跳轉到 http://www.codebelief.com。此時我們想要 curl 做的,就是像浏覽器一樣跟随連結的跳轉,擷取最終的網頁内容。我們可以在指令中添加 -L 選項來跟随連結重定向:

curl -L http://codebelief.com 

這樣我們就能擷取到經過重定向後的網頁内容了。

6. 使用 -A 自定義 User-Agent

我們可以使用 -A 來自定義使用者代理,例如下面的指令将僞裝成安卓火狐浏覽器對網頁進行請求: 

curl -A “Mozilla/5.0 (Android; Mobile; rv:35.0) Gecko/35.0 Firefox/35.0” http://www.baidu.com 

下面我們會使用 -H 來實作同樣的目的。

7. 使用 -H 自定義 header

當我們需要傳遞特定的 header 的時候,可以仿照以下指令來寫: 

curl -H “Referer: www.example.com” -H “User-Agent: Custom-User-Agent” http://www.baidu.com 

可以看到,當我們使用 -H 來自定義 User-Agent 時,需要使用 “User-Agent: xxx” 的格式。

我們能夠直接在 header 中傳遞 Cookie,格式與上面的例子一樣: 

curl -H “Cookie: JSESSIONID=D0112A5063D938586B659EF8F939BE24” http://www.example.com 

另一種方式會在下面介紹。

8. 使用 -c 儲存 Cookie

當我們使用 cURL 通路頁面的時候,預設是不會儲存 Cookie 的。有些情況下我們希望儲存 Cookie 以便下次通路時使用。例如登陸了某個網站,我們希望再次通路該網站時保持登陸的狀态,這時就可以現将登陸時的 Cookie 儲存起來,下次通路時再讀取。

-c 後面跟上要儲存的檔案名。 

curl -c “cookie-example” http://www.example.com

9. 使用 -b 讀取 Cookie

前面講到了使用 -H 來發送 Cookie 的方法,這種方式是直接将 Cookie 字元串寫在指令中。如果使用 -b 來自定義 Cookie,指令如下: 

curl -b “JSESSIONID=D0112A5063D938586B659EF8F939BE24” http://www.example.com 

如果要從檔案中讀取 Cookie,-H 就無能為力了,此時可以使用 -b 來達到這一目的: 

curl -b “cookie-example” http://www.example.com 

即 -b 後面既可以是 Cookie 字元串,也可以是儲存了 Cookie 的檔案名。

10. 使用 -d 發送 POST 請求

我們以登陸網頁為例來進行說明使用 cURL 發送 POST 請求的方法。假設有一個登入頁面 www.example.com/login,隻需要送出使用者名和密碼便可登入。我們可以使用 cURL 來完成這一 POST 請求,-d 用于指定發送的資料,-X 用于指定發送資料的方式: 

curl -d “userName=tom&passwd=123456” -X POST http://www.example.com/login

在使用 -d 的情況下,如果省略 -X,則預設為 POST 方式: 

curl -d “userName=tom&passwd=123456” http://www.example.com/login

強制使用 GET 方式 

發送資料時,不僅可以使用 POST 方式,也可以使用 GET 方式,例如: 

curl -d “somedata” -X GET http://www.example.com/api

或者使用 -G 選項: 

curl -d “somedata” -G http://www.example.com/api

從檔案中讀取 data 

curl -d “@data.txt” http://www.example.com/login

帶 Cookie 登入 

當然,如果我們再次通路該網站,仍然會變成未登入的狀态。我們可以用之前提到的方法儲存 Cookie,在每次通路網站時都帶上該 Cookie 以保持登入狀态。 

curl -c “cookie-login” -d “userName=tom&passwd=123456” http://www.example.com/login 

再次通路該網站時,使用以下指令: 

curl -b “cookie-login” http://www.example.com/login 

這樣,就能保持通路的是登入後的頁面了。