天天看點

Linux指令curl

Linux指令curl

Curl是一個指令行方式下傳輸資料的開源傳輸工具,支援多種協定包括:FTP,HTTP,HTTPS,IMAP,POP3,TELNET等。同樣支援HTTP POST方法,PUT方法,FTP上傳,cookie,使用者名/密碼認證,下載下傳檔案端點續傳等,功能十分強大。

     curl是一個利用URL規則在指令行下工作的檔案傳輸工具。它支援檔案的上傳和下載下傳,是以是綜合傳輸工具,但按傳統,習慣稱url為下載下傳工具。

     先說一下curl指令參數。

<span style="font-size:14px;">    curl指令參數,有好多我沒有用過,也不知道翻譯的對不對,如果有誤的地方,還請指正。
  -a/--append 上傳檔案時,附加到目标檔案
  -A/--user-agent <string>  設定使用者代理發送給伺服器
  - anyauth   可以使用“任何”身份驗證方法
  -b/--cookie <name=string/file> cookie字元串或檔案讀取位置
  - basic 使用HTTP基本驗證
  -B/--use-ascii 使用ASCII /文本傳輸
  -c/--cookie-jar <file> 操作結束後把cookie寫入到這個檔案中
  -C/--continue-at <offset>  斷點續轉
  -d/--data <data>   HTTP POST方式傳送資料
  --data-ascii <data>  以ascii的方式post資料
  --data-binary <data> 以二進制的方式post資料
  --negotiate     使用HTTP身份驗證
  --digest        使用數字身份驗證
  --disable-eprt  禁止使用EPRT或LPRT
  --disable-epsv  禁止使用EPSV
  -D/--dump-header <file> 把header資訊寫入到該檔案中
  --egd-file <file> 為随機資料(SSL)設定EGD socket路徑
  --tcp-nodelay   使用TCP_NODELAY選項
  -e/--referer 來源網址
  -E/--cert <cert[:passwd]> 用戶端證書檔案和密碼 (SSL)
  --cert-type <type> 證書檔案類型 (DER/PEM/ENG) (SSL)
  --key <key>     私鑰檔案名 (SSL)
  --key-type <type> 私鑰檔案類型 (DER/PEM/ENG) (SSL)
  --pass  <pass>  私鑰密碼 (SSL)
  --engine <eng>  加密引擎使用 (SSL). "--engine list" for list
  --cacert <file> CA憑證 (SSL)
  --capath <directory> CA目錄 (made using c_rehash) to verify peer against (SSL)
  --ciphers <list>  SSL密碼
  --compressed    要求傳回是壓縮的形勢 (using deflate or gzip)
  --connect-timeout <seconds> 設定最大請求時間
  --create-dirs   建立本地目錄的目錄層次結構
  --crlf          上傳是把LF轉變成CRLF
  -f/--fail          連接配接失敗時不顯示http錯誤
  --ftp-create-dirs 如果遠端目錄不存在,建立遠端目錄
  --ftp-method [multicwd/nocwd/singlecwd] 控制CWD的使用
  --ftp-pasv      使用 PASV/EPSV 代替端口
  --ftp-skip-pasv-ip 使用PASV的時候,忽略該IP位址
  --ftp-ssl       嘗試用 SSL/TLS 來進行ftp資料傳輸
  --ftp-ssl-reqd  要求用 SSL/TLS 來進行ftp資料傳輸
  -F/--form. <name=content> 模拟http表單送出資料
  -form-string <name=string> 模拟http表單送出資料
  -g/--globoff 禁用網址序列和範圍使用{}和[]
  -G/--get 以get的方式來發送資料
  -h/--help 幫助
  -H/--header <line>自定義頭資訊傳遞給伺服器
  --ignore-content-length  忽略的HTTP頭資訊的長度
  -i/--include 輸出時包括protocol頭資訊
  -I/--head  隻顯示文檔資訊
  從檔案中讀取-j/--junk-session-cookies忽略會話Cookie
  - 界面<interface>指定網絡接口/位址使用
  - krb4 <級别>啟用與指定的安全級别krb4
  -j/--junk-session-cookies 讀取檔案進忽略session cookie
  --interface <interface> 使用指定網絡接口/位址
  --krb4 <level>  使用指定安全級别的krb4
  -k/--insecure 允許不使用證書到SSL站點
  -K/--config  指定的配置檔案讀取
  -l/--list-only 列出ftp目錄下的檔案名稱
  --limit-rate <rate> 設定傳輸速度
  --local-port<NUM> 強制使用本地端口号
  -m/--max-time <seconds> 設定最大傳輸時間
  --max-redirs <num> 設定最大讀取的目錄數
  --max-filesize <bytes> 設定最大下載下傳的檔案總量
  -M/--manual  顯示全手動
  -n/--netrc 從netrc檔案中讀取使用者名和密碼
  --netrc-optional 使用 .netrc 或者 URL來覆寫-n
  --ntlm          使用 HTTP NTLM 身份驗證
  -N/--no-buffer 禁用緩沖輸出
  -o/--output 把輸出寫到該檔案中
  -O/--remote-name 把輸出寫到該檔案中,保留遠端檔案的檔案名
  -p/--proxytunnel   使用HTTP代理
  --proxy-anyauth 選擇任一代理身份驗證方法
  --proxy-basic   在代理上使用基本身份驗證
  --proxy-digest  在代理上使用數字身份驗證
  --proxy-ntlm    在代理上使用ntlm身份驗證
  -P/--ftp-port <address> 使用端口位址,而不是使用PASV
  -Q/--quote <cmd>檔案傳輸前,發送指令到伺服器
  -r/--range <range>檢索來自HTTP/1.1或FTP伺服器位元組範圍
  --range-file 讀取(SSL)的随機檔案
  -R/--remote-time   在本地生成檔案時,保留遠端檔案時間
  --retry <num>   傳輸出現問題時,重試的次數
  --retry-delay <seconds>  傳輸出現問題時,設定重試間隔時間
  --retry-max-time <seconds> 傳輸出現問題時,設定最大重試時間
  -s/--silent靜音模式。不輸出任何東西
  -S/--show-error   顯示錯誤
  --socks4 <host[:port]> 用socks4代理給定主機和端口
  --socks5 <host[:port]> 用socks5代理給定主機和端口
  --stderr <file>
-t/--telnet-option <OPT=val> Telnet選項設定
  --trace <file>  對指定檔案進行debug
  --trace-ascii <file> Like --跟蹤但沒有hex輸出
  --trace-time    跟蹤/詳細輸出時,添加時間戳
  -T/--upload-file <file> 上傳檔案
  --url <URL>     Spet URL to work with
  -u/--user <user[:password]>設定伺服器的使用者和密碼
  -U/--proxy-user <user[:password]>設定代理使用者名和密碼
  -v/--verbose
  -V/--version 顯示版本資訊
  -w/--write-out [format]什麼輸出完成後
  -x/--proxy <host[:port]>在給定的端口上使用HTTP代理
  -X/--request <command>指定什麼指令
  -y/--speed-time 放棄限速所要的時間。預設為30
  -Y/--speed-limit 停止傳輸速度的限制,速度時間'秒
  -z/--time-cond  傳送時間設定
  -0/--http1.0  使用HTTP 1.0
  -1/--tlsv1  使用TLSv1(SSL)
  -2/--sslv2 使用SSLv2的(SSL)
  -3/--sslv3         使用的SSLv3(SSL)
  --3p-quote      like -Q for the source URL for 3rd party transfer
  --3p-url        使用url,進行第三方傳送
  --3p-user       使用使用者名和密碼,進行第三方傳送
  -4/--ipv4   使用IP4
  -6/--ipv6   使用IP6
  -#/--progress-bar 用進度條顯示目前的傳送狀态
  -a/--append 上傳檔案時,附加到目标檔案
  -A/--user-agent <string>  設定使用者代理發送給伺服器
  - anyauth   可以使用“任何”身份驗證方法
  -b/--cookie <name=string/file> cookie字元串或檔案讀取位置
  - basic 使用HTTP基本驗證
  -B/--use-ascii 使用ASCII /文本傳輸
  -c/--cookie-jar <file> 操作結束後把cookie寫入到這個檔案中
  -C/--continue-at <offset>  斷點續轉
  -d/--data <data>   HTTP POST方式傳送資料
  --data-ascii <data>  以ascii的方式post資料
  --data-binary <data> 以二進制的方式post資料
  --negotiate     使用HTTP身份驗證
  --digest        使用數字身份驗證
  --disable-eprt  禁止使用EPRT或LPRT
  --disable-epsv  禁止使用EPSV
  -D/--dump-header <file> 把header資訊寫入到該檔案中
  --egd-file <file> 為随機資料(SSL)設定EGD socket路徑
  --tcp-nodelay   使用TCP_NODELAY選項
  -e/--referer 來源網址
  -E/--cert <cert[:passwd]> 用戶端證書檔案和密碼 (SSL)
  --cert-type <type> 證書檔案類型 (DER/PEM/ENG) (SSL)
  --key <key>     私鑰檔案名 (SSL)
  --key-type <type> 私鑰檔案類型 (DER/PEM/ENG) (SSL)
  --pass  <pass>  私鑰密碼 (SSL)
  --engine <eng>  加密引擎使用 (SSL). "--engine list" for list
  --cacert <file> CA憑證 (SSL)
  --capath <directory> CA目錄 (made using c_rehash) to verify peer against (SSL)
  --ciphers <list>  SSL密碼
  --compressed    要求傳回是壓縮的形勢 (using deflate or gzip)
  --connect-timeout <seconds> 設定最大請求時間
  --create-dirs   建立本地目錄的目錄層次結構
  --crlf          上傳是把LF轉變成CRLF
  -f/--fail          連接配接失敗時不顯示http錯誤
  --ftp-create-dirs 如果遠端目錄不存在,建立遠端目錄
  --ftp-method [multicwd/nocwd/singlecwd] 控制CWD的使用
  --ftp-pasv      使用 PASV/EPSV 代替端口
  --ftp-skip-pasv-ip 使用PASV的時候,忽略該IP位址
  --ftp-ssl       嘗試用 SSL/TLS 來進行ftp資料傳輸
  --ftp-ssl-reqd  要求用 SSL/TLS 來進行ftp資料傳輸
  -F/--form. <name=content> 模拟http表單送出資料
  -form-string <name=string> 模拟http表單送出資料
  -g/--globoff 禁用網址序列和範圍使用{}和[]
  -G/--get 以get的方式來發送資料
  -h/--help 幫助
  -H/--header <line>自定義頭資訊傳遞給伺服器
  --ignore-content-length  忽略的HTTP頭資訊的長度
  -i/--include 輸出時包括protocol頭資訊
  -I/--head  隻顯示文檔資訊
  從檔案中讀取-j/--junk-session-cookies忽略會話Cookie
  - 界面<interface>指定網絡接口/位址使用
  - krb4 <級别>啟用與指定的安全級别krb4
  -j/--junk-session-cookies 讀取檔案進忽略session cookie
  --interface <interface> 使用指定網絡接口/位址
  --krb4 <level>  使用指定安全級别的krb4
  -k/--insecure 允許不使用證書到SSL站點
  -K/--config  指定的配置檔案讀取
  -l/--list-only 列出ftp目錄下的檔案名稱
  --limit-rate <rate> 設定傳輸速度
  --local-port<NUM> 強制使用本地端口号
  -m/--max-time <seconds> 設定最大傳輸時間
  --max-redirs <num> 設定最大讀取的目錄數
  --max-filesize <bytes> 設定最大下載下傳的檔案總量

-M/--manual  顯示全手動

  -n/--netrc 從netrc檔案中讀取使用者名和密碼

  --netrc-optional 使用 .netrc 或者 URL來覆寫-n

  --ntlm          使用 HTTP NTLM 身份驗證

  -N/--no-buffer 禁用緩沖輸出

  -o/--output 把輸出寫到該檔案中

  -O/--remote-name 把輸出寫到該檔案中,保留遠端檔案的檔案名

  -p/--proxytunnel   使用HTTP代理

  --proxy-anyauth 選擇任一代理身份驗證方法

  --proxy-basic   在代理上使用基本身份驗證

  --proxy-digest  在代理上使用數字身份驗證

  --proxy-ntlm    在代理上使用ntlm身份驗證

  -P/--ftp-port <address> 使用端口位址,而不是使用PASV

  -Q/--quote <cmd>檔案傳輸前,發送指令到伺服器

  -r/--range <range>檢索來自HTTP/1.1或FTP伺服器位元組範圍

  --range-file 讀取(SSL)的随機檔案

  -R/--remote-time   在本地生成檔案時,保留遠端檔案時間

  --retry <num>   傳輸出現問題時,重試的次數

  --retry-delay <seconds>  傳輸出現問題時,設定重試間隔時間

  --retry-max-time <seconds> 傳輸出現問題時,設定最大重試時間

  -s/--silent靜音模式。不輸出任何東西

  -S/--show-error   顯示錯誤

  --socks4 <host[:port]> 用socks4代理給定主機和端口

  --socks5 <host[:port]> 用socks5代理給定主機和端口

  --stderr <file>

  -t/--telnet-option <OPT=val> Telnet選項設定

  --trace <file>  對指定檔案進行debug

  --trace-ascii <file> Like --跟蹤但沒有hex輸出

  --trace-time    跟蹤/詳細輸出時,添加時間戳

  -T/--upload-file <file> 上傳檔案

  --url <URL>     Spet URL to work with

  -u/--user <user[:password]>設定伺服器的使用者和密碼

  -U/--proxy-user <user[:password]>設定代理使用者名和密碼

  -v/--verbose

  -V/--version 顯示版本資訊

  -w/--write-out [format]什麼輸出完成後

  -x/--proxy <host[:port]>在給定的端口上使用HTTP代理

  -X/--request <command>指定什麼指令

  -y/--speed-time 放棄限速所要的時間。預設為30

  -Y/--speed-limit 停止傳輸速度的限制,速度時間'秒

  -z/--time-cond  傳送時間設定

  -0/--http1.0  使用HTTP 1.0

  -1/--tlsv1  使用TLSv1(SSL)

  -2/--sslv2 使用SSLv2的(SSL)

  -3/--sslv3         使用的SSLv3(SSL)

  --3p-quote      like -Q for the source URL for 3rd party transfer

  --3p-url        使用url,進行第三方傳送

  --3p-user       使用使用者名和密碼,進行第三方傳送

  -4/--ipv4   使用IP4

  -6/--ipv6   使用IP6

  -#/--progress-bar 用進度條顯示目前的傳送狀态</span>
           

     下面結合執行個體,逐一給出例子。

    1. 先來試試

    curl http://www.baidu.com ,回車之後,HTML内容就顯示在螢幕上了。

    2. 下載下傳

    curl –o baidu.html http://www.baidu.com ,執行後還可以看到下載下傳進度提示,完成100%後會自動退出了,把網頁儲存到baidu.html中了。

    它還有一個大寫O的選項,是按照伺服器上的檔案名儲存到本地,如果執行curl –O http://www.baidu.com ,是會報錯的,提示找不到檔案名,如果換成curl –O http://baike.baidu.com/view/1326315.htm , 就自動儲存檔案為1326315.html。

    Windows下像flashget這樣的工具還支援分塊以及斷點續傳,curl也毫不示弱。

    -C或--continue-at:斷點續傳,需要指定下載下傳的位置,-應該是預設的,用法如下:

    curl -C -  http://www.example.com

    -r或--range:分塊下載下傳,用法:

    curl -r 0-10240 -o "example.part1" http://www.example.com/example.zip &

    curl -r 10241-20480 -o "example.part2"

    http://www.example.com/example.zip

    其中加&表示在背景執行,需要按CTRL+C才能退出。

    不過下載下傳完後需要自己把這些破碎的檔案合并起來

    如果你用UNIX或蘋果,用 cat example.part* > example.zip就可以

    如果用的是Windows,用copy /b example.part1+example.part2 example.zip來解決

    3. 上傳

    -T/--upload-file:往伺服器上傳檔案,用法:

    curl -T "img[1-1000].png" ftp://example.com/upload/

    或上傳多個檔案

    curl -T "{file1,file2}" http://www.example.com

    4. POST方法

    -d或--data參數:post請求,用法為curl -d “id=1&name=test” http://example.com/example.php ,

    需把請求的參數和URL分開,同時可以使用curl -d “id=1” -d “name=test” http://example.com/example.php ,相當于送出了兩個參數。當送出的參數值中有特殊字元就需要先轉義。如空格時,就需要轉義成%20。

    --data-urlencode參數:就可以自動轉義特殊字元,無需人工事先轉義。

    -F或--form:将本地檔案上傳到伺服器,用法為:curl -F “filename=@/home/test/test.pic” http://example.com/example.php 。千萬不能漏掉@符号。

     5. 設定referer

    有時候我們如果直接請求某個URL不能成功,它需要判斷referer是否正确,那就可以通過-e或--referer參數模拟

    有時你需要在http request頭資訊中,提供一個referer字段,表示你是從哪裡跳轉過來的

    curl --referer http://www.example.com http://www.example.com

    6. 指定User Agent

    -A/--user-agent:僞裝成指定的浏覽器Chrome通路,用法:

    curl -A “Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/31.0.1650.63 Safari/537.36” http://www.example.com

    7. 僞造cookie

    -b或--cookie: 有兩種用法,一是指定參數和值:curl --cookie "name=xxx" http://www.example.com ;二是從檔案讀取:curl -b /cookie.txt http://www.example.com

    8. 儲存cookie

    -c/--cookie-jar:curl指令執行後儲存操作時生成的cookie到檔案:

    curl -c ./cookie.txt -d username=aaaa -d pwd=****** http://www.example.com

    9. 定義輸出顯示内容

    現在為止對它的崇拜已經是猶如滔滔江水連綿不絕了,慢!還有一個powerful的選項.

    -w/--write-out: 可以定義輸出的内容,如常用的http碼,tcp連接配接時間,域名解析的時間,握手時間及第一時間響應時間等,非常強大。

    用法如:

    curl -o /dev/null -s -w %{http_code} "http://www.baidu.com" 列印出傳回的http碼

    curl -o /dev/null -s -w “time_total: %{time_total}\n" "http://www.baidu.com" 列印響應時間

    檢視接口相應時間

    curl -o /dev/null -s -w "%{time_connect}:%{time_starttransfer}:%{time_total}\n" http://www.javaranger.com

    第一個是從指令啟動到連結上用的時間

    冒号是分隔符(可以在自己的 -w 模闆裡頭修改這個分隔符,比如可以用\t或者|,自己改改看)

    第二個字段,是開始傳輸資料所用的時間

    第三個字段,是完成傳輸所用的時間

    這三個時間對于判斷網絡狀況和系統性能是很有幫助的

    10.顯示抓取錯誤

    [[email protected] ~]# curl -f http://www.sina.com.cn/asdf

     curl: (22) The requested URL returned error: 404

   11.不顯示下載下傳進度資訊

      [[email protected] ~]# curl -s -o aaa.jpg 

   12.顯示下載下傳進度條

      [[email protected] ~]# curl -# -O  http://www.it415.com/czxt/linux/25002_3.html

      ######################################################################## 100.0%

   13.通過ftp下載下傳檔案

      [[email protected] ~]# curl -u 使用者名:密碼 -O http://blog.51yip.com/demo/curtain/bbstudy_files/style.css

     % Total    % Received % Xferd  Average Speed   Time    Time     Time  Current

      Dload  Upload   Total   Spent    Left  Speed

     101  1934  101  1934    0     0   3184      0 --:--:-- --:--:-- --:--:--  7136

       或者用下面的方式

      [[email protected] ~]# curl -O ftp://xukai:[email protected]:21/www/focus/enhouse/index.php

     % Total    % Received % Xferd  Average Speed   Time    Time     Time  Current

                                    Dload  Upload   Total   Spent    Left  Speed

      100 87518  100 87518    0     0  2312k      0 --:--:-- --:--:-- --:--:-- 11.5M

      [[email protected] ~]$ curl -u 使用者名:密碼 -O http://blog.51yip.com/demo/curtain/bbstudy_files/style.css

  % Total    % Received % Xferd  Average Speed   Time    Time     Time  Current

  Dload  Upload   Total   Spent    Left  Speed

  101  1934  101  1934    0     0   3184      0 --:--:-- --:--:-- --:--:--  7136

  [[email protected] ~]$ curl -u 使用者名:密碼 -O http://blog.51yip.com/demo/curtain/bbstudy_files/style.css

  % Total    % Received % Xferd  Average Speed   Time    Time     Time  Current

  Dload  Upload   Total   Spent    Left  Speed

  101  1934  101  1934    0     0   3184      0 --:--:-- --:--:-- --:--:--  7136

  或者用下面的方式

  [[email protected] ~]$ curl -O ftp://使用者名:密碼@ip:port/demo/curtain/bbstudy_files/style.css

  [[email protected] ~]$ curl -O ftp://使用者名:密碼@ip:port/demo/curtain/bbstudy_files/style.css

   14.通過ftp上傳

      [[email protected] ~]# curl -T xukai.php ftp://xukai:[email protected]:21/www/focus/enhouse/         

     % Total    % Received % Xferd  Average Speed   Time    Time     Time  Current

                                    Dload  Upload   Total   Spent    Left  Speed

     100 87518    0     0  100 87518      0  2040k --:--:-- --:--:-- --:--:-- 8901k

       [[email protected] ~]$ curl -T test.sql ftp://使用者名:密碼@ip:port/demo/curtain/bbstudy_files/

  [[email protected] ~]$ curl -T test.sql ftp://使用者名:密碼@ip:port/demo/curtain/bbstudy_files/

   15..模拟表單資訊,模拟登入,儲存cookie資訊

   [[email protected] ~]# curl -c ./cookie_c.txt -F log=aaaa -F pwd=****** http://blog.51yip.com/wp-login.php

  16.模拟表單資訊,模拟登入,儲存頭資訊

   [[email protected] ~]# curl -D ./cookie_D.txt -F log=aaaa -F pwd=****** http://blog.51yip.com/wp-login.php

   -c(小寫)産生的cookie和-D裡面的cookie是不一樣的。

   17.使用cookie檔案

   [[email protected] ~]# curl -b ./cookie_c.txt  http://blog.51yip.com/wp-admin

  18.傳送資料,最好用登入頁面測試,因為你傳值過去後,curl回抓資料,你可以看到你傳值有沒有成功

   [[email protected] ~]# curl -d log=aaaa  http://blog.51yip.com/wp-login.php

   19.顯示抓取錯誤

   [[email protected] ~]# curl -f http://www.sina.com.cn/asdf

   curl: (22) The requested URL returned error: 404

   [[email protected] ~]# curl http://www.sina.com.cn/asdf

   <HTML><HEAD><TITLE>404,not found</TITLE>

   。。。。。。。。。。。。

  20.僞造來源位址,有的網站會判斷,請求來源位址

   [[email protected] ~]# curl -e http://localhost http://www.sina.com.cn

   21.當我們經常用curl去搞人家東西的時候,人家會把你的IP給屏蔽掉的,這個時候,我們可以用代理

   [[email protected] ~]# curl -x 10.10.90.83:80 -o home.html http://www.sina.com.cn

   22.對CURL使用網絡限速通過--limit-rate選項對CURL的最大網絡使用進行限制

     # 下載下傳速度最大不會超過1000B/second

     curl --limit-rate 1000B -O http://www.gnu.org/software/gettext/manual/gettext.html

   23.下載下傳指定時間内修改過的檔案

     當下載下傳一個檔案時,可對該檔案的最後修改日期進行判斷,如果該檔案在指定日期内修改過,就進行下載下傳,否則不下載下傳。

     該功能可通過使用-z選項來實作:

     # 若yy.html檔案在2011/12/21之後有過更新才會進行下載下傳

     curl -z 21-Dec-11 http://www.example.com/yy.html

    24.使用GET和POST協定外,還可以通過 -X 選項指定其它協定,如:

     curl -I -X DELETE https://api.github.cim

    25.上傳檔案

       curl --form "[email protected]" http://hostname/resource

    假定檔案上傳的表單是下面這樣:

      <form method="POST" enctype='multipart/form-data' action="upload.cgi">

        <input type=file name=upload>

        <input type=submit name=press value="OK">

      </form>

    你可以用curl這樣上傳檔案:

      curl --form [email protected] --form press=OK [URL]

     26.增加頭資訊

       有時需要在http request之中,自行增加一個頭資訊。--header參數就可以起到這個作用。

     curl --header "Content-Type:application/json" http://example.com