这是本节的多页打印视图。 点击此处打印.

返回本页常规视图.

Linux

Linux 下升级 openssl

Linux 下升级 openssl

在Linux下升级最新版openssl

下载最新源码包

在官网https://www.openssl.org/source/ 页面可以下载最新源码包 当前最新版地址: https://www.openssl.org/source/openssl-3.1.2.tar.gz 使用命令 wget https://www.openssl.org/source/openssl-3.1.2.tar.gz

解压/编译/安装

1
2tar -zxvf openssl-3.1.2.tar.gz
3cd openssl-3.1.2
4./config --prefix=/usr/local/openssl
5make && make install

配置

1
2echo "/usr/local/openssl/lib64/" >> /etc/ld.so.conf
3ldconfig
4
5mv /usr/bin/openssl /usr/bin/openssl.old
6ln -sv /usr/local/openssl/bin/openssl /usr/bin/openssl
7
8openssl version

升级openssl完成后, 编译安装Python ./configure -C --with-openssl=/usr/local/openssl --with-openssl-rpath=auto --prefix=/usr/local/Python3.11

Raspberry Pi 初次安装运行必要配置

Raspberry Pi 初次安装运行时的一些必要配置

Raspberry Pi 基金会开发的一款微型电脑

树莓派，（英语：Raspberry Pi，简写为RPi，别名为RasPi/RPI）是为学习计算机编程教育而设计，只有信用卡大小的微型电脑，其系统基于Linux。

随着Windows 10 IoT的发布，用户可以用上运行Windows的树莓派。

Raspberry Pi 初次安装运行后, 一些必要的配置, 可以更好的运行使用.

启用ssh

  • 在boot磁盘新建文件 ssh 用来启用ssh登录.

配置WIFI

  • 在boot磁盘新建/修改文件 wpa_supplicant.conf
1ctrl_interface=DIR=/var/run/wpa_supplicant GROUP=netdev
2update_config=1
3country=CN
4
5network={
6    ssid="yourssid"
7    psk="yourwifipwd"
8    key_mgmt=WPA-PSK
9}

修改用户密码

1# 登录raspberry后修改pi用户密码
2passwd
3# 修改root用户密码
4sudo passwd root
5# 解锁root用户
6sudo passwd --unlock root

配置时区

sudo dpkg-reconfigure tzdata

修改源

1#更改apt软件源
2sudo sed -i 's|raspbian.raspberrypi.org|mirrors.ustc.edu.cn/raspbian|g' /etc/apt/sources.list
3#更改raspberrypi软件源
4sudo sed -i 's|//archive.raspberrypi.org|//mirrors.ustc.edu.cn/archive.raspberrypi.org|g' /etc/apt/sources.list.d/raspi.list
5#更新源
6sudo apt-get update

扩展磁盘空间

sudo raspi-config 选择Advancd Options -> Expand Filesystem 然后重启

Centos Upgrade Python

Centos Upgrade Python

Centos 升级指定版本Python

最近升级Python3.10, 发现centos自带ssl包版本过低, 所以在升级脚本中添加了ssl的升级过程

执行脚本完成后, 自动建立 python3 pip3 软连接

  1
  2#!/bin/bash
  3
  4
  5function log(){
  6    echo -e "\033[31m" ">>>>>> " $(date +"%Y-%m-%d %H:%M:%S") $@ " <<<<<<" "\033[0m"
  7    sleep 2
  8}
  9
 10
 11parent_dir=$(pwd)/
 12
 13
 14# 基础变量
 15install_python_version=3.10.0
 16install_openssl_version=1.1.1l
 17
 18
 19shortver=${install_python_version%.*}
 20doubleshort=${shortver/./}
 21python_packagename=Python-${install_python_version}
 22local_python_dir=/usr/local/${python_packagename}/
 23pyM=/usr/bin/python${install_python_version%%.*}
 24piM=/usr/bin/pip${install_python_version%%.*}
 25pyN=/usr/bin/python${doubleshort}
 26piN=/usr/bin/pip${doubleshort}
 27
 28
 29# https://www.openssl.org/source/openssl-3.0.0.tar.gz
 30# https://www.openssl.org/source/openssl-1.1.1l.tar.gz
 31openssl_packagename=openssl-${install_openssl_version}
 32
 33
 34# centos环境升级
 35# log "yum libary"
 36# yum update
 37# yum install -y gcc libffi-devel zlib* openssl-devel libffi-devel \
 38#     zlib-devel bzip2-devel openssl-devel ncurses-devel sqlite-devel readline-devel tk-devel gcc make
 39
 40
 41# debian环境升级
 42#apt-get install zlib1g-dev libbz2-dev libssl-dev libncurses5-dev libsqlite3-dev libreadline-dev
 43#    tk-dev libgdbm-dev libdb-dev libpcap-dev xz-utils libexpat1-dev liblzma-dev libffi-dev libc6-dev
 44
 45
 46# 建立软件包目录
 47log "mkdir sofrware dir and into"
 48soft_dir=${parent_dir}soft/
 49[[ ! -d "${soft_dir}" ]] && mkdir -p "${soft_dir}"
 50pushd ${soft_dir}
 51
 52
 53# 移除备份旧文件
 54log "remove old files"
 55rm -fr ${python_packagename}
 56rm -fr ${local_python_dir}
 57[[ -f ${pyM} ]] && mv -f ${pyM}{,.bak}
 58[[ -f ${piM} ]] && mv -f ${piM}{,.bak}
 59[[ -f ${pyN} ]] && mv -f ${pyN}{,.bak}
 60[[ -f ${piN} ]] && mv -f ${piN}{,.bak}
 61
 62
 63# 下载新版源码
 64log "curl openssl and python source, then untar"
 65pyurl=https://www.python.org/ftp/python/${install_python_version}/${python_packagename}.tgz
 66log ${pyurl}
 67if [[ ! -f "${soft_dir}${python_packagename}.tgz" ]]; then
 68    curl -O ${pyurl}
 69fi
 70if [[ ! -f "${soft_dir}${python_packagename}.tgz" ]]; then
 71    log ${python_packagename}.tgz Download Failed
 72fi
 73tar -zxvf ${soft_dir}${python_packagename}.tgz
 74
 75
 76opurl=https://www.openssl.org/source/${openssl_packagename}.tar.gz
 77log opurl
 78if [[ ! -f "${soft_dir}${openssl_packagename}.tar.gz" ]]; then
 79    curl -O ${opurl}
 80    exit 1
 81fi
 82if [[ ! -f "${soft_dir}${openssl_packagename}.tar.gz" ]]; then
 83    log ${openssl_packagename}.tar.gz Download Failed
 84    exit 1
 85fi
 86tar -zxvf ${soft_dir}${openssl_packagename}.tar.gz
 87
 88
 89# 安装新openssl
 90log "install new openssl"
 91sslcnf=$(find /etc/ -name openssl.cnf -printf "%h\n")
 92pushd ${openssl_packagename}
 93./config --prefix=/usr/local/custom-openssl --libdir=lib --openssldir=${sslcnf}
 94make -j1 depend
 95make -j8
 96make install_sw
 97popd
 98
 99
100# 解压源码, 编译安装
101log "into source dir and compile python"
102pushd ${python_packagename}
103./configure -C --with-openssl=/usr/local/custom-openssl --with-openssl-rpath=auto --prefix=${local_python_dir}
104make -j8
105make altinstall
106popd
107
108
109# 建立链接文件
110log "link executable files"
111ln -s ${local_python_dir}bin/python${shortver} ${pyM}
112ln -s ${local_python_dir}bin/python${shortver} ${pyN}
113ln -s ${local_python_dir}bin/pip${shortver} ${piM}
114ln -s ${local_python_dir}bin/pip${shortver} ${piN}
115
116
117# 升级环境包
118log "upgrade pip"
119${piN} install -i https://pypi.tuna.tsinghua.edu.cn/simple --upgrade pip
120
121
122# 设置腾讯源
123${piN} config set global.index-url https://mirrors.cloud.tencent.com/pypi/simple

Centos Upgrade Sqlite

Centos Upgrade Sqlite

centos 升级 sqlite version=3.7

1# 下载最新版
2wget https://www.sqlite.org/2021/sqlite-autoconf-3370000.tar.gz --no-check-certificate
3tar -zxvf sqlite-autoconf-3370000.tar.gz
4cd sqlite-autoconf-3370000/
5./configure --prefix=/usr/local/ && make && make install

修改profile文件

1export LD_LIBRARY_PATH="/usr/local/lib/"

Linux Curl

Linux Curl

Linux curl

curl 是常用的命令行工具，用来请求 Web 服务器。它的名字就是客户端（client）的 URL 工具的意思。

参数

调试类

-v, –verbose 输出信息 -q, –disable 在第一个参数位置设置后 .curlrc 的设置直接失效，这个参数会影响到 -K, –config -A, –user-agent -e, –referer -K, –config FILE 指定配置文件 -L, –location 跟踪重定向 (H)

CLI显示设置

-s, –silent Silent模式。不输出任务内容 -S, –show-error 显示错误. 在选项 -s 中，当 curl 出现错误时将显示 -f, –fail 不显示 连接失败时HTTP错误信息 -i, –include 显示 response的header (H/F) -I, –head 仅显示 响应文档头 -l, –list-only 只列出FTP目录的名称 (F) -#, –progress-bar 以进度条 显示传输进度

数据传输类

-X, –request [GET|POST|PUT|DELETE|…] 使用指定的 http method 例如 -X POST -H, –header

设定 request里的header 例如 -H “Content-Type: application/json” -e, –referer 设定 referer (H) -d, –data 设定 http body 默认使用 content-type application/x-www-form-urlencoded (H) –data-raw ASCII 编码 HTTP POST 数据 (H) –data-binary binary 编码 HTTP POST 数据 (H) –data-urlencode url 编码 HTTP POST 数据 (H) -G, –get 使用 HTTP GET 方法发送 -d 数据 (H) -F, –form <name=string> 模拟 HTTP 表单数据提交 multipart POST (H) –form-string <name=string> 模拟 HTTP 表单数据提交 (H) -u, –user user:password 使用帐户，密码 例如 admin:password -b, –cookie cookie 文件 (H) -j, –junk-session-cookies 读取文件中但忽略会话cookie (H) -A, –user-agent user-agent设置 (H)

传输设置

-C, –continue-at OFFSET 断点续转 -x, –proxy [PROTOCOL://]HOST[:PORT] 在指定的端口上使用代理 -U, –proxy-user USER[:PASSWORD] 代理用户名及密码

文件操作

-T, –upload-file 上传文件 -a, –append 添加要上传的文件 (F/SFTP)

输出设置

-o, –output 将输出写入文件，而非 stdout -O, –remote-name 将输出写入远程文件 -D, –dump-header 将头信息写入指定的文件 -c, –cookie-jar 操作结束后，要写入 Cookies 的文件位置

用例

  • -A参数指定客户端的用户代理标头，即User-Agent。curl 的默认用户代理字符串是curl/[version]。 curl -A 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/76.0.3809.100 Safari/537.36' https://google.com

  • 通过-H参数直接指定标头，更改User-Agent。 curl -H 'User-Agent: php/1.0' https://google.com

  • -b参数用来向服务器发送 Cookie。 curl -b 'foo=bar' https://google.com curl -b 'foo1=bar;foo2=bar2' https://google.com curl -b cookies.txt https://www.google.com

  • -c参数将服务器设置的 Cookie 写入一个文件。 curl -c cookies.txt https://www.google.com

  • -d参数用于发送 POST 请求的数据体。 curl -d'login=emma＆password=123'-X POST https://google.com/login curl -d 'login=emma' -d 'password=123' -X POST https://google.com/login 使用-d参数以后，HTTP 请求会自动加上标头 Content-Type : application/x-www-form-urlencoded 。 并且会自动将请求转为 POST 方法，因此可以省略-X POST。

  • –data-urlencode 参数等同于-d，发送 POST 请求的数据体，区别在于会自动将发送的数据进行 URL 编码。 curl --data-urlencode 'comment=hello world' https://google.com/login

  • -e参数用来设置 HTTP 的标头Referer，表示请求的来源。 curl -e 'https://google.com?q=example' https://www.example.com

  • -H参数可以通过直接添加标头Referer，达到同样效果。 curl -H 'Referer: https://google.com?q=example' https://www.example.com

  • -F参数用来向服务器上传二进制文件。 curl -F 'file=@photo.png' https://google.com/profile 命令会给 HTTP 请求加上标头Content-Type: multipart/form-data，然后将文件photo.png作为file字段上传。 -F参数可以指定 MIME 类型。 curl -F 'file=@photo.png;type=image/png' https://google.com/profile 上面命令指定 MIME 类型为image/png，否则 curl 会把 MIME 类型设为application/octet-stream。 curl -F 'file=@photo.png;filename=me.png' https://google.com/profile 上面命令中，原始文件名为photo.png，但是服务器接收到的文件名为me.png。

  • -G参数用来构造 URL 的查询字符串 curl -G -d 'q=kitties' -d 'count=20' https://google.com/search 上面命令会发出一个 GET 请求，实际请求的URL为https://google.com/search?q=kitties&count=20。如果省略–G，会发出一个 POST 请求。 curl -G --data-urlencode 'comment=hello world' https://www.example.com 如果数据需要 URL 编码，可以结合--data--urlencode参数。

  • -H参数添加 HTTP 请求的标头。 curl -H 'Accept-Language: en-US' https://google.com curl -H 'Accept-Language: en-US' -H 'Secret-Message: xyzzy' https://google.com curl -d '{"login": "emma", "pass": "123"}' -H 'Content-Type: application/json' https://google.com/login

  • -i参数打印出服务器回应的 HTTP 标头。 curl -i https://www.example.com 上面命令收到服务器回应后，先输出服务器回应的标头，然后空一行，再输出网页的源码。

  • -I参数向服务器发出 HEAD 请求，然会将服务器返回的 HTTP 标头打印出来。 curl -I https://www.example.com 上面命令输出服务器对 HEAD 请求的回应。 –head参数等同于-I。 curl --head https://www.example.com

  • -k参数指定跳过 SSL 检测。 curl -k https://www.example.com

  • –limit-rate用来限制 HTTP 请求和回应的带宽，模拟慢网速的环境。 curl --limit-rate 200k https://google.com

  • -o参数将服务器的回应保存成文件，等同于wget命令。 curl -o example.html https://www.example.com

  • -O参数将服务器回应保存成文件，并将 URL 的最后部分当作文件名。 curl -O https://www.example.com/foo/bar.html

  • -s参数将不输出错误和进度信息。 curl -s https://www.example.com

  • -u参数用来设置服务器认证的用户名和密码。 curl -u 'bob:12345' https://google.com/login 上面命令设置用户名为bob，密码为12345， 然后将其转为 HTTP 标头Authorization: Basic Ym9iOjEyMzQ1。 curl https://bob:12345@google.com/login 上面命令能够识别 URL 里面的用户名和密码，将其转为上个例子里面的 HTTP 标头。 curl -u 'bob' https://google.com/login 上面命令只设置了用户名，执行后，curl 会提示用户输入密码。

  • -x参数指定 HTTP 请求的代理。 curl -x socks5://james:cats@myproxy.com:8080 https://www.example.com 上面命令指定 HTTP 请求通过myproxy.com:8080的 socks5 代理发出。 curl -x james:cats@myproxy.com:8080 https://www.example.com 如果没有指定代理协议，默认为 HTTP

  • -X参数指定 HTTP 请求的方法。 curl -X POST https://www.example.com

  • -r 0-100 分段下载 curl -r 0-100 -o img.part1 http://mydomian.cn/thumb/xxx.jpg curl -r 100-200 -o img.part2 http://mydomian.cn/thumb/xxx.jpg 最后合并cat所有文件

用例收集

  • 下载保存
curl http://mydomain.net > index.html
curl -o index.html http://mydomain.net
curl -O http://mydomain.net/target.tar.gz

  • GET curl http://www.yahoo.com/login.cgi?user=nickname&password=12345

  • POST curl -d "user=nickname&password=12345" http://www.yahoo.com/login.cgi

  • POST文件 curl -F upload= $localfile -F $btn_name=$btn_value http://mydomain.net/~zzh/up_file.cgi

  • 通过代理 curl -x 123.45.67.89:1080 -o page.html http://mydomain.net

  • 保存Cookie curl -x 123.45.67.89:1080 -o page1.html -D cookie0001.txt http://mydomain.net

  • 使用Cookie curl -x 123.45.67.89:1080 -o page1.html -D cookie0002.txt -b cookie0001.txt http://mydomain.net

  • 模仿浏览器 curl -A "Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.0)" -x123.45.67.89:1080 -o page.html -D cookie0001.txt http://mydomain.net

  • 伪造referer curl -A "Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.0)" -x123.45.67.89:1080 -e"mail.yahoo.com" -o page.html -D cookie0001.txt http://mydomain.net

  • 循环下载 curl -O http://mydomain.net/~zzh/screen[1-10].JPG

  • 循环匹配下载 curl -O http://mydomain.net/~{zzh,nick}/[001-201].JPG # >like zzh/001.JPG

  • 循环引用下载 curl -o #2_#1.jpg http://mydomain.net/~{zzh,nick}/[001-201].JPG # like >001_zzh.jpg

  • 断点续传 curl -c -O http://mydomain.net/~zzh/screen1.JPG

  • 分块下载

curl -r  0 -10240  -o "zhao.part1"  http://mydomain.net/~zzh/zhao1.mp3 &\
curl -r 10241 -20480  -o "zhao.part1"  http://mydomain.net/~zzh/zhao1.mp3 &\
curl -r 20481 -40960  -o "zhao.part1"  http://mydomain.net/~zzh/zhao1.mp3 &\
curl -r 40961 - -o  "zhao.part1"  http://mydomain.net/~zzh/zhao1.mp3
..
cat zhao.part* > zhao.mp3

参数列表

在以下选项中，(H) 表示仅适用 HTTP/HTTPS ，(F) 表示仅适用于 FTP

    --anyauth      选择 "any" 认证方法 (H)
-a, --append        添加要上传的文件 (F/SFTP)
    --basic        使用HTTP基础认证（Basic Authentication）(H)
    --cacert FILE  CA 证书，用于每次请求认证 (SSL)
    --capath DIR    CA 证书目录 (SSL)
-E, --cert CERT[:PASSWD] 客户端证书文件及密码 (SSL)
    --cert-type TYPE 证书文件类型 (DER/PEM/ENG) (SSL)
    --ciphers LIST  SSL 秘钥 (SSL)
    --compressed    请求压缩 (使用 deflate 或 gzip)
-K, --config FILE  指定配置文件
    --connect-timeout SECONDS  连接超时设置
-C, --continue-at OFFSET  断点续转
-b, --cookie STRING/FILE  Cookies字符串或读取Cookies的文件位置 (H)
-c, --cookie-jar FILE  操作结束后，要写入 Cookies 的文件位置 (H)
    --create-dirs  创建必要的本地目录层次结构
    --crlf          在上传时将 LF 转写为 CRLF
    --crlfile FILE  从指定的文件获得PEM格式CRL列表
-d, --data DATA    HTTP POST 数据 (H)
    --data-ascii DATA  ASCII 编码 HTTP POST 数据 (H)
    --data-binary DATA  binary 编码 HTTP POST 数据 (H)
    --data-urlencode DATA  url 编码 HTTP POST 数据 (H)
    --delegation STRING GSS-API 委托权限
    --digest        使用数字身份验证 (H)
    --disable-eprt  禁止使用 EPRT 或 LPRT (F)
    --disable-epsv  禁止使用 EPSV (F)
-D, --dump-header FILE  将头信息写入指定的文件
    --egd-file FILE  为随机数据设置EGD socket路径(SSL)
    --engine ENGINGE  加密引擎 (SSL). "--engine list" 指定列表
-f, --fail          连接失败时不显示HTTP错误信息 (H)
-F, --form CONTENT  模拟 HTTP 表单数据提交（multipart POST） (H)
    --form-string STRING  模拟 HTTP 表单数据提交 (H)
    --ftp-account DATA  帐户数据提交 (F)
    --ftp-alternative-to-user COMMAND  指定替换 "USER [name]" 的字符串 (F)
    --ftp-create-dirs  如果不存在则创建远程目录 (F)
    --ftp-method [MULTICWD/NOCWD/SINGLECWD] 控制 CWD (F)
    --ftp-pasv      使用 PASV/EPSV 替换 PORT (F)
-P, --ftp-port ADR  使用指定 PORT 及地址替换 PASV (F)
    --ftp-skip-pasv-ip 跳过 PASV 的IP地址 (F)
    --ftp-pret      在 PASV 之前发送 PRET (drftpd) (F)
    --ftp-ssl-ccc  在认证之后发送 CCC (F)
    --ftp-ssl-ccc-mode ACTIVE/PASSIVE  设置 CCC 模式 (F)
    --ftp-ssl-control ftp 登录时需要 SSL/TLS (F)
-G, --get          使用 HTTP GET 方法发送 -d 数据  (H)
-g, --globoff      禁用的 URL 队列 及范围使用 {} 和 []
-H, --header LINE  要发送到服务端的自定义请求头 (H)
-I, --head          仅显示响应文档头
-h, --help          显示帮助
-0, --http1.0      使用 HTTP 1.0 (H)
    --ignore-content-length  忽略 HTTP Content-Length 头
-i, --include      在输出中包含协议头 (H/F)
-k, --insecure      允许连接到 SSL 站点，而不使用证书 (H)
    --interface INTERFACE  指定网络接口／地址
-4, --ipv4          将域名解析为 IPv4 地址
-6, --ipv6          将域名解析为 IPv6 地址
-j, --junk-session-cookies 读取文件中但忽略会话cookie (H)
    --keepalive-time SECONDS  keepalive 包间隔
    --key KEY      私钥文件名 (SSL/SSH)
    --key-type TYPE 私钥文件类型 (DER/PEM/ENG) (SSL)
    --krb LEVEL    启用指定安全级别的 Kerberos (F)
    --libcurl FILE  命令的libcurl等价代码
    --limit-rate RATE  限制传输速度
-l, --list-only    只列出FTP目录的名称 (F)
    --local-port RANGE  强制使用的本地端口号
-L, --location      跟踪重定向 (H)
    --location-trusted 类似 --location 并发送验证信息到其它主机 (H)
-M, --manual        显示全手动
    --mail-from FROM  从这个地址发送邮件
    --mail-rcpt TO  发送邮件到这个接收人(s)
    --mail-auth AUTH  原始电子邮件的起始地址
    --max-filesize BYTES  下载的最大文件大小 (H/F)
    --max-redirs NUM  最大重定向数 (H)
-m, --max-time SECONDS  允许的最多传输时间
    --metalink      处理指定的URL上的XML文件
    --negotiate    使用 HTTP Negotiate 认证 (H)
-n, --netrc        必须从 .netrc 文件读取用户名和密码
    --netrc-optional 使用 .netrc 或 URL; 将重写 -n 参数
    --netrc-file FILE  设置要使用的 netrc 文件名
-N, --no-buffer    禁用输出流的缓存
    --no-keepalive  禁用 connection 的 keepalive
    --no-sessionid  禁止重复使用 SSL session-ID (SSL)
    --noproxy      不使用代理的主机列表
    --ntlm          使用 HTTP NTLM 认证 (H)
-o, --output FILE  将输出写入文件，而非 stdout
    --pass PASS    传递给私钥的短语 (SSL/SSH)
    --post301      在 301 重定向后不要切换为 GET 请求 (H)
    --post302      在 302 重定向后不要切换为 GET 请求 (H)
    --post303      在 303 重定向后不要切换为 GET 请求 (H)
-#, --progress-bar  以进度条显示传输进度
    --proto PROTOCOLS  启用/禁用 指定的协议
    --proto-redir PROTOCOLS  在重定向上 启用/禁用 指定的协议
-x, --proxy [PROTOCOL://]HOST[:PORT] 在指定的端口上使用代理
    --proxy-anyauth 在代理上使用 "any" 认证方法 (H)
    --proxy-basic  在代理上使用 Basic 认证  (H)
    --proxy-digest  在代理上使用 Digest 认证 (H)
    --proxy-negotiate 在代理上使用 Negotiate 认证 (H)
    --proxy-ntlm    在代理上使用 NTLM 认证 (H)
-U, --proxy-user USER[:PASSWORD]  代理用户名及密码
    --proxy1.0 HOST[:PORT]  在指定的端口上使用 HTTP/1.0 代理
-p, --proxytunnel  使用HTTP代理 (用于 CONNECT)
    --pubkey KEY    公钥文件名 (SSH)
-Q, --quote CMD    在传输开始前向服务器发送命令 (F/SFTP)
    --random-file FILE  读取随机数据的文件 (SSL)
-r, --range RANGE  仅检索范围内的字节
    --raw          使用原始HTTP传输，而不使用编码 (H)
-e, --referer      Referer URL (H)
-J, --remote-header-name 从远程文件读取头信息 (H)
-O, --remote-name  将输出写入远程文件
    --remote-name-all 使用所有URL的远程文件名
-R, --remote-time  将远程文件的时间设置在本地输出上
-X, --request COMMAND  使用指定的请求命令
    --resolve HOST:PORT:ADDRESS  将 HOST:PORT 强制解析到 ADDRESS
    --retry NUM  出现问题时的重试次数
    --retry-delay SECONDS 重试时的延时时长
    --retry-max-time SECONDS  仅在指定时间段内重试
-S, --show-error    显示错误. 在选项 -s 中，当 curl 出现错误时将显示
-s, --silent        Silent模式。不输出任务内容
    --socks4 HOST[:PORT]  在指定的 host + port 上使用 SOCKS4 代理
    --socks4a HOST[:PORT]  在指定的 host + port 上使用 SOCKSa 代理
    --socks5 HOST[:PORT]  在指定的 host + port 上使用 SOCKS5 代理
    --socks5-hostname HOST[:PORT] SOCKS5 代理，指定用户名、密码
    --socks5-gssapi-service NAME  为gssapi使用SOCKS5代理服务名称
    --socks5-gssapi-nec  与NEC Socks5服务器兼容
-Y, --speed-limit RATE  在指定限速时间之后停止传输
-y, --speed-time SECONDS  指定时间之后触发限速. 默认 30
    --ssl          尝试 SSL/TLS (FTP, IMAP, POP3, SMTP)
    --ssl-reqd      需要 SSL/TLS (FTP, IMAP, POP3, SMTP)
-2, --sslv2        使用 SSLv2 (SSL)
-3, --sslv3        使用 SSLv3 (SSL)
    --ssl-allow-beast 允许的安全漏洞，提高互操作性(SSL)
    --stderr FILE  重定向 stderr 的文件位置. - means stdout
    --tcp-nodelay  使用 TCP_NODELAY 选项
-t, --telnet-option OPT=VAL  设置 telnet 选项
    --tftp-blksize VALUE  设备 TFTP BLKSIZE 选项 (必须 >512)
-z, --time-cond TIME  基于时间条件的传输
-1, --tlsv1        使用 => TLSv1 (SSL)
    --tlsv1.0      使用 TLSv1.0 (SSL)
    --tlsv1.1      使用 TLSv1.1 (SSL)
    --tlsv1.2      使用 TLSv1.2 (SSL)
    --trace FILE    将 debug 信息写入指定的文件
    --trace-ascii FILE  类似 --trace 但使用16进度输出
    --trace-time    向 trace/verbose 输出添加时间戳
    --tr-encoding  请求压缩传输编码 (H)
-T, --upload-file FILE  将文件传输（上传）到指定位置
    --url URL      指定所使用的 URL
-B, --use-ascii    使用 ASCII/text 传输
-u, --user USER[:PASSWORD]  指定服务器认证用户名、密码
    --tlsuser USER  TLS 用户名
    --tlspassword STRING TLS 密码
    --tlsauthtype STRING  TLS 认证类型 (默认 SRP)
    --unix-socket FILE    通过这个 UNIX socket 域连接
-A, --user-agent STRING  要发送到服务器的 User-Agent (H)
-v, --verbose      显示详细操作信息
-V, --version      显示版本号并退出
-w, --write-out FORMAT  完成后输出什么
    --xattr        将元数据存储在扩展文件属性中
-q                .curlrc 如果作为第一个参数无效

Curl Api

Curl Api

Linux curl

curl 是常用的命令行工具，用来请求 Web 服务器。它的名字就是客户端（client）的 URL 工具的意思。

参数

调试类

-v, --verbose                          输出信息 
-q, --disable                          在第一个参数位置设置后 .curlrc 的设置直接失效，
                                       这个参数会影响到 -K, --config -A, --user-agent -e, --referer 
-K, --config FILE                      指定配置文件 
-L, --location                         跟踪重定向 (H)

CLI显示设置

-s, --silent                           Silent模式。不输出任务内容 
-S, --show-error                       显示错误. 在选项 -s 中，当 curl 出现错误时将显示 
-f, --fail                             不显示 连接失败时HTTP错误信息 
-i, --include                          显示 response的header (H/F) 
-I, --head                             仅显示 响应文档头 
-l, --list-only                        只列出FTP目录的名称 (F) 
-#, --progress-bar                     以进度条 显示传输进度

数据传输类

-X, --request [GET|POST|PUT|DELETE|…]  使用指定的 http method 例如 -X POST 
-H, --header <header>                  设定 request里的header 例如 -H "Content-Type: application/json" 
-e, --referer                          设定 referer (H) 
-d, --data <data>                      设定 http body 默认使用 content-type application/x-www-form-urlencoded (H) 
--data-raw <data>                      ASCII 编码 HTTP POST 数据 (H) 
--data-binary <data>                   binary 编码 HTTP POST 数据 (H) 
--data-urlencode <data>                url 编码 HTTP POST 数据 (H) 
-G, --get                              使用 HTTP GET 方法发送 -d 数据 (H) 
-F, --form <name=string>               模拟 HTTP 表单数据提交 multipart POST (H) 
--form-string <name=string>            模拟 HTTP 表单数据提交 (H) 
-u, --user <user:password>             使用帐户，密码 例如 admin:password 
-b, --cookie <data>                    cookie 文件 (H) 
-j, --junk-session-cookies             读取文件中但忽略会话cookie (H) 
-A, --user-agent                       user-agent设置 (H)

传输设置

-C, --continue-at OFFSET               断点续转 
-x, --proxy [PROTOCOL://]HOST[:PORT]   在指定的端口上使用代理 
-U, --proxy-user USER[:PASSWORD]       代理用户名及密码

文件操作

-T, --upload-file <file>               上传文件 
-a, --append                           添加要上传的文件 (F/SFTP)

输出设置

-o, --output <file>                    将输出写入文件，而非 stdout 
-O, --remote-name                      将输出写入远程文件 
-D, --dump-header <file>               将头信息写入指定的文件 
-c, --cookie-jar <file>                操作结束后，要写入 Cookies 的文件位置

用例

  • -A参数指定客户端的用户代理标头，即User-Agent。curl 的默认用户代理字符串是curl/[version]。 curl -A 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/76.0.3809.100 Safari/537.36' https://google.com

  • 通过-H参数直接指定标头，更改User-Agent。 curl -H 'User-Agent: php/1.0' https://google.com

  • -b参数用来向服务器发送 Cookie。 curl -b 'foo=bar' https://google.com curl -b 'foo1=bar;foo2=bar2' https://google.com curl -b cookies.txt https://www.google.com

  • -c参数将服务器设置的 Cookie 写入一个文件。 curl -c cookies.txt https://www.google.com

  • -d参数用于发送 POST 请求的数据体。 curl -d'login=emma＆password=123'-X POST https://google.com/login curl -d 'login=emma' -d 'password=123' -X POST https://google.com/login 使用-d参数以后，HTTP 请求会自动加上标头 Content-Type : application/x-www-form-urlencoded 。 并且会自动将请求转为 POST 方法，因此可以省略-X POST。

  • –data-urlencode 参数等同于-d，发送 POST 请求的数据体，区别在于会自动将发送的数据进行 URL 编码。 curl --data-urlencode 'comment=hello world' https://google.com/login

  • -e参数用来设置 HTTP 的标头Referer，表示请求的来源。 curl -e 'https://google.com?q=example' https://www.example.com

  • -H参数可以通过直接添加标头Referer，达到同样效果。 curl -H 'Referer: https://google.com?q=example' https://www.example.com

  • -F参数用来向服务器上传二进制文件。 curl -F 'file=@photo.png' https://google.com/profile 命令会给 HTTP 请求加上标头Content-Type: multipart/form-data，然后将文件photo.png作为file字段上传。 -F参数可以指定 MIME 类型。 curl -F 'file=@photo.png;type=image/png' https://google.com/profile 上面命令指定 MIME 类型为image/png，否则 curl 会把 MIME 类型设为application/octet-stream。 curl -F 'file=@photo.png;filename=me.png' https://google.com/profile 上面命令中，原始文件名为photo.png，但是服务器接收到的文件名为me.png。

  • -G参数用来构造 URL 的查询字符串 curl -G -d 'q=kitties' -d 'count=20' https://google.com/search 上面命令会发出一个 GET 请求，实际请求的URL为https://google.com/search?q=kitties&count=20。如果省略–G，会发出一个 POST 请求。 curl -G --data-urlencode 'comment=hello world' https://www.example.com 如果数据需要 URL 编码，可以结合--data--urlencode参数。

  • -H参数添加 HTTP 请求的标头。 curl -H 'Accept-Language: en-US' https://google.com curl -H 'Accept-Language: en-US' -H 'Secret-Message: xyzzy' https://google.com curl -d '{"login": "emma", "pass": "123"}' -H 'Content-Type: application/json' https://google.com/login

  • -i参数打印出服务器回应的 HTTP 标头。 curl -i https://www.example.com 上面命令收到服务器回应后，先输出服务器回应的标头，然后空一行，再输出网页的源码。

  • -I参数向服务器发出 HEAD 请求，然会将服务器返回的 HTTP 标头打印出来。 curl -I https://www.example.com 上面命令输出服务器对 HEAD 请求的回应。 –head参数等同于-I。 curl --head https://www.example.com

  • -k参数指定跳过 SSL 检测。 curl -k https://www.example.com

  • –limit-rate用来限制 HTTP 请求和回应的带宽，模拟慢网速的环境。 curl --limit-rate 200k https://google.com

  • -o参数将服务器的回应保存成文件，等同于wget命令。 curl -o example.html https://www.example.com

  • -O参数将服务器回应保存成文件，并将 URL 的最后部分当作文件名。 curl -O https://www.example.com/foo/bar.html

  • -s参数将不输出错误和进度信息。 curl -s https://www.example.com

  • -u参数用来设置服务器认证的用户名和密码。 curl -u 'bob:12345' https://google.com/login 上面命令设置用户名为bob，密码为12345， 然后将其转为 HTTP 标头Authorization: Basic Ym9iOjEyMzQ1。 curl https://bob:12345@google.com/login 上面命令能够识别 URL 里面的用户名和密码，将其转为上个例子里面的 HTTP 标头。 curl -u 'bob' https://google.com/login 上面命令只设置了用户名，执行后，curl 会提示用户输入密码。

  • -x参数指定 HTTP 请求的代理。 curl -x socks5://james:cats@myproxy.com:8080 https://www.example.com 上面命令指定 HTTP 请求通过myproxy.com:8080的 socks5 代理发出。 curl -x james:cats@myproxy.com:8080 https://www.example.com
    如果没有指定代理协议，默认为 HTTP

  • -X参数指定 HTTP 请求的方法。 curl -X POST https://www.example.com

  • -r 0-100 分段下载 curl -r 0-100 -o img.part1 http://mydomian.cn/thumb/xxx.jpg curl -r 100-200 -o img.part2 http://mydomian.cn/thumb/xxx.jpg 最后合并cat所有文件

用例收集

  • 下载保存
curl http://mydomain.net > index.html 
curl -o index.html http://mydomain.net 
curl -O http://mydomain.net/target.tar.gz

  • GET curl http://www.yahoo.com/login.cgi?user=nickname&password=12345

  • POST curl -d "user=nickname&password=12345" http://www.yahoo.com/login.cgi

  • POST文件 curl -F upload= $localfile -F $btn_name=$btn_value http://mydomain.net/~zzh/up_file.cgi

  • 通过代理 curl -x 123.45.67.89:1080 -o page.html http://mydomain.net

  • 保存Cookie curl -x 123.45.67.89:1080 -o page1.html -D cookie0001.txt http://mydomain.net

  • 使用Cookie curl -x 123.45.67.89:1080 -o page1.html -D cookie0002.txt -b cookie0001.txt http://mydomain.net

  • 模仿浏览器 curl -A "Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.0)" -x123.45.67.89:1080 -o page.html -D cookie0001.txt http://mydomain.net

  • 伪造referer curl -A "Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.0)" -x123.45.67.89:1080 -e"mail.yahoo.com" -o page.html -D cookie0001.txt http://mydomain.net

  • 循环下载 curl -O http://mydomain.net/~zzh/screen[1-10].JPG

  • 循环匹配下载 curl -O http://mydomain.net/~{zzh,nick}/[001-201].JPG # >like zzh/001.JPG

  • 循环引用下载 curl -o #2_#1.jpg http://mydomain.net/~{zzh,nick}/[001-201].JPG # like >001_zzh.jpg

  • 断点续传 curl -c -O http://mydomain.net/~zzh/screen1.JPG

  • 分块下载

curl -r  0 -10240  -o "zhao.part1"  http://mydomain.net/~zzh/zhao1.mp3 &\ 
curl -r 10241 -20480  -o "zhao.part1"  http://mydomain.net/~zzh/zhao1.mp3 &\ 
curl -r 20481 -40960  -o "zhao.part1"  http://mydomain.net/~zzh/zhao1.mp3 &\ 
curl -r 40961 - -o  "zhao.part1"  http://mydomain.net/~zzh/zhao1.mp3 
.. 
cat zhao.part* > zhao.mp3

参数列表

在以下选项中，(H) 表示仅适用 HTTP/HTTPS ，(F) 表示仅适用于 FTP

    --anyauth      选择 "any" 认证方法 (H)   
-a, --append        添加要上传的文件 (F/SFTP)   
    --basic        使用HTTP基础认证（Basic Authentication）(H)   
    --cacert FILE  CA 证书，用于每次请求认证 (SSL)   
    --capath DIR    CA 证书目录 (SSL)   
-E, --cert CERT[:PASSWD] 客户端证书文件及密码 (SSL)   
    --cert-type TYPE 证书文件类型 (DER/PEM/ENG) (SSL)   
    --ciphers LIST  SSL 秘钥 (SSL)   
    --compressed    请求压缩 (使用 deflate 或 gzip)   
-K, --config FILE  指定配置文件   
    --connect-timeout SECONDS  连接超时设置   
-C, --continue-at OFFSET  断点续转   
-b, --cookie STRING/FILE  Cookies字符串或读取Cookies的文件位置 (H)   
-c, --cookie-jar FILE  操作结束后，要写入 Cookies 的文件位置 (H)   
    --create-dirs  创建必要的本地目录层次结构   
    --crlf          在上传时将 LF 转写为 CRLF   
    --crlfile FILE  从指定的文件获得PEM格式CRL列表   
-d, --data DATA    HTTP POST 数据 (H)   
    --data-ascii DATA  ASCII 编码 HTTP POST 数据 (H)   
    --data-binary DATA  binary 编码 HTTP POST 数据 (H)   
    --data-urlencode DATA  url 编码 HTTP POST 数据 (H)   
    --delegation STRING GSS-API 委托权限   
    --digest        使用数字身份验证 (H)   
    --disable-eprt  禁止使用 EPRT 或 LPRT (F)   
    --disable-epsv  禁止使用 EPSV (F)   
-D, --dump-header FILE  将头信息写入指定的文件   
    --egd-file FILE  为随机数据设置EGD socket路径(SSL)   
    --engine ENGINGE  加密引擎 (SSL). "--engine list" 指定列表   
-f, --fail          连接失败时不显示HTTP错误信息 (H)   
-F, --form CONTENT  模拟 HTTP 表单数据提交（multipart POST） (H)   
    --form-string STRING  模拟 HTTP 表单数据提交 (H)   
    --ftp-account DATA  帐户数据提交 (F)   
    --ftp-alternative-to-user COMMAND  指定替换 "USER [name]" 的字符串 (F)   
    --ftp-create-dirs  如果不存在则创建远程目录 (F)   
    --ftp-method [MULTICWD/NOCWD/SINGLECWD] 控制 CWD (F)   
    --ftp-pasv      使用 PASV/EPSV 替换 PORT (F)   
-P, --ftp-port ADR  使用指定 PORT 及地址替换 PASV (F)   
    --ftp-skip-pasv-ip 跳过 PASV 的IP地址 (F)   
    --ftp-pret      在 PASV 之前发送 PRET (drftpd) (F)   
    --ftp-ssl-ccc  在认证之后发送 CCC (F)   
    --ftp-ssl-ccc-mode ACTIVE/PASSIVE  设置 CCC 模式 (F)   
    --ftp-ssl-control ftp 登录时需要 SSL/TLS (F)   
-G, --get          使用 HTTP GET 方法发送 -d 数据  (H)   
-g, --globoff      禁用的 URL 队列 及范围使用 {} 和 []   
-H, --header LINE  要发送到服务端的自定义请求头 (H)   
-I, --head          仅显示响应文档头   
-h, --help          显示帮助   
-0, --http1.0      使用 HTTP 1.0 (H)   
    --ignore-content-length  忽略 HTTP Content-Length 头   
-i, --include      在输出中包含协议头 (H/F)   
-k, --insecure      允许连接到 SSL 站点，而不使用证书 (H)   
    --interface INTERFACE  指定网络接口／地址   
-4, --ipv4          将域名解析为 IPv4 地址   
-6, --ipv6          将域名解析为 IPv6 地址   
-j, --junk-session-cookies 读取文件中但忽略会话cookie (H)   
    --keepalive-time SECONDS  keepalive 包间隔   
    --key KEY      私钥文件名 (SSL/SSH)   
    --key-type TYPE 私钥文件类型 (DER/PEM/ENG) (SSL)   
    --krb LEVEL    启用指定安全级别的 Kerberos (F)   
    --libcurl FILE  命令的libcurl等价代码   
    --limit-rate RATE  限制传输速度   
-l, --list-only    只列出FTP目录的名称 (F)   
    --local-port RANGE  强制使用的本地端口号   
-L, --location      跟踪重定向 (H)   
    --location-trusted 类似 --location 并发送验证信息到其它主机 (H)   
-M, --manual        显示全手动   
    --mail-from FROM  从这个地址发送邮件   
    --mail-rcpt TO  发送邮件到这个接收人(s)   
    --mail-auth AUTH  原始电子邮件的起始地址   
    --max-filesize BYTES  下载的最大文件大小 (H/F)   
    --max-redirs NUM  最大重定向数 (H)   
-m, --max-time SECONDS  允许的最多传输时间   
    --metalink      处理指定的URL上的XML文件   
    --negotiate    使用 HTTP Negotiate 认证 (H)   
-n, --netrc        必须从 .netrc 文件读取用户名和密码   
    --netrc-optional 使用 .netrc 或 URL; 将重写 -n 参数   
    --netrc-file FILE  设置要使用的 netrc 文件名   
-N, --no-buffer    禁用输出流的缓存   
    --no-keepalive  禁用 connection 的 keepalive   
    --no-sessionid  禁止重复使用 SSL session-ID (SSL)   
    --noproxy      不使用代理的主机列表   
    --ntlm          使用 HTTP NTLM 认证 (H)   
-o, --output FILE  将输出写入文件，而非 stdout   
    --pass PASS    传递给私钥的短语 (SSL/SSH)   
    --post301      在 301 重定向后不要切换为 GET 请求 (H)   
    --post302      在 302 重定向后不要切换为 GET 请求 (H)   
    --post303      在 303 重定向后不要切换为 GET 请求 (H)   
-#, --progress-bar  以进度条显示传输进度   
    --proto PROTOCOLS  启用/禁用 指定的协议   
    --proto-redir PROTOCOLS  在重定向上 启用/禁用 指定的协议   
-x, --proxy [PROTOCOL://]HOST[:PORT] 在指定的端口上使用代理   
    --proxy-anyauth 在代理上使用 "any" 认证方法 (H)   
    --proxy-basic  在代理上使用 Basic 认证  (H)   
    --proxy-digest  在代理上使用 Digest 认证 (H)   
    --proxy-negotiate 在代理上使用 Negotiate 认证 (H)   
    --proxy-ntlm    在代理上使用 NTLM 认证 (H)   
-U, --proxy-user USER[:PASSWORD]  代理用户名及密码   
    --proxy1.0 HOST[:PORT]  在指定的端口上使用 HTTP/1.0 代理   
-p, --proxytunnel  使用HTTP代理 (用于 CONNECT)   
    --pubkey KEY    公钥文件名 (SSH)   
-Q, --quote CMD    在传输开始前向服务器发送命令 (F/SFTP)   
    --random-file FILE  读取随机数据的文件 (SSL)   
-r, --range RANGE  仅检索范围内的字节   
    --raw          使用原始HTTP传输，而不使用编码 (H)   
-e, --referer      Referer URL (H)   
-J, --remote-header-name 从远程文件读取头信息 (H)   
-O, --remote-name  将输出写入远程文件   
    --remote-name-all 使用所有URL的远程文件名   
-R, --remote-time  将远程文件的时间设置在本地输出上   
-X, --request COMMAND  使用指定的请求命令   
    --resolve HOST:PORT:ADDRESS  将 HOST:PORT 强制解析到 ADDRESS   
    --retry NUM  出现问题时的重试次数   
    --retry-delay SECONDS 重试时的延时时长   
    --retry-max-time SECONDS  仅在指定时间段内重试   
-S, --show-error    显示错误. 在选项 -s 中，当 curl 出现错误时将显示   
-s, --silent        Silent模式。不输出任务内容   
    --socks4 HOST[:PORT]  在指定的 host + port 上使用 SOCKS4 代理   
    --socks4a HOST[:PORT]  在指定的 host + port 上使用 SOCKSa 代理   
    --socks5 HOST[:PORT]  在指定的 host + port 上使用 SOCKS5 代理   
    --socks5-hostname HOST[:PORT] SOCKS5 代理，指定用户名、密码   
    --socks5-gssapi-service NAME  为gssapi使用SOCKS5代理服务名称   
    --socks5-gssapi-nec  与NEC Socks5服务器兼容   
-Y, --speed-limit RATE  在指定限速时间之后停止传输   
-y, --speed-time SECONDS  指定时间之后触发限速. 默认 30   
    --ssl          尝试 SSL/TLS (FTP, IMAP, POP3, SMTP)   
    --ssl-reqd      需要 SSL/TLS (FTP, IMAP, POP3, SMTP)   
-2, --sslv2        使用 SSLv2 (SSL)   
-3, --sslv3        使用 SSLv3 (SSL)   
    --ssl-allow-beast 允许的安全漏洞，提高互操作性(SSL)   
    --stderr FILE  重定向 stderr 的文件位置. - means stdout   
    --tcp-nodelay  使用 TCP_NODELAY 选项   
-t, --telnet-option OPT=VAL  设置 telnet 选项   
    --tftp-blksize VALUE  设备 TFTP BLKSIZE 选项 (必须 >512)   
-z, --time-cond TIME  基于时间条件的传输   
-1, --tlsv1        使用 => TLSv1 (SSL)   
    --tlsv1.0      使用 TLSv1.0 (SSL)   
    --tlsv1.1      使用 TLSv1.1 (SSL)   
    --tlsv1.2      使用 TLSv1.2 (SSL)   
    --trace FILE    将 debug 信息写入指定的文件   
    --trace-ascii FILE  类似 --trace 但使用16进度输出   
    --trace-time    向 trace/verbose 输出添加时间戳   
    --tr-encoding  请求压缩传输编码 (H)   
-T, --upload-file FILE  将文件传输（上传）到指定位置   
    --url URL      指定所使用的 URL   
-B, --use-ascii    使用 ASCII/text 传输   
-u, --user USER[:PASSWORD]  指定服务器认证用户名、密码   
    --tlsuser USER  TLS 用户名   
    --tlspassword STRING TLS 密码   
    --tlsauthtype STRING  TLS 认证类型 (默认 SRP)   
    --unix-socket FILE    通过这个 UNIX socket 域连接   
-A, --user-agent STRING  要发送到服务器的 User-Agent (H)   
-v, --verbose      显示详细操作信息   
-V, --version      显示版本号并退出   
-w, --write-out FORMAT  完成后输出什么   
    --xattr        将元数据存储在扩展文件属性中   
-q                .curlrc 如果作为第一个参数无效