22 Nginx 综合实践
今天我们将基于 Nginx 完成两个比较有用的场景,但是用到的 Nginx 的配置非常简单。
内部 Yum 源搭建
内部 Pip 源搭建
1. 实验环境
ceph1
- centos 7.6
- 内网ip:172.16.0.8 公网ip:106.12.220.85
- 功能:yum源地址、pip源地址
ceph2
- centos 7.6
- 内网ip:172.16.0.9 公网ip:106.12.195.156
- 功能:模拟用户端,访问yum源和pip源
2. 内部yum源搭建
熟悉 CentOS 操作系统的人都知道,CentOS 中默认的软件包管理工具是 Yum ,安装某个软件,我们只需要输入如下命令即可:
$ sudo yum install 软件包
使用 Yum 工具的好处就是,它能自动帮我们处理依赖关系,连同依赖包一起下载安装。由于默认的是使用的国外的源,往往为了加快下载速度,我们会选择使用国内的 Yum 源。比较有名的有清华源、阿里源、163源等等。这些网站提供的软件包都是凌晨从国外的最全的 Yum 源地址同步,然后更新索引,提供给国内用户免费使用。往往在生产环境上部署服务时,为了安全性,除了一台虚拟机能联通外网外,其余机器都处于内网环境,是无法联通外界网络的,为了在这些机器上能统一安装某些服务,我们还需要在内网构建自己的 Yum 源。
构建 Yum 源的步骤非常简单,按照如下步骤走:
- 准备好yum源包
我们准备好自己的rpm包,这些包可以通过下面的方式获取:
$ sudo yum install nginx --downloadonly --downloaddir=./
这样会将 Yum 源对应的 nginx包以及相关依赖下载下来,但并不安装。我们要的就是所有这些 rpm 包。按照上面的方式,下载我们所有想要安装软件的 rpm 包,然后将其全部放入到目录 yum_source 下,最后连同包和目录压缩成 yum_source.zip 文件。
- 上传到某个服务器
上传到 ceph1 的 /data 目录(可以是任意地址)下,并解压,又重新得到 yum_source 目录,目录下全是我们需要的 rpm 包,可以用目录将这些 rpm 包分类,比如 ansible及其依赖包就放入 /data/yum_source/ansible目录下,这样看起来会比较清晰,而不是所有的包都混在同一个目录下。这样,我们的 yum 源其实就构建好了,源地址就是 /data/yum_source。
- 构建索引
接下来,我们使用 createrepo 这个命令来构建 yum 源的索引。这个命令需要单独安装,所以首先需要找一台能联网的机器,将 createrepo 所依赖的 rpm 下载下来,然后将其放入到ceph1的 /data/yum_source/createrepo 目录下。然后我们进入 /data/yum_source/createrepo 目录,直接使用yum localinstall createrepo-xxx.noarch.rpm
即可安装该命令。
# 如果无权限进入,可以改下权限,或者后面得指令使用绝对路径
$ cd /data/yum_source/createrepo/
# 根据下载的包对应安装
$ sudo yum localinstall createrepo-0.9.9-28.el7.noarch.rpm
# 如果没有找到当前目录下的依赖,可以直接用rpm -ivh安装这个目录下的所有依赖包
$ sudo rpm -ivh *.rpm
# 有了createrepo命令,我们用-v参数来对yum源目录建立索引
$ sudo createrepo -v /data/yum_source
下图中的 repodata 就是 createrepo 命令给整个目录生成的索引文件。
- Nginx作为静态资源服务器
万事俱备,只差 Nginx 作为静态资源服务器来让我们访问到 yum 源中的资源。这对 Nginx 来说就是轻而易举的事情。我们按照第6节的内容安装 Nginx ,修改 Nginx.conf 配置文件,内容如下:
$ 进入nginx的配置文件目录
$ cat nginx.conf
user root;
# 根据探测机器cpu核数设置
worker_processes 1;
#error_log logs/error.log;
#error_log logs/error.log notice;
#error_log logs/error.log info;
#pid logs/nginx.pid;
events {
worker_connections 1024;
}
http {
include mime.types;
default_type application/octet-stream;
#log_format main '$remote_addr - $remote_user [$time_local] "$request" '
# '$status $body_bytes_sent "$http_referer" '
# '"$http_user_agent" "$http_x_forwarded_for"';
#access_log logs/access.log main;
sendfile on;
#tcp_nopush on;
#keepalive_timeout 0;
keepalive_timeout 65;
#gzip on;
server {
listen 8089;
server_name localhost;
root /data/yum_source;
autoindex on;
index index.html index.htm;
}
}
最核心的地方,就是我们加了一个监听8089的端口配置,将8089端口过来的请求转向 /data/yum_source 目录下的静态文件。我们本地访问这个主机的8089端口,如下图所示:
那么如何让 ceph2 机器使用这个 yum 源呢?很简单,只需要将 ceph2 的 /etc/yum.repos.d/ 目录下的所有 repo 文件备份保存到其他位置,然后新建一个 repo 文件,将里面的地址指向这个 ceph1 即可。具体操作参考下面的 shell 命令:
$ mkdir /etc/yum.repos.d/bak
$ mv /etc/yum.repos.d/*.repo /etc/yum.repos.d/bak
# 新建internal.repo文件,并写入yum源地址
$ vim /etc/yum.repos.d/internal.repo
$ cat /etc/yum.repos.d/internal.repo
[Local-Yum]
name=internal yum
baseurl=http://172.16.0.8:8089/
enabled=1
priority=1
gpgcheck=0
gpgkey=http://172.16.0.8:8089/release.asc
注意这里我们将源名称命名为Local-Yum,接下来我们在 ceph2 上使用 yum 命令安装某个服务(要求 ceph1 中必须要有该软件的 rpm 包):
$ yum clean all
$ yum install nginx
从下图中,可以看到我们的内部源确实生效了,使用的是我们定义的内部源 Local-Yum 。此外使用内网源可以大大加快下载软件的速度,提升工作效率。
3. 内部pip源搭建
搭建好 yum 源之后,我们来看 pip 源的搭建过程,其实方式也是差不多。不过这里我们要使用一个开源的工具来帮我们做这件事情(类似于前面的 createrepo ),这样会使得 pip 源的搭建非常方便。
- 下载开源工具
$ yum install git -y
# 如果机器无法联网,则直接去下载最新的包,然后传到主机上去
$ git clone https://github.com/wolever/pip2pi
$ cd pip2pi
$ python setup.py install
- 使用该工具
安装好该工具后,有两个非常好用的命令:
# 这样子,会将python模块连同依赖的模块全部下载下来,这些文件构成了我们pip源的一部分
$ pip2tgz /data/pip_source/ ansible -i https://pypi.tuna.tsinghua.edu.cn/simple
$ pip2tgz /data/pip_source/ -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple
# 目前来看,好像是生成了一个simple目录,然后有index.html
$ dir2pi /data/pip_source/
注意:如果出现 “TypeError: ‘module’ object is not callable” 这样的错误信息,主要是pip版本太高导致的,需要将 pip 降级。解决方案如下:
# 卸载高版本的pip
$ python -m pip uninstall pip
# yum安装旧版本的pip
$ yum install python-pip
就是简简单单的这几个命令,pip 源文件已经准备好了。我们找台能联网的机器,部署该命令,然后下载我们想要的 python 模块文件及其依赖。最后使用 dir2pi 给这个 pip 目录生成索引以及 html 文件。
- 使用nginx做静态资源服务器
最后就是将这个目录打包并上传到对应的 ceph1 上去,放到 /data 目录下,解压得到 pip 源目录 /data/pip_source。接下来,使用 nginx 作为静态资源服务器,将某个端口的根路径指向这里即可。为此,在 nginx 中在添加一个端口的配置:
# 这个和yum还不一样,因为/data/pip_source下有生成了的index.html页面,在simple目录中
server {
listen 8088;
server_name localhost;
root /data/pip_source;
autoindex on;
autoindex_exact_size off;
autoindex_localtime on;
location /{
}
}
修改 nginx 的配置后重启,再访问 ceph1 的8088端口,结果如下:
可以回过头来,看看网上第三方 pip 源的地址,都是带上了 simple ,比如:
- 清华源:
https://pypi.tuna.tsinghua.edu.cn/simple
- 阿里源:
https://mirrors.aliyun.com/pypi/simple
- 豆瓣源:
http://pypi.douban.com/simple
这样子的形式和我们搭建的 pip 源好像一致,难道她们也是用这样的工具搭建 pip 源?
- 使用内部pip源
使用方式和前面使用第三方 pip 源一样,加上-i参数,指定 pip 源地址和端口,如下命令是在 ceph2 上用pip安装 ansible 工具,使用的正是ceph1作为 pip 源。
$ pip install ansible -i http://172.16.0.8:8088/simple/ --trusted-host 172.16.0.8
从执行结果看,我们成功使用内部的 pip 源安装了 ansible 工具,而且下载速度非常快,达到了百兆每秒的速度,其下载速度瓶颈主要在于内部的网络带宽。
4. 小结
今天我们讲了 Nginx 作为静态服务器的两个非常典型的案例,这也是在生产中会经常用到的。下两个小结,我们将看到 Nginx 在请求转发方面的相关应用案例。