当前位置: 首页 > 工具软件 > ScrapydWeb > 使用案例 >

可视化爬虫ScrapydWeb的安装(Linux)

冉丰茂
2023-12-01

可视化爬虫ScrapydWeb的安装(Linux)(python3及以上)

官方文档:https://github.com/my8100/files/blob/master/scrapydweb/README_CN.md

首先需要安装 scrapyd(可移步安装)

安装 pip3 install scrapydweb

在scrapyd挂起的状态下运行scrapydweb
在python scrapydweb的安装目录下执行 scrapydweb 如 /usr/local/python3/bin/在此目录下

首次启动将会在当前目录下生成配置文件“scrapydweb_settings_v8.py” v8或v10
更改此配置文件

启动HTTP基本认证
ENABLE_AUTH = True
USERNAME = 'username'
PASSWORD = 'password' 

ENABLE_LOGPARSER = False

如果需要冲外部访问,添加SCRAPYD_SERVERS,支持字符串和元组两种配置格式
依次修改一下配置
SCRAPYDWEB_BIND = '0.0.0.0'
SCRAPYDWEB_PORT = 6804
SCRAPYD_SERVERS = [
    '127.0.0.1:6800',
    # 'username:password@localhost:6801#group',
    ('', '', '你的服务器公网IP', '6804', 'group'),
]

然后重新运行 scrapydweb 访问 http://127.0.0.1:6804即可

后台启动scrapydweb (尚未解决????)

 类似资料: