介绍

Crawler-Studio是基于Scrapy、Scrapyd、Scrapyd-Client、Scrapyd-API、Django、DRF、Vue.js 开发的一款开源分布式Scrapy爬虫监控平台

  • 大屏展示scrapy爬虫运行状况

  • 可视化实时读取爬虫运行数据、错误日志

  • 监控爬虫日志错误率、内存占用以及掉线通知

  • 可视化分布式爬虫管理

本平台的优点

  • 体积小、依赖少、安装简单

  • 可视化界面操作简单

  • 做到了实时监控

如在使用过程中遇到问题,欢迎到 Issues 搜索解决方案或者提 Issue,感谢您的支持。

https://tva1.sinaimg.cn/large/008vxvgGgy1h88cfhw9qbj31h20u00wi.jpg

https://tva1.sinaimg.cn/large/008vxvgGgy1h88ehdzutqj31tl0u0n0x.jpg

https://tva1.sinaimg.cn/large/008vxvgGgy1h88ei49ornj31xs0u0790.jpg

https://tva1.sinaimg.cn/large/008vxvgGgy1h88eijzlbfj31xu0u0tff.jpg

https://tva1.sinaimg.cn/large/008vxvgGgy1h88ej6wma6j31p70u0adu.jpg