当前位置:   article > 正文

python OSError: [Errno 24] Too many open files_scrapy to many open file

scrapy to many open file

背景:scrapy启动了多个爬虫,每个爬虫都有读写文件的pipeline。发生了这一问题.

原因:超出了进程同一时间最多可开启的文件数.

解决办法: ulimit -n 2048,将数目提高,mac默认是256,linux是1024,自行体会.

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/article/detail/41895
推荐阅读
相关标签
  

闽ICP备14008679号