沙哑的允许所有领域


问题内容

我看到这篇文章使抓取抓取任何网站不受域限制。

有没有更好的方法,例如在允许的domains变量中使用正则表达式,例如-

allowed_domains = ["*"]

我希望除了破解Scrapy框架之外,还有其他方法可以做到这一点。


问题答案:

完全不要设置allowed_domains。

查看此scrapy文件中的get_host_regex()函数:

https://github.com/scrapy/scrapy/blob/master/scrapy/contrib/spidermiddleware/offsite.py