使用Scrapy框架,Scrapy-Redis库实现Scrapy的分布式。其中使用 Scrapy-Redis_BloomFilter库代替Scrapy-Redis库,采用Bloom Filter算法优化去重机制