一个简单的分布式新浪微博爬虫

一个简单的分布式新浪微博爬虫 – 残阳似血的博客

一个简单的分布式新浪微博爬虫

位于分类

分布式计算

由于实验室实验需要，我写了个简单的新浪微博爬虫，来从新浪微博上获取一些实验所需要的数据。现在实验数据抓取部分已经比较稳定，所以我把这些代码放出来，说不定会对一些同学有帮助吧。

至于为什么不用新浪微博API，以及整个分布式爬虫的架构、安装和部署、以及缺陷等等都已经在wiki中进行了解释。

以后，这个程序应该不会再去维护和更新了，但是，我觉得这个程序稍作修改，还是可以适用于其他的特定目标的爬虫的，所以如果有同学需要修改这个项目，可以fork代码，或者联系我成为项目的contributor。

项目地址在BitBucket上——

https://bitbucket.org/chineking/weibocrawler

。

Update

（2013/1/21）：最新的weibo.cn抓取不了数据了，改动已经提交，请大家pull最新代码。