博客

我用狐火浏览器抓取csdn咨讯文章的网页源码，发现得到的结果和在浏览器中看到的不一样。

开始我的代码为：

Document doc = Jsoup.connect("http://www.csdn.net/article/2015-10-21/2825979").get();

后来想到要模拟浏览器的行为,于是查看请求头,添加”User-Agent”请求头，这样得到的源码和网页上的是一样的，最好也添加一些其它的请求头

Document doc = Jsoup.connect("http://www.csdn.net/article/2015-10-21/2825979").header("User-Agent",
                "Mozilla/5.0 (Windows NT 6.3; WOW64; rv:41.0) Gecko/20100101 Firefox/41.0").get();