Node爬虫实践-创新互联

爬虫的原理很好理解,就是在服务端请求另一个服务器的资源,前端有跨域问题,而服务端没有,这是天然优势。掌握node的前端可以为所欲为了。Node爬虫实践

成都创新互联公司主要从事成都网站设计、成都网站制作、网页设计、企业做网站、公司建网站等业务。立足成都服务敖汉,十年网站建设经验,价格优惠、服务专业,欢迎来电咨询建站服务:18980820575

1 首先,根据请求资源的协议选择合适的模块,比如csdn是https协议,就用https的方法取请求,之前没有注意到这个问题。

var https = require('https');

2 用get方法请求需要抓去内容的网页地址,试过用request方法,没有反应。

 https.get('https://www.xxx.net',function(res){         ......  })

3 用cheerio模块查找dom元素,抓取需要的内容。cheerio是服务端的dom操作工具,以jquery为内核。

var cheerio = require('cheerio');      res.on('data', (chunk) => {         const $ = cheerio.load(chunk);         let content=$('.company_list');      })

4 把图片的绝对地址改成本地路径,前端页面无法直接访问跨域受保护图片。

let imgsrc=[]; content.find('img').each((index,e)=>{          var originsrc=e.attribs.src;     e.attribs.src ='/images/'+e.attribs.src.split('?')[0].split('/').pop();     imgsrc.push(originsrc); })

5 最后一步,也是最重要的一步:把图片保存在本地文件夹。试过fs.readFile 和fs.writeFile,保存下来的图片受损打不开;试过直接get请求,返回的图片都是0字节。正确的方法是用request方法,至于为什么?我也不清楚啊。可能是binary二进制的优势,毕竟再怎么伪装,所有数据本质还是二进制吧。

var request = require('request'); imgsrc.forEach(item=>{     var filename = item.split('?')[0].split('/').pop();     request({ url: item, encoding: null }, (err, response, body) => {          fs.writeFileSync('./public/images/'+filename, body, { encoding: 'binary' });     }) })

到此为止,爬虫的功能就结束了。Node爬虫实践

另外有需要云服务器可以了解下创新互联cdcxhl.cn,海内外云服务器15元起步,三天无理由+7*72小时售后在线,公司持有idc许可证,提供“云服务器、裸金属服务器、高防服务器、香港服务器、美国服务器、虚拟主机、免备案服务器”等云主机租用服务以及企业上云的综合解决方案,具有“安全稳定、简单易用、服务可用性高、性价比高”等特点与优势,专为企业上云打造定制,能够满足用户丰富、多元化的应用场景需求。


本文标题:Node爬虫实践-创新互联
文章位置:http://bzwzjz.com/article/pdidj.html

其他资讯

Copyright © 2007-2020 广东宝晨空调科技有限公司 All Rights Reserved 粤ICP备2022107769号
友情链接: 重庆网站建设 成都网站制作 成都网站设计 成都响应式网站建设 成都网站建设 网站制作报价 手机网站设计 手机网站制作 品牌网站建设 重庆外贸网站建设 网站制作公司 手机网站制作 网站设计公司 成都网站建设公司 成都做网站建设公司 成都网站建设 响应式网站建设 达州网站设计 成都网站建设 成都营销网站建设 成都网站制作 成都定制网站建设