天天看点

node.js使用cheerio抓取网页数据

/*
 * @Description: 使用cheerio抓取网页数据
 * @Version: 1.0
 * @Autor: Nanke_南柯
 * @Date: 2021-11-02 18:59:35
 * @LastEditors: Nanke_南柯
 * @LastEditTime: 2021-11-02 19:31:44
 */
// npm i cheerio -S 安装html 解析html非常方便,就像在浏览器中使用jquery一样
const http = require("http")
const https = require("https")
const cheerio =require("cheerio")
let filterData = (data)=>{
    // console.log('整个页面',data);
    const $ = cheerio.load(data)
    $('.typography-body-reduced').each((index,el)=>{
        console.log('通过cheerio插件获取我们想要的dom的索引:',index);
        console.log('通过cheerio插件获取我们想要的dom:',$(el).text());
    })
}
const server = http.createServer((req,res)=>{
    let data = ''
    https.get('https://www.apple.com.cn/iphone/',(result)=>{
        result.on('data',(chunk)=>{
            data+=chunk
        })
        result.on('end',()=>{
            filterData(data)
        })
    })
})

server.listen(5080,()=>{
    console.log('localhost:5080 Listen...');
})      

hotnode index.js后浏览器访问http://localhost:5080/

可以看到 利用cheerio插件我们可以直接筛选我们爬取到整个网页的内容进行过滤,得到我们想要的内容,如图

node.js使用cheerio抓取网页数据