久久精品五月,日韩不卡视频在线观看,国产精品videossex久久发布 ,久久av综合

站長資訊網
最全最豐富的資訊網站

node爬取數據實例:抓取寶可夢圖鑒并生成Excel文件

怎么用Node爬取網頁的數據并寫入Excel文件?下面本篇文章通過一個實例來講解一下用Node.js爬取網頁的數據并生成Excel文件的方法,希望對大家有所幫助!

node爬取數據實例:抓取寶可夢圖鑒并生成Excel文件

UNI-APP開發(仿餓了么):進入學習

相信寶可夢是很多90后的童年回憶,身為程序員不止一次的也想做一款寶可夢游戲,但是做之前應該先要整理一下有多少寶可夢,他們的編號,名字,屬性等信息整理出來,本期將用 Node.js 簡單的實現一個從寶可夢網頁數據的爬取,到把這些數據生成Excel文件,直至做接口讀取Excel訪問到這些數據。

爬取數據

既然是爬取數據,那我們先找一個有寶可夢圖鑒數據的網頁,如下圖:

node爬取數據實例:抓取寶可夢圖鑒并生成Excel文件

這個網站是用PHP寫的,前后沒有做分離,所以我們不會讀接口來捕獲數據,我們使用 crawler 庫,來捕獲網頁中的元素從而得到數據。提前說明一下,用 crawler 庫,好處是你可以用 jQuery 的方式在Node環境中捕獲元素。

安裝:

yarn add crawler

實現:

const Crawler = require("crawler"); const fs = require("fs") const { resolve } = require("path")  let crawler = new Crawler({     timeout: 10000,     jQuery: true, });  let crawler = new Crawler({     timeout: 10000,     jQuery: true, });  function getPokemon() {     let uri = "" // 寶可夢圖鑒地址     let data = []     return new Promise((resolve, reject) => {         crawler.queue({             uri,             callback: (err, res, done) => {                 if (err) reject(err);                 let $ = res.$;                 try {                     let $tr = $(".roundy.eplist tr");                     $tr.each((i, el) => {                         let $td = $(el).find("td");                         let _code = $td.eq(1).text().split("n")[0]                         let _name = $td.eq(3).text().split("n")[0]                         let _attr = $td.eq(4).text().split("n")[0]                         let _other = $td.eq(5).text().split("n")[0]                         _attr = _other.indexOf("屬性") != -1 ? _attr : `${_attr}+${_other}`                         if (_code) {                             data.push([_code, _name, _attr])                         }                     })                     done();                     resolve(data)                 } catch (err) {                     done()                     reject(err)                 }              }         })     }) }

在生成實例的時候,還需要開啟 jQuery 模式,然后,就可以使用 $ 符了。而以上代碼的中間部分的業務就是在捕獲元素爬取網頁中所需要的數據,使用起來和 jQuery API 一樣,這里就不再贅述了 。

getPokemon().then(async data => {     console.log(data) })

最后我們可以執行并打印一下傳過來的 data 數據,來驗證確實爬取到了格式也沒有錯誤。

node爬取數據實例:抓取寶可夢圖鑒并生成Excel文件

寫入Excel

既然剛才已經爬取到數據了,接下來,我們就將使用 node-xlsx 庫,來完成把數據寫入并生成一個 Excel 文件中。

首先,我們先介紹一下,node-xlsx 是一個簡單的 excel 文件解析器和生成器。由 TS 構建的一個依靠 SheetJS xlsx 模塊來解析/構建 excel 工作表,所以,在一些參數配置上,兩者可以通用。

安裝:

yarn add node-xlsx

實現:

const xlsx = require("node-xlsx")  getPokemon().then(async data => {     let title = ["編號", "寶可夢", "屬性"]     let list = [{         name: "關都",         data: [             title,             ...data         ]     }];     const sheetOptions = { '!cols': [{ wch: 15 }, { wch: 20 }, { wch: 20 }] };     const buffer = await xlsx.build(list, { sheetOptions })     try {         await fs.writeFileSync(resolve(__dirname, "data/pokemon.xlsx"), buffer, "utf8")     } catch (error) { } })

name 則是Excel文件中的欄目名,而其中的 data 類型是數組其也要傳入一個數組,構成二維數組,其表示從 ABCDE…. 列中開始排序傳入文本。同時,可以通過!cols來設置列寬。第一個對象wch:10 則表示 第一列寬度為10 個字符,還有很多參數可以設置,可以參照 xlsx 庫 來學習這些配置項。

最后,我們通過 xlsx.build 方法來生成 buffer 數據,最后用 fs.writeFileSync 寫入或創建一個 Excel 文件中,為了方便查看,我這里存入了 名叫 data 的文件夾里,此時,我們在 data 文件夾 就會發現多出一個叫 pokemon.xlsx 的文件,打開它,數據還是那些,這樣把數據寫入到Excel的這步操作就完成了。

node爬取數據實例:抓取寶可夢圖鑒并生成Excel文件

讀取Excel

讀取Excel其實非常容易甚至不用寫 fs 的讀取, 用xlsx.parse 方法傳入文件地址就能直接讀取到。

xlsx.parse(resolve(__dirname, "data/pokemon.xlsx"));

當然,我們為了驗證準確無誤,直接寫一個接口,看看能不能訪問到數據。為了方便我直接用 express 框架來完成這件事。

先來安裝一下:

yarn add express

然后,再創建 express 服務,我這里端口號就用3000了,就寫一個 GET 請求把讀取Excel文件的數據發送出去就好。

const express = require("express") const app = express(); const listenPort = 3000;  app.get("/pokemon",(req,res)=>{     let data = xlsx.parse(resolve(__dirname, "data/pokemon.xlsx"));     res.send(data) })  app.listen(listenPort, () => {     console.log(`Server running at http://localhost:${listenPort}/`) })

最后,我這里用 postman 訪問接口,就可以清楚的看到,我們從爬取到存入表格所有的寶可夢數據都接收到了。

node爬取數據實例:抓取寶可夢圖鑒并生成Excel文件

結語

如你所見,本文以寶可夢為例,來去學習怎么用Node.js爬取網頁的數據,怎么把數據寫入Excel文件,以及怎么讀取到Excel文件的數據這三個問題,其實實現難度并不大,但有些時候蠻實用的,如果擔心忘記可以收藏起來喲~

贊(0)
分享到: 更多 (0)
?
網站地圖   滬ICP備18035694號-2    滬公網安備31011702889846號
久久精品五月,日韩不卡视频在线观看,国产精品videossex久久发布 ,久久av综合
国产日韩1区| 午夜久久福利| 少妇高潮一区二区三区99| 99热免费精品| 伊人成人网在线看| 国产综合欧美| 99视频在线精品国自产拍免费观看| 久久久久91| 欧美色图国产精品| 国产精品国产一区| 精品成人18| 深夜福利视频一区二区| 欧美久久天堂| 在线日韩一区| 日韩在线一区二区| 婷婷精品在线| 国产精品99久久免费| 日韩av二区| 欧美一级精品| 久久av在线| 午夜精品福利影院| 欧美精品91| 成人久久久久| 性色一区二区| 日本综合视频| 美女在线视频一区| 999久久久免费精品国产| 亚洲激情另类| 欧美啪啪一区| 黄色欧美在线| 亚洲国产专区| 日韩免费精品| 精品少妇av| 欧美综合另类| 日本高清久久| 岛国av免费在线观看| 伊人影院久久| 国产精品视频一区二区三区综合| 国产一区二区三区不卡视频网站| 国产超碰精品| 视频在线观看91| 国产毛片精品久久| 成人午夜精品| 久久国产精品毛片| 国产亚洲人成a在线v网站| 精品国产一区二区三区性色av| 婷婷综合六月| 日本综合精品一区| 亚洲涩涩在线| 日本a口亚洲| 成人午夜在线| 久久最新视频| 高清av一区| 亚洲欧美日韩视频二区| 欧美日韩一区二区三区不卡视频 | 91精品国产自产观看在线| 久久精品一区| 国产精品美女久久久| 国产精品亚洲人成在99www| 成人午夜精品| 国产香蕉精品| 91久久中文| 国产精品精品| 日韩精品成人在线观看| 国产成人精品一区二区三区免费 | 狠狠爱成人网| 麻豆精品在线视频| 亚洲黄色影院| 电影91久久久| 日韩av网站在线观看| 日韩成人三级| 欧美日韩a区| 伊人久久婷婷| 水蜜桃久久夜色精品一区| 日韩国产精品久久久久久亚洲| 成人一二三区| 国产亚洲人成a在线v网站| 99国产精品| 日韩欧美精品| 国产精品亲子伦av一区二区三区| 夜久久久久久| 99久久99视频只有精品| 麻豆中文一区二区| 欧美久久香蕉| 蜜臀久久99精品久久久画质超高清| 午夜影院一区| 国产日产高清欧美一区二区三区| 国产偷自视频区视频一区二区| 日韩精品1区| 麻豆一区在线| 日本精品另类| 男女男精品网站| 不卡av一区二区| 中文字幕在线高清| 精品伊人久久| 国产欧美日韩精品一区二区免费 | 亚洲免费黄色| 久久婷婷丁香| 国产精品久久久久久久免费观看 | 国产精品一线| 香蕉久久久久久久av网站| 久久久久午夜电影| 国产成人精品一区二区三区免费| 国产精品亚洲综合久久| 亚洲精品无播放器在线播放| 不卡视频在线| 激情欧美国产欧美| 久久精品国语| 国产美女高潮在线| 国产一区一一区高清不卡| 国产精品一国产精品| 国产欧美一区二区色老头| 久久精品超碰| 国产麻豆一区二区三区精品视频| 日本成人在线视频网站| 蜜桃av一区| 六月婷婷一区| 亚洲一区久久| 久久午夜精品| 在线观看一区| 一级成人国产| 亚洲tv在线| 日韩高清不卡一区| 国产日本久久| 美女久久99| 精品日产乱码久久久久久仙踪林| 精品伊人久久久| 麻豆网站免费在线观看| 婷婷综合六月| 欧美a级片一区| 欧美手机在线| 婷婷精品进入| 午夜国产一区二区| 久久国产精品亚洲77777| 一区二区国产精品| 婷婷成人av| 欧美激情福利| 97精品一区| 国产一区二区中文| 久久亚洲视频| 国产调教一区二区三区| 国产福利一区二区三区在线播放| 久久av中文| 高清不卡亚洲| 欧美综合另类| 国产亚洲福利| 日韩精彩视频在线观看| 国产精品啊啊啊| 中文字幕在线视频网站| 久久久久国产精品一区三寸| 伊人精品一区| 亚洲一区导航| 国产精品免费99久久久| 樱桃视频成人在线观看| 欧美日韩国产高清| 亚洲人成网77777色在线播放| 久久激情综合网| 国产suv精品一区二区四区视频 | 国产欧美一区二区精品久久久| 麻豆一区二区三区| 在线一区视频观看| 欧美中文日韩| 国产日韩1区| 91精品韩国| 中文字幕亚洲在线观看| 久久不卡国产精品一区二区| 四虎影视精品| 日韩精品一页| 日韩理论片av| 另类亚洲自拍| 麻豆精品99| 九九综合九九| 国产精品亚洲综合色区韩国| 日韩欧美中文| 日韩中出av| 国产v综合v| 亚洲啊v在线免费视频| 成人午夜毛片| 美国三级日本三级久久99| 国产一区三区在线播放| 美日韩精品视频| 精品久久久网| 丝袜美腿亚洲色图| 国内精品伊人| 久久都是精品| 精品一区视频| 免费看日韩精品| 国产999精品在线观看| 先锋影音国产一区| 丁香婷婷久久| 亚洲欧美日本国产| 日韩不卡在线| 日韩欧美美女在线观看| 欧洲精品一区二区三区| 日韩欧美2区| 99精品综合| 精品久久久久中文字幕小说| 亚洲美女91| 国产精品99免费看| 国产剧情一区|