愛(ài)鋒貝

 找回密碼
 立即注冊(cè)

只需一步,快速開(kāi)始

扫一扫,极速登录

查看: 1131|回復(fù): 19
打印 上一主題 下一主題
收起左側(cè)

去哪找數(shù)據(jù)?怎么挖掘?

[復(fù)制鏈接]

1392

主題

1464

帖子

5898

積分

Rank: 8Rank: 8

跳轉(zhuǎn)到指定樓層
樓主
發(fā)表于 2021-12-15 04:15:28 | 只看該作者 回帖獎(jiǎng)勵(lì) |倒序?yàn)g覽 |閱讀模式

一鍵注冊(cè),加入手機(jī)圈

您需要 登錄 才可以下載或查看,沒(méi)有帳號(hào)?立即注冊(cè)   

x
本文轉(zhuǎn)自簡(jiǎn)道云的知乎回答有哪些「神奇」的數(shù)據(jù)獲取方式?
已經(jīng)將網(wǎng)站匯總成表格,大家可以下載查看:【簡(jiǎn)道云匯總】110+數(shù)據(jù)網(wǎng)站
如果你不是會(huì)爬蟲的技術(shù)流,那下面這110+網(wǎng)站可以解決你90%的數(shù)據(jù)需求。
首先,常見(jiàn)的公開(kāi)數(shù)據(jù)網(wǎng)站在https://hao.199it.com/都可以搜索到。


除此之外,補(bǔ)充上面沒(méi)有的一些網(wǎng)站,一共110+,按需選擇:
金融財(cái)經(jīng)數(shù)據(jù)


  • 同花順數(shù)據(jù)中心:提供股票債券等金融數(shù)據(jù)
  • 和訊數(shù)據(jù):提供各種股票、基金、外匯、債券等實(shí)時(shí)數(shù)據(jù),有付費(fèi),有免費(fèi)
  • 零壹財(cái)經(jīng):大大小小的網(wǎng)貸數(shù)據(jù)、排行榜等
  • 金融數(shù)據(jù)網(wǎng):提供每日的黃金、匯率、農(nóng)產(chǎn)品、汽油價(jià)格的相關(guān)數(shù)據(jù)
  • 蘿卜投研:提供股市、證券等數(shù)據(jù),多以數(shù)據(jù)研究報(bào)告形式展示
  • 金融界:提供股市、融資等各種資金流向數(shù)據(jù),以及豐富的財(cái)報(bào)和研報(bào)
  • 東方財(cái)富網(wǎng):提供多國(guó)的股票、財(cái)稅、行業(yè)、消費(fèi)等大量豐富的經(jīng)濟(jì)數(shù)據(jù)
  • 吉林金融網(wǎng):提供吉林的融資、市場(chǎng)數(shù)據(jù)
  • 搜狐證券:提供貨幣、外匯、行業(yè)、市場(chǎng)等宏觀數(shù)據(jù)
  • CCER經(jīng)濟(jì)金融數(shù)據(jù)庫(kù):提供企業(yè)財(cái)務(wù)年度數(shù)據(jù)、股票收益數(shù)據(jù)等數(shù)據(jù)庫(kù)下載
  • 香港金融管理局:提供香港的各種經(jīng)濟(jì)及金融數(shù)據(jù),以宏觀數(shù)據(jù)為主
  • 世紀(jì)未來(lái):數(shù)據(jù)服務(wù)平臺(tái),提供銀行業(yè)務(wù)研究、金融大數(shù)據(jù)等各種付費(fèi)數(shù)據(jù)
  • 新浪財(cái)經(jīng):提供國(guó)內(nèi)國(guó)民經(jīng)濟(jì)、行業(yè)信息、對(duì)外經(jīng)貿(mào)、居民收入等各種宏觀的經(jīng)濟(jì)數(shù)據(jù)
  • 司爾亞司數(shù)據(jù)信息有限公司:覆蓋超過(guò)195+個(gè)國(guó)家的經(jīng)濟(jì)數(shù)據(jù)庫(kù),數(shù)據(jù)全面但收費(fèi)
  • INSEE數(shù)據(jù):法國(guó)統(tǒng)計(jì)與經(jīng)濟(jì)研究院公開(kāi)數(shù)據(jù)
  • 投中研究院:提供投資領(lǐng)域的分析報(bào)告,網(wǎng)站更新頻率較高
互聯(lián)網(wǎng)數(shù)據(jù)

營(yíng)銷查詢:

  • 5118 / chinaz:支持查詢網(wǎng)站排名及發(fā)展趨勢(shì)、百度收錄情況等信息
  • 百度指數(shù):百度旗下/以百度網(wǎng)民行為數(shù)據(jù)為基礎(chǔ)的數(shù)據(jù)分享平臺(tái),支持查詢需求圖譜
  • 微信指數(shù):微信旗下/基于微信大數(shù)據(jù)分析的移動(dòng)端指數(shù),打開(kāi)微信→搜索“微信指數(shù)”可用
  • 移動(dòng)觀象臺(tái):基于移動(dòng)設(shè)備用戶的操作行為,提供應(yīng)用、公眾號(hào)排行等,以及大量數(shù)據(jù)報(bào)告
  • 新榜/微小寶/易贊:幾款工具比較類似,支持查看公眾號(hào)排行、看公眾號(hào)人群畫像等功能
  • 阿里指數(shù):阿里旗下/反映淘寶平臺(tái)市場(chǎng)動(dòng)向的數(shù)據(jù)分析平臺(tái)
報(bào)告分析:

  • 易觀智庫(kù):199IT導(dǎo)航的母網(wǎng)站,權(quán)威的互聯(lián)網(wǎng)數(shù)據(jù)平臺(tái),涵蓋戰(zhàn)略新興產(chǎn)業(yè)、電商互聯(lián)網(wǎng)、共享經(jīng)濟(jì)、社交營(yíng)銷、移動(dòng)互聯(lián)網(wǎng)以及其他互聯(lián)網(wǎng)服務(wù)的數(shù)據(jù)及分析報(bào)告
  • 艾瑞網(wǎng):高頻率更新互聯(lián)網(wǎng)前沿的新聞資訊、分析報(bào)告,旗下包括艾瑞指數(shù)、艾瑞咨詢等
  • 艾媒網(wǎng):艾媒與艾瑞無(wú)關(guān),艾媒網(wǎng)發(fā)布的研究報(bào)告多偏向移動(dòng)互聯(lián)網(wǎng)方向
  • CBNDdata:以阿里巴巴的商業(yè)數(shù)據(jù)庫(kù)為基礎(chǔ),輸出產(chǎn)業(yè)經(jīng)濟(jì)分析報(bào)告
  • QuestMobile:周期性地發(fā)布一些關(guān)于APP的研究報(bào)告
  • 阿里研究院:阿里旗下/發(fā)布研究電商等方向趨勢(shì)的數(shù)據(jù)報(bào)告,內(nèi)容多與阿里相關(guān)
  • 360研究報(bào)告:360旗下/移動(dòng)、PC、網(wǎng)站、企業(yè)、詐騙等安全領(lǐng)域的研究,以及大數(shù)據(jù)等非安全領(lǐng)域的研究
  • 中國(guó)互聯(lián)網(wǎng)信息研究中心:經(jīng)國(guó)家主管部門批準(zhǔn)組建的管理和服務(wù)機(jī)構(gòu),經(jīng)常發(fā)布一些有價(jià)值的互聯(lián)網(wǎng)信息報(bào)告
  • 中國(guó)信通院:針對(duì)互聯(lián)網(wǎng)多個(gè)行業(yè)的發(fā)展趨勢(shì),發(fā)布白皮書,角度較為宏觀
  • 中國(guó)互聯(lián)網(wǎng)數(shù)據(jù)平臺(tái):提供全國(guó)各地區(qū)互聯(lián)網(wǎng)發(fā)展報(bào)告、基礎(chǔ)數(shù)據(jù)及研究分析報(bào)告,數(shù)據(jù)及報(bào)告偏向?qū)W術(shù)性研究
  • 清博大數(shù)據(jù):提供微信、微博、頭條榜單數(shù)據(jù),各種研究報(bào)告、數(shù)據(jù)報(bào)告、輿情報(bào)告及行業(yè)熱點(diǎn)
  • 數(shù)據(jù)觀:豐富的前沿行業(yè)資訊,及部分研究報(bào)告下載
  • 騰訊大數(shù)據(jù):數(shù)據(jù)服務(wù)平臺(tái),提供調(diào)查研究、移動(dòng)互聯(lián)網(wǎng)及特色數(shù)據(jù)報(bào)告,質(zhì)量較高
  • 大數(shù)據(jù)世界:提供大數(shù)據(jù)相關(guān)資訊、應(yīng)用案例、技術(shù)方案及資料下載
地理數(shù)據(jù)

水土氣候數(shù)據(jù):

  • 水土保持生態(tài)建設(shè)網(wǎng)http://www.swcc.org.cn/
  • 黃河風(fēng)情http://www.yellowriver.org/
  • 黃河流域數(shù)據(jù)中心http://henu.geodata.cn/index.jsp
  • 黃土高原水土保護(hù)數(shù)據(jù)庫(kù)http://www.loess.csdb.cn/
  • 數(shù)字黑河http://heihe.westgis.ac.cn/Default.aspx?tabid=106
  • 大氣科學(xué)數(shù)據(jù)庫(kù)http://data.iap.ac.cn/
  • 中國(guó)氣象科學(xué)數(shù)據(jù)http://cdc.cma.gov.cn/
  • 中國(guó)氣象科學(xué)數(shù)據(jù)共享服務(wù)網(wǎng)http://cdc.cma.gov.cn/
  • 全球森林土地覆蓋動(dòng)態(tài)http://www.fao.org/gtos/gofc-gold/
  • FRA 2000http://edcsns17.cr.usgs.gov/glcc/fao/index.html全球森林資源
  • NOAAhttp://www.noaa.gov/美國(guó)國(guó)家海洋和大氣管理局
  • NCDC http://lwf.ncdc.noaa.gov/oa/ncdc.html美國(guó)國(guó)家氣候數(shù)據(jù)中心
  • 國(guó)際水管理研究所http://www.iwmidsp.org/iwmi/info/main.asp
  • 氣候研究所http://www.cru.uea.ac.uk/
  • 植被覆蓋數(shù)據(jù)http://www.vgt.vito.be/
環(huán)境數(shù)據(jù):

  • 黃土區(qū)農(nóng)業(yè)與生態(tài)環(huán)境數(shù)據(jù)分中心http://loess.geodata.cn/
  • 東北黑土農(nóng)業(yè)生態(tài)數(shù)據(jù)庫(kù)http://www.blackland.csdb.cn/default.asp
  • 中國(guó)西部環(huán)境與生態(tài)科學(xué)數(shù)據(jù)中心http://westdc.westgis.ac.cn/
  • 西部數(shù)據(jù)中心http://westdc.westgis.ac.cn/data
  • 黃土高原區(qū)域數(shù)據(jù)共享運(yùn)行服務(wù)中心http://loess.geodata.cn/Portal/?isCookieChecked=true
遙感數(shù)據(jù):

  • 地面站RS地圖查詢http://cs.rsgs.ac.cn/cs_cn/query/query_map.asp
  • 甘肅省基礎(chǔ)地理信息中心http://www.cehuiju.gansu.gov.cn/5chcg/giscenter.asp
  • 遙感數(shù)據(jù)網(wǎng)絡(luò)資源http://ecology.bnu.edu.cn/gejp/student/zhj/webresource.htm
  • 中國(guó)遙感數(shù)據(jù)網(wǎng)http://ids.ceode.ac.cn/
  • GLCF http://glcf.geodata.cn/etm/Welcome.do
  • GIS FORUM http://www.gisforum.net/全球最大的GIS中文門戶網(wǎng)站
  • 遙感數(shù)據(jù)共享http://ids.ceode.ac.cn/
其他自然人文數(shù)據(jù):

  • 地理國(guó)情監(jiān)測(cè)云平臺(tái) http://www.dsac.cn/
  • 中國(guó)資源衛(wèi)星應(yīng)用中心 http://www.cresda.com/cn/profile.htm
  • 中國(guó)自然資源數(shù)據(jù)庫(kù) http://www.data.ac.cn/index.asp
  • 中國(guó)科學(xué)院資源環(huán)境科學(xué)數(shù)據(jù)中心 http://www.resdc.cn/resdc/first.asp
  • 中國(guó)地球系統(tǒng)科學(xué)數(shù)據(jù)共享網(wǎng) http://www.geodata.cn:8086/Metadata/index.jsp
  • 國(guó)家地球系統(tǒng)科學(xué)數(shù)據(jù)共享服務(wù)平臺(tái) http://www.geodata.cn/
  • PM25.in | PM2.5(細(xì)顆粒物)及空氣質(zhì)量指數(shù)(AQI)實(shí)時(shí)查詢?。褐袊?guó)空氣質(zhì)量監(jiān)測(cè)實(shí)時(shí)數(shù)據(jù)http://pm25.in/
  • 國(guó)際科學(xué)數(shù)據(jù)服務(wù)平臺(tái) http://datamirror.csdb.cn/index.jsp
  • 原始數(shù)據(jù)搜索 https://wist.echo.nasa.gov/api
  • 中國(guó)科學(xué)院資源環(huán)境科學(xué)數(shù)據(jù)中心 http://www.resdc.cn/resdc/first.asp
  • 世界聚集人口數(shù)據(jù) http://beta.sedac.ciesin.columbia.edu/gpw/index.jsp
  • 光譜數(shù)據(jù)分析網(wǎng)站 http://modis.gsfc.nasa.gov/
  • 美國(guó)航空航天局NASA http://daac.gsfc.nasa.gov/
  • 城市軌道交通http://www.ntsg.umt.edu/
  • 人地系統(tǒng)主題數(shù)據(jù)庫(kù)http://webpanda.iis.u-tokyo.ac.jp/
影像數(shù)據(jù):

  • USGS Earth Explorer:提供Landsat、MODIS等數(shù)據(jù)
  • ESA’s Sentinel Mission:提供Sentinel系列衛(wèi)星數(shù)據(jù),可以下載歐洲航天局所屬的影像數(shù)據(jù)
  • NOAA CLASS:提供高品質(zhì)大氣數(shù)據(jù)集,包括美國(guó)國(guó)防部(DoD)、極地作戰(zhàn)環(huán)境衛(wèi)星(POES)、NOAA的地球靜止環(huán)境衛(wèi)星(GOES)以及其他派生數(shù)據(jù)
  • NASA Reverb:提供多種類數(shù)據(jù),包括:Aqua, Terra, Aura, TRMM, Calipso, NASA DC, JASON, ENVISAT等
  • EOLi:歐洲航天局的地球觀測(cè)目錄和訂購(gòu)服務(wù)的客戶,通過(guò)Java 程序下載數(shù)據(jù),支持的數(shù)據(jù)包括:Envisat, ERS, IKONOS, DMC, ALOS, SPOT, Kompsat, Proba, IRS, SCISAT.
  • INPE:提供中巴資源衛(wèi)星數(shù)據(jù)
  • Bhuvan Indian Geo-Platform of ISRO:提供印度境內(nèi)的MS-1, Cartosat,,OceanSat and ResourceSat數(shù)據(jù)以及全球的NVDI數(shù)據(jù)、南亞國(guó)家的CartoDem Version -3R1數(shù)據(jù)和北印度洋的氣候數(shù)據(jù)
政府?dāng)?shù)據(jù)


  • 新加坡政府公開(kāi)數(shù)據(jù):提供新加坡各類數(shù)據(jù)
  • 美國(guó)政府公開(kāi)數(shù)據(jù):提供美國(guó)全國(guó)各類數(shù)據(jù)
  • 法國(guó)政府公開(kāi)數(shù)據(jù):法國(guó)政府開(kāi)放數(shù)據(jù)平臺(tái)
  • 英國(guó)政府公開(kāi)數(shù)據(jù):提供英國(guó)各類數(shù)據(jù)
  • 國(guó)家數(shù)據(jù):中國(guó)國(guó)家統(tǒng)計(jì)局權(quán)威數(shù)據(jù)
  • 中國(guó)統(tǒng)計(jì)年鑒:1999年至今中國(guó)統(tǒng)計(jì)年鑒,國(guó)家統(tǒng)計(jì)局官網(wǎng),提供單頁(yè)Excel文件下載
  • 中國(guó)統(tǒng)計(jì)信息網(wǎng):全國(guó)及各級(jí)政府各年度統(tǒng)計(jì)公報(bào)、年鑒等,為收費(fèi)數(shù)據(jù)
  • 年鑒汪:全國(guó)城市統(tǒng)計(jì)數(shù)據(jù)搜索引擎,瀏覽免費(fèi),下載收費(fèi)
  • 倫敦市公開(kāi)數(shù)據(jù):提供倫敦人口、就業(yè)、環(huán)境等各類數(shù)據(jù)
  • 國(guó)土資源部:國(guó)土資源部對(duì)外公開(kāi)的信息報(bào)告
其他細(xì)分行業(yè)數(shù)據(jù)


  • 中研網(wǎng)數(shù)據(jù):提供醫(yī)療、房產(chǎn)、制造業(yè)、服務(wù)業(yè)、零售消費(fèi)、車輛等全行業(yè)數(shù)據(jù)
  • 中國(guó)報(bào)告大廳:提供各行各業(yè)的基礎(chǔ)數(shù)據(jù)、調(diào)查報(bào)告、分析報(bào)告、預(yù)測(cè)報(bào)告,種類豐富
  • CADMAPPER:世界各大城市的DXF文件,原始數(shù)據(jù)源為OSM,NASA,USGS
  • 亞馬遜網(wǎng)絡(luò)服務(wù)公共數(shù)據(jù)集:跨科學(xué)云數(shù)據(jù)平臺(tái),包含化學(xué)、生物、經(jīng)濟(jì)等多個(gè)領(lǐng)域的數(shù)據(jù)集
  • Awesome Public Datasets:Github公共數(shù)據(jù)搜集項(xiàng)目,自然科學(xué)、社會(huì)科學(xué)覆蓋較面,包含各個(gè)細(xì)分領(lǐng)域的數(shù)據(jù)庫(kù)資源。
  • figshare:數(shù)據(jù)分析與研究成果共享平臺(tái)。
  • 英國(guó)公開(kāi)數(shù)據(jù)瀏覽工具:James Trimble制作的英國(guó)數(shù)據(jù)可視化瀏覽工具集;
  • 數(shù)據(jù)法國(guó):法國(guó)各類數(shù)據(jù)的可視化呈現(xiàn);
  • DataEye:基于國(guó)內(nèi)游戲、汽車行業(yè)數(shù)據(jù),進(jìn)行多角度的行業(yè)調(diào)查報(bào)告撰寫發(fā)布
  • CBO中國(guó)票房:基于國(guó)內(nèi)票房數(shù)據(jù),統(tǒng)計(jì)票房排行、上座率等信息。
  • 易車指數(shù):反映國(guó)內(nèi)汽車銷售市場(chǎng),為購(gòu)車者或汽車從業(yè)者提供參考的數(shù)據(jù)指數(shù)
  • 高德地圖:支持實(shí)時(shí)查看國(guó)內(nèi)交通情況,此外高德周期性提供一系列數(shù)據(jù)報(bào)告
  • 房天下:提供中國(guó)指數(shù)研究院和CREIS中指數(shù)據(jù),展示國(guó)內(nèi)房地產(chǎn)數(shù)據(jù)情況
  • 藝恩:CBO中國(guó)票房數(shù)據(jù)的提供方,提供一些行業(yè)數(shù)據(jù)報(bào)告,如動(dòng)漫IP價(jià)值研究報(bào)告
除去現(xiàn)成的數(shù)據(jù)源,還有一塊就是用python爬取數(shù)據(jù),這也是大數(shù)據(jù)的熱門模塊。
其實(shí),想要快速學(xué)會(huì)python,除去一些基礎(chǔ)的理論知識(shí)外,最重要的就是項(xiàng)目!項(xiàng)目!項(xiàng)目!
就拿入門課程來(lái)舉例子吧,我為什么說(shuō)它適合0基礎(chǔ)的呢?有3點(diǎn):

  • 會(huì)把學(xué)習(xí)進(jìn)度分好,可以循序漸進(jìn)的學(xué)習(xí),不需要跳
  • 每天的時(shí)間并不需要太多,20分鐘足矣
  • 練習(xí)題足夠多和精


暫時(shí)就說(shuō)這么多吧,想要學(xué)習(xí)完整的Python入門知識(shí),在【夜曲編程】回復(fù)【免費(fèi)教程】
有了數(shù)據(jù)之后,剩下的事情就是分析和展示數(shù)據(jù)了,這里介紹一下FineBI數(shù)據(jù)分析工具,如果你經(jīng)常用Excel,可以用下這個(gè)數(shù)據(jù)分析工具,能很大程度上提高效率。
FineBI工具在這里:


數(shù)據(jù)分析工具,操作非常簡(jiǎn)單,設(shè)計(jì)頁(yè)面類excel,直接拖拽數(shù)據(jù)字段就能生成圖表??蛇x擇的圖表類型非常多,有很多創(chuàng)意十足的圖表令人眼前一亮,系統(tǒng)自帶的配色方案也好看。進(jìn)階一點(diǎn)的話,還可以拿來(lái)制作Dashboard。


主要面對(duì)的是業(yè)務(wù)人員,不懂編程的也可快速上手,根據(jù)自己需求設(shè)計(jì)出儀表板來(lái)進(jìn)行分析,不再麻煩技術(shù)人員去一個(gè)個(gè)要需求,浪費(fèi)時(shí)間不說(shuō),還不能做出自己想要的效果。自己分析得出想要的結(jié)果,最終幫助企業(yè)做出正確的經(jīng)營(yíng)決策。它的可視化效果也是非常不錯(cuò)的。





-----------------------------
精選高品質(zhì)二手iPhone,上愛(ài)鋒貝APP

0

主題

32

帖子

2

積分

Rank: 1

沙發(fā)
發(fā)表于 2021-12-15 06:47:53 | 只看該作者
本文轉(zhuǎn)自簡(jiǎn)道云的知乎回答有哪些「神奇」的數(shù)據(jù)獲取方式?
已經(jīng)將網(wǎng)站匯總成表格,大家可以下載查看:【簡(jiǎn)道云匯總】110+數(shù)據(jù)網(wǎng)站
如果你不是會(huì)爬蟲的技術(shù)流,那下面這110+網(wǎng)站可以解決你90%的數(shù)據(jù)需求。
首先,常見(jiàn)的公開(kāi)數(shù)據(jù)網(wǎng)站在https://hao.199it.com/都可以搜索到。


除此之外,補(bǔ)充上面沒(méi)有的一些網(wǎng)站,一共110+,按需選擇:
金融財(cái)經(jīng)數(shù)據(jù)


  • 同花順數(shù)據(jù)中心:提供股票債券等金融數(shù)據(jù)
  • 和訊數(shù)據(jù):提供各種股票、基金、外匯、債券等實(shí)時(shí)數(shù)據(jù),有付費(fèi),有免費(fèi)
  • 零壹財(cái)經(jīng):大大小小的網(wǎng)貸數(shù)據(jù)、排行榜等
  • 金融數(shù)據(jù)網(wǎng):提供每日的黃金、匯率、農(nóng)產(chǎn)品、汽油價(jià)格的相關(guān)數(shù)據(jù)
  • 蘿卜投研:提供股市、證券等數(shù)據(jù),多以數(shù)據(jù)研究報(bào)告形式展示
  • 金融界:提供股市、融資等各種資金流向數(shù)據(jù),以及豐富的財(cái)報(bào)和研報(bào)
  • 東方財(cái)富網(wǎng):提供多國(guó)的股票、財(cái)稅、行業(yè)、消費(fèi)等大量豐富的經(jīng)濟(jì)數(shù)據(jù)
  • 吉林金融網(wǎng):提供吉林的融資、市場(chǎng)數(shù)據(jù)
  • 搜狐證券:提供貨幣、外匯、行業(yè)、市場(chǎng)等宏觀數(shù)據(jù)
  • CCER經(jīng)濟(jì)金融數(shù)據(jù)庫(kù):提供企業(yè)財(cái)務(wù)年度數(shù)據(jù)、股票收益數(shù)據(jù)等數(shù)據(jù)庫(kù)下載
  • 香港金融管理局:提供香港的各種經(jīng)濟(jì)及金融數(shù)據(jù),以宏觀數(shù)據(jù)為主
  • 世紀(jì)未來(lái):數(shù)據(jù)服務(wù)平臺(tái),提供銀行業(yè)務(wù)研究、金融大數(shù)據(jù)等各種付費(fèi)數(shù)據(jù)
  • 新浪財(cái)經(jīng):提供國(guó)內(nèi)國(guó)民經(jīng)濟(jì)、行業(yè)信息、對(duì)外經(jīng)貿(mào)、居民收入等各種宏觀的經(jīng)濟(jì)數(shù)據(jù)
  • 司爾亞司數(shù)據(jù)信息有限公司:覆蓋超過(guò)195+個(gè)國(guó)家的經(jīng)濟(jì)數(shù)據(jù)庫(kù),數(shù)據(jù)全面但收費(fèi)
  • INSEE數(shù)據(jù):法國(guó)統(tǒng)計(jì)與經(jīng)濟(jì)研究院公開(kāi)數(shù)據(jù)
  • 投中研究院:提供投資領(lǐng)域的分析報(bào)告,網(wǎng)站更新頻率較高
互聯(lián)網(wǎng)數(shù)據(jù)

營(yíng)銷查詢:

  • 5118 / chinaz:支持查詢網(wǎng)站排名及發(fā)展趨勢(shì)、百度收錄情況等信息
  • 百度指數(shù):百度旗下/以百度網(wǎng)民行為數(shù)據(jù)為基礎(chǔ)的數(shù)據(jù)分享平臺(tái),支持查詢需求圖譜
  • 微信指數(shù):微信旗下/基于微信大數(shù)據(jù)分析的移動(dòng)端指數(shù),打開(kāi)微信→搜索“微信指數(shù)”可用
  • 移動(dòng)觀象臺(tái):基于移動(dòng)設(shè)備用戶的操作行為,提供應(yīng)用、公眾號(hào)排行等,以及大量數(shù)據(jù)報(bào)告
  • 新榜/微小寶/易贊:幾款工具比較類似,支持查看公眾號(hào)排行、看公眾號(hào)人群畫像等功能
  • 阿里指數(shù):阿里旗下/反映淘寶平臺(tái)市場(chǎng)動(dòng)向的數(shù)據(jù)分析平臺(tái)
報(bào)告分析:

  • 易觀智庫(kù):199IT導(dǎo)航的母網(wǎng)站,權(quán)威的互聯(lián)網(wǎng)數(shù)據(jù)平臺(tái),涵蓋戰(zhàn)略新興產(chǎn)業(yè)、電商互聯(lián)網(wǎng)、共享經(jīng)濟(jì)、社交營(yíng)銷、移動(dòng)互聯(lián)網(wǎng)以及其他互聯(lián)網(wǎng)服務(wù)的數(shù)據(jù)及分析報(bào)告
  • 艾瑞網(wǎng):高頻率更新互聯(lián)網(wǎng)前沿的新聞資訊、分析報(bào)告,旗下包括艾瑞指數(shù)、艾瑞咨詢等
  • 艾媒網(wǎng):艾媒與艾瑞無(wú)關(guān),艾媒網(wǎng)發(fā)布的研究報(bào)告多偏向移動(dòng)互聯(lián)網(wǎng)方向
  • CBNDdata:以阿里巴巴的商業(yè)數(shù)據(jù)庫(kù)為基礎(chǔ),輸出產(chǎn)業(yè)經(jīng)濟(jì)分析報(bào)告
  • QuestMobile:周期性地發(fā)布一些關(guān)于APP的研究報(bào)告
  • 阿里研究院:阿里旗下/發(fā)布研究電商等方向趨勢(shì)的數(shù)據(jù)報(bào)告,內(nèi)容多與阿里相關(guān)
  • 360研究報(bào)告:360旗下/移動(dòng)、PC、網(wǎng)站、企業(yè)、詐騙等安全領(lǐng)域的研究,以及大數(shù)據(jù)等非安全領(lǐng)域的研究
  • 中國(guó)互聯(lián)網(wǎng)信息研究中心:經(jīng)國(guó)家主管部門批準(zhǔn)組建的管理和服務(wù)機(jī)構(gòu),經(jīng)常發(fā)布一些有價(jià)值的互聯(lián)網(wǎng)信息報(bào)告
  • 中國(guó)信通院:針對(duì)互聯(lián)網(wǎng)多個(gè)行業(yè)的發(fā)展趨勢(shì),發(fā)布白皮書,角度較為宏觀
  • 中國(guó)互聯(lián)網(wǎng)數(shù)據(jù)平臺(tái):提供全國(guó)各地區(qū)互聯(lián)網(wǎng)發(fā)展報(bào)告、基礎(chǔ)數(shù)據(jù)及研究分析報(bào)告,數(shù)據(jù)及報(bào)告偏向?qū)W術(shù)性研究
  • 清博大數(shù)據(jù):提供微信、微博、頭條榜單數(shù)據(jù),各種研究報(bào)告、數(shù)據(jù)報(bào)告、輿情報(bào)告及行業(yè)熱點(diǎn)
  • 數(shù)據(jù)觀:豐富的前沿行業(yè)資訊,及部分研究報(bào)告下載
  • 騰訊大數(shù)據(jù):數(shù)據(jù)服務(wù)平臺(tái),提供調(diào)查研究、移動(dòng)互聯(lián)網(wǎng)及特色數(shù)據(jù)報(bào)告,質(zhì)量較高
  • 大數(shù)據(jù)世界:提供大數(shù)據(jù)相關(guān)資訊、應(yīng)用案例、技術(shù)方案及資料下載
地理數(shù)據(jù)

水土氣候數(shù)據(jù):

  • 水土保持生態(tài)建設(shè)網(wǎng)http://www.swcc.org.cn/
  • 黃河風(fēng)情http://www.yellowriver.org/
  • 黃河流域數(shù)據(jù)中心http://henu.geodata.cn/index.jsp
  • 黃土高原水土保護(hù)數(shù)據(jù)庫(kù)http://www.loess.csdb.cn/
  • 數(shù)字黑河http://heihe.westgis.ac.cn/Default.aspx?tabid=106
  • 大氣科學(xué)數(shù)據(jù)庫(kù)http://data.iap.ac.cn/
  • 中國(guó)氣象科學(xué)數(shù)據(jù)http://cdc.cma.gov.cn/
  • 中國(guó)氣象科學(xué)數(shù)據(jù)共享服務(wù)網(wǎng)http://cdc.cma.gov.cn/
  • 全球森林土地覆蓋動(dòng)態(tài)http://www.fao.org/gtos/gofc-gold/
  • FRA 2000http://edcsns17.cr.usgs.gov/glcc/fao/index.html全球森林資源
  • NOAAhttp://www.noaa.gov/美國(guó)國(guó)家海洋和大氣管理局
  • NCDC http://lwf.ncdc.noaa.gov/oa/ncdc.html美國(guó)國(guó)家氣候數(shù)據(jù)中心
  • 國(guó)際水管理研究所http://www.iwmidsp.org/iwmi/info/main.asp
  • 氣候研究所http://www.cru.uea.ac.uk/
  • 植被覆蓋數(shù)據(jù)http://www.vgt.vito.be/
環(huán)境數(shù)據(jù):

  • 黃土區(qū)農(nóng)業(yè)與生態(tài)環(huán)境數(shù)據(jù)分中心http://loess.geodata.cn/
  • 東北黑土農(nóng)業(yè)生態(tài)數(shù)據(jù)庫(kù)http://www.blackland.csdb.cn/default.asp
  • 中國(guó)西部環(huán)境與生態(tài)科學(xué)數(shù)據(jù)中心http://westdc.westgis.ac.cn/
  • 西部數(shù)據(jù)中心http://westdc.westgis.ac.cn/data
  • 黃土高原區(qū)域數(shù)據(jù)共享運(yùn)行服務(wù)中心http://loess.geodata.cn/Portal/?isCookieChecked=true
遙感數(shù)據(jù):

  • 地面站RS地圖查詢http://cs.rsgs.ac.cn/cs_cn/query/query_map.asp
  • 甘肅省基礎(chǔ)地理信息中心http://www.cehuiju.gansu.gov.cn/5chcg/giscenter.asp
  • 遙感數(shù)據(jù)網(wǎng)絡(luò)資源http://ecology.bnu.edu.cn/gejp/student/zhj/webresource.htm
  • 中國(guó)遙感數(shù)據(jù)網(wǎng)http://ids.ceode.ac.cn/
  • GLCF http://glcf.geodata.cn/etm/Welcome.do
  • GIS FORUM http://www.gisforum.net/全球最大的GIS中文門戶網(wǎng)站
  • 遙感數(shù)據(jù)共享http://ids.ceode.ac.cn/
其他自然人文數(shù)據(jù):

  • 地理國(guó)情監(jiān)測(cè)云平臺(tái) http://www.dsac.cn/
  • 中國(guó)資源衛(wèi)星應(yīng)用中心 http://www.cresda.com/cn/profile.htm
  • 中國(guó)自然資源數(shù)據(jù)庫(kù) http://www.data.ac.cn/index.asp
  • 中國(guó)科學(xué)院資源環(huán)境科學(xué)數(shù)據(jù)中心 http://www.resdc.cn/resdc/first.asp
  • 中國(guó)地球系統(tǒng)科學(xué)數(shù)據(jù)共享網(wǎng) http://www.geodata.cn:8086/Metadata/index.jsp
  • 國(guó)家地球系統(tǒng)科學(xué)數(shù)據(jù)共享服務(wù)平臺(tái) http://www.geodata.cn/
  • PM25.in | PM2.5(細(xì)顆粒物)及空氣質(zhì)量指數(shù)(AQI)實(shí)時(shí)查詢?。褐袊?guó)空氣質(zhì)量監(jiān)測(cè)實(shí)時(shí)數(shù)據(jù)http://pm25.in/
  • 國(guó)際科學(xué)數(shù)據(jù)服務(wù)平臺(tái) http://datamirror.csdb.cn/index.jsp
  • 原始數(shù)據(jù)搜索 https://wist.echo.nasa.gov/api
  • 中國(guó)科學(xué)院資源環(huán)境科學(xué)數(shù)據(jù)中心 http://www.resdc.cn/resdc/first.asp
  • 世界聚集人口數(shù)據(jù) http://beta.sedac.ciesin.columbia.edu/gpw/index.jsp
  • 光譜數(shù)據(jù)分析網(wǎng)站 http://modis.gsfc.nasa.gov/
  • 美國(guó)航空航天局NASA http://daac.gsfc.nasa.gov/
  • 城市軌道交通http://www.ntsg.umt.edu/
  • 人地系統(tǒng)主題數(shù)據(jù)庫(kù)http://webpanda.iis.u-tokyo.ac.jp/
影像數(shù)據(jù):

  • USGS Earth Explorer:提供Landsat、MODIS等數(shù)據(jù)
  • ESA’s Sentinel Mission:提供Sentinel系列衛(wèi)星數(shù)據(jù),可以下載歐洲航天局所屬的影像數(shù)據(jù)
  • NOAA CLASS:提供高品質(zhì)大氣數(shù)據(jù)集,包括美國(guó)國(guó)防部(DoD)、極地作戰(zhàn)環(huán)境衛(wèi)星(POES)、NOAA的地球靜止環(huán)境衛(wèi)星(GOES)以及其他派生數(shù)據(jù)
  • NASA Reverb:提供多種類數(shù)據(jù),包括:Aqua, Terra, Aura, TRMM, Calipso, NASA DC, JASON, ENVISAT等
  • EOLi:歐洲航天局的地球觀測(cè)目錄和訂購(gòu)服務(wù)的客戶,通過(guò)Java 程序下載數(shù)據(jù),支持的數(shù)據(jù)包括:Envisat, ERS, IKONOS, DMC, ALOS, SPOT, Kompsat, Proba, IRS, SCISAT.
  • INPE:提供中巴資源衛(wèi)星數(shù)據(jù)
  • Bhuvan Indian Geo-Platform of ISRO:提供印度境內(nèi)的MS-1, Cartosat,,OceanSat and ResourceSat數(shù)據(jù)以及全球的NVDI數(shù)據(jù)、南亞國(guó)家的CartoDem Version -3R1數(shù)據(jù)和北印度洋的氣候數(shù)據(jù)
政府?dāng)?shù)據(jù)


  • 新加坡政府公開(kāi)數(shù)據(jù):提供新加坡各類數(shù)據(jù)
  • 美國(guó)政府公開(kāi)數(shù)據(jù):提供美國(guó)全國(guó)各類數(shù)據(jù)
  • 法國(guó)政府公開(kāi)數(shù)據(jù):法國(guó)政府開(kāi)放數(shù)據(jù)平臺(tái)
  • 英國(guó)政府公開(kāi)數(shù)據(jù):提供英國(guó)各類數(shù)據(jù)
  • 國(guó)家數(shù)據(jù):中國(guó)國(guó)家統(tǒng)計(jì)局權(quán)威數(shù)據(jù)
  • 中國(guó)統(tǒng)計(jì)年鑒:1999年至今中國(guó)統(tǒng)計(jì)年鑒,國(guó)家統(tǒng)計(jì)局官網(wǎng),提供單頁(yè)Excel文件下載
  • 中國(guó)統(tǒng)計(jì)信息網(wǎng):全國(guó)及各級(jí)政府各年度統(tǒng)計(jì)公報(bào)、年鑒等,為收費(fèi)數(shù)據(jù)
  • 年鑒汪:全國(guó)城市統(tǒng)計(jì)數(shù)據(jù)搜索引擎,瀏覽免費(fèi),下載收費(fèi)
  • 倫敦市公開(kāi)數(shù)據(jù):提供倫敦人口、就業(yè)、環(huán)境等各類數(shù)據(jù)
  • 國(guó)土資源部:國(guó)土資源部對(duì)外公開(kāi)的信息報(bào)告
其他細(xì)分行業(yè)數(shù)據(jù)


  • 中研網(wǎng)數(shù)據(jù):提供醫(yī)療、房產(chǎn)、制造業(yè)、服務(wù)業(yè)、零售消費(fèi)、車輛等全行業(yè)數(shù)據(jù)
  • 中國(guó)報(bào)告大廳:提供各行各業(yè)的基礎(chǔ)數(shù)據(jù)、調(diào)查報(bào)告、分析報(bào)告、預(yù)測(cè)報(bào)告,種類豐富
  • CADMAPPER:世界各大城市的DXF文件,原始數(shù)據(jù)源為OSM,NASA,USGS
  • 亞馬遜網(wǎng)絡(luò)服務(wù)公共數(shù)據(jù)集:跨科學(xué)云數(shù)據(jù)平臺(tái),包含化學(xué)、生物、經(jīng)濟(jì)等多個(gè)領(lǐng)域的數(shù)據(jù)集
  • Awesome Public Datasets:Github公共數(shù)據(jù)搜集項(xiàng)目,自然科學(xué)、社會(huì)科學(xué)覆蓋較面,包含各個(gè)細(xì)分領(lǐng)域的數(shù)據(jù)庫(kù)資源。
  • figshare:數(shù)據(jù)分析與研究成果共享平臺(tái)。
  • 英國(guó)公開(kāi)數(shù)據(jù)瀏覽工具:James Trimble制作的英國(guó)數(shù)據(jù)可視化瀏覽工具集;
  • 數(shù)據(jù)法國(guó):法國(guó)各類數(shù)據(jù)的可視化呈現(xiàn);
  • DataEye:基于國(guó)內(nèi)游戲、汽車行業(yè)數(shù)據(jù),進(jìn)行多角度的行業(yè)調(diào)查報(bào)告撰寫發(fā)布
  • CBO中國(guó)票房:基于國(guó)內(nèi)票房數(shù)據(jù),統(tǒng)計(jì)票房排行、上座率等信息。
  • 易車指數(shù):反映國(guó)內(nèi)汽車銷售市場(chǎng),為購(gòu)車者或汽車從業(yè)者提供參考的數(shù)據(jù)指數(shù)
  • 高德地圖:支持實(shí)時(shí)查看國(guó)內(nèi)交通情況,此外高德周期性提供一系列數(shù)據(jù)報(bào)告
  • 房天下:提供中國(guó)指數(shù)研究院和CREIS中指數(shù)據(jù),展示國(guó)內(nèi)房地產(chǎn)數(shù)據(jù)情況
  • 藝恩:CBO中國(guó)票房數(shù)據(jù)的提供方,提供一些行業(yè)數(shù)據(jù)報(bào)告,如動(dòng)漫IP價(jià)值研究報(bào)告
除去現(xiàn)成的數(shù)據(jù)源,還有一塊就是用python爬取數(shù)據(jù),這也是大數(shù)據(jù)的熱門模塊。
其實(shí),想要快速學(xué)會(huì)python,除去一些基礎(chǔ)的理論知識(shí)外,最重要的就是項(xiàng)目!項(xiàng)目!項(xiàng)目!
就拿入門課程來(lái)舉例子吧,我為什么說(shuō)它適合0基礎(chǔ)的呢?有3點(diǎn):

  • 會(huì)把學(xué)習(xí)進(jìn)度分好,可以循序漸進(jìn)的學(xué)習(xí),不需要跳
  • 每天的時(shí)間并不需要太多,20分鐘足矣
  • 練習(xí)題足夠多和精


暫時(shí)就說(shuō)這么多吧,想要學(xué)習(xí)完整的Python入門知識(shí),在【夜曲編程】回復(fù)【免費(fèi)教程】
有了數(shù)據(jù)之后,剩下的事情就是分析和展示數(shù)據(jù)了,這里介紹一下FineBI數(shù)據(jù)分析工具,如果你經(jīng)常用Excel,可以用下這個(gè)數(shù)據(jù)分析工具,能很大程度上提高效率。
FineBI工具在這里:
FineBI商業(yè)智能軟件 - 新一代自助大數(shù)據(jù)分析的BI工具

數(shù)據(jù)分析工具,操作非常簡(jiǎn)單,設(shè)計(jì)頁(yè)面類excel,直接拖拽數(shù)據(jù)字段就能生成圖表??蛇x擇的圖表類型非常多,有很多創(chuàng)意十足的圖表令人眼前一亮,系統(tǒng)自帶的配色方案也好看。進(jìn)階一點(diǎn)的話,還可以拿來(lái)制作Dashboard。


主要面對(duì)的是業(yè)務(wù)人員,不懂編程的也可快速上手,根據(jù)自己需求設(shè)計(jì)出儀表板來(lái)進(jìn)行分析,不再麻煩技術(shù)人員去一個(gè)個(gè)要需求,浪費(fèi)時(shí)間不說(shuō),還不能做出自己想要的效果。自己分析得出想要的結(jié)果,最終幫助企業(yè)做出正確的經(jīng)營(yíng)決策。它的可視化效果也是非常不錯(cuò)的。




FineBI商業(yè)智能軟件 - 新一代自助大數(shù)據(jù)分析的BI工具
精選高品質(zhì)二手iPhone,上愛(ài)鋒貝APP

0

主題

26

帖子

3

積分

Rank: 1

板凳
發(fā)表于 2021-12-15 08:42:45 | 只看該作者
答主整理了一些主流、免費(fèi)、省力獲取數(shù)據(jù)的網(wǎng)站,推薦給大家。
一、中華人民共和國(guó)國(guó)家統(tǒng)計(jì)局>>國(guó)家數(shù)據(jù)
網(wǎng)址:http://data.stats.gov.cn/
主要包含:國(guó)民經(jīng)濟(jì)、人口、對(duì)外經(jīng)濟(jì)貿(mào)易、能源、財(cái)政、價(jià)格、農(nóng)業(yè)、工業(yè)、運(yùn)輸、旅游、教育、科技、衛(wèi)生等數(shù)據(jù),可以按年度、季度、月度查詢。
可以免費(fèi)下載


另外在國(guó)際數(shù)據(jù)目錄下,有“各國(guó)數(shù)據(jù)”,這里鏈接了各個(gè)國(guó)家的權(quán)威統(tǒng)計(jì)網(wǎng)站哦,善于科學(xué)上網(wǎng),你就可以擁有這些數(shù)據(jù)!


二、世界銀行——各國(guó)發(fā)展數(shù)據(jù)
網(wǎng)址:https://data.worldbank.org.cn/ (cn域名的外國(guó)網(wǎng)站哦,不需科學(xué)上網(wǎng),就能暢快瀏覽)
主要包含:各國(guó)相關(guān)的發(fā)展數(shù)據(jù),而且資金等數(shù)據(jù)有多個(gè)維度可以查看。
數(shù)據(jù)可以免費(fèi)下載


點(diǎn)擊數(shù)據(jù)目錄,就可以查看并下載相關(guān)數(shù)據(jù)啦。




以上,如果大家有關(guān)注B站的可視化作品的話,就會(huì)發(fā)現(xiàn),90%UP主所使用的數(shù)據(jù),都來(lái)自上面兩個(gè)網(wǎng)站。


三、GitHub——高質(zhì)量公共數(shù)據(jù)集
網(wǎng)址:https://github.com/awesomedata/awesome-public-datasets
主要包含:農(nóng)業(yè)、生物、計(jì)算機(jī)、天氣、經(jīng)濟(jì)學(xué)、博物館、機(jī)器學(xué)習(xí)等你能想到的幾乎所有數(shù)據(jù)
大部分免費(fèi),部分收費(fèi)
隨便截個(gè)目錄,給大家感受一下。


四、其他
國(guó)內(nèi)也有很多企業(yè)數(shù)據(jù)交易的網(wǎng)站,但大多收費(fèi),Kaggle平臺(tái)上數(shù)據(jù)比較干凈也免費(fèi),但是需要會(huì)點(diǎn)代碼。
所以答主建議大家,如果僅是個(gè)人研究分析用的話,從上面三個(gè)網(wǎng)站上獲取主要數(shù)據(jù)就可以了。
精選高品質(zhì)二手iPhone,上愛(ài)鋒貝APP

0

主題

54

帖子

3

積分

Rank: 1

地板
發(fā)表于 2021-12-15 10:13:06 | 只看該作者
今天有個(gè)事情震驚到我了,某家公司為了找到在外部平臺(tái)發(fā)帖的員工,直接爬取另一家公司的數(shù)據(jù)?
拼多多的HR親自告訴大家數(shù)據(jù)獲取的一種方式,這年頭,如果不會(huì)爬取數(shù)據(jù)還不能做HR了?
內(nèi)卷就是這么來(lái)的吧。


這數(shù)據(jù)可真有意思,比各種報(bào)告來(lái)的充實(shí)多了。
言歸正傳,還是要看一下數(shù)據(jù)的獲取方式的,這也是做數(shù)據(jù)分析的基礎(chǔ)。
一、怎么找數(shù)據(jù)?

  • 搜索引擎,不多說(shuō),有啥事搜就完事了
  • 一些不能被搜索工具搜到的東西,比如某信、某條
  • 人脈數(shù)據(jù),其實(shí)也就是信息差
  • 公開(kāi)數(shù)據(jù),這個(gè)后面會(huì)提到
二、怎么看待數(shù)據(jù)?
并不是有了數(shù)據(jù)就能直接用的,你得去看看能不能用,準(zhǔn)確性怎么樣,不然好不容易分析好一個(gè)東西,到頭來(lái)告訴你數(shù)據(jù)不對(duì)。
一個(gè)圖總結(jié)一下吧:


三、數(shù)據(jù)不準(zhǔn)確怎么辦?
就像上面說(shuō)的,不是所有的數(shù)據(jù)都是準(zhǔn)確的,所以自己對(duì)各種數(shù)據(jù)需要有一個(gè)鑒別的能力,同時(shí)也有外部搜索的能力,看看能不能對(duì)上,不要怕麻煩。
好比數(shù)據(jù)分析或者數(shù)據(jù)分析師的價(jià)值,其實(shí)不是具體的數(shù)字,而是對(duì)于某個(gè)業(yè)務(wù)的總體趨勢(shì)判斷和結(jié)合外部數(shù)據(jù)進(jìn)行綜合分析、理解。
四、常用的數(shù)據(jù)源
1、官方統(tǒng)計(jì)數(shù)據(jù):
中國(guó)信通院-研究成果-權(quán)威發(fā)布-白皮書
中國(guó)經(jīng)濟(jì)信息網(wǎng)
2、咨詢公司報(bào)告:
波士頓咨詢
貝恩咨詢
艾瑞咨詢
3、數(shù)據(jù)分析:
頭條指數(shù)
百度統(tǒng)計(jì)
4、第三方機(jī)構(gòu):
阿里研究院
IT桔子
騰訊大數(shù)據(jù)
199IT
易觀數(shù)據(jù)
5、媒體數(shù)據(jù):
36氪研究院
總結(jié):
就說(shuō)到這里,不用太多,完全夠用了,以上內(nèi)容由李啟方整理創(chuàng)作。
數(shù)據(jù)獲取之后,可以用FineBI進(jìn)行分析:


                               
登錄/注冊(cè)后可看大圖
精選高品質(zhì)二手iPhone,上愛(ài)鋒貝APP

0

主題

48

帖子

3

積分

Rank: 1

5
發(fā)表于 2021-12-15 12:27:22 | 只看該作者
數(shù)據(jù)來(lái)源主要有兩個(gè)部分。

  • 一些數(shù)據(jù)源網(wǎng)站公開(kāi)的數(shù)據(jù)。
  • 通過(guò)爬取工具對(duì)網(wǎng)頁(yè)中的數(shù)據(jù)進(jìn)行爬取。
爬蟲作為目前用的較多的數(shù)據(jù)爬取方法已經(jīng)有很多教程了,但是對(duì)于沒(méi)有代碼基礎(chǔ)的朋友來(lái)說(shuō)短期上手python還是很難得。
因此今天就帆軟君分別給大家介紹一下免費(fèi)的數(shù)據(jù)源網(wǎng)站和一些零基礎(chǔ)小白也可以應(yīng)用的數(shù)據(jù)爬取工具
一、行業(yè)數(shù)據(jù)

互聯(lián)網(wǎng)數(shù)據(jù)

  • 易觀智庫(kù):199IT導(dǎo)航的母網(wǎng)站,權(quán)威的互聯(lián)網(wǎng)數(shù)據(jù)平臺(tái),涵蓋戰(zhàn)略新興產(chǎn)業(yè)、電商互聯(lián)網(wǎng)、共享經(jīng)濟(jì)、社交營(yíng)銷、移動(dòng)互聯(lián)網(wǎng)以及其他互聯(lián)網(wǎng)服務(wù)的數(shù)據(jù)及分析報(bào)告
  • 艾瑞網(wǎng):高頻率更新互聯(lián)網(wǎng)前沿的新聞資訊、分析報(bào)告,旗下包括艾瑞指數(shù)、艾瑞咨詢等
  • 艾媒網(wǎng):艾媒與艾瑞無(wú)關(guān),艾媒網(wǎng)發(fā)布的研究報(bào)告多偏向移動(dòng)互聯(lián)網(wǎng)方向
  • CBNDdata:以阿里巴巴的商業(yè)數(shù)據(jù)庫(kù)為基礎(chǔ),輸出產(chǎn)業(yè)經(jīng)濟(jì)分析報(bào)告
  • QuestMobile:周期性地發(fā)布一些關(guān)于APP的研究報(bào)告
  • 阿里研究院:阿里旗下/發(fā)布研究電商等方向趨勢(shì)的數(shù)據(jù)報(bào)告,內(nèi)容多與阿里相關(guān)
  • 360研究報(bào)告:360旗下/移動(dòng)、PC、網(wǎng)站、企業(yè)、詐騙等安全領(lǐng)域的研究,以及大數(shù)據(jù)等非安全領(lǐng)域的研究
  • 中國(guó)互聯(lián)網(wǎng)信息研究中心:經(jīng)國(guó)家主管部門批準(zhǔn)組建的管理和服務(wù)機(jī)構(gòu),經(jīng)常發(fā)布一些有價(jià)值的互聯(lián)網(wǎng)信息報(bào)告
  • 中國(guó)信通院:針對(duì)互聯(lián)網(wǎng)多個(gè)行業(yè)的發(fā)展趨勢(shì),發(fā)布白皮書,角度較為宏觀
  • 中國(guó)互聯(lián)網(wǎng)數(shù)據(jù)平臺(tái):提供全國(guó)各地區(qū)互聯(lián)網(wǎng)發(fā)展報(bào)告、基礎(chǔ)數(shù)據(jù)及研究分析報(bào)告,數(shù)據(jù)及報(bào)告偏向?qū)W術(shù)性研究
  • 清博大數(shù)據(jù):提供微信、微博、頭條榜單數(shù)據(jù),各種研究報(bào)告、數(shù)據(jù)報(bào)告、輿情報(bào)告及行業(yè)熱點(diǎn)
  • 數(shù)據(jù)觀:豐富的前沿行業(yè)資訊,及部分研究報(bào)告下載
  • 騰訊大數(shù)據(jù):數(shù)據(jù)服務(wù)平臺(tái),提供調(diào)查研究、移動(dòng)互聯(lián)網(wǎng)及特色數(shù)據(jù)報(bào)告,質(zhì)量較高
  • 大數(shù)據(jù)世界:提供大數(shù)據(jù)相關(guān)資訊、應(yīng)用案例、技術(shù)方案及資料下載
二、免費(fèi)的數(shù)據(jù)源網(wǎng)站

1、簡(jiǎn)單、公開(kāi)的數(shù)據(jù)集
先分享一些科研機(jī)構(gòu)、企業(yè)、政府會(huì)開(kāi)放的一些數(shù)據(jù)集和一些專業(yè)的數(shù)據(jù)下載網(wǎng)站。這些數(shù)據(jù)集一般都比較完善、質(zhì)量相對(duì)較高,拿到手?jǐn)?shù)據(jù)清洗的工作比較少,適合新手做一些簡(jiǎn)單基礎(chǔ)的分析
1)中國(guó)統(tǒng)計(jì)信息網(wǎng):http://www.tjcn.org/
全國(guó)各級(jí)政府各年度的國(guó)民經(jīng)濟(jì)和社會(huì)發(fā)展統(tǒng)計(jì)信息,部分?jǐn)?shù)據(jù)免費(fèi)
2)國(guó)家統(tǒng)計(jì)局:http://www.stats.gov.cn/
各種民生相關(guān)的統(tǒng)計(jì)數(shù)據(jù),而且所有數(shù)據(jù)都是免費(fèi),而且這個(gè)網(wǎng)站的友情鏈接里還有很多其他地方的數(shù)據(jù)以及國(guó)外數(shù)據(jù)。


3)中國(guó)產(chǎn)業(yè)信息網(wǎng):http://www.chyxx.com/data/
包含了各個(gè)行業(yè)相關(guān)的數(shù)據(jù),所有的數(shù)據(jù)全部免費(fèi),做行業(yè)分析經(jīng)常用到的


4)美國(guó)政府公開(kāi)數(shù)據(jù):https://www.data.gov/
美國(guó)政府公開(kāi)數(shù)據(jù)的網(wǎng)站,包含了經(jīng)濟(jì)、消費(fèi)、教育、醫(yī)療、農(nóng)業(yè)等多個(gè)領(lǐng)域的數(shù)據(jù)
5)世界銀行:https://data.worldbank.org/
世界銀行的開(kāi)放數(shù)據(jù)。平臺(tái)還提供了一些工具,比如開(kāi)放數(shù)據(jù)目錄,世界發(fā)展指數(shù),教育指數(shù)等。
6)百度數(shù)據(jù)開(kāi)放平臺(tái):https://open.baidu.com/open/#/open


7)國(guó)云數(shù)據(jù)市場(chǎng):http://www.moojnn.com/data-market/
主要包含:生活服務(wù)、教育、能源、建筑、交通運(yùn)輸、政府、金融、農(nóng)業(yè)、醫(yī)療、衛(wèi)生等行業(yè)的數(shù)據(jù),大部分免費(fèi),有些需要付費(fèi)


2、數(shù)據(jù)可視化項(xiàng)目數(shù)據(jù)集
最常見(jiàn)的數(shù)據(jù)可視化項(xiàng)目就是制作某某地區(qū)人均收入?yún)^(qū)別的信息圖,找數(shù)據(jù)可視化項(xiàng)目相關(guān)的數(shù)據(jù)集的時(shí)候,我們希望數(shù)據(jù)集盡量“干凈”,減少數(shù)據(jù)清洗的工作,數(shù)據(jù)要足夠有趣,能夠支撐起豐富的圖表,所以這類的數(shù)據(jù)可以去上面我的說(shuō)一些公開(kāi)數(shù)據(jù)網(wǎng)站找,另外我也列一些除了政府網(wǎng)站之外的相關(guān)網(wǎng)站:
1)FiveThirtyEight:http://fivethirtyeight.com/
這是互動(dòng)式新聞與體育賽事的網(wǎng)站,網(wǎng)站中會(huì)發(fā)布許多數(shù)據(jù)相關(guān)的文章,這些文章中會(huì)把使用到的數(shù)據(jù)集發(fā)布在github上,除了獲取數(shù)據(jù)集,你還可以參考別人的項(xiàng)目過(guò)程
2)Socrata OpenData:https://opendata.socrata.com/
Socrata OpenData 網(wǎng)站包含多個(gè)清洗后的數(shù)據(jù)集,可以直接在瀏覽器中查看,也可以下載到本地進(jìn)行可視化,大部分?jǐn)?shù)據(jù)來(lái)源于美國(guó)政府。
3、數(shù)據(jù)建模、機(jī)器學(xué)習(xí)的數(shù)據(jù)集
1)UCI:https://archive.ics.uci.edu/ml/datasets.html
UCI是加州大學(xué)歐文分校開(kāi)放的經(jīng)典數(shù)據(jù)集,是機(jī)器學(xué)習(xí)領(lǐng)域最有名的數(shù)據(jù)存儲(chǔ)庫(kù)。包含各種數(shù)據(jù)集,比如經(jīng)典的泰坦尼克號(hào)幸存預(yù)測(cè)到最新的數(shù)據(jù)(如空氣質(zhì)量和GPS軌跡)。
2)阿里天池:https://tianchi.aliyun.com/
作為國(guó)內(nèi)互聯(lián)網(wǎng)龍頭阿里巴巴旗下的大數(shù)據(jù)競(jìng)賽網(wǎng)站,提供了很多比賽數(shù)據(jù)集可以練手,說(shuō)不定還能順手拿個(gè)獎(jiǎng),賺點(diǎn)獎(jiǎng)金


3)Kaggle:https://www.kaggle.com/datasets
Kaggle 是一個(gè)舉辦了多項(xiàng)機(jī)器學(xué)習(xí)競(jìng)賽的數(shù)據(jù)科學(xué)社區(qū)。用戶可以自己上傳數(shù)據(jù)集,也可以通過(guò)某項(xiàng)競(jìng)賽下載數(shù)據(jù)集,里面有不少別的平臺(tái)找不到的有趣數(shù)據(jù)集。


4)科賽網(wǎng):https://www.kesci.com/home/project
這個(gè)網(wǎng)站提供了不少數(shù)據(jù)集可以免費(fèi)下載,而且還有一些數(shù)據(jù)項(xiàng)目的比賽,不過(guò)整體來(lái)說(shuō)項(xiàng)目的難度比較低,獎(jiǎng)金也不是很多,學(xué)生參加的比較多,反正單純用來(lái)獲取數(shù)據(jù)集還是很不錯(cuò)的


5)Quandl
這是一個(gè)包含經(jīng)濟(jì)與金融數(shù)據(jù)的倉(cāng)庫(kù)。其中的部分信息是免費(fèi)的,但是大部分?jǐn)?shù)據(jù)集需要購(gòu)買,數(shù)據(jù)可以用來(lái)構(gòu)建經(jīng)濟(jì)指標(biāo)預(yù)測(cè)或者股價(jià)分析模型等等。



4、大型數(shù)據(jù)集
有時(shí)候你可能只是想找一些大型的數(shù)據(jù)集來(lái)進(jìn)行分析,分析的結(jié)果可能并不重要,重要的只是對(duì)于數(shù)據(jù)的讀取與分析過(guò)程,練習(xí)數(shù)據(jù)處理能力,這里我也列舉幾個(gè)用的比較多的網(wǎng)站:
1)AWS 公開(kāi)數(shù)據(jù)集:https://www.amazon.com/aws
亞馬遜在其 Amazon Web Services 中提供了一些大型數(shù)據(jù)集可以免費(fèi)下載,不過(guò)你得注冊(cè)一個(gè)aws賬戶,新用戶有免費(fèi)訪問(wèn)的權(quán)限




2)Google 公開(kāi)數(shù)據(jù)集:https://cloud.google.com/bigquery/public-data/
Google提供了一些數(shù)據(jù)集作為其Big Query工具的一部分。包括 GitHub 公共資料庫(kù)的數(shù)據(jù),Hacker News 的所有故事和評(píng)論。
3)Youtube標(biāo)簽視頻數(shù)據(jù)集:https://research.google.com/youtube8m/
Youtube標(biāo)簽視頻數(shù)據(jù)集包括來(lái)自4800個(gè)可視化實(shí)體的800萬(wàn)個(gè)YouTube視頻ID和相關(guān)標(biāo)簽。它具有數(shù)十億幀的預(yù)計(jì)算的、最先進(jìn)的視覺(jué)功能。




三、數(shù)據(jù)爬取工具

1、Microsoft Excel
沒(méi)錯(cuò), Excel可以用來(lái)做數(shù)據(jù)爬取。雖然很多知道Excel可以用來(lái)做數(shù)據(jù)分析,但很少有人知道它還能用來(lái)爬數(shù)
2、火車頭采集器
官網(wǎng)地址:http://www.locoy.com/
火車頭是爬蟲界的元老了,是目前使用人數(shù)最多的互聯(lián)網(wǎng)數(shù)據(jù)抓取軟件。它的優(yōu)勢(shì)是采集不限網(wǎng)頁(yè),不限內(nèi)容,同時(shí)還是分布式采集,效率會(huì)高一些。不過(guò)它規(guī)則和操作設(shè)置在我看來(lái)有一些死板,對(duì)小白用戶來(lái)說(shuō)上手也有點(diǎn)困難,需要有一定的網(wǎng)頁(yè)知識(shí)基礎(chǔ)
3、Google Sheet
使用Google Sheet爬取數(shù)據(jù)前,要保證三點(diǎn):使用Chrome瀏覽器、擁有Google賬號(hào)、電腦已翻墻。
4、八爪魚采集器
網(wǎng)站:https://www.bazhuayu.com/
八爪魚采集器是用過(guò)最簡(jiǎn)單易用的采集器,很適合新手使用。采集原理類似火車頭采集器,用戶設(shè)定抓取規(guī)則,軟件執(zhí)行。八爪魚的優(yōu)點(diǎn)是提供了常見(jiàn)抓取網(wǎng)站的模板,如果不會(huì)寫規(guī)則, 就直接用套用模板就好了。
它是基于瀏覽器內(nèi)核實(shí)現(xiàn)可視化抓取數(shù)據(jù),所以存在卡頓、采集數(shù)據(jù)慢的現(xiàn)象。不過(guò)整體來(lái)說(shuō)還是不錯(cuò)的,畢竟能基本滿足新手在短時(shí)間抓取數(shù)據(jù)的場(chǎng)景,比如翻頁(yè)查詢,Ajax 動(dòng)態(tài)加載數(shù)據(jù)等。
5、GooSeeker 集搜客
網(wǎng)站:https://www.gooseeker.com/
集搜客也是一款容易上手的可視化采集數(shù)據(jù)工具。同樣能抓取動(dòng)態(tài)網(wǎng)頁(yè),也支持可以抓取手機(jī)網(wǎng)站上的數(shù)據(jù),還支持抓取在指數(shù)圖表上懸浮顯示的數(shù)據(jù)。集搜客是以瀏覽器插件形式抓取數(shù)據(jù)。雖然具有前面所述的優(yōu)點(diǎn),但缺點(diǎn)也有,無(wú)法多線程采集數(shù)據(jù),出現(xiàn)瀏覽器卡頓也在所難免。
6、WebScraper
網(wǎng)址:https://webscraper.io/
WebScraper 是一款優(yōu)秀國(guó)外的瀏覽器插件。同樣也是一款適合新手抓取數(shù)據(jù)的可視化工具。我們通過(guò)簡(jiǎn)單設(shè)置一些抓取規(guī)則,剩下的就交給瀏覽器去工作。
7、Scrapinghub
地址:https://scrapinghub.com/
如果你想抓取國(guó)外的網(wǎng)站數(shù)據(jù),可以考慮 Scrapinghub。它是一個(gè)基于Python 的 Scrapy 框架的云爬蟲平臺(tái),安裝和部署挺簡(jiǎn)單的,但是操作界面是純英文的,不太友好,而且性價(jià)比不高,它提供的每個(gè)工具都是單獨(dú)收費(fèi)的。
其實(shí)任何數(shù)據(jù)來(lái)源,看是一方面,分析也是一方面,如果要有分析的話,那就離不開(kāi)一些可以自主使用的數(shù)據(jù)分析工具。
如果數(shù)據(jù)不簡(jiǎn)單,數(shù)據(jù)量也很大,還有不少的數(shù)據(jù)處理工作,甚至你還想要一些酷炫的可視化效果,簡(jiǎn)單快速上手,不妨用一些在線的圖表工具,但是前提是數(shù)據(jù)要在Excel中處理好,如果數(shù)據(jù)量大可能實(shí)現(xiàn)還要在數(shù)據(jù)庫(kù)中處理。
或者一蹴而就用BI分析工具,諸如FineBI(www.finebi.com),分析過(guò)程無(wú)代碼,可以很迅速的出結(jié)果,同時(shí)自帶的可視化圖表基本能滿足大部分使用需求了,適合企業(yè)級(jí)的數(shù)據(jù)分析,如果個(gè)人想拿來(lái)做做報(bào)告什么的也是非常輕松。

精選高品質(zhì)二手iPhone,上愛(ài)鋒貝APP

0

主題

45

帖子

6

積分

Rank: 1

6
發(fā)表于 2021-12-15 14:50:02 | 只看該作者
開(kāi)放數(shù)據(jù)集

包括:      科研數(shù)據(jù)共享        數(shù)據(jù)算法競(jìng)賽        政府公司分享

①Stanford Large Network Datasets
網(wǎng)站: Stanford Large Network Dataset Collection
網(wǎng)站里的數(shù)據(jù)還是挺多的,一般每個(gè)數(shù)據(jù)都是從具體的一篇論文里來(lái)的,也有一個(gè)對(duì)數(shù)據(jù)的說(shuō)明。


推薦其中兩個(gè)比較好的:
soc_Pokec數(shù)據(jù)集  該數(shù)據(jù)集包含了斯洛伐克最流行的社交網(wǎng)站pokec的網(wǎng)絡(luò)信息。  以下是該數(shù)據(jù)集的基本信息


由于該數(shù)據(jù)集包含了非常詳盡完備的整個(gè)社交網(wǎng)站的網(wǎng)絡(luò)信息,是非常具有代表性的公開(kāi)數(shù)據(jù)集。
這個(gè)數(shù)據(jù)集有一百六十多萬(wàn)個(gè)節(jié)點(diǎn),三千多萬(wàn)條邊,文件足足半個(gè)G,是一個(gè)比較大的數(shù)據(jù)集了。
location-based online social networks  數(shù)據(jù)集


該數(shù)據(jù)集Gowalla是一個(gè)簽到網(wǎng)絡(luò)。它將用戶線上和線下行為很好地關(guān)聯(lián)了起來(lái)。
注意: 下面的網(wǎng)站要翻墻啦。
foursquare dataset  網(wǎng)址:https://sites.google.com/site/yangdingqi/home/foursquare-dataset  該數(shù)據(jù)集也是一個(gè)簽到網(wǎng)絡(luò)數(shù)據(jù)集
UCI Machine Learning Repository  跟機(jī)器學(xué)習(xí)相關(guān)的
CRAWDADYour Home for Data Science國(guó)內(nèi)的兩個(gè)數(shù)據(jù)站點(diǎn):
天池大數(shù)據(jù)眾智平臺(tái)-阿里云天池

DataCastle數(shù)據(jù)城堡國(guó)內(nèi)的這些商業(yè)化程度高一點(diǎn) 里面還有一些付費(fèi)的課程。
網(wǎng)絡(luò)爬蟲


進(jìn)行數(shù)據(jù)分析工作首先需要獲取數(shù)據(jù),爬蟲則是獲取互聯(lián)網(wǎng)上公開(kāi)數(shù)據(jù)的一項(xiàng)利器,也是數(shù)據(jù)分析師一項(xiàng)非常加分的技能。
網(wǎng)絡(luò)爬蟲可以分為兩種
基于網(wǎng)站API的爬取
基于網(wǎng)頁(yè)的爬取



就先這些吧~
還有一個(gè)很經(jīng)典的,在社會(huì)網(wǎng)絡(luò)分析里。Network data
像里面的 空手道俱樂(lè)部,海豚網(wǎng)都非常入門 , 導(dǎo)到Gephi里就可以進(jìn)行網(wǎng)絡(luò)分析, 算是一點(diǎn)簡(jiǎn)單的挖掘吧~
精選高品質(zhì)二手iPhone,上愛(ài)鋒貝APP

0

主題

50

帖子

3

積分

Rank: 1

7
發(fā)表于 2021-12-15 16:04:15 | 只看該作者

  • 5W家創(chuàng)業(yè)公司和投資的信息https://public.tableau.com/s/sites/default/files/media/Resources/crunchbase_monthly_export_d43b4klo2ade53.xlsx
  • 乘用車細(xì)分市場(chǎng)銷量預(yù)測(cè)數(shù)據(jù)集https://github.com/cxq80803716/2019-CCF-BDCI-Car_sales
  • 1944-2020年的金球獎(jiǎng)獲獎(jiǎng)數(shù)據(jù) https://www.kaggle.com/unanimad/golden-globe-awards
  • 6271家死亡公墓公司 https://www.kesci.com/home/dataset/5e023cd12823a10036af49b4/files
  • 阿里巴巴移動(dòng)電商平臺(tái)的真實(shí)用戶-商品行為數(shù)據(jù)集https://tianchi.aliyun.com/competition/entrance/231522/information
  • 攜程房型產(chǎn)品用戶行為數(shù)據(jù)集 https://pan.baidu.com/s/1uWJxlry967J0T6sTfwDZ9w
  • 2017年家庭金融調(diào)查數(shù)據(jù)庫(kù)https://www.kesci.com/home/dataset/5de7682fca27f8002c4cf67c/files
  • 2019 Nature博士生調(diào)查數(shù)據(jù) figshare
  • 知乎用戶數(shù)據(jù)集 https://www.kesci.com/home/dataset/5dc8c85cad7dde00367f2d85/files
  • 2017年-2018年 關(guān)于申根簽證的數(shù)據(jù)集 https://www.kesci.com/home/dataset/5d663fb38499bc002c086af9/files
  • 豆瓣讀書數(shù)據(jù)集 https://www.kesci.com/home/dataset/5cbeb2088c90d7002c822b18/files
  • 來(lái)自淘寶2019年3月的口紅商品信息 https://www.kesci.com/home/dataset/5c8b2204b4536a002bcd18ae/files
  • 去哪兒網(wǎng)—數(shù)據(jù)清洗 https://www.kesci.com/home/dataset/5cbd31e58c90d7002c816f5d/files
  • 2015年至2017年國(guó)內(nèi)主要城市的年度數(shù)據(jù),涉及產(chǎn)值、人口、就業(yè)、教育等各方面指標(biāo)。https://www.kesci.com/home/dataset/5c3bf64ee8dbbb002b7bb589/files
  • 攜程出行產(chǎn)品未來(lái)14個(gè)月銷量預(yù)測(cè)數(shù)據(jù)集 https://cdn.kesci.com/ctrip14.zip
  • 鏈家二手房數(shù)據(jù)集https://www.kesci.com/home/dataset/58acf5acd2445916845b402c/files
以上數(shù)據(jù)均來(lái)自和鯨社區(qū)
@科賽網(wǎng)Kesci
https://www.kesci.com/home/dataset


yulang:數(shù)據(jù)分析機(jī)器學(xué)習(xí)必備-各行業(yè)的信息(含鏈接)
精選高品質(zhì)二手iPhone,上愛(ài)鋒貝APP

0

主題

54

帖子

3

積分

Rank: 1

8
發(fā)表于 2021-12-15 18:26:42 | 只看該作者
再補(bǔ)充幾個(gè)可以查宏觀數(shù)據(jù)的網(wǎng)站:
1、中國(guó)統(tǒng)計(jì)局:國(guó)家數(shù)據(jù) 可以查詢國(guó)家的各種數(shù)據(jù),如GDP、CPI、總?cè)丝?、社?huì)消費(fèi)品零售總額、糧食產(chǎn)量、PMI、PPI……數(shù)據(jù)可以免費(fèi)下載成Excel文件,另外也推出了移動(dòng)客戶端:數(shù)據(jù)中國(guó)pro
2、美聯(lián)儲(chǔ)經(jīng)濟(jì)數(shù)據(jù)庫(kù):Federal Reserve Economic Data 查詢到的數(shù)據(jù)以美國(guó)為主,也有少數(shù)其他的西方國(guó)家,可以查詢到50年代的數(shù)據(jù),支持免費(fèi)下載
3、世界銀行:World Bank Open Data 查詢?nèi)蚋鲊?guó)相關(guān)各方面的宏觀數(shù)據(jù),免費(fèi)提供CSV文件下載(Excel可以直接打開(kāi)),非常方便
4、IndexMundi:IndexMundi - Country Facts 包含詳細(xì)的全球各國(guó)的統(tǒng)計(jì)數(shù)據(jù),可以按地區(qū),國(guó)家,主題,行業(yè)部門和類型組織的幾千種指標(biāo)。它并不是一個(gè)官方組織,而是一個(gè)第三方網(wǎng)站,但是整合了各種數(shù)據(jù)來(lái)源,查詢起來(lái)還是非常方便的,建議可以和世界銀行的數(shù)據(jù)一起結(jié)合使用。

————————————————————————————————————
耗費(fèi)200小時(shí),嘔心瀝血精選數(shù)據(jù)源,包含常用數(shù)據(jù)公開(kāi)網(wǎng)站、政府開(kāi)放網(wǎng)站、數(shù)據(jù)交易平臺(tái),歡迎收藏。
一、公開(kāi)數(shù)據(jù)庫(kù)

?1、常用數(shù)據(jù)公開(kāi)網(wǎng)站

UCI:該網(wǎng)站目前維護(hù)了436個(gè)經(jīng)典的機(jī)器學(xué)習(xí)、數(shù)據(jù)挖掘數(shù)據(jù)集,包含分類、聚類、回歸等問(wèn)題下的多個(gè)數(shù)據(jù)集。


國(guó)家數(shù)據(jù):數(shù)據(jù)來(lái)源中華人民共和國(guó)國(guó)家統(tǒng)計(jì)局,包含了我國(guó)經(jīng)濟(jì)民生等多個(gè)方面的數(shù)據(jù),并且在月度、季度、年度都有覆蓋,較為全面。


CEIC:涵蓋超過(guò)195個(gè)國(guó)家400多萬(wàn)個(gè)時(shí)間序列的數(shù)據(jù)源,最完整的一套超過(guò)128個(gè)國(guó)家的經(jīng)濟(jì)數(shù)據(jù),能夠精確查找GDP、CPI、進(jìn)口、出口、外資直接投資、零售、銷售以及國(guó)際利率等深度數(shù)據(jù)。


萬(wàn)得:被譽(yù)為中國(guó)的Bloomberg,在金融業(yè)有著全面的數(shù)據(jù)覆蓋,金融數(shù)據(jù)的類目更新非??欤瑩?jù)說(shuō)很受國(guó)內(nèi)的商業(yè)分析者和投資人的親睞。


搜數(shù)網(wǎng):已加載到搜數(shù)網(wǎng)站的統(tǒng)計(jì)資料達(dá)到7,874本,涵蓋1,761,009張統(tǒng)計(jì)表格和364,580,479個(gè)統(tǒng)計(jì)數(shù)據(jù),匯集了中國(guó)資訊行自92年以來(lái)收集的44個(gè)行業(yè)所有統(tǒng)計(jì)和調(diào)查數(shù)據(jù)。


中國(guó)統(tǒng)計(jì)信息網(wǎng):國(guó)家統(tǒng)計(jì)局的官方網(wǎng)站,匯集了全國(guó)各級(jí)政府各年度的國(guó)民經(jīng)濟(jì)和社會(huì)發(fā)展統(tǒng)計(jì)信息,建立了以統(tǒng)計(jì)公報(bào)為主,統(tǒng)計(jì)年鑒、階段發(fā)展數(shù)據(jù)、統(tǒng)計(jì)分析、經(jīng)濟(jì)新聞、主要統(tǒng)計(jì)指標(biāo)排行等。


亞馬遜:來(lái)自亞馬遜的跨科學(xué)云數(shù)據(jù)平臺(tái),擁有免費(fèi)且開(kāi)源的數(shù)據(jù)庫(kù),包含化學(xué)、生物、經(jīng)濟(jì)等多個(gè)領(lǐng)域的數(shù)據(jù)集。


figshare:研究成果共享平臺(tái),這里向全世界開(kāi)放免費(fèi)的研究成果及科學(xué)數(shù)據(jù)。


github:一個(gè)非常全面的數(shù)據(jù)獲取渠道,包含各個(gè)細(xì)分領(lǐng)域的數(shù)據(jù)庫(kù)資源,自然科學(xué)和社會(huì)科學(xué)的覆蓋都很全面,適合做研究和數(shù)據(jù)分析的人員。


2、政府開(kāi)放數(shù)據(jù)

北京市政務(wù)數(shù)據(jù)資源網(wǎng):包含競(jìng)技、交通、醫(yī)療、天氣等數(shù)據(jù)。
深圳市政府?dāng)?shù)據(jù)開(kāi)放平臺(tái):交通、文娛、就業(yè)、基礎(chǔ)設(shè)施等數(shù)據(jù)。
上海市政務(wù)數(shù)據(jù)服務(wù)網(wǎng):覆蓋經(jīng)濟(jì)建設(shè)、文化科技、信用服務(wù)、交通出行等12個(gè)重點(diǎn)領(lǐng)域數(shù)據(jù)。
貴州省政府?dāng)?shù)據(jù)開(kāi)放平臺(tái):貴州省在政務(wù)數(shù)據(jù)開(kāi)放方面做的確實(shí)不錯(cuò)。
http://Data.gov:美國(guó)政府開(kāi)放數(shù)據(jù),包含氣候、教育、能源金融等各領(lǐng)域數(shù)據(jù)。
3、數(shù)據(jù)競(jìng)賽網(wǎng)站

競(jìng)賽的數(shù)據(jù)集通常干凈且科研性非常高。
DataCastle:專業(yè)的數(shù)據(jù)科學(xué)競(jìng)賽平臺(tái)。
Kaggle:全球最大的數(shù)據(jù)競(jìng)賽平臺(tái)。
天池:阿里旗下數(shù)據(jù)科學(xué)競(jìng)賽平臺(tái)。
Datafountain:CCF制定大數(shù)據(jù)競(jìng)賽平臺(tái)。
二、可以獲得有價(jià)值數(shù)據(jù)

這里給出了一些網(wǎng)站平臺(tái),我們可p a網(wǎng)站上的數(shù)據(jù),某些網(wǎng)站上也給出獲取數(shù)據(jù)的API接口,但需要付費(fèi)。
1.財(cái)經(jīng)數(shù)據(jù)
(1)新浪財(cái)經(jīng):免費(fèi)提供接口,可在新浪財(cái)經(jīng)上獲取獲取歷史和實(shí)時(shí)股票數(shù)據(jù)。
(2)東方財(cái)富網(wǎng):可以查看財(cái)務(wù)指標(biāo)或者根據(jù)財(cái)務(wù)指標(biāo)選股。
(3)中財(cái)網(wǎng):提供各類財(cái)經(jīng)數(shù)據(jù)。
(4)黃金頭條:各種財(cái)經(jīng)資訊。
(5)StockQ:國(guó)際股市指數(shù)行情。
(6)Quandl:金融數(shù)據(jù)界的維基百科。
(7)Investing:投資數(shù)據(jù)。
(8)整合的96個(gè)股票API合集。
(9)Market Data Feed and API:提供大量數(shù)據(jù),付費(fèi),有試用期。
2.網(wǎng)貸數(shù)據(jù)
(1)網(wǎng)貸之家:包含各大網(wǎng)貸平臺(tái)不同時(shí)間段的放貸數(shù)據(jù)。
(2)零壹數(shù)據(jù):各大平臺(tái)的放貸數(shù)據(jù)。
(4)網(wǎng)貸天眼:網(wǎng)貸平臺(tái)、行業(yè)數(shù)據(jù)。
(5)76676互聯(lián)網(wǎng)金融門戶:網(wǎng)貸、P2P、理財(cái)?shù)然ソ饠?shù)據(jù)。
3.公司年報(bào)
(1)巨潮資訊:各種股市咨詢,公司股票、財(cái)務(wù)信息。
(2)http://SEC.gov:美國(guó)證券交易數(shù)據(jù)
(3)HKEx news披露易:年度業(yè)績(jī)報(bào)告和年報(bào)。
4.創(chuàng)投數(shù)據(jù)
(1)36氪:最新的投資資訊。
(2)投資潮:投資資訊、上市公司信息。
(3)IT桔子:各種創(chuàng)投數(shù)據(jù)。
5.社交平臺(tái)
(1)新浪微博:評(píng)論、輿情數(shù)據(jù),社交關(guān)系數(shù)據(jù)。
(2)Twitter:輿情數(shù)據(jù),社交關(guān)系數(shù)據(jù)。
(3)知乎:優(yōu)質(zhì)問(wèn)答、用戶數(shù)據(jù)。
(4)微信公眾號(hào):公眾號(hào)運(yùn)營(yíng)數(shù)據(jù)。
(5)百度貼吧:輿情數(shù)據(jù)
(6)Tumblr:各種福利圖片、視頻。
6.就業(yè)招聘
(1)拉勾:人才需求數(shù)據(jù)。
(2)中華英才網(wǎng):招聘信息數(shù)據(jù)。
(3)智聯(lián)招聘:招聘信息數(shù)據(jù)。
(4)獵聘網(wǎng):高端職位招聘數(shù)據(jù)。
7.餐飲食品
(1)美團(tuán)外賣:區(qū)域商家、銷量、評(píng)論數(shù)據(jù)。
(2)百度外賣:區(qū)域商家、銷量、評(píng)論數(shù)據(jù)。
(3)餓了么:區(qū)域商家、銷量、評(píng)論數(shù)據(jù)。
(4)大眾點(diǎn)評(píng):點(diǎn)評(píng)、輿情數(shù)據(jù)。
8.交通旅游
(1)12306:鐵路運(yùn)行數(shù)據(jù)。
(2)攜程:景點(diǎn)、路線、機(jī)票、酒店等數(shù)據(jù)。
(3)去哪兒:景點(diǎn)、路線、機(jī)票、酒店等數(shù)據(jù)。
(4)途牛:景點(diǎn)、路線、機(jī)票、酒店等數(shù)據(jù)。
(5)貓途鷹:世界各地旅游景點(diǎn)數(shù)據(jù),來(lái)自全球旅行者的真實(shí)點(diǎn)評(píng)。
類似的還有同程、驢媽媽、途家等
9.電商平臺(tái)
(1)亞馬遜:商品、銷量、折扣、點(diǎn)評(píng)等數(shù)據(jù)
(2)淘寶:商品、銷量、折扣、點(diǎn)評(píng)等數(shù)據(jù)
(3)天貓:商品、銷量、折扣、點(diǎn)評(píng)等數(shù)據(jù)
(4)京東:3C產(chǎn)品為主的商品信息、銷量、折扣、點(diǎn)評(píng)等數(shù)據(jù)
(5)當(dāng)當(dāng):圖書信息、銷量、點(diǎn)評(píng)數(shù)據(jù)。
類似的唯品會(huì)、聚美優(yōu)品、1號(hào)店等。
10.影音數(shù)據(jù)
(1)豆瓣電影:國(guó)內(nèi)最受歡迎的電影信息、評(píng)分、評(píng)論數(shù)據(jù)。
(2)時(shí)光網(wǎng):最全的影視資料庫(kù),評(píng)分、影評(píng)數(shù)據(jù)。
(3)貓眼電影專業(yè)版:實(shí)時(shí)票房數(shù)據(jù),電影票房排行。
(4)網(wǎng)易云音樂(lè):音樂(lè)歌單、歌手信息、音樂(lè)評(píng)論數(shù)據(jù)。
11.房屋信息
(1)58同城房產(chǎn):二手房數(shù)據(jù)。
(2)安居客:新房和二手房數(shù)據(jù)。
(3)Q房網(wǎng):新房信息、銷售數(shù)據(jù)。
(4)房天下:新房、二手房、租房數(shù)據(jù)。
(5)小豬短租:短租房源數(shù)據(jù)。
12.購(gòu)車租車
(1)網(wǎng)易汽車:汽車資訊、汽車數(shù)據(jù)。
(2)人人車:二手車信息、交易數(shù)據(jù)。
(3)中國(guó)汽車工業(yè)協(xié)會(huì):汽車制造商產(chǎn)量、銷量數(shù)據(jù)。
13.新媒體數(shù)據(jù)
新榜:新媒體平臺(tái)運(yùn)營(yíng)數(shù)據(jù)。
清博大數(shù)據(jù):微信公眾號(hào)運(yùn)營(yíng)榜單及輿情數(shù)據(jù)。
微問(wèn)數(shù)據(jù):一個(gè)針對(duì)微信的數(shù)據(jù)網(wǎng)站。
知微傳播分析:微博傳播數(shù)據(jù)。
14.分類信息
(1)58同城:豐富的同城分類信息。
(2)趕集網(wǎng):豐富的同城分類信息。
三、數(shù)據(jù)交易平臺(tái)

由于現(xiàn)在數(shù)據(jù)的需求很大,也催生了很多做數(shù)據(jù)交易的平臺(tái),當(dāng)然,除去付費(fèi)購(gòu)買的數(shù)據(jù),在這些平臺(tái),也有很多免費(fèi)的數(shù)據(jù)可以獲取。
優(yōu)易數(shù)據(jù):擁有國(guó)家級(jí)信息資源的數(shù)據(jù)平臺(tái)。包含政務(wù)、社會(huì)、社交、教育、消費(fèi)、交通、能源、金融、健康等多個(gè)領(lǐng)域的數(shù)據(jù)資源。



數(shù)據(jù)堂:提供數(shù)據(jù)交易、處理和數(shù)據(jù)API服務(wù),包含語(yǔ)音識(shí)別、醫(yī)療健康、交通地理、電子商務(wù)、社交網(wǎng)絡(luò)、圖像識(shí)別等方面的數(shù)據(jù)。



四、網(wǎng)絡(luò)指數(shù)

百度指數(shù):指數(shù)查詢平臺(tái),可以根據(jù)指數(shù)的變化查看某個(gè)主題在各個(gè)時(shí)間段受關(guān)注的情況,進(jìn)行趨勢(shì)分析、輿情預(yù)測(cè)有很好的指導(dǎo)作用。除了關(guān)注趨勢(shì)之外,還有需求分析、人群畫像等精準(zhǔn)分析的工具,對(duì)于市場(chǎng)調(diào)研來(lái)說(shuō)具有很好的參考意義。同樣的另外兩個(gè)搜索引擎搜狗、360也有類似的產(chǎn)品,都可以作為參考。



阿里指數(shù):國(guó)內(nèi)權(quán)威的商品交易分析工具,可以按地域、按行業(yè)查看商品搜索和交易數(shù)據(jù),基于淘寶、天貓和1688平臺(tái)的交易數(shù)據(jù)基本能夠看出國(guó)內(nèi)商品交易的概況。
友盟+全域羅盤:友盟在移動(dòng)互聯(lián)網(wǎng)應(yīng)用數(shù)據(jù)統(tǒng)計(jì)和分析具有較為全面的統(tǒng)計(jì)和分析,對(duì)于研究移動(dòng)端產(chǎn)品、做市場(chǎng)調(diào)研、用戶行為分析很有幫助。除了友盟指數(shù),友盟的互聯(lián)網(wǎng)報(bào)告同樣是了解互聯(lián)網(wǎng)趨勢(shì)的優(yōu)秀讀物。


愛(ài)奇藝指數(shù):愛(ài)奇藝指數(shù)是專門針對(duì)視頻的播放行為、趨勢(shì)的分析平臺(tái),對(duì)于互聯(lián)網(wǎng)視頻的播放有著全面的統(tǒng)計(jì)和分析,涉及到播放趨勢(shì)、播放設(shè)備、用戶畫像、地域分布等多個(gè)方面。由于愛(ài)奇藝龐大的用戶基數(shù),該指數(shù)基本可以說(shuō)明實(shí)際情況。


微指數(shù):微指數(shù)是新浪微博的數(shù)據(jù)分析工具,微指數(shù)通過(guò)關(guān)鍵詞的熱議度,以及行業(yè)/類別的平均影響力,來(lái)反映微博輿情或賬號(hào)的發(fā)展走勢(shì)。分為熱詞指數(shù)和影響力指數(shù)兩大模塊,此外,還可以查看熱議人群及各類賬號(hào)的地域分布情況。


除了以上指數(shù)外,還有谷歌趨勢(shì)、搜狗指數(shù)、360趨勢(shì)、艾漫指數(shù)等等。
有了以上數(shù)據(jù)源,當(dāng)然就可以做數(shù)據(jù)分析了。個(gè)人用戶推薦免費(fèi)工具豌豆BI,企業(yè)用戶推薦企業(yè)數(shù)據(jù)分析工具億信ABI。無(wú)需下載安裝,直接云上試用。
億信豌豆BI-敏捷BI自助式分析工具|商業(yè)智能BI工具與大數(shù)據(jù)分析平臺(tái)億信ABI一站式大數(shù)據(jù)分析平臺(tái)-全能型數(shù)據(jù)可視化分析工具
關(guān)于億信華辰

億信華辰是中國(guó)專業(yè)的智能數(shù)據(jù)產(chǎn)品與服務(wù)提供商,一直致力于為政企用戶提供從數(shù)據(jù)采集、存儲(chǔ)、治理、分析到智能應(yīng)用的智能數(shù)據(jù)全生命周期管理方案,幫助企業(yè)實(shí)現(xiàn)數(shù)據(jù)驅(qū)動(dòng)、數(shù)據(jù)智能,已積累了8000多家用戶的服務(wù)和客戶成功經(jīng)驗(yàn),為客戶提供數(shù)據(jù)分析平臺(tái)、數(shù)據(jù)治理系統(tǒng)搭建等專業(yè)的產(chǎn)品咨詢、實(shí)施和技術(shù)支持服務(wù)。



△億信華辰全產(chǎn)品架構(gòu)圖(點(diǎn)擊查看大圖)


歡迎關(guān)注公眾號(hào):億信華辰Pro
-讓數(shù)據(jù)驅(qū)動(dòng)進(jìn)步-
精選高品質(zhì)二手iPhone,上愛(ài)鋒貝APP

0

主題

54

帖子

3

積分

Rank: 1

9
發(fā)表于 2021-12-15 19:36:05 | 只看該作者
主要來(lái)自電子政務(wù);開(kāi)放政府;政府?dāng)?shù)據(jù);政府?dāng)?shù)據(jù)開(kāi)放;大數(shù)據(jù)數(shù)據(jù)開(kāi)放平臺(tái)。
這里匯總了幾十個(gè)公開(kāi)數(shù)據(jù)源,可以點(diǎn)擊查看。
最全的中國(guó)開(kāi)放數(shù)據(jù)(open data)及政府公開(kāi)數(shù)據(jù)平臺(tái)匯總
精選高品質(zhì)二手iPhone,上愛(ài)鋒貝APP

0

主題

39

帖子

3

積分

Rank: 1

10
發(fā)表于 2021-12-15 20:13:42 | 只看該作者
分享一個(gè)網(wǎng)址
https://github.com/caesar0301/awesome-public-datasets,github上的一個(gè)數(shù)據(jù)庫(kù)集合,里面有挺多數(shù)據(jù)的,大多都免費(fèi)的,介紹如下:
This list of public data sources are collected and tidied from blogs, answers, and user responses. Most of the data sets listed below are free, however, some are not. Other amazingly awesome lists can be found in the
awesome-awesomeness and
sindresorhus's awesome list.
放個(gè)數(shù)據(jù)庫(kù)目錄導(dǎo)航



精選高品質(zhì)二手iPhone,上愛(ài)鋒貝APP
您需要登錄后才可以回帖 登錄 | 立即注冊(cè)   

本版積分規(guī)則

QQ|Archiver|手機(jī)版|小黑屋|愛(ài)鋒貝 ( 粵ICP備16041312號(hào)-5 )

GMT+8, 2025-2-5 08:52

Powered by Discuz! X3.4

© 2001-2013 Discuz Team. 技術(shù)支持 by 巔峰設(shè)計(jì).

快速回復(fù) 返回頂部 返回列表