資源|機器學習高質量數據集大合輯(附鏈接)

資源|機器學習高質量數據集大合輯(附鏈接)


本文約2415字,建議閱讀6分鐘。

本文為大家推薦一份高質量的數據集,都是用於機器學習的開放數據集。

在機器學習中,尋找數據集也是非常重要的一步。質量高或者相關性高的數據集對模型的訓練是非常有幫助的。

那麼用於機器學習的開放數據集有哪些呢?我們給大家推薦一份高質量的數據集,這些數據集或者涵蓋範圍廣泛(比如 Kaggle),或者非常細化(比如自動駕駛汽車的數據)。

首先,在搜索數據集時,在卡內基·梅隆大學有以下說法:

  • 數據集不應混亂,因為你不希望花費大量時間清理數據。
  • 數據集不應該有太多行或列,因此很容易使用。
  • 數據越乾淨越好 —— 清洗大型數據集相當耗時。
  • 數據可以解答一些有趣的問題。


數據集查找器


Kaggle:Kaggle是由聯合創始人、首席執行官安東尼·高德布盧姆(Anthony Goldbloom)2010年在墨爾本創立的,主要為開發商和數據科學家提供舉辦機器學習競賽、託管數據庫、編寫和分享代碼的平臺。該平臺已經吸引了80萬名數據科學家的關注。

在這個平臺中可以找到各種數據,從拉麵的評分、籃球數據,到西雅圖的寵物牌照應有盡有。

https://www.kaggle.com/


UCI機器學習庫(UCI Machine Learning Repository):這是網絡上最早的數據集來源之一,是尋找各種有趣數據集的第一選擇。雖然用戶提供的數據集的清潔度不太一樣,但絕大多數都是乾淨的。我們可以從 UCI 機器學習庫直接下載數據,無需註冊。

http://mlr.cs.umass.edu/ml/


VisualData:在這裡計算機視覺數據集按類別分組,並且支持搜索查詢。

https://www.visualdata.io/


公共政府數據集


Data.gov:在這裡可以下載到多個美國政府機構的數據。從政府預算到學校成績。但要注意的是,很多數據還有待進一步研究。

https://www.data.gov/


食品環境地圖集(Food Environment Atlas):當地的食物選擇如何影響美國飲食的數據。

https://catalog.data.gov/dataset/food-environment-atlas-f4a22


學校系統財務狀況(School system finances):這裡有美國學校系統財務狀況的調查。

https://catalog.data.gov/dataset/annual-survey-of-school-system-finances


慢性病數據(Chronic disease data):美國各地慢性病指標的數據。

https://catalog.data.gov/dataset/u-s-chronic-disease-indicators-cdi-e50c9


美國國家教育統計中心(The US National Center for Education Statistics):來自美國和世界各地的教育機構和教育人口統計數據。

https://nces.ed.gov/


英國數據服務:英國最大的社會、經濟和人口數據收集機構。

https://www.ukdataservice.ac.uk/


數據美國(Data USA):全面的、可視化的美國公共數據。

http://datausa.io/


金融和經濟


Quandl: 裡面有很多經濟和金融數據,你可以使用這些數據建立預測經濟指標或股價的模型。

https://www.quandl.com/


世界銀行開放數據(World Bank Open Data):涵蓋世界各地人口統計、大量經濟和發展指標的數據集。

https://data.worldbank.org/


貨幣基金組織的數據(IMF Data):國際貨幣基金組織公佈關於國際金融、債務率、外匯儲備、商品價格和投資的數據。

https://www.imf.org/en/Data


英國金融時報金融時報市場數據(Financial Times Market Data:):裡面有來自世界各地的最新金融市場信息,包括股票價格指數、商品和外匯。

https://markets.ft.com/data/


谷歌趨勢(Google Trends):觀察和分析有關互聯網搜索活動和世界各地新聞故事趨勢的數據。

http://www.google.com/trends?q=google&ctab=0&geo=all&date=all&sort=0


美國經濟協會(AEA):這裡你可以找到美國宏觀經濟的相關數據。

https://www.aeaweb.org/resources/data/us-macro-regional


機器學習數據集


Labelme:數據集中包含大量有標註的圖像數據。

http://labelme.csail.mit.edu/Release3.0/browserTools/php/dataset.php


ImageNet:是一個用於視覺對象識別軟件研究的大型可視化數據庫。超過1400萬的圖像URL被ImageNet手動註釋。根據 WordNet 層次結構來組織,其中層次結構的每個節點都由成百上千個圖像來描述。

http://image-net.org/


LSUN:場景理解與許多輔助任務(房間佈局估計,顯著性預測等)

http://lsun.cs.princeton.edu/2016/


MS COCO:通用圖像的理解和文字描述。

http://mscoco.org/


COIL 100:在 360 度旋轉中以各個角度成像的 100 個不同的物體。

http://www1.cs.columbia.edu/CAVE/software/softlib/coil-100.php


視覺基因組:非常詳細的視覺知識庫,配以0 萬張帶有文字描述的圖像。

http://visualgenome.org/


谷歌的Open Images:“知識共享”(Creative Commons)下的900萬個圖像網址集合,已標註超過6,000個類別的標籤。

https://research.googleblog.com/2016/09/introducing-open-images-dataset.html


Labelled Faces in the Wild:13,000個人臉標記圖像,用於開發涉及面部識別的應用程序。

http://vis-www.cs.umass.edu/lfw/


Stanford Dogs Dataset:包含20580張圖片和120個不同的狗品種類別。

http://vision.stanford.edu/aditya86/ImageNetDogs/


室內場景識別(Indoor Scene Recognition):這是一個非常細化的數據集,由於大多數在“戶外”場景中表現良好的場景識別模型在室內表現不佳,因而這個數據集非常有用。內有 67 個室內類別,共 15,620 張圖像。

http://web.mit.edu/torralba/www/indoor.html


情感分析


多域情感分析數據集(Multidomain sentiment analysis dataset):一個比較有歷史的數據集,裡面還有一些來自亞馬遜的產品評論。

http://www.cs.jhu.edu/~mdredze/datasets/sentiment/


IMDB: 影評,也是比較有歷史的二元情緒分類數據集、數據規模相對較小,裡面有 25,000 條電影評論。

http://ai.stanford.edu/~amaas/data/sentiment/


斯坦福情感樹銀行(Stanford Sentiment Treebank):帶有情感註釋的標準情緒數據集。

http://nlp.stanford.edu/sentiment/code.html


Sentiment140:一個流行的數據集,它使用16萬條推文,並把表情等等符號剔除了。

http://help.sentiment140.com/for-students/


Twitter 美國航空公司情緒數據集 (Twitter US Airline Sentiment):自 2015 年 2 月以來美國航空公司的 Twitter 數據,分類為正面、負面和中性推文。

https://www.kaggle.com/crowdflower/twitter-airline-sentiment


自然語言處理


安然數據集:裡面有安然集團高級管理層的電子郵件數據。

https://www.cs.cmu.edu/~./enron/


亞馬遜評論:裡面有3500萬條來自亞馬遜的評論,時間長度為18年。數據包括產品和用戶信息、評級等。

https://snap.stanford.edu/data/web-Amazon.html


Google Books Ngram:來自Google書籍的詞彙集合。

https://aws.amazon.com/datasets/google-books-ngrams/


博客語料庫:從blogger.com收集的681,288篇博客文章。每個博客至少包含200個常用的英語單詞。

http://u.cs.biu.ac.il/~koppel/BlogCorpus.htm


維基百科鏈接數據(Wikipedia Links data):維基百科全文。該數據集包含來自400多萬篇文章,近19億字。你可以對字、短語或段落本身的一部分進行搜索。

https://code.google.com/p/wiki-links/downloads/list


Gutenberg電子圖書列表:Project Gutenberg的附加註釋的電子書列表。

http://www.gutenberg.org/wiki/Gutenberg:Offline_Catalogs


加拿大議會的文本塊(Hansards text chunks of Canadian Parliament):來自第36屆加拿大議會記錄的130萬對文本。

http://www.isi.edu/natural-language/download/hansard/


危險邊緣 (Jeopardy):來自問答遊戲節目《危險邊緣》(Jeopardy) 的超過 20 萬個問題的存檔。

http://www.reddit.com/r/datasets/comments/1uyd0t/200000_jeopardy_questions_in_a_json_file/


英文SMS垃圾郵件收集(SMS Spam Collection in English):包含5,574條英文垃圾郵件的數據集。

http://www.dt.fee.unicamp.br/~tiago/smsspamcollection/


Yelp評論(Yelp Reviews):Yelp發佈的一個開放數據集,包含超過500萬次評論。

https://www.yelp.com/dataset


UCI的垃圾郵件庫(UCI’s Spambase):一個大型垃圾郵件數據集,用於垃圾郵件過濾。

https://archive.ics.uci.edu/ml/datasets/Spambase


自動駕駛


Berkeley DeepDrive BDD100k:這是目前最大的自動駕駛 數據集。裡面有超過 1,100 多個小時駕駛體驗的視頻,包含10 萬個在一天中不同時段以及在不同天氣條件下的數據。

http://bdd-data.berkeley.edu/


百度 Apolloscapes:大型數據集,定義了26種不同的語義項,如汽車,自行車,行人,建築物,路燈等。

http://apolloscape.auto/


Comma.ai:超過7個小時的高速公路駕駛視頻。裡面的數據包括汽車的速度、加速度、轉向角和GPS座標。

https://archive.org/details/comma-dataset


城市景觀數據集:記錄50個不同城市的城市街道場景的大型數據集。

https://www.cityscapes-dataset.com/


CSSAD數據集:包含自動車輛的感知和導航等數據,但著重於發達國家的道路。

http://aplicaciones.cimat.mx/Personal/jbhayet/ccsad-dataset


麻省理工學院AGE實驗室(MIT AGE Lab:):在AgeLab收集的1,000多小時多傳感器駕駛數據集的樣本。

http://lexfridman.com/automated-synchronization-of-driving-data-video-audio-telemetry-accelerometer/


LISA:智能和安全汽車實驗室,加州大學聖地亞哥分校數據集:該數據集包括交通標誌,車輛檢測,交通信號燈和軌跡模式。

http://cvrr.ucsd.edu/LISA/datasets.html


博世小型交通燈數據集(Bosch Small Traffic Light Dataset):用於深入學習的小交通燈數據集。

https://hci.iwr.uni-heidelberg.de/node/6132


Lara交通燈識別(LaRa Traffic Light Recognition):巴黎交通燈的數據集。

http://www.lara.prd.fr/benchmarks/trafficlightsrecognition


WPI 數據集:交通燈、行人和車道檢測的數據集。

http://computing.wpi.edu/dataset.html


相關報道:https://medium.com/datadriveninvestor/the-50-best-public-datasets-for-machine-learning-d80e9f030279

— 完 —

關注清華-青島數據科學研究院官方微信公眾平臺“THU數據派”及姊妹號“數據派THU”獲取更多講座福利及優質內容。


分享到:


相關文章: