科普文:雲計算、大數據和人工智慧(四)

三、大數據擁抱雲計算

在PaaS層中一個複雜的通用應用就是大數據平臺。大數據是如何一步一步融入雲計算的呢?

1數據不大也包含智慧

一開始這個大數據並不大。原來才有多少數據?現在大家都去看電子書,上網看新聞了,在我們80後小時候,信息量沒有那麼大,也就看看書、看看報,一個星期的報紙加起來才有多少字?如果你不在一個大城市,一個普通的學校的圖書館加起來也沒幾個書架,是後來隨著信息化的到來,信息才會越來越多。

首先我們來看一下大數據裡面的數據,就分三種類型,一種叫結構化的數據,一種叫非結構化的數據,還有一種叫半結構化的數據。

結構化的數據:即有固定格式和有限長度的數據。例如填的表格就是結構化的數據,國籍:中華人民共和國,民族:漢,性別:男,這都叫結構化數據。

非結構化的數據:現在非結構化的數據越來越多,就是不定長、無固定格式的數據,例如網頁,有時候非常長,有時候幾句話就沒了;例如語音,視頻都是非結構化的數據。

半結構化數據:是一些XML或者HTML的格式的,不從事技術的可能不瞭解,但也沒有關係。

其實數據本身不是有用的,必須要經過一定的處理。例如你每天跑步帶個手環收集的也是數據,網上這麼多網頁也是數據,我們稱為Data。數據本身沒有什麼用處,但數據裡面包含一個很重要的東西,叫做信息(Information)。

數據十分雜亂,經過梳理和清洗,才能夠稱為信息。信息會包含很多規律,我們需要從信息中將規律總結出來,稱為知識(Knowledge),而知識改變命運。信息是很多的,但有人看到了信息相當於白看,但有人就從信息中看到了電商的未來,有人看到了直播的未來,所以人家就牛了。如果你沒有從信息中提取出知識,天天看朋友圈也只能在互聯網滾滾大潮中做個看客。

有了知識,然後利用這些知識去應用於實戰,有的人會做得非常好,這個東西叫做智慧(Intelligence)。有知識並不一定有智慧,例如好多學者很有知識,已經發生的事情可以從各個角度分析得頭頭是道,但一到實幹就歇菜,並不能轉化成為智慧。而很多的創業家之所以偉大,就是通過獲得的知識應用於實踐,最後做了很大的生意。

所以數據的應用分這四個步驟:數據、信息、知識、智慧。

最終的階段是很多商家都想要的。你看我收集了這麼多的數據,能不能基於這些數據來幫我做下一步的決策,改善我的產品。例如讓用戶看視頻的時候旁邊彈出廣告,正好是他想買的東西;再如讓用戶聽音樂時,另外推薦一些他非常想聽的其他音樂。

用戶在我的應用或者網站上隨便點點鼠標,輸入文字對我來說都是數據,我就是要將其中某些東西提取出來、指導實踐、形成智慧,讓用戶陷入到我的應用裡面不可自拔,上了我的網就不想離開,手不停地點、不停地買。

很多人說雙十一我都想斷網了,我老婆在上面不斷地買買買,買了A又推薦B,老婆大人說,“哎呀,B也是我喜歡的啊,老公我要買”。你說這個程序怎麼這麼牛,這麼有智慧,比我還了解我老婆,這件事情是怎麼做到的呢?

2數據如何昇華為智慧

科普文:雲計算、大數據和人工智能(四)

數據的處理分幾個步驟,完成了才最後會有智慧。

第一個步驟叫數據的收集。首先得有數據,數據的收集有兩個方式:

第一個方式是拿,專業點的說法叫抓取或者爬取。例如搜索引擎就是這麼做的:它把網上的所有的信息都下載到它的數據中心,然後你一搜才能搜出來。比如你去搜索的時候,結果會是一個列表,這個列表為什麼會在搜索引擎的公司裡面?就是因為他把數據都拿下來了,但是你一點鏈接,點出來這個網站就不在搜索引擎它們公司了。比如說新浪有個新聞,你拿百度搜出來,你不點的時候,那一頁在百度數據中心,一點出來的網頁就是在新浪的數據中心了。

第二個方式是推送,有很多終端可以幫我收集數據。比如說小米手環,可以將你每天跑步的數據,心跳的數據,睡眠的數據都上傳到數據中心裡面。

第二個步驟是數據的傳輸。一般會通過隊列方式進行,因為數據量實在是太大了,數據必須經過處理才會有用。可系統處理不過來,只好排好隊,慢慢處理。

第三個步驟是數據的存儲。現在數據就是金錢,掌握了數據就相當於掌握了錢。要不然網站怎麼知道你想買什麼?就是因為它有你歷史的交易的數據,這個信息可不能給別人,十分寶貴,所以需要存儲下來。

第四個步驟是數據的處理和分析。上面存儲的數據是原始數據,原始數據多是雜亂無章的,有很多垃圾數據在裡面,因而需要清洗和過濾,得到一些高質量的數據。對於高質量的數據,就可以進行分析,從而對數據進行分類,或者發現數據之間的相互關係,得到知識。

比如盛傳的沃爾瑪超市的啤酒和尿布的故事,就是通過對人們的購買數據進行分析,發現了男人一般買尿布的時候,會同時購買啤酒,這樣就發現了啤酒和尿布之間的相互關係,獲得知識,然後應用到實踐中,將啤酒和尿布的櫃檯弄的很近,就獲得了智慧。

第五個步驟是對於數據的檢索和挖掘。檢索就是搜索,所謂外事不決問Google,內事不決問百度。內外兩大搜索引擎都是將分析後的數據放入搜索引擎,因此人們想尋找信息的時候,一搜就有了。

另外就是挖掘,僅僅搜索出來已經不能滿足人們的要求了,還需要從信息中挖掘出相互的關係。比如財經搜索,當搜索某個公司股票的時候,該公司的高管是不是也應該被挖掘出來呢?如果僅僅搜索出這個公司的股票發現漲的特別好,於是你就去買了,其實其高管發了一個聲明,對股票十分不利,第二天就跌了,這不坑害廣大股民麼?所以通過各種算法挖掘數據中的關係,形成知識庫,十分重要。


分享到:


相關文章: