“大數據”、“數據分析” 和 “數據挖掘” 忽然變成了熱門的流行詞,不斷形成與發展的新型的生產力和服務推動着人類經濟社會項目的數據形式與規模向着更快、更準的方向發展,這無疑也預示着現代大數據時代正朝着我們推進。大數據是互聯網的bai海量數據挖掘,而數據挖掘更多du是針對內部zhi企業行業小衆化的數據挖掘,數dao據分析就是進行做出針對性的分析和診斷,大數據需要分析的是趨勢和發展,數據挖掘主要發現的是問題和診斷。

那麼應當如何正確、合理地應用現代數據呢?應當如何分析、研究數據資源?這已經逐漸成爲當代人較多關注的問題。所以應首先了解什麼是“大數據”、“數據分析” 和 “數據挖掘”。

大數據(big data)指無法在可承受的時間範圍內用常規軟件工具進行捕捉、管理和處理的數據集合,是需要新處理模式才能具有更強的決策力、洞察發現力和流程優化能力的海量、高增長率和多樣化的信息資產;在維克托·邁爾-舍恩伯格及肯尼斯·庫克耶編寫的《大數據時代》 中大數據指不用隨機分析法(抽樣調查)這樣的捷徑,而採用所有數據進行分析處理。大數據的5V特點(IBM提出):Volume(大量)、Velocity(高速)、Variety(多樣)、Value(價值)Veracity(真實性) 。

數據分析是指用適當的統計分析方法對收集來的大量數據進行分析,提取有用信息和形成結論而對數據加以詳細研究和概括總結的過程。在使用中,數據分析可幫助人們作出判斷,以便採取適當行動。數據分析的數學基礎在20世紀早期就已確立,但直到計算機的出現才使得實際操作成爲可能,並使得數據分析得以推廣,數據分析是數學與計算機科學相結合的產物。

數據挖掘(英語:Datamining)又譯爲資料探勘、數據採礦,它是數據庫知識發現(英語:Knowledge Discoveryin Databases,簡稱:KDD)中的一個步驟。數據挖掘一般是指從大量的數據中通過算法搜索隱藏於其中信息的過程,數據挖掘通常與計算機科學有關,並通過統計、在線分析處理、情報檢索、機器學習、專家系統(依靠過去的經驗法則)和模式識別等諸多方法來實現上述目標。

美國的大數據挖掘分析公司Palantir成立於2004年,該平臺把人工智能算法和強大的引擎(可以同時掃描多個數據庫)整合,可以同時處理大量數據庫,並允許用戶通過多種方式快速瀏覽相關信息。其產品已被美國中情局(CIA)、聯邦調查局(FBI)、海陸空三軍、聯邦檢察官、私人調查機構及其他客戶所使用。

類似CIA和FBI這樣的情報機構有成千上萬個數據庫,並記錄着不同的數據,比如財務數據、DNA樣本、語音資料、錄像片段以及世界各地的地圖。將這些數據建立聯繫需要數年的時間,即便統一在一起,也很難駕馭不同種類的數據,比如說如何關聯銷售數據和監控錄像資料,而Palantir公司所做的就是開發軟件是這一切變得更容易。

Palantir引發了計算機時代的一場革命,它梳理所有可以獲得的數據庫,對相關信息進行確認,並將他們整合起來。Palantir成立之初就獲得CIA基金公司In-Q-Tel的投資,現在成爲了美國情報機關在反恐戰爭不能缺少的工具。Palantir有效地解決了911後對情報工作提出的技術難題:如何從大量的數據中快速獲取有價值的線索,可以說是CIA的反恐祕密武器。

相關文章