第一篇:地理學科大數據在本科教學中的挖掘與學習
地理學科大數據在本科教學中的挖掘與學習
摘要:大數據給地理學科帶來了機遇和挑戰,但是針對地理學科本科教學的大數據挖掘和學習研究相對較少。本文結合大數據概念和地理學科的發展演變,分析了現代地理學的發展趨勢,并對大數據在地理學科中的應用列舉了最優位置選擇、人口流動熱力圖和人口性別比分布三個具體案例,探討了地理學科本科教學大數據挖掘和學習的可能。就地理學科而言,多源對地觀測數據為其變革提供了數據支持,地理學科的多學科交叉為其提供了技術保障,因此,未來在地理學科大數據本科教學中在研究理論基礎的同時,加強案例挖掘和學習,逐步構成了一個成熟的體系。
關鍵詞:地理學科;大數據;挖掘和學習;本科教學
中圖分類號:G642.0 文獻標志碼:A 文章編號:1674-9324(2018)23-0160-03
一、引言
地理學(Geography)作為一門古老的學科發展歷史悠久,曾被譽為科學之母。在人類了解和掌握我們居住的地球發生過的自然現象和人文歷史的時空變化,并在分析自然和人文之間的相互關系中具有重要作用。從地理學演變的歷史過程來看,古代地理學主要研究地球形狀以及其距離大小的測量方法,或對人類居住或活動的區域和國家進行描述,現代地理學已演變為一門涉獵范圍廣泛的學科,大到地球表面的各種現象的時空變化,小到人類居住區的格局分析,等等,因此地理學家需要熟悉多種學科,例如生物學、社會學、地球物理學等。在廣義的學科分類中,地理學一般分為自然地理學、人文地理學和地理信息系統三個分支。其中,自然地理學的研究重點是地貌、土壤等地球表層自然現象和自然災害,土地利用與覆蓋以及生態環境與地理之間的關系;人文地理?W研究的重點是歷史地理學、文化與社會地理學、人口地理學、政治地理學、經濟地理學和城市地理學;地理信息系統則是計算機技術與現代地理學相結合的產物,采用計算機建模和模擬技術實現地理環境與過程的虛擬,以便于對地理現象直觀科學的分析,并提供決策依據。
當今地理學學科內部呈現明顯的破碎化、離心化趨勢,也有學者批評當今地理學面臨著自然地理破碎化、人文地理經濟化與社會化和地理信息科學信息技術化的危機[1,2]。傳統地理學中“區域性”與“綜合性”的學科特色與優勢遭到了忽視與弱化,并且當今地理學面對的科學與社會問題越來越復雜,地球表層系統作為地理學研究的核心對象,受人類活動擾動和改造的影響越來越顯著,地理學科在研究方法或者研究手段上越來越受到其他學科的影響和制約[3,4]。例如在研究沙漠化現象中經常將沙化的原因歸咎于干旱,綜合研究指出沙漠化是因過度放牧、農業過度擴展和毀林造田而加劇的,而沙漠化表征的諸多現象是由其他學科鑒定的,例如過度放牧和農業擴展由農業科學負責,毀林燒柴則由環境科學負責,等等。而地理學在此的任務是調查研究其分布模式、地域配合、聯結各組成部分的網絡以及其相互作用的過程。因此,在研究地球表層系統的過程中跨學科的綜合與協同研究成為地理學未來發展的方向。
“大數據”是自2013年以來興起的一個熱潮,相信在未來的幾十年里,大數據將會是個重要話題,無論是對于個人還是對于國家。大數據的發展會沖擊著許多行業,包括經濟、環保、醫療、旅游等。一時間3V或者4V理論風靡全球,海量、多樣、高速、價值(Volume數量,Velocity速度,Variety種類)這四個詞概括了大數據區別于傳統數據的幾個典型特征。衛星、無人機等測繪手段,為地理學帶來了海量的大數據。大數據是快速數據,通過各種傳感器網絡,甚至可以提供實時亞米級影像。面臨大數據的沖擊,在地理學科中如何應對是亟待深入研究和探討的問題。筆者結合地理學科的傳統研究思路和具體應用,從大數據的挖掘與分析入手,簡要分析了如何在地理學科本科教學中進行大數據的應用挖掘和學習。
二、大數據與地理信息結合
海量數據的分析與應用,使得人們對于數據的要求從精確性的苛求轉向數據的多元性和交叉性的需求。人們對于事物之間相關性的認識比對于事物之間的因果關系更加顯得需求迫切。利用地理數據進行商業選址和消費者分類服務在全球發達國家已經得到了普及,但是在中國尚未得到大范圍的推廣應用[5,6]。精準的地理服務在中國將會有更大的需求和市場,例如肯德基、星巴克等全球連鎖公司等專門成立了商業地理分析團隊,幫助其在中國的店鋪進行選址。另外,可以構建數據分析中心,進行地理數據的深度挖掘,從而尋找對企業有利的信息,提升企業的利潤。例如現在蓬勃發展的物流行業,眾多物流公司均加大對數據分析方面的投入,將大數據作為戰略資源,深度分析客戶需求,進而調整公司的運營策略,在公司戰略規劃、運營模式等方面做出合理部署??梢韵胂笤谖磥恚髷祿粌H會在地理信息行業得到飛速發展,同樣在需要與大數據進行關聯的其他行業應用也會越來越廣泛。
三、案例分析探討
對于地理學科來說,多源對地觀測數據為其學科的變革提供了數據支持,而地理學科的多學科交叉屬性為其提供了技術支撐。未來在地理學科大數據本科教學中在研究理論基礎的同時,加強案例挖掘和學習,逐步構成一個成熟的體系。因此,本文選擇以下三個案例進行了探索,以期為地理學科大數據在本科教學中的挖掘和學習提供一定的借鑒。
1.最優位置選擇。在地理信息具體應用中科學選擇最優位置是現代商業的關鍵所在,只有把對的商品放在對的位置上才能獲取最大的商業利潤。在地理類專業本科教學中可以增加大數據在最優位置選擇的商業案例進行分析。
具體案例:現有一家股份制商業銀行,該銀行需要對未來中國西部某二線省會城市的網點開設方案進行規劃。其要求是網點必須開設在銀行顧客集中的區域,以方便銀行業務的辦理,同時需要避開其他銀行過度競爭的區域來保證本銀行的生存和發展前景。
案例分析:最優位置的選擇是商業地理分析最常見的案例。對于某個特定的地點是否復合商業利益,進行現場調查是傳統的方法也是最笨的方法,但是這種方法耗時耗力,對于面積人口較大的城市選出其中的重點區域,需要大量的人力、物力和財力,憑借小團隊的有限知識遠遠不夠,因此就需要大數據來幫助完成這個任務?;痉桨甘抢迷摮鞘械氖噶康貓D,同時加載信息更多更豐富的經濟、人口等基礎地理數據,借助地理信息系統(GIS)和遙感(RS)來實現定性和定量的分析,可以建立適當的模型幫助我們在合適的城市區域內選擇最優位置。
具體步驟:首先,目的是為了幫助銀行挑選最有利的位置,可以從街道和臨街商鋪以及商業CBD等可能的位置進行初步分析。綜合該城市的市區超過100個接到的常駐和流動人口統計數據、人口的收入數據、受教育程度的數據,包括分區內其他銀行的分布網點位置以及營業年限,其他大型商業聚集區的輻射程度等地理數據,將市區按街道分區重新劃分為核心區、緩沖區和邊緣區三個大類,新設的銀行網點應優先考慮核心區。其次,按照建立的模型對數據進行收集,根據不同街道分區的特征和商業信息的分布與聚集以及?射度進行賦值,最終得到分區的最后得分,根據得分結合該城市市區已建在建/籌建樓宇列表選出網點的最優位置。
2.人口流動熱力圖。2014年春節期間,百度地圖推出了一個基于手機定位可視化數據而制作的國內城市間人口流動實時地圖。春運是短時間內極大規模的人口遷徙行為,而流動人口所攜帶的手機如果開啟了定位功能,那么這些定位數據反饋到計算平臺,就可以相對準確和及時地表現出地圖上任何一個地區人員的遷入與遷出狀況。
案例設計:通過定位數據的分析,可以分析一天內某一地區人口密度的變化。以西安大雁塔地鐵站為例,如果把每一個進出站、開著手機定位的人作為一個標注點,那么點的密度與實際人數成正比。如果把手機定位的海量數據擴大到更大的范圍,比如說一座城市,就可以從中讀出更多的信息,如分析哪個商圈在哪些時間段人流量大等。大數據對于商業區的宏觀規劃以及商家對于店鋪位置的選擇有著重要的參考價值。
案例分析:在當今的信息社會,人們已經習以為常地用電子地圖去查找商場與酒店。利用大數據制作的景區熱力圖,利用得到的實時人流數據,動態地展現人群的分布。而這些實時、動態的地圖可以幫助我們優化空間路線、識別潛在危險等。因此在未來本科教學中,可以從制圖、信息實時集成、使用等角度展開挖掘。當然,要想更加精確、及時地在地圖上呈現出某些信息,除了深度挖掘數據,還需數據分析的模型,對收集和運算的不同數據源進行疊加和融合,進而將深層次的信息準確地呈現和預測出來。
3.人口性別比分布。大數據往往存在不均勻、不規則分布的特征。資源與人口分布的不均衡,使得不同地區的各種指標存在著或大或小的差異。例如,一直困擾我國的男、女比例失調的問題已經影響到社會的穩定和經濟的可持續發展,因此我們可以利用大數據來分析未來人口性別的平衡圖。
案例應用:以往類似的性別比例分布圖已有專家或學者做過,比如有學者利用2000年第五次全國人口普查公布的數據制作了全國人口普查中各區縣1―4歲兒童的男、女比例分布圖,我們可以從中提取某個省份的數據,例如陜西省在1―4歲的人口中,30%的區縣男、女比例超過了1.4,那么17年后現如今的性別比例圖是怎樣的呢?是否可以利用相關的大數據進行分析是此案例分析的要點。
四、討論
地理學經過了漫長的發展歷程,而且地理學研究的領域相當廣泛,上至無窮的太空,下至人類所能探測到的最深的地底,都是地理學的研究范圍,因此,現代地理學的發展往往與多學科交叉,正是這樣一個互相交叉、互相聯系的地理領域構成了一個復雜的系統,這個復雜的系統往往與人們的生活息息相關。隨著大數據概念的提出以及地理大數據的不斷挖掘,需要在地理相關專業本科教學中開展大數據的挖掘和學習[7,8]。當前,地理學科的大數據來源廣泛,包括測繪地理信息數據,比如各類的矢量圖、DEM、多分辨率的遙感影像等對地觀測數據,雖然經過了多年的發展,但是對地理學科大數據的應用和智慧發展仍然有相當大的差距,需要對地理學科的大數據進行更加深入和廣泛地挖掘和學習。
參考文獻:
[1]甄峰,王波.“大數據”熱潮下人文地理學研究的再思考[J].地理研究,2015,34(5):803-811.[2]甄峰,秦蕭,席廣亮.信息時代的地理學與人文地理學創新[J].地理科學,2015,35(1):11-18.[3]吳志峰,柴彥威,黨安榮.地理學碰上“大數據”:熱反應與冷思[J].地理研究,2015,34(12):2207-2221.[4]楊振山,龍瀛,Douay N.大數據對人文――經濟地理學研究的促進與局限[J].地理科學進展,2015,34(4):410-417.[5]秦蕭,甄峰,熊麗芳,等.大數據時代城市時空間行為研究方法[J].地理科學進展,2013,32(9):1352-1451.[6]柴彥威,龍瀛,申悅.大數據在中國智慧城市規劃中的應用探索[J].國際城市規劃,2014,29(6):9-11.[7]DeLyser D,Sui D.Crossing the qualitative-quantitative divide II Inventive approaches to big data,mobile methods,and rhythm analysis[J].Progress in Human Geography,2013,37(2):293-305.[8]Mayer-Schonberger V,Cukier K.Big data:a revolution that will transform how we live,work and think [M].London,UK:John Murray Publishers,2013.
第二篇:關于數據挖掘在出口退稅中的應用
關于數據挖掘在出口退稅中的應用引言
出口貨物退(免)稅,簡稱 出口退稅,其基本含義是一個國家或地區對已報送離境的出口貨物,由稅務機關將其在出口前的生產和流通的各環節已經繳納的國內產品稅、增值稅、營業稅和特別消費稅等間接稅稅款退還給出口企業的一項稅收制度。出口退稅 主要是通過退還出口貨物的國內已納稅款來平衡國內產品的稅收負擔,使本國產品以不含稅成本進入國際市場,與國外產品在同等條件下進行競爭,從而增強競爭能力,擴大出口創匯[1]。
我國從1985年開始,全面地實行了 出口退稅 政策,并從1995年開始全面實行電子化管理,它是全國稅務系統第一個全面推廣應用的稅收管理軟件,是金關工程和金稅工程的一個子系統,在強化出口退稅管理,提高出口退稅工作效率,防范和打擊騙稅上發揮了巨大的作用[2]。但是,目前的出口退稅電子化管理只完成了出口退稅業務的電子化操作,還未在決策的電子化方面取得較大進展。經過十多年的發展,積累了大量涉稅信息,如何將這些“歷史的、靜態的”數據變成動態的、具有分析決策性質的信息已成為當前急需研究的課題[3],數據挖掘技術的出現使這種應用成為現實。出口退稅數據挖掘的目的和基本方法
現行的出口退稅電子化管理主要是通過出口企業把申報退稅的信息通過出口退稅申報系統錄入計算機并生成申報數據,然后再經過出口退稅審核系統把企業申報的出口退稅憑證的電子信息與稅務機關接收到的其他部門(征稅機關、海關 和外管)傳來的憑證信息進行比對,以達到審核出口退稅憑證的合法性和真實性的目的,進而根據比對審核通過的數據進行退稅。可以看出,目前的出口退稅電子化管理只側重了出口退稅的 單證 信息的計算機審核,而對于挖掘審核通過的 單證 信息和各部門傳遞來的電子信息的價值方面存在著很大的不足。隨著金稅二期網絡建設的推動,各省現已基本實現了出口退稅數據的省級大集中[4],這些數據都是各出口退稅部門在日常的業務審核中積累下來的數據,十分寶貴,如何充分發揮其應有的作用,已成為人們研究的熱點。1
數據挖掘的目的就是分析出口企業的出口退稅數據,挖掘這些數據與經濟的內在聯系,全面掌握本地區出口退稅的產品結構、出口的貿易方式、出口產品的地區差異等,對于調整一個地區的產業結構、經濟發展方向以及制定經濟發展戰略有著重要的參考價值;對于稅務機關掌握出口企業的實際生產出口情況,培養稅源,打擊偷稅漏稅和防范出口騙稅等方面有著重要的意義。
對于出口退稅部門在日常的業務審核中積累下來的數據進行挖掘,主要是指在了解和掌握具體納稅人生產經營情況和財務數據的基礎上,對納稅人的稅收經濟關系和稅收繳納狀況進行客觀評價和說明的分析,主要是通過對歷史數據進行縱橫比較分析和邏輯關系稽核來進行挖掘,以指導稅收管理工作。
1)橫向比較分析
橫向比較分析是指同一指標在不同個體、單位、地區之間的比較分析。橫向比較分析最典型的分析例子就是同業稅負分析。受市場均衡作用的影響,同一產品在生產技術工藝、原材料能源消耗方面有相近之處,適用稅收政策有統一的要求,因此反映生產成本費用方面的指標有相同的規律特征??偨Y這種規律特征,以此檢驗個體數據指標的表現,找出差異較大的個體予以預警。
2)縱向比較分析
縱向比較分析或歷史數據分析是指同一個體的同一指標在不同歷史時期的數據比較分析。常用的分析方法有趨勢分析和變動率分析。分析的理論依據是大多情況下企業的生產經營是處于一種相對平穩的狀態,不會出現突然的波動或大起大落現象。因此,如果企業生產能力沒有作大的調整,一般情況下企業各個時期的數據指標彼此接近,不會出現大的差異。如果出現較大差異,應引起主管部門的注意,及時進行相關的納稅評估。
3)數據邏輯關系稽核
受會計核算原理的約束和稅收制度規定的制約,反映納稅人生產經營情況和財務狀況的眾多數據指標之間存在非常嚴謹的、相互依存的邏輯關系。這種邏輯關系決定了企業的納稅申報數據必須滿足企業財務數據相關性的特定要求,檢查這些數據邏輯關系是否吻合,可以鑒別企業申報數據的真實性和合理性,從而發現稅收問題,堵塞征管漏洞。出口退稅數據挖掘的功能
數據挖掘通過預測未來趨勢及行為,做出前攝的、基于知識的決策。數據挖掘的目標是從數據庫中發現隱含的、有意義的知識,主要有以下五類功能:
1)趨勢預測
數據挖掘自動在大型數據庫中尋找預測性信息,以往需要進行大量手工分析的問題如今可以迅速直接由數據本身得出結論。出口退稅數據挖掘的預測趨勢是對納稅人特定稅收指標、經濟指標或稅收經濟關系指標一段時期走勢和趨向的分析和推斷,了解和掌握稅收經濟的發展趨勢,有利于判斷未來出口退稅形勢的好壞,使出口退稅做到心中有數。
趨勢預測的兩個基本要求是說明特定指標的發展方向和變化幅度,基礎分析技術是時間序列分析技術,常用說明指標有變動率和平均變化速度等。
2)關聯分析
數據關聯是數據庫中存在的一類重要的可被發現的知識。若兩個或多個變量的取值之間存在某種規律性,就稱為關聯。關聯可分為簡單關聯、時序關聯、因果關聯。關聯分析的目的是找出數據庫中隱藏的關聯網。有時并不知道數據庫中數據的關聯函數,即使知道也是不確定的,因此關聯分析生成的規則帶有可信度。
在出口退稅評估工作中,可以利用企業財務報表、納稅申報表和出口退稅匯總表等各項數據指標之間的相互邏輯關系進行核算檢查,對于不滿足應有邏輯計算關系的內容,即認為破壞了會計核算或稅款計征關系,均應視為異常做進一步的深入分析。由于企業財務指標和出口退稅申報數據有上百條之多,所以與此相關的邏輯計算關系也會在此基礎上更為豐富和復雜,只有通過關聯分析,才有可能在出口退稅申報環節實現實時的出口退稅評估工作。
3)聚類分析
聚類分析是數理統計的一個分支,是運用事物本身所具有的某種數據特征,遵循“物以類聚”規律進行數據處理,為事物的分類管理提供數據支持的一種分析方法。借用這種方法開展稅收分析,可將具有某種稅收共同特征的事物聚集在一起,使我們更清楚地認識稅收征管工作的分類特征。
聚類分析的基本原理是根據數據指標差異的絕對距離進行分類,結合矩陣分析技術,可以進行多指標的綜合特征分析,為復雜事物的分類提供了一種可行的分析方法。聚類分析的關鍵是找到一組關系密切的相關指標,如退稅增長、稅源增長、退稅變化彈性和出口影響等,均可以利用這一分析技術進行綜合分析和技術處理。
4)差異分析
數據庫中的數據常有一些異常記錄,從數據庫中檢測這些差異很有意義。差異包括很多潛在的知識,如分類中的反常實例、不滿足規則的特例、觀測結果與模型預測值的偏差、量值隨時間的變化等。
差異分析的基本方法是測算不同樣本同一指標的差異程度。差異分析的關鍵是建立評價差異的標準,有了標準才能說明差異的影響程度。表示差異程度可以用絕對值,也可以建立參照系用相對值。應用差異分析開展微觀稅收分析的典型分析案例就是同業稅負分析模型。應用同業稅負分析模型可以測算出各項相關指標的客觀水平和樣本離散狀況,以此為標準比對個別檢驗樣本的具體數值,超出差異允許界限的即為預警對象。
5)波動分析
波動分析是描述稅收事物運行變化平穩性的分析。稅收事物的運行受經濟變化影響、稅收制度規定的約束和現有征管環境制約有其自身客觀的規律。在經濟
運行相對平穩、稅制不變的條件下,稅收事物運行平穩與否,直接反映稅收征管情況的影響作用。因此,開展波動分析,一定程度上可以了解和說明退稅管理的表現,反映退稅管理是否能按稅源的發展變化規律同步開展,監督退稅管理的執行情況。出口退稅數據挖掘的實現
出口退稅數據挖掘應用系統由三部分組成:第一部分是由用戶數據源到中央數據庫的ETL過程;第二部分是根據出口退稅業務模型建立業務智能分析模型;第三部分是面向稅收管理人員進行數據的發布和多維分析工作?;窘Y構如圖1所示。
數據的ETL(Extract-Transform-Load,數據抽取、轉換、裝載)過程采用微軟的SSIS(SQL Server Integration Services)來完成數據預處理階段對于原始數據的轉換、清洗加載過程;中央數據庫采用微軟的SQL Server 2005,SQL Server 2005除了提供一個安全、可靠和高效的數據管理平臺之外,它還是一個企業級數據整合平臺,通過SSIS提供了構建企業級ETL應用程序所需的功能和性能,是一個集成的商業智能平臺,通過Analysis Services提供了統一和集成的商業數據視圖,可被用做所有傳統報表、OLAP分析、關鍵績效指標(KPI)記分卡和數據挖掘的基礎。
SQL Server 2005分析服務提供了數據挖掘服務,支持集成其它個人或者企業的DM算法,并且將DM算法集成的復雜度不斷降低,它主要是基于OLE DB for DM規范,使用靈活。開發人員能夠利用數據挖掘功能開發應用程序,其數據挖掘語言非常類似于SQL,數據挖掘供應者是一個開放系統,因為它是OLE DB的一個部件,數據挖掘服務能夠通過DSO(Decision Support Object)、或ADO可包含在任何用戶應用程序中。將DM算法無縫集成到SQL Server的分析服務中,利用集成的DM算法來構建數據挖掘解決方案是一種理想的方式。
在SQL Server 2005數據挖掘平臺中,創建關系型挖掘模型的語法如下:
Create mining model()using
它類似于建立一個關系表,其中包括輸入、預測屬性,每一個模型與一個數據挖掘算法相關聯。
多維數據分析工具和報表工具使用統一空間模型UDM(Unified Dimensional Model),利用UDM中對業務實體的友好描述、等級導航、多視角、自動平滑 翻譯 為本機語言等功能,可以實現出口退稅數據挖掘過程中所得到的結果集的友好展示。結束語
隨著數據倉庫技術的發展,數據挖掘會越來越發揮其獨到的分析優勢,特別是將挖掘出的新知識通過用基于OLAP的決策支持系統加以驗證、結合,可以更好地為決策者服務。出口退稅管理的電子化系統已經積累了大量的業務數據,可以為數據挖掘提供大量數據,數據倉庫和數據挖掘技術在收稅管理具有廣闊的應用前景。
第三篇:數據挖掘在房地產營銷中的應用
文章摘要:信息資源的分析、整合在房地產行業的競爭中起著越來越重要的作用。數據挖掘作為一種系統地檢查和理解大量數據的工具,能有效地幫助房地產企業從不斷積累與更新的數據中提取有價值的信息。因此,數據挖掘被引入到房地產市場研究領域,并日益受到重視。本文從數據挖掘在房地產行業中的市場研究價值入手,分析了數據挖掘在房地產市場研究尤其是客戶信息中的應用,并加以舉例說明。關鍵詞:數據挖掘 關聯分析 分類
一、房地產行業需要數據挖掘技術的支持
隨著房地產行業競爭的加劇,房地產企業要想在競爭中制勝,必然需要充分的信息支持和準確的市場判斷。房地產行業擁有大量的數據積累,包括行業信息、經濟環境信息、客戶信息等。這些數據是房地產企業市場運作的重要參考。面對快速增長的海量數據收集,企業需要有力的數據分析工具將“豐富的數據”轉換成“有價值的知識”,否則大量的數據將成為“數據豐富,但信息貧乏”的“數據墳墓”。
數據挖掘(Data Mining)是從大量數據中發現潛在關聯、模式,做出預測性分析的有效工具,它是現有的一些人工智能、統計學等技術在數據庫領域中的應用。應用數據挖掘有助于發現業務發展的趨勢,揭示已知的事實,預測未知的結果,并幫助企業分析出解決問題所需要的關鍵因素,使企業處于更有利的競爭位置。
二、數據挖掘在房地產行業的應用
1.數據挖掘的概念
對于企業的海量信息存儲,數據挖掘是一種系統地檢查和理解大量數據的工具。數據挖掘根據預定義的商業目標,對大量的企業數據進行探索和分析,揭示其中隱含的商業規律,并進一步生成相應的分析、預測模型。
數據挖掘發現的是以前未知的、可理解的、可執行的信息,所以也被稱為“知識發現”(Knowledge Discovery in Databases)。與統計分析技術相比,數據挖掘技術能很好地和數據庫技術相結合,而且數據挖掘工具用以發現數據中隱含的商業規律的方法已不局限于統計技術,還包括神經網絡、遺傳算法、自組織圖、神經模糊系統等統計學科以外的方法。數據挖掘發現的“知識”一方面可以用于構建預測模型,另一方面可以被用于豐富統計分析師的背景知識,再被統計分析師應用到數據分析中。
數據挖掘任務一般可以分兩類:描述和預測。描述性挖掘任務刻劃數據庫中數據的一般特性。預測性挖掘任務在當前數據上進行推斷,以進行預測。具體來講,數據挖掘主要用于解決以下幾種不同事情:
(1)關聯分析(Association analysis),是尋找屬性間的相關性。兩種常用的技術是關聯規則和序列模式。關聯規則是尋找在同一事件中出現的不同項的相關性,比如某個住宅項目的目標客戶對該項目各方面評價之間的相關性序列分析尋找的是事件之間時間上的相關性,如對股票漲跌、房地產周期的分析。
(2)分類(Classification)和預測(Prediction)。分類根據某種標準將數據庫記錄分類到許多預先定義好的類別中。例如,將房地產企業客戶根據消費決策模式進行分類;同時可以建立預測模型,給定潛在客戶的收入、職業、家庭構成等個人屬性,預測他們在購房支出;如將房地產企業客戶分為潛在客戶、購買者和實際客戶。分類系統可以產生這樣的規則:“如果客戶可以并且愿意承擔每月2000元的月供,計劃在1年內在某地區買房,那么他/她是一個潛在客戶;如果客戶至少進行過一次業務訪問,那么他/她是一個購買者?!?/p>
(3)聚類(Clustering)是把整個數據庫分成不同的群組。它的目的是要群與群之間差別明顯,而同一群之間的數據盡量相似。聚類與分類不同:分類之前已經知道要把數據分成哪幾類,每個類的性質是什么;聚類則恰恰相反。
(4)演變分析(evolution analysis)描述行為隨時間變化的對象的規律或趨勢,并對其建模。例如,結合人口構成變動趨勢、教育水平發展趨勢、社會經濟發展趨勢進行房地產消費趨向的分析。
(5)描述和可視化(Description and Visualization),對數據進行歸約、概化或圖形描述等。例如,通過空間聚集和近似計算對一些具體的地理位置概化聚類,形成對某區域的形象化描述。
2.數據挖掘的市場研究價值
數據挖掘技術在商業上實際應用十分豐富。應用數據挖掘技術,可以幫助房地產行業找出有價值的信息,十分有助于企業發現商機、制定開發計劃與營銷策略。對于房地產市場研究,數據挖掘可以應用于宏觀經濟形勢研究、市場發展趨勢研究、樓盤供應研究、競爭對手研究、客戶研究。包括但不局限于以下幾個方面:
(1)宏觀經濟形勢研究——1)房地產周期時序分析中的相似搜索:可找出已有房地產周期數據庫中與給定查詢序列最接近的數據序列。比較識別兩個相似時間段間數據系列的主要差異,對房地產市場的宏觀分析很有參考價值。2)宏觀經濟形勢研究——房地產周期一般性因素關聯分析:一般而言,房地產周期是影響不動產收益的一系列因素組成的總體概念。各因素均會對總體房地產周期起決定作用。關聯分析方法可用于幫助發現各因素和房地產周期間的交叉與聯系。
(2)市場發展趨勢研究——1)銷售量的增長與人均可支配收入的回歸分析;2)個人購買與集團購買房地產比重的擬合與分析;3)對房地產銷售波動率的回歸分析。通過對市場總體狀況、市場占有率、發展水平等動態的分析、總結和評價,及時獲得準確數據,輔助經營決策。
(3)樓盤供應研究——地理發展空間的多維分析:綜合人口住房條件及分布、土地利用現狀及政府規劃、交通現狀分布信息,通過聚集及層次化描述,發掘區域內需建立的高檔別墅、高、中、低檔公寓的數量及各自的地理位置和發展計劃。
(4)客戶研究——客戶信息的多維關聯和序列模式分析:關聯分析可在客戶信息中發現客戶的消費行為模式,幫助營銷人員找出影響消費者的機會與方式。
目前,專業市場研究公司對房地產行業的調研主要集中在客戶需求分析方面,并積累了一定的經驗,因此,本文主要探討房地產客戶信息的數據挖掘。
3.數據挖掘在房地產客戶研究中有著廣泛的應用
房地產行業的客戶信息有許多特點,如下圖所示,一方面房地產行業面對的客戶群廣泛,而且客戶的特征描述的結構復雜,另一方面房地產客戶需求的層次不一,且易受外界因素影響,具有多層次性和多變性。
對于復雜、多樣而且擅變的客戶信息,房地產行業客戶信息的數據挖掘有助于識別客戶購買行為,發現客戶購買模式和趨勢。從而,幫助房地產企業改進服務質量,取得更好的客戶關系和滿意程度,設計更好的營銷方案,減少商業成本。根據已有的數據挖掘經驗,數據挖掘在房地產行業的應用可以歸納成以下幾個方面:
4.明確商業目標
三、如何在房地產行業應用數據挖掘技術
應用數據挖掘的首要任務就是明確需要達到什么樣的商業目標,并描述出需要解決的問題。目標的描述應該細化、清楚,以便于選擇合適的挖掘方法,也方便檢測數據挖掘效果,判斷建立的模型的有效性。例如,下列目標是大而空的目標:獲得客戶行為的了解;在數據中發現有用的模型;發現一些有意思得東西。而另外一些目標有較強操作性:發現哪些客戶不受某種促銷手段的影響;找出項目封頂時哪類客戶成交率增加。
5.數據準備
基于數據挖掘的商業目標,提取所需要的數據。為了保證數據的質量,除了對數據進行必要地檢查和修正外,還需要考慮不同源之間數據的一致性問題。
如果數據集包含過多的字段,需采用一定的方法找到對模型輸出影響最大的字段,適當的減少輸入的字段。常用的方法包括:“描述型數據挖掘”、連結分析等。
很多變量如果組合起來(加、減、比率等)會比這些變量自身影響力更大。一些變量如果擴大它的范圍會成為一個非常好的預測變量,比如用一段時間內收入變化情況代替一個單一的收入數據。因此,在數據準備階段需考慮是否創建一些新的變量。
處理缺失數據也是數據準備階段的一個重要工作。有些缺值本身就非常有意義。例如:富有的顧客會忽略“收入”,或者不在乎價格的影響。
6.建立模型
建立模型是一個反復的過程。首先需要選擇適合解決當前問題的模型。對模型的選擇過程可能會啟發對數據的理解并加以修改,甚至改變最初對問題的定義。
一旦選擇了模型的類型及應用的方法,所選擇的模型將決定對數據的預處理工作。例如,神經網絡需要做數據轉換,有些數據挖掘工具可能對輸入數據的格式有特定的限制等。
接下來是建立模型的工作。對于通過數據挖掘建立的模型需要有一定的數據來測試和驗證。對于預測性任務,需通過反復的測試、驗證、訓練,才能不斷提高模型的準確率。
大部分數據挖掘模型不是專為解決某個問題而特制的,模型之間也并不相互排斥。不能說一個問題一定要采用某種模型,別的就不行。例如:Cart決策樹算法、神經網絡既可以用于建立分類樹,也可建立回歸樹。
7.輸出結果的評價和解釋
模型建立好之后,必須評價其結果,解釋其價值。在實際應用中,模型的準確率會隨著應用數據的不同發生變化。但準確度自身并不一定是選擇模型的正確評價方法。對輸出結果的理解需要進一步了解錯誤的類型和由此帶來的相關費用的多少。如果模型每個不同的預測錯誤所需付出的代價(費用)也不同的話,代價最小的模型(而不一定是錯誤率最小的模型)將是較好的選擇。
直接在現實世界中測試模型很重要。先在小范圍內應用,取得測試數據,覺得滿意后再向大范圍推廣。
8.實施
模型在建立并經驗證之后,可以有兩種主要的使用方法。一種是提供給分析人員做參考,由他通過查看和分析這個模型輸出,并做出解釋和方案建議;另一種是把模型應用到不同的數據集上。模型可以用來標示一個事例的類別,給一類客戶打分等,還可以用模型在數據庫中選擇符合特定要求的記錄,以用其他工具做進一步分析。
在應用模型之后,還要不斷監控模型的效果。即使模型的運用很成功,也不能放棄監控。因為事物在不斷發展變化,很可能過一段時間之后,隨著購買方式、消費觀點的變化,模型就不再起作用。因此隨著模型使用時間的增加,要不斷的對模型做重新測試,有時甚至需要更新建立模型。
四、應用舉例:基于客戶分類的關聯分析
1.商業目標
為了更詳盡地了解客戶的消費決策,本案例設計的問題是:“給客戶分類,并了解不同類的客戶有什么特點?”針對此類問題挖掘出的結果可以被用于預測性分析,例如預測客戶最傾向于做出哪種購買行為。2.數據準備
本案例中采用某一時點上的房地產消費者需求抽樣調查,取出描述消費者個人屬性和消費特點的字段。
3.建立模型
(1)對數據進行分類
本案例中由購房者選擇最多五個自己在購房決策過程中比較看重的因素,并以總評分100分為前提給出每個因素的看重程度的評分。
案例得到的抽樣數據顯示,盡管地理位置是影響一個房地產項目定位的重要因素,人們對地理位置的看重程度仍有較大的差異。因此,以客戶對地理位置的關注程度為分類標準,構建了一個簡單的決策樹。決策樹中根據購房者對地理位置的看重程度,將購房者分為:地理位置決定型、地理位置重要參考型、地理位置參考型、地理位置不重要型、地理位置無關型五種類型。下表是應用決策樹得到的客戶分類結果。從各客戶群評分的均值和標準差可以看出,各客戶群具有較好的組內相似性和組間差異性,說明所構建的決策樹的分類結果比較理想,可用于進一步的分析。
(2)關聯分析運用關聯分析的目的是尋找數據庫中值的相關性。本例采用基于興趣度的關聯規則挖掘算法,挖掘每類客戶不同屬性間的相關性。經過挖掘,發現一些值得深入探討的關聯,見下表:
注:a)支持率反映了關聯是否是普遍存在的規律。例如:支持率=5%,表示在1000個客戶中有50個客戶符合關聯規則描述。
b)可信度反映了關聯規則前提成立的條件下結果成例的概率。本例中,可信度=15%可以解釋為,對應的客戶群中有15個人符合關聯規則的描述。
c)興趣度反映了關聯規則中元素的關系的密切程度。興趣度越大于1說明該規則中的元素的關系越密切,該規則的實際利用價值越大。
d)最小支持度閾值、最小可信度和最小興趣度的閾值可以由用戶和領域專家設定。此例中以支持度>3.5%,可信度>15%,興趣度>2為閾值。
上表中列出的關聯規則均有較高的支持率、可信度和興趣度。為了更加準確地挖掘關聯規則。對挖掘出的關聯規則更換因果關系,形成新的關聯規則與之進行對比。如下例:
關聯規則A1:地理位置無關型客戶=≥重視物業管理
支持率=9.7% 可信度=30.3% 興趣度=2.4與
關聯規則B1:重視物業管理 =≥地理位置無關型客戶
支持率=9.7% 可信度=76.9% 興趣度=2.4
對比兩個關聯規則將發現,“重視物業管理的人不關心地理位置”的可能性(76.9%)高于“不關心地理位置的人重視物業管理”的可能性(30.3%)。說明關聯規則B1:重視物業管理=≥地理位置無關型客戶是一條更有意義的關聯規則。
其他被發掘的關聯也可以通過類似的比較,進行深一步的挖掘。在此不再全部做出詳細分析。從本例挖掘出的信息可以看到,如果僅依賴于已有行業經驗進行統計分析,往往會因為分析人員的主觀性或者數據量太大難以實施而存在信息提取的局限性。而通過數據挖掘得到的信息,一方面能彌補直接應用統計分析時的局限性,開拓分析人員的思維,豐富分析人員的行業背景知識;另一方面可以通過反復的驗證、機器學習建立模型,直接成為分析人員的分析、預測的工具。
需要說明:
a)本案例的目的在于說明數據挖掘算法的應用價值,得到的結果僅供參考,并不作為定論,而且數據挖掘的結果需要由行業內的商業分析人員判斷:是否真的具有意義,是否有進一步分析、探討的價值。也就是說數據挖掘作為信息提取的工具,其輸出是決策分析的參考,不能代替行業內商業分析人員的分析工作。
b)案例中的數據挖掘作為方法應用的探討,如要生成一個可操作的模型工具還需足夠的數據集支持進行測試、驗證、訓練才能不斷提高模型的準確率。
c)本案例中解決問題的方法不是唯一的,可能應用其他的分類手段、分類標準能得到更好的結果。具體方法的應用要取決于實施人員的建模能力、行業經驗。也就是說,數據挖掘對人員有較高的要求。數據挖掘的人員不僅要有良好的統計概念、建模能力,還要懂得基本的商業和行業概念。
五、房地產行業數據挖掘的應用前景
隨著IT/Internet等新技術發展,市場研究在房地產行業的應用已經不再局限于數據采集和簡單的歸納、數據分析。更高的決策服務是建立在更大量的“數據——信息——知識”的基礎上的,因此數據挖掘、商業智能等概念與技術的引入促進了數據挖掘在房地產行業的應用。與此同時,隨著房地產企業數據挖掘應用的深入,數據、數據挖掘的任務和數據挖掘方法的多樣性將給數據挖掘提出了許多挑戰性的課題。例如:
1、應用地理信息系統(GIS)尋求數據挖掘過程中的可視化方法,使得知識發現的過程能夠被用戶理解,也便于在知識發現過程中的人機交互。
2、web挖掘:由于web上存在大量信息,隨著web的發展,有關web內容挖掘、web日志挖掘等網絡上的數據挖掘將成為數據挖掘中一個最為重要和繁榮的應用領域。房地產公司的企業形象宣傳、營銷、客戶維護等工作都將離不開網絡,也必然將需要web挖掘數據支持。
第四篇:淺談數據挖掘技術及其在高等學校教學中的應用教育論文
關鍵詞:數據挖掘 高校教學 教育信息化
摘要:數據挖掘技術目前在商業、金融業等方面都得到了廣泛的應用,而在教育領域應用較少。本文通過時數據挖掘在高校教學中的應用分析,認為數據挖掘技術可以幫助教學人員合理安排教學工作,協助輔導員對學生的管理,對提高學校的教學管理水平起到指導作用。
1引言
隨著12世紀信息化時代的到來,整個社會的信息總量呈幾何級數迅速增長,人們利用信息技術生產和搜集數據的能力大幅度提高,積累的數據越來越多,但缺乏挖掘數據中隱藏知識的手段,導致了“數據爆炸但知識貧乏”的現象。隨著數據庫技術的成熟和數據應用的普及,在過去的若干年中,人們積累了大量的數據資料,但數據庫中隱藏豐富的知識及有價值信息遠遠沒有得到充分地發掘和利用,隨著數據量以指數速度激增,人們渴求從數據汪洋中出現一個去粗存精、去偽存真的技術,越來越希望系統能夠提供更高層次的數據分析功能,從中找出規律和模式,幫助決策者發現數據間重要但被忽略的因素,從而更好地支持決策或科研工作。正是為了滿足這種要求,從數據庫中發現知識(KDD)及其核心技術—數據挖掘技術應運而生。
2數據挖掘介紹
2.1概念及其特點
數據挖掘(DtaaMniing)是指從大量的、不完全的、有噪聲的、模糊的、隨機的數據中,提取隱含在其中的,人們事先不知道的但又潛在有用的信息和知識的過程,提取的知識表示為概念、規則、模式等。根據數據挖掘的目標,采用人工智能、集合論、統計學等方法,應用相應的數據挖掘算法,分析數據并通過可視化工具表述所獲得的模式或規則。
數據挖掘有以下特點:(1)能發現反映系統局部特征和規律的模型;(2)自動趨勢預測,能發現“新”的知識;(3)比較容易獲得很多規則,并能及時更新。數據挖掘方法具有開放性思維方法,它可以及時借鑒和引用模型法的很多成果,比如神經網絡、粗糙集、樸素貝葉斯算法等方法都已被利用在數據挖掘方法中。
2.2數據挖掘目的及其過程
2.2.1目的數據挖掘期望發現的知識有如下幾類:(1)反映同類事物共同性質的泛化知識;(2)反映一事物和其他事物之間依賴或關聯的關聯型知識;(3)分類、聚類知識,是反映同類事物共同性質的特征型知識和不同事物之間的差異型知識;(4)根據歷史和當前的數據推測未來的預測型知識。
2.2.2挖掘的過程
挖掘過程是從大型庫中挖掘未知的、有效的、可實用的信息,并使用這些信息做出決策。通??梢苑譃闇蕚?、數據挖掘、評價階段以及運用階段等四個階段。
(1)數據準備階段。數據準備階段是消除數據噪聲和與挖掘主題明顯無關的數據,完成對數據的篩選、變換和預處理。經處理過的數據一般存儲在數據倉庫中。數據準備是否做得充分將影響到數據挖掘的效率和準確度以及最終模式的有效性。包括:①數據的選擇:選擇相關的數據;②數據的預處理:消除噪音、冗余數據;③數據的推測:推算缺失數據;④數據的轉化:離散值數據與連續值數據之間的相互轉換、數據值的分組分類、數據項之間的計算組合等;⑤數據的縮減:減少數據量。
(2)挖掘階段。該階段是數據挖掘的核心步驟,也是技術難點所在。根據數據挖掘的目標,采用人工智能、集合論、統計學等方法,應用相應的數據挖掘算法,分析數據并通過可視化工具表述所獲得的模式或規則。
(3)評價階段。在數據挖掘中得到的模式可能是沒有實際意義或沒有使用價值的,也有可能不能準確反映數據的真實意義,因此需要評估,確定有效的、有用的模式。評估可以根據用戶多年的經驗,有些模式也可以直接用數據來檢驗其準確性。如何將挖掘出的有用知識清楚易懂地提供給教育和管理工作者也是一項非常重要的工作,選擇合適的可視化工具,將結果以關系表或用量化特征規則表示給用戶。
(4)運用階段。用戶理解的、并被認為是符合實際和有價值的模式形成了知識。同時還要對知識進行一致性檢查,解決與以前得到的知識互相沖突、矛盾的地方,使知識得到鞏固。運用知識有兩種方法:一種是只需看知識本身所描述的關系或結果,就可以對決策提供支持;另一種是要求運用知識對新的數據進行分析,由此可能產生新的問題,而需要對知識作進一步的優化。
2.2.3數據挖掘的方法
在數據挖掘算法的理論基礎上,數據挖掘中的常用方法有:①生物學方法,包括人工神經網絡、遺傳算法等;②信息論方法包括決策樹等;③集合論方法包括約略集、模糊集、最鄰近技術等;④統計學方法;⑤可視化技術等方法。數據挖掘的各類算法包括預測模型、關聯規則挖掘算法、分類規則挖掘算法、序列模式分析算法、聚類分析算法、WEB數據挖掘等。
3數據挖掘在高等學校教學中的應用
3.1學生的基本信息
利用數據挖掘技術,比如可以對學生訪問情況進行分析,跟蹤、了解學生出勤情況。還可對學生年齡等個人情況進行分析,了解學生的組成、結構,為合理地安排課程設置提供依據。通過對學生考試情況的分析,并結合出勤情況,可作為考查學生學習的情況,為合理地評估學生綜合素質提供依。對于挖掘出來的規則信息可以利用可視化技術,以圖表或曲線等形式提供給教師,以使教師能充分利用學生的問題資源,從而提高教學質量。另外,數據挖掘可以應用于網上的考試系統,對考生情況和他取得的成績進行挖掘,以幫助教師在以后的教學中更好地讓學生掌握知識。
3.2學生的學習特征
學生特征包括兩個方面:一是學習準備,一是學習風格。學習準備包括初始能力和一般特征兩個方面。學生的初始能力是指學生在學習某一特定的課程內容時,已經具備的有關知識與技能的基礎,以及他們對這些學習內容的認識和態度。學生的一般特征則是指在學習過程中影響學生的心理、生理和社會的特點,包括年齡、性別、年級、認知成熟度、智力才能、學習動機、個人對學習的期望、生活經驗、文化、社會、經濟等背景因素。學生的學習風格與學習活動有著密切的關系。對學生感知不同事物、并對不同事物做出反應這兩方面產生影響的所有心理特征構成了學習風格。
利用數據挖掘功能分析學生特征,并在此基礎上組織學習內容、闡明學習目標、確定教學策略、選擇教學媒體,為學生創造出一個適合其內部條件的外部學習環境,使有效學習發生在每個學生的身上。
3.3預測學生和教師行為發生
管理信息系統中記錄著有關學生與教師在教學中發生的各種教學事故以及典型教學事例等教學運行信息,利用數據挖掘的關聯分析與演變分析等功能,尋找師生各種行為活動之間的內在聯系。如“當存在A,B時可以推出’C,這樣的規則,即當有A行為和B行為發生時,還會有C行為。在教學過程中,如果發現學生或教師已有A,B行為時,馬上可以分析其產生C行為的可能性,及時制定策略促進或制止C行為的發生。
3.4合理設置課程
在學校,學生的課程學習是循序漸進的,而且課程之間有一定的關聯與前后順序關系。在學一門較高級課程之前必須先修一些先行課程,如果先行課程沒有學好,勢必會影響后續課程的學習。另外,同一年級學習同一課程的不同班級,由于授課教師、班級文化的不同,班內學生的總體成績相差有時會很大。利用學校教學數據庫中存放的歷屆學生各門學科的考試成績,結合數據挖掘的關聯分析與時間序列分析等相關功能,就能從這些海量數據中挖掘出有用的信息,幫助分析這些數據之間的相關性、回歸性等性質,得出一些具有價值的規則和信息,最終找到影響學生成績的原因。在此基礎上,對課程設置做出合理安排。
3.5評價學生學習情況
學習評價是教育工作者的重要職責之一。評定學生的學習行為,既對學生起到信息反饋和激發學習動機的作用,又是檢查課程計劃、教學程序以至教學目的的手段,也是考查學生個別差異,便于因材施教的途徑。
特別是對成績管理數據庫進行挖掘,其數據來源于成績管理數據庫,挖掘的任務就是從用戶指定的數據庫中以不同的角度或不同的層次上采掘出一系列的統計結果,如分布情況、關系,對比、顯著性檢驗等,采掘結果用交叉表,特征規則,關聯規則,統計的曲線、圖表等表示,所以采用統計分析方法具有簡單、方便、直觀等優點,最為合適。
因此對學生學習行為和綜合素質進行評價,一般采用模糊論中的模糊綜合評判及模糊聚類的方法,對評價結果采用了對定性和定量指標加權平均算出綜合素質評價得分并排名的方法,而且由于學生綜合素質的評價指標是動態變化的,往往選用動態聚類法對評判結果進行動態聚類分析。
3.6評價教學質里
教學評價是根據教育目標的要求,按一定的規則對教學效果做出描述和確定,是教學各環節中必不可少的一環。教學評價可以通過校園網收集學生對任課教師所講授、輔導課程的意見、評價。有關學生座談意見、學生打分評價、平時各項教學檢查、相應課程期末考試班級成績匯總等都是教學評價的內容,把這些數據要作為教師教授相應課程的檔案數據全部存人數據庫。
利用數據挖掘對數據庫中有關教學的各項評價進行分析處理,可以確定教師的教學內容的范圍和深度是否合適;選擇的教學媒體是否適合所選的教學內容和教學對象;講解的時間是否恰到好處;教學策略是否得當等。從而可以及時的將挖掘出的規則信息反饋給教師,以期更好地提高其教學水平,更好地服務于學生。
4結束語
總之,隨著信息量的急劇增長和對信息提取的更高要求,現在我們很難再依照傳統方法在海量數據中尋找決策的依據,這就必須借助數據挖掘去發掘數據中隱藏的規律或模式,為決策提供更有效的支持。雖然數據挖掘作為一種工具,它永遠也不能替代教師的地位,但是它可以為教師的決策提供科學的依據。數據挖掘技術本身就是人們大量實踐的結晶,它為建立傳統教學中很難獲取或不可能獲取的模型提供了捷徑。
第五篇:數據挖掘技術在客戶關系管理中如何應用畢業論文.
數據挖掘技術在客戶關系管理中如何應用
根據波特的影響企業的利益相關者理論,企業有五個利益相關者,分別是客戶、競爭對手、供應商、分銷商和政府等其他利益相關者。其中,最重要的利益相關者就是客戶。現代企業的競爭優勢不僅體現在產品上,還體現在市場上,誰能獲得更大的市場份額,誰就能在競爭中占據優勢和主動。而對市場份額的爭奪實質上是對客戶的爭奪,因此,企業必須完成從“產品”導向向“客戶”導向的轉變,對企業與客戶發生的各種關系進行管理。進行有效的客戶關系管理,就要通過有效的途徑,從儲存大量客戶信息的數據倉庫中經過深層分析,獲得有利于商業運作,提高企業市場競爭力的有效信息。而實現這些有效性的關鍵技術支持就是數據挖掘,即從海量數據中挖掘出更有價值的潛在信息。正是有了數據挖掘技術的支持,才使得客戶關系管理的理念和目標得以實現,滿足現代電子商務時代的需求和挑戰。
一、客戶關系管理(CRM CRM是一種旨在改善企業與客戶之間關系的新型管理方法。它是企業通過富有意義的交流和溝通,理解并影響客戶行為,最終實現提高客戶獲取、客戶保留、客戶忠誠和客戶創利的目的。它包括的主要內容有客戶識別、客戶關系的建立、客戶保持、客戶流失控制和客戶挽留。通過客戶關系管理能夠提高企業銷售收入,改善企業的服務,提高客戶滿意度,同時能提高員工的生產能力。
二、數據挖掘(DM 數據挖掘(Data Mining,簡稱DM,簡單的講就是從大量數據中挖掘或抽取出知識。數據挖掘概念的定義描述有若干版本。一個通用的定義是從大量的、不
完全的、有噪聲的、模糊的、隨機的實際應用數據中提取人們感興趣的知識,這些知識是隱諱的、事先未知的、潛在有用的信息。
常用的數據挖掘方法有:(1關聯分析。即從給定的數據集中發現頻繁出現的項集模式知識。例如,某商場通過關聯分析,可以找出若干個客戶在本商場購買商品時,哪些商品被購置率較高,進而可以發現數據庫中不同商品的聯系,進而反映客戶的購
買習慣。(2序列模式分析。它與關聯分析相似,其目的也是為了控制挖掘出的數據間的聯系。但序列模式分析的側重點在于分析數據間的前后(因果關系。例如,可以通過分析客戶在購買A商品后,必定(或大部分情況下隨著購買B商品,來發現客戶潛在的購買模式。(3分類分析。是找出一組能夠描述數據集合典型特征的模型,以便能夠分類識別未知數據的歸屬或類別。例如,銀行可以根據客戶的債務水平、收入水平和工作情況,可對給定用戶進行信用風險分析。(4聚類分析。是從給定的數據集中搜索數據對象之間所存在的有價值聯系。在商業上,聚類可以通過顧客數據將顧客信息分組,并對顧客的購買模式進行描述,找出他們的特征,制定針對性的營銷方案。(5孤立點分析。孤立點是數據庫中與數據的一般模式不一致的數據對象,它可能是收集數據的設備出現故障、人為輸入時的輸入錯誤等。孤立點分析就是專門挖掘這些特殊信息的方法。例如,銀行可以利用孤立點分析發現信用卡詐騙,電信部門可以利用孤立點分析發現電話盜用等。
三、數據挖掘在客戶關系管理中的應用 1.進行客戶分類
客戶分類是將大量的客戶分成不同的類別,在每一類別里的客戶具有相似的屬性,而不同類別里的客戶的屬性不同。數據挖掘可以幫助企業進行客戶分類, 針對不同類別的客戶,提供個性化的服務來提高客戶的滿意度,提高現有客戶的價值。細致而可行的客戶分類對企業的經營策略有很大益處。例如,保險公司在長期的保險服務中,積累了很多的數據信息,包括對客戶的服務歷史、對客戶的銷售歷史和收入,以及客戶的人口統計學資料和生活方式等。保險公司必須將這些眾多的信息資源綜合起來,以便在數據庫里建立起一個完整的客戶背景。在客戶背景信息中,大批客戶可能在保險種類、保險年份和保險金額上具有極高的相似性,因而形成了具有共性的客戶群體。經過數據挖掘的聚類分析,可以發現他們的共性,掌握他們的保險理念,提供有針對性的服務,提高保險公司的綜合服務水平,并可以降低業務服務成本,取得更高的收益。
2.進行客戶識別和保留
(1在CRM中,首先應識別潛在客戶,然后將他們轉化為客戶
這時可以采用DM中的分類方法。首先是通過對數據庫中各數據進行分析,從而建立一個描述已知數據集類別或概念的模型,然后對每一個測試樣本,用其已知的類別與學習所獲模型的預測類別做比較,如果一個學習所獲模型的準確率經測試被認可,就可以用這個模型對未來對象進行分類。例如,圖書發行公司利用顧客郵件地址數據庫,給潛在顧客發送用于促銷的新書宣傳冊。該數據庫內容有客戶情況的描述,包括年齡、收入、職業、閱讀偏好、訂購習慣、購書資金、計劃等屬性的描述,顧客被分類為“是”或“否”會成為購買書籍的顧客。當新顧客的信息被輸入到數據庫中時,就對該新顧客的購買傾向進行分類,以決定是否給該顧客發送相應書籍的宣傳手冊。
(2在客戶保留中的應用
客戶識別是獲取新客戶的過程,而客戶保留則是留住老顧客、防止客戶流失 的過程。對企業來說,獲取一個新顧客的成本要比保留一個老顧客的成本高。在保留客戶的過程中,非常重要的一個工作就是要找出顧客流失的原因。例如,某??茖W校的招生人數在逐漸減少,那么就要找出減少的原因,經過廣泛的搜集信息,發現原因在于本學校對技能培訓不夠重視,學生只能學到書本知識,沒有實際的技能,在就業市場上找工作很難。針對這種情況,學校應果斷的抽取資金,購買先進的、有針對性的實驗實訓設備,同時修改教學計劃,加大實驗實訓課時和考核力度,培訓相關專業的教師。
(3對客戶忠誠度進行分析
客戶的忠誠意味著客戶不斷地購買公司的產品或服務。數據挖掘在客戶忠誠度分析中主要是對客戶持久性、牢固性和穩定性進行分析。比如大型超市通過會員的消費信息,如最近一次消費、消費頻率、消費金額三個指標對數據進行分析,可以預測出顧客忠誠度的變化,據此對價格、商品的種類以及銷售策略加以調整和更新,以便留住老顧客,吸引新顧客
(4對客戶盈利能力分析和預測
對于一個企業而言,如果不知道客戶的價值,就很難做出合適的市場策略。不同的客戶對于企業而言,其價值是不同的。研究表明,一個企業的80%的利潤是由只占客戶總數的20%的客戶創造的,這部分客戶就是有價值的優質客戶。為了弄清誰才是有價值的客戶,就需要按照客戶的創利能力來劃分客戶,進而改進客戶關系管理。數據挖掘技術可以用來分析和預測不同市場活動情況下客戶盈利能力的變化,幫助企業制定合適的市場策略。商業銀行一般會利用數據挖掘技術對客戶的資料進行分析,找出對提高企業盈利能力最重要的客戶,進而進行針對性的服務和營銷。
(5交叉銷售和增量銷售
交叉銷售是促使客戶購買尚未使用的產品和服務的營銷手段,目的是可以拓寬企業和客戶間的關系。增量銷售是促使客戶將現有產品和服務升級的銷售活動,目的在于增強企業和客戶的關系。這兩種銷售都是建立在雙贏的基礎上的,客戶因得到更多更好符合其需求的服務而獲益,公司也因銷售增長而獲益。數據挖掘可以采用關聯性模型或預測性模型來預測什么時間會發生什么事件,判斷哪些客戶對交叉銷售和增量銷售很有意向,以達到交叉銷售和增量銷售的目的。例如,保險公司的交叉營銷策略:保險公司對已經購買某險種的客戶推薦其它保險產品和服務。這種策略成功的關鍵是要確保推銷的保險險種是用戶所感興趣的,否則會造成用戶的反感。
四、客戶關系管理應用數據挖掘的步驟 1.需求分析
只有確定需求,才有分析和預測的目標,然后才能提取數據、選擇方法,因此,需求分析是數據挖掘的基礎條件。數據挖掘的實施過程也是圍繞著這個目標進行的。在確定用戶的需求后,應該明確所要解決的問題屬于哪種應用類型,是屬于關聯分析、分類、聚類及預測,還是其他應用。應對現有資源如已有的歷史數據進行評估,確定
是否能夠通過數據挖掘技術來解決用戶的需求,然后將進一步確定數據挖掘的目標和制定數據挖掘的計劃。2.建立數據庫
這是數據挖掘中非常重要也非常復雜的一步。首先,要進行數據收集和集成,其次,要對數據進行描述和整合。數據主要有四個方面的來源:客戶信息、客戶行為、生產系統和其他相關數據。這些數據通過抽取、轉換和裝載,形成數據倉
庫,并通過 OLAP 和報表,將客戶的整體行為結果分析等數據傳遞給數據庫用戶。3.選擇合適的數據挖掘工具 如果從上一步的分析中發現,所要解決的問題能用數據挖掘比較好地完成,那么需要做的第三步就是選擇合適的數據挖掘技術與方法。將所要解決的問題轉 化成一系列數據挖掘的任務。數據挖掘主要有五種任務:分類,估值預測,關聯 規則,聚集,描述。前三種屬于直接的數據挖掘。在直接數據挖掘中,目標是應 用可得到的數據建立模型,用其它可得到的數據來描述感興趣的變量。后兩種屬 于間接數據挖掘。在間接數據挖掘中,沒有單一的目標變量,目標是在所有變量 中發現某些聯系。4.建立模型 建立模型是選擇合適的方法和算法對數據進行分析,得到一個數據挖掘模型 的過程。一個好的模型沒必要與已有數據完全相符,但模型對未來的數據應有較 好的預測。需要仔細考察不同的模型以判斷哪個模型對所需解決的問題最有用。如決策樹模型、聚類模型都是分類模型,它們將一個事件或對象歸類。回歸是通 過具有已知值的變量來預測其它變量的值。時間序列是用變量過去的值來預測未 來的值。這一步是數據挖掘的核心環節。建立模型是一個反復進行的過程,它需 要不斷地改進或更換算法以尋找對目標分析作用最明顯的模型,最后得到一個最 合理、最適用的模型。5.模型評估 為了驗證模型的有效性、可信性和可用性,從而選擇最優的模型,需要對模 型進行評估。我們可以將數據中的一部分用于模型評估,來測試模型的準確性,模型是否容易被理解模型的運行速度、輸入結果的速度、實現代價、復雜度等。模型的建立和檢驗是一個反復的過程,通過這個階段階段的工作,能使數據以用 戶能理解的方式出現,直至找到最優或較優的模型。6.部署和應用 將數據挖掘的知識歸檔和報告給需要的群體,根據數據挖掘發現的知識采取 必要的行動,以及消除與先前知識可能存在的沖突,并將挖掘的知識應用于應用 系統。在模型的應用過程中,也需要不斷地對模型進行評估和檢驗,并做出適當 的調整,以使模型適應不斷變化的環境。參考文獻: [1]羅納德.S.史威福特.客戶關系管理[M].楊東龍譯.北京:中國經濟 出版社,2002 [2]馬剛:客戶關系管理[M]大連:東北財經大學出版社,2008