- 基于GP算法的知識發(fā)現(xiàn)系統(tǒng) 推薦度：
- 相關(guān)推薦
基于GP算法的知識發(fā)現(xiàn)系統(tǒng)
基于GP算法的知識發(fā)現(xiàn)系統(tǒng)
摘 要 本文提出了一個新的知識發(fā)現(xiàn)系統(tǒng)。該系統(tǒng)以遺傳編程算法為核心，解決發(fā)現(xiàn)一組屬于面向?qū)ο髷?shù)據(jù)庫的對象所具有的共性問題。本文對系統(tǒng)作了扼要的說明，對GP算法進行了描述，并給出了一個實驗例子。
關(guān)鍵詞 進化計算 遺傳編程 知識發(fā)掘
在數(shù)據(jù)庫中發(fā)現(xiàn)有用的知識是數(shù)據(jù)挖掘（Data Mining, DM）的主要任務(wù)，在一定的情況下，所有的數(shù)據(jù)庫查詢可以認為是完成這項任務(wù)。我們現(xiàn)在有一套分析和探索數(shù)據(jù)的工具：SQL查詢、OLAP和數(shù)據(jù)挖掘技術(shù)。SQL查詢由關(guān)系代數(shù)所構(gòu)成；OLAP提供了建立在多維數(shù)據(jù)模型基礎(chǔ)上的高水平查詢；而數(shù)據(jù)挖掘提供了最抽象的數(shù)據(jù)分析操作。我們可以認為不同的數(shù)據(jù)挖掘任務(wù)是在高水平上的復(fù)雜查詢。數(shù)據(jù)挖掘是機器學習和數(shù)據(jù)庫技術(shù)的交叉學科，DM系統(tǒng)的主要特點是：在數(shù)據(jù)庫中發(fā)現(xiàn)能夠用某些規(guī)則表述的、隱含的知識；與數(shù)據(jù)庫是緊密集成的；高度自動化的；對知識發(fā)現(xiàn)的處理是有效率的（尤其對大型數(shù)據(jù)庫）。
這里我們給出一種基于GP（Genetic Programming，遺傳編程）算法的知識發(fā)現(xiàn)系統(tǒng)，和通常對數(shù)據(jù)庫的查詢不同的是，這個系統(tǒng)可對特定的對象集產(chǎn)生特定的查詢集，系統(tǒng)自動根據(jù)查詢集訪問數(shù)據(jù)庫，從而發(fā)掘出數(shù)據(jù)庫中隱含的知識。本文將對上述知識發(fā)掘過程進行詳細描述，并提出了一種用遺傳編程（GP）來進行數(shù)據(jù)挖掘的方法，GP個體由數(shù)據(jù)庫查詢組成，而這些查詢代表了高水平上的規(guī)則。
1 系統(tǒng)基本結(jié)構(gòu)
我們在[1]文給出的知識發(fā)現(xiàn)系統(tǒng)結(jié)構(gòu)基礎(chǔ)上加以改進，給出如圖1的基于GP算法的知識發(fā)現(xiàn)系統(tǒng)。
1．1 系統(tǒng)結(jié)構(gòu)描述
整個系統(tǒng)由GP引擎、OODBMS（Object-Oriented Database Management System,面向?qū)ο髷?shù)據(jù)庫管理系統(tǒng)）、知識庫、DB接口和用戶接口組成。系統(tǒng)以一組對象、領(lǐng)域知識和模式信息作為輸入。根據(jù)所給輸入，GP引擎將產(chǎn)生許多隨機的查詢，系統(tǒng)將這些查詢應(yīng)用于OODBMS，OODBMS將返回其結(jié)果。系統(tǒng)用給定的輸入對該返回結(jié)果進行評價，評價是計算個體查詢的適應(yīng)值的過程。那些能夠匹配所給對象集的查詢或查詢集將被選中，在沒有查詢能夠匹配所給對象集時，那么其最好的查詢將被選中。最后，將能夠最好地描述所給對象集特性的查詢作為輸出。
1．2 面向?qū)ο蟮臄?shù)據(jù)庫
這里，我們假定一個基于面向?qū)ο蠛秃瘮?shù)的數(shù)據(jù)庫模型（Object-Oriented and Functional Data Model, OOFDM），OOFDM具有面向?qū)ο蠛秃瘮?shù)數(shù)據(jù)模式的特性。這種模型要比傳統(tǒng)的關(guān)系數(shù)據(jù)庫模型在表達知識時更加逼近和容易。OOFDM的基本概念是"將感知到的真實世界作為相互關(guān)系對象的變量，并從不同的更細的層次上觀察這些對象。"[2]函數(shù)數(shù)據(jù)模型可以簡單地借助函數(shù)的數(shù)學符號來表示數(shù)據(jù)間的關(guān)系。每個類（或?qū)嶓w集）有自己的屬性和值，類與屬性間的關(guān)系是將類中的對象集映射到屬性域的一個函數(shù)。關(guān)系或逆關(guān)系組成了類間的連接。
1．3 查詢算子
我們使用下列查詢算子作為其面向?qū)ο髷?shù)據(jù)庫的查詢語言。
①SEL C-1 [(謂詞)] 該算子選擇所有屬于C-1且滿足謂詞的對象。C-1既可以是一個類名也可以是一個屬于C-1的查詢。謂詞是一個可選項。如果在這個算子里沒有謂詞，它將選擇該類中的所有對象。
②RES C-1 謂詞 該算子根據(jù)所給謂詞，限制給定集合的對象與另一個類的對象關(guān)聯(lián)。C-1和謂詞同SEL算子，但對于RES的謂詞屬性必須是關(guān)系型的屬性，而對于SEL算子謂詞屬性則必須是非關(guān)系型屬性。
③REL C-1 R-r Class-2 該算子選擇所有C-1中與C-2中對象有關(guān)聯(lián)的對象。這是一個通過R-r 將一個類C-1與另一個類C-2關(guān)聯(lián)起來的關(guān)系算子。R-r可以是一個通過C-1中定義的關(guān)系集中的關(guān)系屬性之一。C-1既可以是一個類名也可以是一個屬于C-1的查詢。C-2必須是一個類名或是一個屬于C-2的查詢，并且通過R-r關(guān)聯(lián)到另一個類C-1。
④G-REL C-1 R-r C-2 該算子是REL的逆算子，它選擇所有C-2中與C-1中對象有關(guān)聯(lián)的對象。C-1、C-2以及R-r的意義同REL算子。
2 GP算法
遺傳編程（GP）屬于進化計算（Evolutionary Computation，EC）模型的一種。EC是一種借鑒自然界進化機制而產(chǎn)生的并行隨機搜索算法。進化算法的基本原理是選擇和改變，它區(qū)別于其他搜索方法有兩個顯著特征：首先這些算法都是基于種群（population）的；其次在種群中個體（indvidual）之間存在競爭。
為搜索特定的（感興趣的）查詢需要一種工具，這種工具可智能生成一組查詢并以它們是否能導(dǎo)出與用戶給定的同樣的對象集來進行評價。GP算法對這一類問題是很實用的。
2．1 函數(shù)集與端點集
一般GP中可生成的程序集是使用者定義的函數(shù)集和端點集。表1給出了相應(yīng)的函數(shù)集和端點集，其中函數(shù)集由1.3中定義的查詢算子、邏輯運算算子以及比較算子所組成。
表1 函數(shù)集和端點集
在我們的應(yīng)用中還有一些具有不同句法的查詢算子。每個算子具有不同的句法且假定的數(shù)據(jù)庫是面向?qū)ο蟮�。因此，它具有為�?chuàng)建個體而使用的特別的函數(shù)集（或算子集）和端點集。從而，構(gòu)成種群的所有個體的創(chuàng)建必然受到每個算子的約束[3]。約束可以是算子的句法和查詢的類型，或者是為創(chuàng)建查詢選擇適當屬性值的領(lǐng)域知識。比較算子和邏輯算子只使用于查詢的謂詞。當比較符號操作數(shù)時，僅使用'='。
端點集由CLASS-SET、SLOT-SET和VALUE-SET組成。CLASS-SET由1.2中定義的類名組成，SLOT-SET由每個類的所有屬性構(gòu)成，VALUE-SET由數(shù)值和符號值所構(gòu)成（它們均為屬性值）。數(shù)值由整型或?qū)嵭蛿?shù)構(gòu)成，其數(shù)值范圍由所用數(shù)據(jù)庫模式定義。符號值由字符串表示的符號屬性值構(gòu)成。
2．2 創(chuàng)建初始種群
為了創(chuàng)建一個個體（查詢），首先必須確定特定查詢所返回的對象類型。結(jié)果類型被選擇后，從所選類型返回例子的算子集中隨機地選擇一個算子，這個過程對查詢的每個參數(shù)遞歸地進行。最初，那些句法正確的預(yù)定義數(shù)量的查詢被隨機地產(chǎn)生，形成初始種群。
2．3 選擇屬性值
由于可選擇范圍大，要從某個查詢的值集中選擇一個屬性值（數(shù)值或符號常數(shù)）是相當困難的。對于一個范圍為[1，10000]的整數(shù)集，隨機選到一個特定整數(shù)的概率僅為1/10000。而對于符號常數(shù)，則需要很強的背景知識。因此，我們僅就發(fā)生在數(shù)據(jù)庫里的范圍選擇屬性值。
2．4 繁殖新一代種群
每個個體用預(yù)定義的適應(yīng)函數(shù)來進行評價。較適應(yīng)的查詢有較高的概率被選來繁殖新種群，這個過程用三個遺傳算子：選擇、雜交和變異來完成。為了產(chǎn)生下一代，選擇算子根據(jù)個體的適應(yīng)值來選擇個體。我們用一個樹來表示一個查詢，雜交算子用交換兩個父輩的子樹來創(chuàng)建兩個后代。變異算子用一個新的子樹來代替一個父輩的子樹，從而產(chǎn)生一個新的后代。選擇-雜交-變異循環(huán)反復(fù)地進行直到終止標準被滿足。
2．5 評價（適應(yīng)函數(shù)測量）
我們使用如下的適應(yīng)函數(shù)f來評價種群中的個體查詢i ：
f ( ni , hi ) = T - ( hi * hi ) / ni ,
其中：ni > 0 ， T ≥ hi ， 且 i = 1 ，2 ，… ，種群的大�。═是被確定的對象集的勢，hi是一個個體查詢i 被選中的次數(shù)，ni是查詢 i 結(jié)果集的勢）。
上述適應(yīng)函數(shù)依賴于hi和ni ，如果一個查詢沒有被選中（hi=0），則函數(shù)的值為T，這是最差的一個適應(yīng)值。另一方面，如果查詢結(jié)果能夠很好地匹配提交給系統(tǒng)的對象集，那么它的適應(yīng)值為0（在這種情況下hi = ni = T ）。如果種群中出現(xiàn)個體適應(yīng)值遠遠超過種群平均適應(yīng)值，該個體很快就會在群體中占有絕對的比例，從而出現(xiàn)過早收斂的現(xiàn)象。另一方面，在搜索過程的后期，群體的平均適應(yīng)值可能會接近群體的最優(yōu)適應(yīng)值，從而導(dǎo)致搜索目標難以得到改善，出現(xiàn)停滯現(xiàn)象[4]。為了防止上述情況的發(fā)生，我們將對一個個體查詢的例子個數(shù) ni 作為分母。
3 一個例子
我們首先給出一個如表2所示的模擬"售后質(zhì)量管理函數(shù)數(shù)據(jù)庫"，用它來代表一個基于OOFDM的面向?qū)ο髷?shù)據(jù)庫，它包含了客戶及其相關(guān)的信息。表3說明了類間的相互聯(lián)系。
表2 售后質(zhì)量管理數(shù)據(jù)庫
類客戶代理商產(chǎn)品維修記錄使用質(zhì)量問題 客戶 + + + 代理商 + 產(chǎn)品 + + + 維修記錄 + 使用 + + 質(zhì)量問題 + +表3 類間的連接表
3．1 問題的提出
根據(jù)質(zhì)量管理部門反映，有兩個客戶反饋的產(chǎn)品質(zhì)量問題較為嚴重，我們希望通過對數(shù)據(jù)庫的查詢來找出這兩個客戶在購買的產(chǎn)品及使用上所具有的共性。
3．2 實驗結(jié)果
在我們的數(shù)據(jù)庫里包含如表2所示的模式組織起來的客戶信息，我們通過用"選擇反
( T = 27 , P = 100 , 代數(shù) = 200 )
映質(zhì)量問題達到或超過3次的客戶"的查詢，即：
（G-REL（RES 產(chǎn)品（≥送交維修 3））購買 by 客戶）
得到27個例子的對象集{"客戶C5"，"客戶B2"，… }。將這個對象集提交給系統(tǒng)，查詢的發(fā)掘過程以100個隨機產(chǎn)生的查詢開始。表2顯示了發(fā)掘出的每一代最好的查詢摘要。fi，hi和ni分別是最佳查詢i的適應(yīng)值、被選中次數(shù)和結(jié)果集的勢，fa為平均標準適應(yīng)值（fa = (∑fi)/P,P是種群的大小，(∑fi)為種群適應(yīng)值的和）。
在第52代時，我們已經(jīng)得到了相當好的結(jié)果。此時，平均適應(yīng)值已由第0代的26.68降到2.85。其最好的查詢被完全選中，查詢可敘述為"選擇反映質(zhì)量問題達到或超過3次的客戶，并且購買的產(chǎn)品的出廠日期為97年11月以后到98年5月以前。"即：
（G-REL
（RES 產(chǎn)品（≥送交維修 3））
購買 by 客戶
（SEL 產(chǎn)品 （OR（< 出廠日期 98年5月）（> 出廠日期 97年11月 ）））
如果不考慮所使用的是模擬數(shù)據(jù)的話，可以說我們已經(jīng)發(fā)現(xiàn)了蘊藏在數(shù)據(jù)庫中的知識了。
4 小結(jié)
本文在知識發(fā)掘系統(tǒng)的框架上引入了GP算法，并以一個實驗例子為背景，說明使用GP算法產(chǎn)生最佳查詢方法的有效性，展示了該系統(tǒng)的應(yīng)用潛力。我們將進一步把該思想導(dǎo)入到關(guān)系型數(shù)據(jù)庫，在實踐中完善系統(tǒng)。
參考文獻
1 李亞非，夏安邦 . 一種新的知識發(fā)現(xiàn)系統(tǒng)架構(gòu) . 東南大學學報 . 1998（6A）: 8~11
2 Gray , Peter M D . Object-Oriented Database/A Semantic Data Model Approach . Englewood Cliff ,NJ. Printice Hall, 1992
3 Koza , John R .Genetic Programming/Automatic Discovery of Reusable Program . Cambridge ,MA. The MIT Press , 1995
4 潘正君，康立山，陳玉屏. 演化計算 .北京：清華大學出版社，1998
【基于GP算法的知識發(fā)現(xiàn)系統(tǒng)】相關(guān)文章：
基于GP算法的知識發(fā)現(xiàn)系統(tǒng)08-06
CCD測量系統(tǒng)中基于自適應(yīng)相關(guān)算法的動態(tài)目標跟蹤08-06
基于DSP的信道譯碼算法優(yōu)化08-06
基于Visual Basic快速開發(fā)現(xiàn)場電視監(jiān)控系統(tǒng)08-06
基于Visual Basic快速開發(fā)現(xiàn)場電視監(jiān)控系統(tǒng)04-12
智能決策支持系統(tǒng)中的知識表示及基于粗集的知識推理08-06
基于SMBus的智能電池系統(tǒng)08-06
基于DSP的自動對焦系統(tǒng)08-06