Darbā ir nepieciešams atrisināt uzdevumu, kas ir saistīts ar kredītu izsniegšanu. Indukciju sistēmas risināšanai tika izvēlēts C4.5 algoritms. C4.5 algoritms izveido klasifikatora risināšanu koka veidā. Galvenā priekšrocība ir tāda, ka šis algoritms var strādāt ar simboliskiem un skaitliskiem datiem.
C4.5 algoritms ir interesants un efektīvs problēmām, kur dati ir nenoteikti. Risināšanas koku pielietošanas apgabals ir plašs, bet visus uzdevumus var apvienot trijās klasēs: datu aprakstīšana, klasifikācija un regresēja.
Risināšanas koki ļauj glabāt informāciju par datiem kompaktā formā, tā vietā var saglabāt risināšanas koku, kas satur precīzu objektu aprakstu.
Risināšanas koki izcili tiek galā ar klasifikācijas uzdevumiem, pareizi klasificē objekta piederību vienai no zināmām klasēm. Mērķa mainīgais vienmēr ir diskrēts lielums.
Ja mērķa mainīgais ir nepārtraukta vērtība, risināšanas koki ļauj definēt mērķa mainīgā atkarību no neatkarīgiem mainīgajiem.
Darbā tiek apskatīta datu bāze “Kredītu izsniegšana”. Ir nepieciešams izveidot optimālu klasifikatoru, kas ar iespējami mazāku kļūdu skaitu, pareģos klasi. Mūsu gadījumā tas dos atbildi par kredīta izsniegšanas piekrišanu vai atteikumu kādam cilvēkam. pēc tā esošās informācijas vērtībām. Datu bāze satur sevī 400 objektu, kuri piedalīsies apmācības kopā un 290 objekti, kuri testēs iegūto klasifikatoru drošumu.
Objektu informācija ir slepena un, lai tā paliktu konfidenciāla, tiek aizvietota ar simboliem. Pētīšana ir interesanta ar to, ka dati ir reāli un pazīmes vērtības satur sevī kā nezināmus, tā arī neadekvātus datus. Ir skaitliski lieli un mazi nominālie dati.
Pazīmju skaits ir 15 un viens atribūts apraksta klasi. Mērķa mainīgais atribūts var pieņemt divas vērtības [+ - kredītu izsniegšanas piekrišana;- - kredītu izsniegšanas nepiekrišana].
Darba uzdevums satur sevī problēmu pareģot objekta piederību klasei ,pēc tās pazīmju vērtības. Uzdevumu var sadalīt sekojošos etapos:
Atribūtu apraksts. Datiem, kuri ir nepieciešami algoritma darbībai, jābūt atspoguļotiem tabulas veidā. Visai informācijai, no priekšmeta apgabala, par objektiem, jābūt aprakstītiem galīgā pazīmes kopas veidā (tālāk atribūti). Katram atribūtam ir jābūt diskrētai vai skaitliskai vērtībai. Pats atribūts nedrīkst mainīties no piemēra pie piemēra, un atribūtu daudzumam jābūt fiksētam visos piemēros.
Noteiktas klases. Katram piemēram, jābūt asociētam ar konkrēto klasi, tas nozīmē, ka vienam no atribūtiem ir jābūt izvēlētam kā klases iezīmei.
Diskrētas klases. Klasēm jābūt diskrētām, tas nozīmē, ka tām ir jābūt galīgo vērtību skaitam. Katram piemēram viennozīmīgi jāpieder konkrētai klasei. Situācijas, kad piemēri pieder pie klases ar varbūtības novērtējumiem, izslēgtas. Klases daudzumam jābūt ievērojami lielākam par piemēra daudzumu [www. basegroup.ru].
Darbā tiek apskatītās dažādas metodes, situācijas un problēmas, kādas var rasties risināšanas koka izveidošanas laikā. Lai atspoguļotu risināšanas un izveidošanas soļus tiks izmantota neliela apmācības kopa (sk. Tabulā 1), visu metožu pielietošana būs pamatota uz dotajiem datiem.
1. klasifikatora izveidošana
Koka izveidošanas process notiek no augšas uz leju. Vispirms tiek izveidota koka sakne, pēc tam saknes pēcteči utt. Pirmajā solī koks ir tukšs (ir tikai sakne) un sākuma kopa T (asociēta ar sakni). Ir nepieciešams sadalīt sākuma kopu uz apakškopām. To var izdarīt izvēloties vienu no atribūtiem pārbaudei. Tad sadalīšanas rezultātā tiek iegūti n (pēc atribūta vērtības skaita) apakškopas, un, attiecīgi tiek izveidoti n koka pēcteči, katram no tiem uzstādīta attiecīgi sava apakškopa, kas tiek iegūta kopas T sadalīšanas laikā. Pēc tam šī procedūra rekursīvi tiek pielietota visām apakškopām (koka pēctečiem) utt.
2. uzlabotais kritērijs
Kritērijam ir viens trūkums – tas dod priekšroku atribūtam, kuram ir daudz vērtības. Apskatīsim medicīnas diagnostiskai hipotētisko uzdevumu, kur viens no atribūtiem identificē pacienta personību. Tā kā šīs atribūta vērtības ir unikālas, tad piemēru kopas sadalīšana pēc šī atribūta dod piemēru apakškopās, kuras satur tikai vienu piemēru. Tā kā visas šis kopas ir vienpiemēra, tad attiecīgi piemērs pieder vienai klasei, tad:
Tas nozīme, ka kritērijs pieņem maksimālo vērtību, un tieši šo atribūtu izvēlas algoritms. Bet, ja apskatām šo jautājumu no izkonstruēta modeļa efektivitātes puses, tad ir redzama visa šī modeļa bezjēdzība, bet tomēr tādu gadījumu ir nepieciešams atzīmēt.
Problēma tiek risināta ar kaut kādu normalizāciju ievadīšanu. Lai ziņojuma informācijas jēga, kas attiecas piemēram, norādīs ne uz klasi, kuram pieder piemērs, bet uz izeju.…
