select_feature_set_knnT_select_feature_set_knnSelectFeatureSetKnnselect_feature_set_knnSelectFeatureSetKnnSelectFeatureSetKnn (Operator)

Name

select_feature_set_knnT_select_feature_set_knnSelectFeatureSetKnnselect_feature_set_knnSelectFeatureSetKnnSelectFeatureSetKnn — Wählt aus einer Liste an Merkmalen eine optimale Untermenge für ein bestimmtes Klassifikationsproblem aus.

Signatur

Beschreibung

select_feature_set_knnselect_feature_set_knnSelectFeatureSetKnnselect_feature_set_knnSelectFeatureSetKnnSelectFeatureSetKnn wählt die optimalen Merkmale für ein bestimmtes Klassifikationsproblem aus. Die Trainingsdaten für das Klassifikationsproblem werden mit ClassTrainDataHandleClassTrainDataHandleClassTrainDataHandleClassTrainDataHandleClassTrainDataHandleclassTrainDataHandle angegeben. Als Klassifikator wird ein k-Nearest-Neighbor-Klassifikator (k-NN) verwendet. Einige Details über den k-NN-Klassifikator können in der Beschreibung von create_class_knncreate_class_knnCreateClassKnncreate_class_knnCreateClassKnnCreateClassKnn nachgelesen werden.

In KNNHandleKNNHandleKNNHandleKNNHandleKNNHandleKNNHandle wird ein Klassifikator zurückgegeben, der mit der resultierenden Merkmalsauswahl parametrisiert und trainiert wurde. Die Merkmalsauswahl wird in SelectedFeatureIndicesSelectedFeatureIndicesSelectedFeatureIndicesSelectedFeatureIndicesSelectedFeatureIndicesselectedFeatureIndices zurückgegeben.

Der Operator kann für folgende Probleme nützlich sein: Es gibt eine Liste von Merkmalen von denen einige wenige für die Lösung eines Problems ausreichen. So kann mit Hilfe dieses Operators eine fundierte Entscheidung getroffen werden welche dieser Merkmale relevant für das gegebene Problem sind. Außerdem können für bestimmte Verfahren der Merkmalsextraktion verschiedene Parametersätze verglichen werden.

Um das Klassifikationsproblem zu definieren, werden dem Handle ClassTrainDataHandleClassTrainDataHandleClassTrainDataHandleClassTrainDataHandleClassTrainDataHandleclassTrainDataHandle Merkmalsvektoren hinzugefügt, die aus einzelnen Untergruppen bestehen. Diese Untergruppen müssen mit Hilfe des Operators set_feature_lengths_class_train_dataset_feature_lengths_class_train_dataSetFeatureLengthsClassTrainDataset_feature_lengths_class_train_dataSetFeatureLengthsClassTrainDataSetFeatureLengthsClassTrainData festgelegt werden. Diese Untergruppen werden dann von dem in select_feature_set_knnselect_feature_set_knnSelectFeatureSetKnnselect_feature_set_knnSelectFeatureSetKnnSelectFeatureSetKnn ausgeführten Selektionsprozess entweder ausgewählt oder abgelehnt, je nachdem ob sie zur Lösung des Klassifikationsproblems beitragen.

Die so definierten Merkmale werden dann in SelectedFeatureIndicesSelectedFeatureIndicesSelectedFeatureIndicesSelectedFeatureIndicesSelectedFeatureIndicesselectedFeatureIndices mit ihrem Index referenziert, außer es wurden zusätzlich Namen beim Aufruf von set_feature_lengths_class_train_dataset_feature_lengths_class_train_dataSetFeatureLengthsClassTrainDataset_feature_lengths_class_train_dataSetFeatureLengthsClassTrainDataSetFeatureLengthsClassTrainData gesetzt. Ist das der Fall, werden statt der Indizes die Namen der ausgewählten Merkmale zurückgegeben. Wurde set_feature_lengths_class_train_dataset_feature_lengths_class_train_dataSetFeatureLengthsClassTrainDataset_feature_lengths_class_train_dataSetFeatureLengthsClassTrainDataSetFeatureLengthsClassTrainData zuvor nicht aufgerufen, werden die einzelnen Spalten als Merkmale interpretiert.

Für den Selektionsprozess können in SelectionMethodSelectionMethodSelectionMethodSelectionMethodSelectionMethodselectionMethod zwei verschiedene Methoden ausgewählt werden: entweder die Greedy-Variante 'greedy'"greedy""greedy""greedy""greedy""greedy" (das momentan erfolgversprechendste Merkmal wird zur Auswahl hinzugefügt) oder die dynamisch oszilierende Suche 'greedy_oscillating'"greedy_oscillating""greedy_oscillating""greedy_oscillating""greedy_oscillating""greedy_oscillating" (Das momentan erfolgversprechendste Merkmal wird zur Auswahl hinzugefügt. Danach wird getestet ob eines der hinzugefügten Merkmale entbehrlich ist.). Während 'greedy'"greedy""greedy""greedy""greedy""greedy" schneller terminiert, kann 'greedy_oscillating'"greedy_oscillating""greedy_oscillating""greedy_oscillating""greedy_oscillating""greedy_oscillating" bessere Ergebnisse erzielen wenn die Dimensionen der Merkmale sehr klein ist oder redundante Daten vorliegen.

Als Optimierungskriterium dient die Klassifikationsrate, die mit einem zweifachen Kreuzvalidierungsverfahren ermittelt wird. Die beste erreichte Klassifikationsrate wird in ScoreScoreScoreScoreScorescore zurückgegeben.

Für diesen Klassifikator können noch folgenden Parameter mit GenParamNamesGenParamNamesGenParamNamesGenParamNamesGenParamNamesgenParamNames und GenParamValuesGenParamValuesGenParamValuesGenParamValuesGenParamValuesgenParamValues eingestellt werden:

'num_neighbors'"num_neighbors""num_neighbors""num_neighbors""num_neighbors""num_neighbors":

Anzahl an Nachbarn die mindestens exakt ermittelt werden um den nächsten Nachbarn zu finden. Dieser Parameter sollte für hochdimensionale Eingaberäume erhöht werden.

Mögliche Werte: '1'"1""1""1""1""1", '2'"2""2""2""2""2", '5'"5""5""5""5""5", '10'"10""10""10""10""10"

Standardwert: '1'"1""1""1""1""1"

'num_trees'"num_trees""num_trees""num_trees""num_trees""num_trees":

Anzahl an Suchbäumen im k-NN-Klassifikator

Mögliche Werte: '1'"1""1""1""1""1", '4'"4""4""4""4""4", '10'"10""10""10""10""10"

Standardwert: '4'"4""4""4""4""4"

Achtung

Die Laufzeit dieses Operators kann mit größeren Datensätzen und einer längeren Merkmalsliste unter Umständen sehr lange sein.

Es ist zu beachten, dass dieser Operator nicht aufgerufen werden sollte, wenn für das Training nur ein kleiner Datensatz verfügbar ist. Auf Grund des Risikos der Überanpassung kann der Operator select_feature_set_knnselect_feature_set_knnSelectFeatureSetKnnselect_feature_set_knnSelectFeatureSetKnnSelectFeatureSetKnn zwar einerseits einen Klassifikator mit sehr hohem Score liefern. Andererseits weist der Klassifikator jedoch eine schlechte Erkennugsrate auf, wenn dieser getestet wird.

Parallelisierung

• Multithreading-Typ: reentrant (läuft parallel zu nicht-exklusiven Operatoren).
• Multithreading-Bereich: global (kann von jedem Thread aufgerufen werden).
• Automatisch parallelisiert auf interner Datenebene.

Dieser Operator liefert ein Handle zurück. Es ist zu beachten, dass der Zustand einer Instanz dieses Handletyps durch bestimmte Operatoren geändert werden kann, obwohl das Handle als Eingabeparameter in diesen Operatoren verwendet wird.

Parameter

Beispiel (HDevelop)

* Find out which of the two features distinguishes two Classes
NameFeature1 := 'Good Feature'
NameFeature2 := 'Bad Feature'
LengthFeature1 := 3
LengthFeature2 := 2
* Create training data
create_class_train_data (LengthFeature1+LengthFeature2,\
  ClassTrainDataHandle)
* Define the features which are in the training data
set_feature_lengths_class_train_data (ClassTrainDataHandle, [LengthFeature1,\
  LengthFeature2], [NameFeature1, NameFeature2])
* Add training data
*                                                         |Feat1| |Feat2|
add_sample_class_train_data (ClassTrainDataHandle, 'row', [1,1,1,  2,1  ], 0)
add_sample_class_train_data (ClassTrainDataHandle, 'row', [2,2,2,  2,1  ], 1)
add_sample_class_train_data (ClassTrainDataHandle, 'row', [1,1,1,  3,4  ], 0)
add_sample_class_train_data (ClassTrainDataHandle, 'row', [2,2,2,  3,4  ], 1)
add_sample_class_train_data (ClassTrainDataHandle, 'row', [0,0,1,  5,6  ], 0)
add_sample_class_train_data (ClassTrainDataHandle, 'row', [2,3,2,  5,6  ], 1)
* Add more data 
* ...
* Select the better feature with the k-NN classifier 
select_feature_set_knn (ClassTrainDataHandle, 'greedy', [], [], KNNHandle,\
  SelectedFeatureKNN, Score)
clear_class_train_data (ClassTrainDataHandle)
* Use the classifier
* ...
clear_class_knn (KNNHandle)

Ergebnis

Sind die Parameterwerte korrekt, dann liefert select_feature_set_knnselect_feature_set_knnSelectFeatureSetKnnselect_feature_set_knnSelectFeatureSetKnnSelectFeatureSetKnn den Wert 2 (H_MSG_TRUE). Gegebenenfalls wird eine Fehlerbehandlung durchgeführt.

Vorgänger

create_class_train_datacreate_class_train_dataCreateClassTrainDatacreate_class_train_dataCreateClassTrainDataCreateClassTrainData, add_sample_class_train_dataadd_sample_class_train_dataAddSampleClassTrainDataadd_sample_class_train_dataAddSampleClassTrainDataAddSampleClassTrainData, set_feature_lengths_class_train_dataset_feature_lengths_class_train_dataSetFeatureLengthsClassTrainDataset_feature_lengths_class_train_dataSetFeatureLengthsClassTrainDataSetFeatureLengthsClassTrainData

Nachfolger

classify_class_knnclassify_class_knnClassifyClassKnnclassify_class_knnClassifyClassKnnClassifyClassKnn

Alternativen

select_feature_set_mlpselect_feature_set_mlpSelectFeatureSetMlpselect_feature_set_mlpSelectFeatureSetMlpSelectFeatureSetMlp, select_feature_set_svmselect_feature_set_svmSelectFeatureSetSvmselect_feature_set_svmSelectFeatureSetSvmSelectFeatureSetSvm, select_feature_set_gmmselect_feature_set_gmmSelectFeatureSetGmmselect_feature_set_gmmSelectFeatureSetGmmSelectFeatureSetGmm

Siehe auch

select_feature_set_trainf_knnselect_feature_set_trainf_knnSelectFeatureSetTrainfKnnselect_feature_set_trainf_knnSelectFeatureSetTrainfKnnSelectFeatureSetTrainfKnn, gray_featuresgray_featuresGrayFeaturesgray_featuresGrayFeaturesGrayFeatures, region_featuresregion_featuresRegionFeaturesregion_featuresRegionFeaturesRegionFeatures

Modul

Foundation