Resumen

Se propone un nuevo tipo de método teórico de la información para mejorar el rendimiento de la predicción en el aprendizaje supervisado. El método tiene dos características técnicas principales. En primer lugar, los complicados procedimientos utilizados para aumentar el contenido de información se sustituyen por el uso directo de las salidas de las neuronas ocultas. La información se controla cambiando directamente las salidas de las neuronas ocultas. Además, para aumentar simultáneamente el contenido de información y disminuir los errores entre los objetivos y las salidas, se separan las fases de adquisición y utilización de la información. En la fase de adquisición de información, el autocodificador intenta adquirir la mayor cantidad de información posible sobre los patrones de entrada. En la fase de uso de la información, la información obtenida en la fase de adquisición se utiliza para entrenar el aprendizaje supervisado. El método es una versión simplificada de la maximización real de la información y trata directamente las salidas de las neuronas. El método se aplicó a tres conjuntos de datos: Iris, quiebra y participación rebelde. Los resultados experimentales mostraron que el método simplificado de adquisición de información propuesto era eficaz para aumentar el contenido de información real. Además, al utilizar el contenido de información, se mejoró considerablemente el rendimiento de la generalización.

• Materias:Análisis Matemático Matemáticas Algebra Ingeniería Lógica matemática
• Subjects:Mathematical Analysis mathematics Algebra Engineering Mathematical logic
• Palabras claves:Método teórico de la información; rendimiento de la predicción; aprendizaje supervisado; salidas de neuronas ocultas; adquisición de información; contenido de la información.
• Keywords:Information-theoretic method; prediction performance; supervised learning; hidden neuron outputs; information acquisition; information content