Método profundo de aprendizaje por transferencia basado en alineación automática de dominios y coincidencia de momentos
Autores: Zhang, Jingui; Meng, Chuangji; Xu, Cunlu; Ma, Jingyong; Su, Wei
Idioma: Inglés
Editor: MDPI
Año: 2022
Acceso abierto
Artículo científico
Categoría
Matemáticas
Subcategoría
Matemáticas generales
Palabras clave
Problema de investigación
Adaptación profunda de dominio
Método paramétrico
Método no paramétrico
Aprendizaje profundo de transferencia
Alineación automática de dominios
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 19
Citaciones: Sin citaciones
La discrepancia de dominio es un problema clave de investigación en el campo de la adaptación profunda de dominio. Dos estrategias principales se utilizan para reducir la discrepancia: el método paramétrico y el método no paramétrico. Ambos métodos han logrado buenos resultados en aplicaciones prácticas. Sin embargo, no se ha realizado investigación sobre si la combinación de ambos métodos puede reducir aún más la discrepancia de dominio. Por lo tanto, en este documento se propone un método de aprendizaje profundo basado en alineación automática de dominio y coincidencia de momentos (DA-MM). Primero, se incrusta una capa de alineación automática de dominio en la parte delantera de cada capa específica del dominio de una estructura de red neuronal para alinear preliminarmente los dominios fuente y objetivo. Luego, se agrega una medida de coincidencia de momentos (como la distancia MMD) entre cada capa específica del dominio para mapear las características del dominio fuente y objetivo producidas por la capa de alineación a un espacio de Hilbert reproducido común. Los resultados de un análisis experimental extenso en varios benchmarks públicos muestran que DA-MM puede reducir la discrepancia de distribución entre los dos dominios y mejorar el rendimiento de la adaptación de dominio.
Descripción
La discrepancia de dominio es un problema clave de investigación en el campo de la adaptación profunda de dominio. Dos estrategias principales se utilizan para reducir la discrepancia: el método paramétrico y el método no paramétrico. Ambos métodos han logrado buenos resultados en aplicaciones prácticas. Sin embargo, no se ha realizado investigación sobre si la combinación de ambos métodos puede reducir aún más la discrepancia de dominio. Por lo tanto, en este documento se propone un método de aprendizaje profundo basado en alineación automática de dominio y coincidencia de momentos (DA-MM). Primero, se incrusta una capa de alineación automática de dominio en la parte delantera de cada capa específica del dominio de una estructura de red neuronal para alinear preliminarmente los dominios fuente y objetivo. Luego, se agrega una medida de coincidencia de momentos (como la distancia MMD) entre cada capa específica del dominio para mapear las características del dominio fuente y objetivo producidas por la capa de alineación a un espacio de Hilbert reproducido común. Los resultados de un análisis experimental extenso en varios benchmarks públicos muestran que DA-MM puede reducir la discrepancia de distribución entre los dos dominios y mejorar el rendimiento de la adaptación de dominio.