El análisis del rendimiento de predicción del modelo Lasso con regularización dispersa convexa no convexa
Autores: Chen, Wei; Liu, Qiuyue; Li, Hancong; Zou, Jian
Idioma: Inglés
Editor: MDPI
Año: 2025
Acceso abierto
Artículo científico
Categoría
Ingeniería y Tecnología
Subcategoría
Ingeniería de Software
Palabras clave
Regularización
Convexidad
No convexo
Regresión Lasso
Problema de optimización
Algoritmo ADMM
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 61
Citaciones: Sin citaciones
La incorporación de regularización en la regresión Lasso juega un papel crucial al inducir convexidad a la función objetivo, facilitando así su minimización; en comparación con la regularización no convexa, la utilización de regularización introduce sesgo a través de la contracción artificial de coeficientes hacia cero. Recientemente, el marco de regularización convexo no convexo (CNC) ha surgido como una técnica poderosa que permite la incorporación de términos de regularización no convexos manteniendo la convexidad general del problema de optimización. Aunque este método ha mostrado un rendimiento notable en varios estudios empíricos, su comprensión teórica sigue siendo relativamente limitada. En este documento, proporcionamos una investigación teórica sobre el rendimiento de predicción del modelo Lasso con regularización dispersa CNC. Al aprovechar desigualdades de oráculo, establecemos un límite superior más ajustado sobre el rendimiento de predicción en comparación con el regularizador tradicional. Además, proponemos un algoritmo de métodos de multiplicadores de dirección alternos (ADMM) para resolver eficientemente el modelo propuesto y analizar rigurosamente su propiedad de convergencia. Nuestros resultados numéricos, evaluados tanto en datos sintéticos como en tareas de reconstrucción de imágenes de resonancia magnética (MRI) del mundo real, confirman la efectividad superior de nuestro enfoque propuesto.
Descripción
La incorporación de regularización en la regresión Lasso juega un papel crucial al inducir convexidad a la función objetivo, facilitando así su minimización; en comparación con la regularización no convexa, la utilización de regularización introduce sesgo a través de la contracción artificial de coeficientes hacia cero. Recientemente, el marco de regularización convexo no convexo (CNC) ha surgido como una técnica poderosa que permite la incorporación de términos de regularización no convexos manteniendo la convexidad general del problema de optimización. Aunque este método ha mostrado un rendimiento notable en varios estudios empíricos, su comprensión teórica sigue siendo relativamente limitada. En este documento, proporcionamos una investigación teórica sobre el rendimiento de predicción del modelo Lasso con regularización dispersa CNC. Al aprovechar desigualdades de oráculo, establecemos un límite superior más ajustado sobre el rendimiento de predicción en comparación con el regularizador tradicional. Además, proponemos un algoritmo de métodos de multiplicadores de dirección alternos (ADMM) para resolver eficientemente el modelo propuesto y analizar rigurosamente su propiedad de convergencia. Nuestros resultados numéricos, evaluados tanto en datos sintéticos como en tareas de reconstrucción de imágenes de resonancia magnética (MRI) del mundo real, confirman la efectividad superior de nuestro enfoque propuesto.