CollabNet profundo

Con el objetivo de mejorar el aprendizaje de redes neuronales profundas, este trabajo propone la red CollabNet, que consiste en un nuevo método de inserción de nuevas capas ocultas en redes neuronales del tipo Deep FeedForward, inspirado en autocodificadores apilados. La nueva forma de inserción se considera colaborativa y busca mejorar el entrenamiento en relación a los enfoques basados en autocodificadores apilados. En este nuevo enfoque, la inserción de capas se realiza de forma coordinada y gradual, manteniendo bajo control del diseñador la influencia de esta nueva capa en el entrenamiento y ya no de forma aleatoria y estocástica como en el apilamiento tradicional. La colaboración propuesta en este trabajo consiste en hacer que la capa recién insertada continúe el aprendizaje obtenido por las capas anteriores, sin perjudicar el aprendizaje global de la red. De esta forma, la capa recién insertada colabora con las capas anteriores y el conjunto funciona de forma más alineada con el aprendizaje. CollabNet fue probado en una base de datos de un problema real, obteniendo resultados satisfactorios y prometedores.