Modelos de integración de información multimodal en cnn para el análisis de imagen satelital en entornos urbanos

Attribution-NonCommercial 4.0 International (CC BY-NC 4.0)Ramos Pollan, RaulNuñez, Luis AlbertoRueda Plata, Diego Alexander2024-03-0420202024-03-0420202020https://noesis.uis.edu.co/handle/20.500.14071/40506El aprendizaje multimodal ofrece la posibilidad de capturar correspondencias entre modalidades y obtener una mayor generalización de la problemática analizada. Una modalidad se refiere a la forma en que los datos son percibidos, audio, imágenes o datos estructurados. Este proyecto aborda el análisis de la inyección de datos multimodales en el entrenamiento de arquitecturas pre-entrenadas de redes neuronales para la identificación de tipologías estructurales en edificios residenciales. Se utiliza un conjunto de imágenes obtenidas por exploración remota mediante StreetView en el área urbana de Medellín, cada una de las entradas en el dataset incluye el registro del número de pisos, las coordenadas de latitud y longitud y el estrato del edificio. Usando sólo imágenes se realiza un entrenamiento de diferentes arquitecturas convolucionales para establecer una base de resultados. Seguidamente, un perceptrón multicapa recibe como entrada datos en otra modalidad existentes por cada edificio, y se entrena simultáneamente con las mismas arquitecturas definidas, los vectores finales de características de estas dos redes son concatenados para producir una salida conjunta. Posteriormente, se usan métricas de clasificación para modelos de aprendizaje de máquinas y demostramos el impacto positivo de incluir información bajo otra modalidad, particularmente en clases poco representadas en el dataset, sin embargo se muestran las limitaciones y un tiempo de entrenamiento mayor bajo redes multimodales.application/pdfspahttp://creativecommons.org/licenses/by/4.0/Redes convolucionalesDatos multimodalesDeep learningInteligencia artificial.Modelos de integración de información multimodal en cnn para el análisis de imagen satelital en entornos urbanosUniversidad Industrial de SantanderTesis/Trabajo de grado - Monografía - MaestriaUniversidad Industrial de Santanderhttps://noesis.uis.edu.coConvolutional networksMultimodal dataDeep learningMachine learning.Multimodal information integration models on CNN for satelital image analysis in urban environments.info:eu-repo/semantics/openAccessAtribución-NoComercial-SinDerivadas 4.0 Internacional (CC BY-NC-ND 4.0)