Trabajar con codificadores automáticos variacionales parte 5 (aprendizaje automático)

Autor: Yoshihiro Osakabe, Akinori Asahara

Resumen: La informática de materiales (MI), que utiliza inteligencia artificial y técnicas de análisis de datos para mejorar la eficiencia del desarrollo de materiales, atrae cada vez más el interés de la industria. Una de sus principales aplicaciones es el rápido desarrollo de nuevos compuestos de alto rendimiento. Recientemente, se han propuesto varios modelos generativos profundos para sugerir compuestos candidatos que se espera que satisfagan el rendimiento deseado. Sin embargo, por lo general tienen el problema de requerir una gran cantidad de conjuntos de datos experimentales para el entrenamiento para lograr la precisión suficiente. En casos reales, a menudo es posible acumular solo alrededor de 1000 datos experimentales como máximo. Por lo tanto, los autores propusieron un modelo generativo profundo con dos codificadores automáticos variacionales anidados (VAEs). El VAE externo aprende las características estructurales de los compuestos utilizando datos públicos a gran escala, mientras que el VAE interno aprende la relación entre las variables latentes del VAE externo y las propiedades de los datos experimentales a pequeña escala. Para generar compuestos de alto rendimiento más allá del rango de los datos de entrenamiento, los autores también propusieron una función de pérdida que amplifica la correlación entre un componente de las variables latentes del VAE interno y las propiedades del material. Los resultados indicaron que esta función de pérdida contribuye a mejorar la probabilidad de generar candidatos de alto desempeño. Además, como resultado de la prueba de verificación con un cliente real en la industria química, se confirmó que el método propuesto es efectivo para reducir el número de experimentos a 1/4 en comparación con un método convencional.

2. Codificador automático variacional consciente de la reconstrucción latente (arXiv)

Autor: Onur Boyar, Ichiro Takeuchi

SIMILARIDAD DE NLP: use incrustaciones de palabras preentrenadas para la búsqueda de similitud semántica con BERT

Resumen: Los codificadores automáticos variacionales (VAE) se han vuelto cada vez más populares en los últimos años debido a su capacidad para generar nuevos objetos, como imágenes y textos, a partir de un conjunto de datos determinado. Esta capacidad ha dado lugar a una amplia gama de aplicaciones. Si bien las tareas estándar a menudo requieren el muestreo de regiones de alta densidad en el espacio latente, también hay tareas que requieren el muestreo de regiones de baja densidad, como Morphing y Latent Space Bayesian Optimization (LS-BO). Estas tareas son cada vez más importantes en campos como el diseño molecular de novo, donde la capacidad de generar compuestos químicos diversos y de alta calidad es fundamental. En este estudio, investigamos el problema de los objetos de baja calidad generados a partir de regiones de baja densidad en VAE. Para abordar este problema, proponemos un nuevo modelo VAE, el VAE consciente de la reconstrucción latente (LRA-VAE). El modelo LRA-VAE tiene en cuenta lo que denominamos Error Latente de Reconstrucción (LRE) de las variables latentes. Evaluamos nuestra propuesta utilizando experimentos Morphing y LS-BO, y mostramos que LRA-VAE puede mejorar la calidad de los objetos generados en comparación con otros enfoques, lo que lo convierte en una solución prometedora para varias tareas de generación que implican el muestreo de regiones de baja densidad.