Cómo funciona el paso de mensajes en Machine Learning parte 2

  • Abstractors: módulos transformadores para el paso de mensajes simbólicos y el razonamiento relacional (arXiv)
  • Autor: Sunday Voices, Taylor Webb, Jonathan Cohen, John Lafferty

    Resumen: Se propone un marco que proyecta el aprendizaje relacional en términos de transformadores, implementando enlaces entre estados sensoriales y estados abstractos con mecanismos relacionales de atención cruzada.

    2. Capacidad de lograr códigos de regresión dispersos a través del paso de mensajes aproximados de vector (arXiv)

    Autor: Yizhou Xu, YuHao Liu, ShanSuo Liang, Tingyi Wu, Bo Bai, Jean Barbier, TianQi Hou

    También te puede interesarAgentes, LLM y respuesta a preguntas de múltiples saltosAgentes, LLM y respuesta a preguntas de múltiples saltos

    Resumen: Los códigos de regresión dispersos (SPARC) son un esquema de codificación prometedor que puede acercarse al límite de Shannon sobre los canales de ruido gaussiano blanco aditivo (AWGN). Trabajos anteriores han demostrado la propiedad de capacidad de logro de los SPARC con matrices de diseño gaussianas. Generalizamos estos resultados a conjuntos invariantes ortogonalmente a la derecha que permiten matrices de diseño más estructuradas. Con el decodificador Vector Aproximate Message Passing (VAMP), demostramos rigurosamente la probabilidad de error decreciente exponencialmente para matrices de diseño que satisfacen un cierto criterio con la asignación de potencia decreciente exponencialmente. Para otros espectros, diseñamos un nuevo esquema de asignación de potencia para mostrar que el umbral teórico de información es alcanzable.

    [post_relacionado id=»1792″]

    Scroll al inicio