La última investigación de DeepMind en ICML 2022
Última investigación de DeepMind en ICML 2022.
Allanando el camino para sistemas generalizados con IA más efectiva y eficiente
A partir de este fin de semana, se llevará a cabo la trigésima novena Conferencia Internacional sobre Aprendizaje Automático (ICML 2022) del 17 al 23 de julio de 2022 en el Centro de Convenciones de Baltimore, en Maryland, EE. UU., y se llevará a cabo como un evento híbrido.
Investigadores que trabajan en inteligencia artificial, ciencia de datos, visión artificial, biología computacional, reconocimiento de voz y más, estarán presentando y publicando su trabajo de vanguardia en aprendizaje automático.
Además de patrocinar la conferencia y apoyar talleres y eventos sociales organizados por nuestros socios a largo plazo LatinX, Black in AI, Queer in AI y Women in Machine Learning, nuestros equipos de investigación presentarán 30 artículos, incluyendo 17 colaboraciones externas. A continuación, les presentamos una breve introducción a nuestras presentaciones orales y destacadas próximas:
Aprendizaje por refuerzo efectivo
Hacer que los algoritmos de aprendizaje por refuerzo (RL) sean más efectivos es clave para construir sistemas de IA generalizados. Esto incluye ayudar a aumentar la precisión y velocidad del rendimiento, mejorar el aprendizaje de transferencia y de cero disparo, y reducir los costos computacionales.
En una de nuestras presentaciones orales seleccionadas, mostramos una nueva forma de aplicar la mejora generalizada de políticas (GPI) sobre composiciones de políticas que lo hace aún más efectivo para mejorar el rendimiento de un agente. Otra presentación oral propuso una nueva forma fundamentada y escalable de explorar de manera eficiente sin necesidad de incentivos. En paralelo, proponemos un método para aumentar un agente de RL con un proceso de recuperación basado en la memoria, reduciendo la dependencia del agente de su capacidad de modelo y permitiendo el uso rápido y flexible de experiencias pasadas.
- Perceiver AR generación autoregresiva de propósito general con cont...
- AlphaFold revela la estructura del universo de las proteínas
- Darse cuenta de que los científicos son los verdaderos superhéroes
Progreso en modelos de lenguaje
El lenguaje es una parte fundamental de ser humano. Le da a las personas la capacidad de comunicar pensamientos y conceptos, crear recuerdos y construir entendimiento mutuo. Estudiar aspectos del lenguaje es clave para comprender cómo funciona la inteligencia, tanto en sistemas de IA como en humanos.
Nuestra presentación oral sobre leyes de escalamiento unificadas y nuestro artículo sobre recuperación exploran cómo podríamos construir modelos de lenguaje más grandes de manera más eficiente. Al analizar formas de construir modelos de lenguaje más efectivos, presentamos un nuevo conjunto de datos y una prueba de referencia con StreamingQA que evalúa cómo los modelos se adaptan y olvidan nuevos conocimientos con el tiempo, mientras que nuestro artículo sobre generación narrativa muestra cómo los modelos de lenguaje preentrenados actuales todavía tienen dificultades para crear textos más largos debido a limitaciones de memoria a corto plazo.
Razonamiento algorítmico
El razonamiento algorítmico neuronal es el arte de construir redes neuronales que pueden realizar cálculos algorítmicos. Esta área de investigación en crecimiento tiene un gran potencial para ayudar a adaptar algoritmos conocidos a problemas del mundo real.
Presentamos el punto de referencia CLRS para el razonamiento algorítmico, que evalúa las redes neuronales en la ejecución de una diversa serie de treinta algoritmos clásicos del libro de “Introducción a los Algoritmos”. Asimismo, proponemos un algoritmo general de aprendizaje incremental que adapta la reproducción retrospectiva de experiencias al razonamiento de teoremas automatizado, una herramienta importante para ayudar a los matemáticos a demostrar teoremas complejos. Además, presentamos un marco para la simulación basada en restricciones aprendidas, mostrando cómo los métodos de simulación tradicionales y numéricos se pueden utilizar en simuladores de aprendizaje automático, una dirección significativa y nueva para resolver problemas complejos de simulación en ciencia e ingeniería.
Consulta aquí la gama completa de nuestros trabajos en ICML 2022.
.jpg)
