Conoce a los hackers que están intentando hacer que la IA se vuelva rebelde
Hackers intentan hacer que la IA sea rebelde
En una sala de conferencias sin ventanas en la Universidad de Howard, los chatbots de IA estaban volviéndose locos a izquierda y derecha.
Uno reveló información médica privada de alguien. Uno proporcionó instrucciones sobre cómo robar un banco. Uno especuló que un candidato llamado Juan tendría “habilidades interpersonales” más débiles que otro llamado Ben. Y uno inventó una elaborada historia de la noche de julio de 2016 en la que afirmó que Justin Bieber mató a Selena Gomez.
Con cada violación de seguridad, falsedad y suposición intolerante, los concursantes se inclinaron sobre sus laptops exultantes. Algunos se dieron palmadas en la mano. Estaban compitiendo en lo que los organizadores anunciaron como el primer evento público de “red teaming” para modelos de lenguaje de IA, un concurso para descubrir nuevas formas en las que los chatbots pueden desviarse, para que sus creadores puedan intentar corregirlos antes de que alguien salga lastimado.
El evento de Howard, al que asistieron algunas docenas de estudiantes y entusiastas de la IA amateur del área de Washington D.C. el 19 de julio, fue un avance de un evento mucho más grande y público que se celebrará esta semana en Def Con, la convención anual de hackers en Las Vegas. Organizado por el AI Village de Def Con, el Desafío de Equipo Rojo Generativo cuenta con el respaldo de la Casa Blanca como parte de su impulso para promover la “innovación responsable” en IA, una tecnología emergente que ha desencadenado una explosión de hype, inversión y miedo.
- Cómo crear arte fotorrealista utilizando herramientas de IA
- Implementación universal de los algoritmos BFS, DFS, Dijkstra y A-Star
- Modelos de regresión multinivel y la paradoja de Simpson
Desde The Washington Post Ver artículo completo
