Cómo las ciudades están implementando tecnologías líderes aprovechando algoritmos de IA imparciales
Implementación de tecnologías líderes en ciudades con algoritmos de IA imparciales
Hoy en día, prácticamente todos los aspectos de nuestras vidas están conectados de alguna manera a una red en línea. Si bien esto ciertamente ha mejorado muchos aspectos de la vida misma, como la forma en que caminamos con dispositivos portátiles que pueden proporcionarnos información en cualquier momento, también plantea ciertos riesgos.
Estos riesgos van más allá del hacking tradicional y las violaciones de datos en nuestras cuentas bancarias, por ejemplo. Más bien, a lo que me refiero aquí es que hoy en día hay tantas partes de nuestras vidas que se ven afectadas por los algoritmos utilizados por la inteligencia artificial (IA). Asumimos que esta IA aprovecha inherentemente algoritmos que están en nuestro mejor interés. Sin embargo, ¿qué sucede cuando entra en estos algoritmos el tipo incorrecto de sesgo? ¿Cómo puede afectar ciertos resultados?
¿Qué sucede cuando los algoritmos sesgados se infiltran en los sistemas de IA?
Para ofrecer otro ejemplo, en YouTube, un algoritmo de IA recomienda casi el 70% de todos los videos, y en plataformas de redes sociales como Instagram y TikTok, el porcentaje es aún mayor. Si bien estos algoritmos de IA pueden ayudar a los usuarios a encontrar contenido en el que estén interesados, plantean graves problemas de privacidad y hay pruebas crecientes de que parte del contenido recomendado que las personas consumen en línea incluso es peligroso debido a la desinformación o tal vez contiene una cierta perspectiva diseñada para influir subliminalmente en el pensamiento político o las creencias de una persona.
La creación de una IA completa y adaptable es un desafío técnico y social complicado, pero de suma importancia.
Es comprensible cómo la IA podría tener un impacto negativo en las normas sociales y los patrones de uso en línea, al tiempo que se enfoca en los efectos positivos de la tecnología. Las fuentes en línea tienen una influencia significativa en nuestra sociedad, y los sesgos en los algoritmos en línea fomentarán injusticias de manera no intencionada, moldearán las creencias de las personas, difundirán información falsa y fomentarán conflictos entre diversos grupos.
- data2vec Un hito en el aprendizaje auto-supervisado
- Una Guía Completa para el Ajuste Fino de Modelos de Lenguaje Grandes
- Distributed Llama 2 en CPUs
Aquí es donde la “mala IA” puede tener consecuencias realmente significativas en lo que respecta a sesgos no deseados o injustos.
Cómo la IA sesgada puede afectar negativamente a las intersecciones de tráfico
Tomemos como ejemplo las intersecciones de tráfico, como un ejemplo más realista. Los largos tiempos de espera en los semáforos están quedando en el pasado gracias a las nuevas tecnologías de IA que se están implementando en los mercados de todo el país. Estas soluciones de Prioridad de Tránsito utilizan datos de tráfico en tiempo real y adaptan las luces para compensar los cambios en los patrones de tráfico, manteniendo el flujo de tráfico y reduciendo la congestión.
Los sistemas utilizan el aprendizaje profundo, donde un programa comprende cuándo no está funcionando bien y prueba una acción diferente, o continúa mejorando cuando avanza.
Suena como una gran idea, ¿verdad? ¿Qué sucede si, con el tiempo, los algoritmos de IA incorporados en la tecnología de los sensores de tráfico comienzan a priorizar a vehículos más caros sobre otros, basándose en algoritmos sesgados que están diseñados para reconocer que las personas que conducen un cierto tipo de vehículo merecen prioridad sobre otros?
Aquí es donde la “mala IA” podría afectar negativamente una parte muy importante de nuestras vidas.
Tomemos, por ejemplo, que estos sistemas de prioridad de tránsito impulsados por IA forman parte de un sistema de Transporte Inteligente más amplio que aprovecha el poder de las tecnologías de vehículos conectados. Los sistemas de Transporte Inteligente son tan buenos como las plataformas de intercambio de datos basadas en la nube en las que operan, y no todas son iguales.
Eliminando el sesgo en los algoritmos de IA
Estas plataformas de intercambio de datos han demostrado ser altamente efectivas, pero solo cuando las ciudades y municipios que supervisan los sistemas de transporte las abren para un intercambio de datos adecuado donde no se permiten algoritmos sesgados. Desafortunadamente, muchas municipalidades siguen atrapadas en contratos con proveedores de hardware y dispositivos que afirman operar bajo una “arquitectura abierta” pero que no están dispuestos a trabajar bajo una plataforma de datos abierta, y estas ciudades se limitan severamente a las verdaderas posibilidades que una plataforma basada en la nube puede ofrecer.
Los sistemas de priorización de tránsito basados en la nube tienen en cuenta la imagen global de un sistema y utilizan el aprendizaje automático centrado en datos imparciales para predecir el momento óptimo para dar luz verde a los vehículos de tránsito en el momento justo. Minimiza la interferencia con rutas cruzadas y al mismo tiempo maximiza la probabilidad de un viaje continuo. Más importante aún, la plataforma basada en la nube agnóstica garantiza que las ciudades aprovechen un sistema actualizado continuamente para maximizar el potencial de tránsito, sin sesgos de fuentes indeseadas.
Con esta tecnología ahora disponible, las ciudades, los desarrolladores y los municipios tienen la tecnología que necesitan para acelerar adecuadamente la implementación de redes de tránsito inteligentes para beneficiar a todos en la región, de manera justa y equitativa.
Regiones como la Ciudad de San José ahora están aprovechando los beneficios de la IA para mejorar la prestación de servicios a sus residentes. A medida que la Ciudad utiliza cada vez más herramientas de IA, es más importante que nunca asegurarse de que esos sistemas de IA sean efectivos y confiables. Al revisar los algoritmos utilizados en sus herramientas, la Oficina de Privacidad Digital (DPO) garantiza que las adquisiciones de tecnología impulsadas por IA de la Ciudad funcionen con precisión, minimicen el sesgo y sean confiables. Cuando un departamento de la Ciudad desea adquirir una herramienta de IA, el DPO sigue procesos de revisión específicos para evaluar los beneficios y riesgos de cualquier sistema de IA.
Para esta región en particular, nos enorgullece unirnos a empresas como Google como uno de los pocos proveedores de IA aprobados para participar en implementaciones tecnológicas a nivel de ciudad debido a algoritmos imparciales. A medida que se sigan desarrollando más tecnologías de IA, será especialmente importante garantizar que se construyan sin ningún algoritmo imparcial en beneficio de un uso verdaderamente justo y equitativo de los servicios municipales locales.
