Poniendo las responsabilidades sociales y éticas de la informática en primer plano.

Placing the social and ethical responsibilities of computing at the forefront.

El Simposio Inaugural SERC convocó a expertos de múltiples disciplinas para explorar los desafíos y oportunidades que surgen con la amplia aplicabilidad de la informática en muchos aspectos de la sociedad.

Left to right: MIT faculty members Simon Johnson, Sarah Williams, Srini Devadas, and Asu Ozdaglar discussed the implications of data and algorithms at the SERC Symposium.

Ha habido un notable aumento en el uso de algoritmos e inteligencia artificial para abordar una amplia gama de problemas y desafíos. Mientras que su adopción, especialmente con el surgimiento de la IA, está reconfigurando casi todos los sectores industriales, disciplinas y áreas de investigación, tales innovaciones a menudo exponen consecuencias inesperadas que involucran nuevas normas, nuevas expectativas y nuevas reglas y leyes.

Para facilitar una comprensión más profunda, las Responsabilidades Sociales y Éticas de la Computación (SERC), una iniciativa transversal en el Colegio de Computación Schwarzman del MIT, recientemente reunió a científicos sociales y humanistas con científicos informáticos, ingenieros y otros docentes de informática para explorar las formas en que la amplia aplicabilidad de algoritmos e IA ha presentado tanto oportunidades como desafíos en muchos aspectos de la sociedad.

“La naturaleza misma de nuestra realidad está cambiando. La IA tiene la capacidad de hacer cosas que hasta hace poco eran exclusivamente el ámbito de la inteligencia humana, cosas que pueden desafiar nuestra comprensión de lo que significa ser humano”, dijo Daniel Huttenlocher, decano del Colegio de Computación Schwarzman del MIT, en su discurso de apertura en el Simposio inaugural de SERC. “Esto plantea preguntas filosóficas, conceptuales y prácticas a una escala no experimentada desde el inicio de la Ilustración. Frente a un cambio tan profundo, necesitamos nuevos mapas conceptuales para navegar el cambio.”

El simposio ofreció una visión de la visión y actividades de SERC tanto en investigación como en educación. “Creemos que nuestra responsabilidad con SERC es educar y equipar a nuestros estudiantes y permitir que nuestro profesorado contribuya al desarrollo y despliegue de tecnología responsable”, dijo Georgia Perakis, profesora William F. Pounds de gestión en la Escuela de Gestión Sloan del MIT, co-decana asociada de SERC y la principal organizadora del simposio. “Estamos aprovechando las muchas fortalezas y la diversidad de disciplinas en todo el MIT y más allá y reuniéndolas para obtener múltiples puntos de vista”.

A través de una sucesión de paneles y sesiones, el simposio profundizó en una variedad de temas relacionados con las dimensiones sociales y éticas de la informática. Además, 37 estudiantes de pregrado y posgrado de una variedad de carreras, incluyendo estudios y planificación urbana, ciencias políticas, matemáticas, biología, ingeniería eléctrica e informática, y ciencias cerebrales y cognitivas, participaron en una sesión de carteles para exhibir su investigación en este espacio, abarcando temas como ética cuántica, colusión de IA en los mercados de almacenamiento, residuos informáticos y empoderamiento de los usuarios en plataformas sociales para una mayor credibilidad del contenido.

Mostrando una diversidad de trabajo

En tres sesiones dedicadas a temas de informática benéfica y justa, salud equitativa y personalizada, y algoritmos y humanos, el Simposio SERC mostró el trabajo de 12 miembros del profesorado en estos dominios.

Uno de estos proyectos de un equipo multidisciplinario de arqueólogos, arquitectos, artistas digitales y científicos sociales computacionales tuvo como objetivo preservar sitios patrimoniales en peligro de extinción en Afganistán con gemelos digitales. El equipo del proyecto produjo modelos tridimensionales detallados e interrogables de los sitios patrimoniales, además de experiencias de realidad extendida y realidad virtual, como recursos de aprendizaje para audiencias que no pueden acceder a estos sitios.

En un proyecto para la Red Unida para el Comparto de Órganos, los investigadores mostraron cómo utilizaron análisis aplicados para optimizar varios aspectos de un sistema de asignación de órganos en los Estados Unidos que actualmente está siendo sometido a una importante revisión para hacerlo más eficiente, equitativo e inclusivo para diferentes grupos raciales, de edad y género, entre otros.

Otra charla discutió un área que aún no ha recibido la atención pública adecuada: las implicaciones más amplias de la equidad que los datos de sensores sesgados tienen para la próxima generación de modelos en informática y cuidado de la salud.

Una charla sobre el sesgo en los algoritmos consideró tanto el sesgo humano como el sesgo algorítmico, y el potencial para mejorar los resultados teniendo en cuenta las diferencias en la naturaleza de los dos tipos de sesgo.

Otras investigaciones destacadas incluyeron la interacción entre las plataformas en línea y la psicología humana; un estudio sobre si los tomadores de decisiones cometen errores sistemáticos de predicción sobre la información disponible; y una ilustración de cómo la analítica y la computación avanzadas pueden ser aprovechadas para informar la gestión de la cadena de suministro, las operaciones y el trabajo regulatorio en las industrias alimentaria y farmacéutica.

Mejorando los algoritmos del mañana

“Los algoritmos están, sin duda, impactando en todos los aspectos de nuestras vidas”, dijo Asu Ozdaglar, decana adjunta de asuntos académicos del Colegio de Computación Schwarzman del MIT y jefa del Departamento de Ingeniería Eléctrica e Informática, al iniciar un panel que moderó sobre las implicaciones de los datos y algoritmos.

“Ya sea en el contexto de las redes sociales, el comercio en línea, las tareas automatizadas y ahora una gama mucho más amplia de interacciones creativas con el advenimiento de herramientas de IA generativas y modelos de lenguaje grandes, hay pocas dudas de que mucho más está por venir”, dijo Ozdaglar. “Si bien la promesa es evidente para todos nosotros, también hay mucho de qué preocuparse. Este es un momento muy adecuado para el pensamiento imaginativo y la deliberación cuidadosa para mejorar los algoritmos del mañana”.

Dirigiéndose al panel, Ozdaglar pidió a expertos en computación, ciencias sociales y ciencia de datos que proporcionaran información sobre cómo entender lo que está por venir y dar forma a la tecnología para enriquecer los resultados para la mayoría de la humanidad.

Sarah Williams, profesora asociada de tecnología y planificación urbana en el MIT, enfatizó la importancia crítica de comprender el proceso de cómo se ensamblan los conjuntos de datos, ya que los datos son la base de todos los modelos. También hizo hincapié en la necesidad de investigar las posibles implicaciones de los sesgos en los algoritmos que a menudo se filtran a través de sus creadores y los datos utilizados en su desarrollo. “Depende de nosotros pensar en nuestras propias soluciones éticas a estos problemas”, dijo. “Así como es importante progresar con la tecnología, debemos comenzar a estudiar estas preguntas: ¿qué sesgos hay en los algoritmos? ¿Qué sesgos hay en los datos o en el camino que recorren los datos?”

Centrándose en los modelos generativos y en si el desarrollo y uso de estas tecnologías deberían ser regulados, los panelistas – que también incluían a Srini Devadas del MIT, profesor de ingeniería eléctrica y ciencias de la computación, John Horton, profesor de tecnología de la información, y Simon Johnson, profesor de emprendimiento – todos coincidieron en que regular los algoritmos de código abierto, que son públicamente accesibles, sería difícil dado que los reguladores todavía están tratando de ponerse al día y luchando por establecer límites para la tecnología que ahora tiene 20 años.

Volviendo a la pregunta de cómo regular eficazmente el uso de estas tecnologías, Johnson propuso un sistema de impuestos corporativos progresivos como solución potencial. Recomienda basar los pagos de impuestos de las empresas en sus ganancias, especialmente para las grandes corporaciones cuyas enormes ganancias quedan en gran medida sin gravar debido a la banca offshore. Al hacerlo, Johnson dijo que este enfoque puede servir como un mecanismo regulatorio que desalienta a las empresas a tratar de “poseer todo el mundo” imponiendo desincentivos.

El papel de la ética en la educación informática

A medida que la informática continúa avanzando sin señales de desaceleración, es fundamental educar a los estudiantes para que sean intencionales en el impacto social de las tecnologías que desarrollarán e implementarán en el mundo. ¿Pero se pueden enseñar estas cosas? Si es así, ¿cómo?

Caspar Hare, profesor de filosofía en el MIT y co-decano asociado de SERC, planteó esta pregunta inminente a la facultad en un panel que moderó sobre el papel de la ética en la educación informática. Todos experimentados en enseñar ética y pensar en las implicaciones sociales de la informática, cada panelista compartió su perspectiva y enfoque.

Un fuerte defensor de la importancia de aprender de la historia, Eden Medina, profesora asociada de ciencia, tecnología y sociedad en el MIT, dijo que “a menudo la forma en que enmarcamos la informática es que todo es nuevo. Una de las cosas que hago en mi enseñanza es examinar cómo la gente ha enfrentado estos problemas en el pasado e intentar extraer de ellos posibles formas de avanzar”. Medina usa regularmente estudios de caso en sus clases y se refirió a un artículo escrito por la historiadora de la ciencia de la Universidad de Yale, Joanna Radin, sobre el conjunto de datos de diabetes de los indios Pima que planteó cuestiones éticas sobre la historia de esa colección particular de datos que muchas personas no consideran como un ejemplo de cómo las decisiones en torno a la tecnología y los datos pueden crecer a partir de contextos muy específicos.

Milo Phillips-Brown, profesor asociado de filosofía en la Universidad de Oxford, habló sobre el Protocolo Ético de Informática que co-creó mientras era postdoctorado en SERC en el MIT. El protocolo, un enfoque de cuatro pasos para construir tecnología de manera responsable, está diseñado para capacitar a los estudiantes de informática a pensar de manera más precisa sobre las implicaciones sociales de la tecnología al desglosar el proceso en pasos más manejables. “El enfoque básico que tomamos se basa mucho en los campos del diseño sensible a los valores, la investigación y la innovación responsables, el diseño participativo como guías, y es también fundamentalmente interdisciplinario”, dijo.

Campos como la biomedicina y el derecho tienen un ecosistema ético que distribuye la función del razonamiento ético en estas áreas. Se proporciona supervisión y regulación para guiar a las partes interesadas y a los tomadores de decisiones de primera línea cuando surgen problemas, así como programas de capacitación y acceso a experiencia interdisciplinaria de la que pueden aprovechar. “En este espacio, no tenemos nada de eso”, dijo John Basl, profesor asociado de filosofía en la Universidad Northeastern. “Para las generaciones actuales de científicos de la computación y otros tomadores de decisiones, en realidad los estamos haciendo razonar éticamente por su cuenta”. Basl comentó además que enseñar habilidades centrales de razonamiento ético en todo el plan de estudios, no solo en clases de filosofía, es esencial, y que el objetivo no debería ser que cada científico de la computación sea un profesional de la ética, sino que conozcan suficiente del panorama para poder hacer las preguntas correctas y buscar la experiencia y los recursos relevantes que existen.

Después de la sesión final, grupos interdisciplinarios de profesores, estudiantes e investigadores participaron en discusiones animadas relacionadas con los temas tratados durante todo el día durante una recepción que marcó la conclusión del simposio.

Introducción a la Correlación
Paisaje de Ingeniería de Datos en el Mundo ...
Revolutionizando el Análisis de Datos con P...
ChatGPT para Hoja de Trucos de Entrevista d...
Geocodificación para Científicos de Datos
Los 20 mejores ejemplos de visualización de...
Ciencia de Datos

Ciencia de Datos

Libera el poder de los datos con el arte y la ciencia de la ciencia de datos