¿Qué es la innatismo y es importante para la inteligencia artificial? (Parte 1)
¿Qué es el innatismo y su importancia en la IA? (Parte 1)
La pregunta de la innatención, tanto en biología como en inteligencia artificial, es fundamental para el futuro de la IA similar a la humana. Esta inmersión profunda en el concepto y su aplicación en dos partes puede ayudar a aclarar el panorama.
Por Vincent J. Carchidi
Introducción
No mucho bueno sale de Twitter en estos días, pero un reciente hilo de Twitter iniciado por el experto en inteligencia artificial (IA) Gary Marcus tocó un tema fascinante: el concepto de “innatención” en los organismos biológicos y su relevancia para la IA. El tweet completo, que se muestra a continuación, dice: “evidencia clara de innatención – en las hormigas. La hostilidad contemporánea hacia la innatención en la multitud de ML se verá tonta a la luz retrospectiva cuando entendamos todo esto”.
Las reacciones de otros expertos e investigadores se ubicaron a lo largo de líneas preexistentes trazadas en los últimos años en la investigación de IA. Thomas Dietterich cuestionó: “¿Cómo nos ayuda declarar algo como innato a hacer ciencia de la IA?”, agregando que “toda la idea de preentrenamiento es crear una red con buenas representaciones innatas”. Judea Pearl intervino, replicando que “La innatención es… una advertencia de que algún conocimiento, externo a los datos, externo también a cualquier preentrenamiento, debe codificarse en un sistema para lograr cierto rendimiento”. Rodney Brooks se refirió al aprendizaje de extremo a extremo como un “fetiche”, mientras que Dietterich, en respuesta, argumentó que los Modelos de Lenguaje Grandes (LLMs) demuestran que “el aprendizaje automatizado puede funcionar a escala de internet para construir un sistema muy amplio y general”.
- Salarios de los científicos de datos en 2023
- Anthropic lanzó su modelo Claude 2 con mejoras significativas en pr...
- Un nuevo estudio de la Universidad de Wisconsin investiga cómo los ...
No es exactamente el intercambio ideal que uno puede imaginar sobre innatención e inteligencia. Pero la pregunta original de Dietterich vale la pena hacerla y responderla: ¿El concepto de innatención ayuda a los investigadores de IA?
La pregunta de la innatención es fundamental para la investigación futura que tiene como objetivo diseñar sistemas de IA similares a los humanos. Si bien la inserción de este concepto en el campo a menudo ha sido confusa y controvertida, es simplemente inevitable: la IA, en un futuro previsible, tiene como objetivo asemejarse al menos a algunas de las habilidades cognitivas de orden superior de los humanos. Pero las preguntas sobre la naturaleza cognitiva humana a menudo se abordan en el campo con excesiva simplicidad, ideas desactualizadas o un rechazo abierto a la noción de que la forma en que los humanos logran sus hazañas importa para la inteligencia artificial.
Este artículo presenta una inmersión profunda en la innatención en biología e IA que tiene como objetivo aclarar parte del panorama e informar el debate en todos los lados del espectro. Debido a que el tema está repleto de información multidisciplinaria, este artículo se divide en dos partes. La primera parte se dedica a establecer los antecedentes de la innatención en los seres humanos, estructurada de manera que evite los marcos de análisis familiares en el campo. Por lo tanto, proporciono una perspectiva sobre una base innata para la cognición moral en los humanos, un tema que, a diferencia del lenguaje, no se ha visto atrapado en la excesiva publicidad últimamente.
Esto nos permite, en la segunda parte, adentrarnos en una discusión sobre la innatención en la IA. Me enfoco en dos ejemplos en la investigación de IA en juegos: el agente de juego Go AlphaGo Zero y el agente de juego Diplomacy Cicero, y relaciono el concepto de innatención en biología con estos agentes. Se proporciona una descripción general tanto a nivel alto como a nivel bajo de las arquitecturas de estos sistemas. Si bien se asume cierto conocimiento previo, el contenido está escrito de manera que sea accesible para un público general.
En última instancia, estas dos partes ilustrarán cómo la búsqueda de una IA similar a la humana, o incluso una Inteligencia Artificial General, es directamente relevante para la innatención.
Tabla de contenidos
Parte 1:
· Innatención biológica en la cognición moral
- Cómo interesarse en la innatención
- La base innata de la cognición moral
- Implicaciones
Parte 2:
· Innateza en la Inteligencia Artificial
- Los IA que juegan a juegos como una ventana hacia la Inteligencia Artificial General
- Implicaciones
· Conclusión
Innateza Biológica en la Cognición Moral
El debate sobre la solidez del concepto de innateza y si los seres humanos poseen dotaciones cognitivas innatas tiene ya más de 2.000 años. No espero resolver el debate aquí ni proporcionar una definición concluyente del término. Pero una perspectiva personal sobre esto es útil para familiarizarnos con el tema, que luego se utilizará para introducirnos en la inateza en la biología y la IA.
Cómo interesarse en la Innateza
Una cantidad significativa de energía intelectual durante mis años de pregrado y posgrado se dedicó a argumentar a favor de la idea de que la psicología moral humana tiene una base poderosa, específica del dominio e innata en la mente, es decir, un sistema cognitivo especializado designado para la generación de intuiciones morales, que posee independencia de otros sistemas de la mente, como los sistemas visual o auditivo, aunque constantemente se requiere que se relacione con ellos en el curso del comportamiento humano ordinario. Esto era inusual, ya que estudiaba ciencias políticas, una disciplina que tiende a no considerar estos problemas con el detalle característico de las ciencias cognitivas y neurociencias.
Mi motivación surgió de una fuente de frustración: estaba tomando un curso sobre organizaciones internacionales cuando surgió el tema de la Declaración Universal de Derechos Humanos de 1948 de las Naciones Unidas, que sirve de muchas maneras como base del activismo y la legislación internacional de derechos humanos que surgieron en las décadas posteriores a su adopción. Los estudiosos de las Relaciones Internacionales (una subdisciplina de las ciencias políticas) tienen muchas formas de enmarcar la creación de este documento y sus usos posteriores, algunos centrándose en los movimientos anticoloniales de la primera mitad del siglo XX y el colapso de los imperios, otros en influencias ideacionales que se remontan décadas o siglos a través del activismo político y las tradiciones religiosas, y otros aún en la distribución de poder entre países. La moralidad, es decir, los juicios morales de las personas, las normas morales de culturas particulares y las tradiciones morales de grupos y países, subyacen gran parte de esto.
Sin embargo, interesante como todo eso es, algo me molestaba: estos estudiosos escribirían libros eruditos sobre el origen histórico de este o aquel derecho humano en la Declaración Universal, cómo se superponen los valores morales de una tradición religiosa con otra (o no), incluso cómo se redefinió la definición de “humano” en la primera mitad del siglo XX, lo que llevó a una expansión concomitante de la preocupación moral. Pero prácticamente todos ellos hacían la misma suposición implícita: que la moralidad podía entenderse en términos puramente científicos sociales.
Esto me parecía poco plausible de entrada. Se pueden escribir miles de páginas sobre la evolución de las normas y costumbres morales que se encuentran en una declaración internacional. Pero, ¿cómo desarrollan las personas la capacidad de generar intuiciones morales en primer lugar? Responder a esa pregunta, parece, da forma necesariamente a cómo respondemos a preguntas relacionadas con el desarrollo de las normas y leyes internacionales de derechos humanos.
Base Innata de la Cognición Moral
Aunque la psicología moral ha permeado las relaciones internacionales desde entonces, gran parte del debate sobre la innateza aún no está suficientemente desarrollado. Innateza puede significar demasiadas cosas, a menudo envolviéndose en debates sobre el determinismo biológico.
En cambio, para entender la moralidad humana, deberíamos emplear las mismas técnicas metodológicas que usamos para entender cualquier otro sistema físico o cognitivo del cuerpo. De esta manera, distinguimos entre la capacidad de generar intuiciones y juicios morales y cómo se utiliza esta capacidad, es decir, la distinción entre competencia y desempeño utilizada en las ciencias cognitivas en general. Haciendo esto, podemos eliminar gran parte de la complejidad de la vida social y política para explicar una capacidad, la competencia moral, que los seres humanos sanos en desarrollo poseen. Nuestro objetivo de explicación en psicología moral, correctamente concebido, es la competencia moral, dejando el desempeño para otro momento.
Como escribe el estudioso legal y filósofo Matthias Mahlmann en una obra reciente y importante sobre la cognición moral y los derechos humanos: “Sin embargo, el desempeño de esta capacidad, la evaluación final de una acción, puede estar sesgado, por ejemplo, por los intereses de la persona que evalúa. En consecuencia, tales influencias deben eliminarse del análisis si queremos estudiar adecuadamente la competencia cognitiva en cuestión, lo cual no es una tarea fácil, especialmente en el trabajo empírico” (p. 403). Se puede imaginar por qué esto es tan difícil de hacer en las ciencias sociales, especialmente, donde la “evaluación final de una acción” está frecuentemente vinculada a factores empíricamente irrelevantes. También se puede, como discutimos a continuación, imaginar por qué esto es difícil en la IA, donde los sistemas requieren cierto nivel de entrada humana para sondear sus competencias.
Entonces, comenzamos el análisis con la comprensión de que los seres humanos pueden enmarcar intuitivamente el mundo social en términos morales. Como dijo la filósofa Susan Dwyer: “Las evaluaciones morales, como los juicios de permisibilidad y las atribuciones de responsabilidad, simplemente no pueden comenzar si no vemos” el mundo en términos de agentes, pacientes y consecuencias “(p. 248). Pero ¿cómo debemos entender esta capacidad? ¿Qué explica esta habilidad para “ver” el mundo en estos términos?
El siguiente paso es preguntarse cómo son las propiedades fundamentales de estas evaluaciones morales. Pero recuerda: no podemos simplemente elegir nuestros ejemplos favoritos de bien o mal y comenzar desde allí. Además, no podemos utilizar taxonomías éticas establecidas, como la ética de la autonomía o la ética de la comunidad, como punto de partida, como hacen destacados investigadores como Jonathan Haidt y Craig Joseph, porque simplemente descuidan la naturaleza más básica de las evaluaciones morales.
¿Qué quiero decir con esto?
La verdad es que el juicio moral es engañoso: es una experiencia íntima que la mayoría de los individuos humanos experimentan a lo largo de sus vidas, orientada hacia situaciones sociales emocionalmente cargadas y arreglos institucionales. Pero una vez que hemos estrechado nuestro enfoque en la competencia moral y hemos eliminado los factores irrelevantes, el juicio moral tiene propiedades “aparentemente inocuas” con “consecuencias de gran alcance”, según lo expresa el estudioso legal John Mikhail. Estas propiedades son las siguientes, extraídas de la descripción de Mikhail aquí (pp. 45-46):
(1) Novedad: Los juicios morales que los individuos producen no tienen una “relación punto por punto” entre ninguno de los juicios que han producido en el pasado ni ninguno que hayan encontrado de otros.Elaboración: Si bien los juicios morales pueden parecer similares en la superficie, son provocados por circunstancias que son completamente novedosas para el individuo. Un juicio de que una persona está equivocada al golpear a otra sin provocación puede sonar familiar, pero las personas involucradas, el entorno circundante, las acciones que toman, y así sucesivamente, son únicas. Tal juicio es, entonces, novedoso.
(2) Ilimitado: Un individuo puede producir, en principio, un número ilimitado de juicios morales. No hay límite en el número o tipo de juicios morales que un individuo puede hacer, excepto por limitaciones no morales como la memoria, el tiempo, etc.Elaboración: Un individuo no produce simplemente juicios verbalizados sobre situaciones. Más bien, cada juicio presupone representaciones mentales de circunstancias que son completamente novedosas para el individuo. Un juicio de que una persona está equivocada al golpear a otra sin provocación no es “solo un juicio”: depende de una representación mental de la configuración específica de personas, acciones y otras variables. La naturaleza ilimitada de los juicios morales es que estos juicios, y las representaciones mentales que presuponen, pueden ser generados infinitamente por los individuos.
Tomadas en conjunto, las “consecuencias de gran alcance” se hacen evidentes. Cuando intentamos dar sentido a la capacidad de producir juicios morales novedosos en una escala ilimitada, nos damos cuenta de que la “capacidad de almacenamiento finito del cerebro” descarta la posibilidad de que el cerebro simplemente reclute una lista preordenada de representaciones mentales para producirlos. “En cambio”, escribe Mikhail, “su cerebro debe contener, con respecto al juicio moral, algo más complejo: algún tipo de sistema cognitivo, tal vez caracterizable en términos de principios o reglas, que pueda construir o generar el número ilimitado y la variedad de representaciones que su ejercicio de juicio moral presupone”. (Mikhail también utiliza el lenguaje de “una receta o programa de algún tipo”, que el investigador de inteligencia artificial puede encontrar más plausible.)
Implicaciones
Mira y contempla, la argumentación a favor de la base innata de la moralidad en la mente humana cobra forma. Esta base innata es específica del dominio (especializada para la evaluación del valor moral) y es innata, es decir, la competencia moral básica, la capacidad de enmarcar y evaluar moralmente el mundo, no se aprende. Además, las formas específicas en que los humanos evalúan moralmente el mundo también son innatas (lo que significa que nuestra facultad moral no se recluta por cualquier motivo, como, en el ejemplo de Mahlmann, asignar virtud a un árbol porque una manzana cayó en las manos de una persona hambrienta).
Aunque no es una imposibilidad lógica que tal habilidad pueda ser aprendida, estiraría la credulidad insertar “aprendizaje” o “interacción cerebro-entorno” como el mecanismo principal responsable del desarrollo de la competencia moral de uno. Si bien las concepciones de lo innato varían considerablemente, no es nada raro encontrar a neurocientíficos diciendo lo siguiente: “La superioridad del aprendizaje y la comprensión cognitiva humana en comparación con los modelos existentes de redes profundas puede deberse en gran medida a las estructuras innatas mucho más ricas y complejas incorporadas en el sistema cognitivo humano” (p. 693).
Al trabajar, entonces, con las propiedades básicas del juicio moral identificadas anteriormente, deberíamos esperar encontrar representaciones complejas subyacentes a ellas mediante la investigación experimental. De hecho, se puede observar que las personas imponen principios legales y filosóficos complejos en situaciones novedosas de manera intuitiva, sin necesidad de aplicar sistemáticamente y conscientemente los principios, ni siquiera haber sido entrenados formalmente en ellos. Por ejemplo, Mikhail encontró que los niños que responden a dilemas morales clásicos planteados por psicólogos del desarrollo en entornos experimentales emplean una intuición en contra de la concepción legal de la agresión perjudicial. Por lo tanto, postula “una sensibilidad aguda a la agresión perjudicial intencional como una propiedad de la mente humana” (p. 780). Esto podemos caracterizarlo como conocimiento moral innato especificado de antemano, que emerge de manera confiable en el curso del desarrollo biológico. Investigaciones posteriores realizadas por Sydney Levine, Mikhail y Alan M. Leslie encuentran un apoyo experimental inicial a la idea de que las intenciones son inferidas por las personas al evaluar acciones novedosas en parte mediante la imposición de una “presunción de inocencia” sobre otros agentes.
Esta imagen de la mente es compleja: presupone que “las intuiciones morales pueden entenderse como el resultado de un proceso computacional realizado sobre representaciones mentales estructuradas de la acción humana”, como señalan estos autores en otros lugares. Los experimentos que investigan las intuiciones de los participantes sobre dilemas morales utilizando “árboles de acción” respaldaron un tema recurrente en ciertas áreas de la ciencia cognitiva: que las representaciones mentales que presuponen las intuiciones morales no son “excesivamente simples” y no pueden capturarse “en términos de heurísticas y sesgos” (p. 31).
(Cabe destacar que podría haber resultado, mediante investigación experimental, que las representaciones mentales de las intuiciones morales fueran bastante simplistas. En ese caso, aún podríamos postular una base innata para la moralidad, pero tal vez no un sistema cognitivo dedicado.)
Todo esto demuestra que la innateness biológica es más que una cuestión de qué sistemas de la mente están dotados por la genética de antemano y en qué medida están preespecificados con conocimiento específico del dominio. Más bien, demuestra que tales capacidades interactúan entre sí de manera productiva y sin la conciencia consciente de las personas. Las representaciones causales de la acción humana, la intuición moral, la intuición lingüística y la teoría de la mente están todas operativas, de alguna manera, en el aparentemente simple acto de considerar verbalmente que una acción novedosa es injusta o inmoral.
Cuando se trata del tema de la innateness, entonces, entendemos lo siguiente como primordial:
En primer lugar, postular la base innata de una capacidad humana como el juicio moral no es sencillo. Las propiedades más básicas de los juicios morales son engañosamente complejas, requiriendo paciencia y atención al detalle para identificarlas.
En segundo lugar, una vez identificadas, se requiere un esfuerzo consciente y deliberado para desentrañar el significado conceptual de estas propiedades básicas y articular los contornos amplios de la base innata de la moralidad en la mente. En este caso, el sistema cognitivo se caracteriza por reglas, principios o conceptos codificados con algún conocimiento moral.
En tercer lugar, este sistema cognitivo debe interactuar de manera productiva con otros en la mente, incluyendo representaciones causales de las acciones humanas, teoría de la mente, cognición lingüística, cognición visual, etc.
Por último, lo que la innateness revela sobre el juicio moral humano es que las intuiciones en las que se basan son fundamentadas y dependen de representaciones mentales estructuradas.
La parte complicada es recordar cómo conceptualizar la competencia y el desempeño. Cuando estudiamos la competencia moral, la estudiamos de forma aislada del resto de la mente. Pero entendemos que, en la vida ordinaria (y en este momento), los sistemas de la mente deben interactuar rutinariamente entre sí de manera productiva y dinámica. Esta técnica metodológica (abstrayendo el sistema cognitivo de la conducta humana concreta) es más difícil cuando se trata de funciones cognitivas como los juicios morales o la cognición lingüística, aunque la empleamos fácilmente en otros casos, por ejemplo, el concepto de un individuo “inmunocomprometido” solo tiene sentido si asumimos que existe un sistema inmunológico idealizado que todos los seres humanos poseen.
Con todo esto en mente, nos adentramos en la creación de mentes artificiales y cómo las lecciones sobre la innateness biológica pueden ayudar a los programas de investigación en ese sentido en la Parte 2.
Referencias
[1] J. Donnelly, Universal Human Rights in Theory and Practice (2013), Cornell University Press.
[2] S. Dwyer, How Good Is the Linguistic Analogy? (2006), The Innate Mind: Vol. 2
[3] M. Finnemore, The Purpose of Intervention (2003), Cornell University Press
[4] A. Getachew, Worldmaking After Empire (2019), Princeton University Press
[5] J. Haidt and C. Joseph, The Moral Mind: How Five Sets of Innate Intuitions Guide the Development of Many Culture-Specific Virtues, and Perhaps Even Modules (2008), The Innate Mind: Vol. 3
[6] M. Keck y K. Sikkink, Activistas más allá de las fronteras (2014), Cornell University Press
[7] S. Levine, A.M. Leslie, J. Mikhail, La representación mental de la acción humana (2018), Cognitive Science
[8] S. Levine, J. Mikhail y A.M. Leslie, ¿Inocente presumido? Cómo las suposiciones tácitas de estructura intencional moldean el juicio moral (2018), Journal of Experimental Psychology: General
[9] M. Mahlmann, Mente y derechos (2023), Cambridge University Press
[10] J. Mikhail, ¿Cualquier animal sea cual sea? (2014), Ethics
[11] J. Mikhail, Elementos de la cognición moral (2011), Cambridge University Press
[12] C. Reus-Smit, Derechos individuales y la formación del sistema internacional (2013), Cambridge University Press
[13] D. Traven, Ley y sentimiento en la política internacional (2021), Cambridge University Press
