AP.
Mientras las empresas tecnológicas compiten por crear la inteligencia artificial más potente, algunas también se preguntan cómo enseñar a un chatbot a distinguir el bien del mal. ¿Su respuesta? La religión.
«Estas no son preguntas que un laboratorio pueda responder», declaró Chris Olah, cofundador de Anthropic, a principios de este año durante la presentación en el Vaticano de la encíclica del Papa León XIV sobre la IA. «Son preguntas que tradiciones como la suya han planteado durante milenios».
En medio de este tan comentado giro hacia la fe, ha habido poco escrutinio público sobre qué es exactamente lo que estas empresas tecnológicas piensan que es la religión y, quizás más importante, qué esperan obtener de ella.
Mientras los ejecutivos dan la voz de alarma sobre el potencial destructivo de la IA y debaten la necesidad de desarrollar modelos moralmente éticos, buscan cada vez más la opinión de filósofos y líderes religiosos. La filosofía de los ejecutivos se resume así: la religión puede contribuir a que la IA sea moralmente buena en un entorno donde los temores sobre ella —fundados o infundados— se extienden por toda la sociedad.
Dado que estas empresas no están vinculadas a una religión en particular, su objetivo suele ser bastante amplio: un conjunto de ideas morales que sirvan de base para sus modelos. «Creo que ChatGPT debería reflejar ese promedio ponderado, o lo que sea, de la visión moral de la humanidad», declaró el año pasado Sam Altman, director ejecutivo de OpenAI.
Pero tanto expertos como seguidores advierten que esta idea no tiene en cuenta cómo las diferentes tradiciones y cosmovisiones a menudo se contradicen entre sí. En resumen, afirman que no es exactamente así como funciona la religión.
La religión es más que un conjunto de reglas a seguir.
Durante décadas, los académicos se han opuesto a la visión generalizada de la religión como un conjunto de reglas o principios que pueden separarse de las formas de vida “complicadas, prácticas e improvisadas” de sus seguidores, argumenta Webb Keane, antropólogo de la Universidad de Michigan.
La idea de que la religión puede separarse de la cultura y la política sigue muy arraigada, a pesar de que las impregna de muchas maneras. A algunos les preocupa que las empresas de IA, al pedir a diversos líderes religiosos que respondan a cuestiones éticas, perpetúen una concepción de la religión que no reconoce la importancia de la doctrina, el ritual y las relaciones.
Según Keane, el problema radica en lo siguiente: si se parte de la base de que la religión en su conjunto puede ofrecer un conjunto distinto de principios morales extraíbles, utilizarla para entrenar la IA conlleva el riesgo de priorizar ciertas tradiciones y distorsionar otras, especialmente en lo que respecta a las religiones que no se consideran principalmente un sistema ético.
“Existe una forma muy convencional de concebir la religión como un conjunto de reglas”, afirmó. “Sin duda, está muy ligada a la religión basada en las escrituras, y al final, las religiones basadas en las escrituras resultan ser las religiones abrahámicas”.
Los creyentes dicen que las empresas tecnológicas están haciendo un esfuerzo
Esto no quiere decir que estas reuniones hayan carecido de representación diversa. Tampoco sugiere que su análisis de la religión no haya sido reflexivo desde la perspectiva de los asistentes, como Meghan Sullivan, filósofa de la religión que dirige una iniciativa sobre ética e inteligencia artificial en la Universidad de Notre Dame.
Aunque no enumera las tradiciones que ha consultado, Anthropic afirmó en una publicación de blog de mayo que se habían reunido con “académicos, clérigos, filósofos y especialistas en ética de más de 15 grupos religiosos e interculturales”, un grupo que esperan ampliar en el futuro.
A principios de este año, Sullivan asistió a una de las reuniones de Anthropic, a la que acudieron cristianos de diferentes denominaciones. A diferencia de las conversaciones que había mantenido con otras empresas tecnológicas, le impresionó el profundo compromiso de Anthropic con la religión, considerada por muchos como la empresa de IA que más se toma en serio la ética y la seguridad.
“La cultura dentro de la empresa es similar a la de un buen campus universitario, en el sentido de que hay un grupo de personas muy curiosas intelectualmente”, dijo. “Estas reuniones son bastante intelectuales —no sé si esa sea la mejor manera de decirlo— en el buen sentido”.
Su reunión se dividió en dos partes. Primero, la empresa explicó sus modelos en un lenguaje sencillo a los asistentes. Luego, los líderes religiosos respondieron con comentarios y debates, según Sullivan. “Se abordaron todo tipo de cuestiones morales que plantea esta tecnología, desde ‘¿Tienen alma los seres humanos?’ hasta ‘¿Deberían los alumnos de tercer grado tener acceso a un chatbot para la enseñanza de la lectoescritura?'”
Representantes de Meta, Google y Amazon también se han reunido con el Vaticano, mientras que Microsoft ha sido muy activa en su labor de acercamiento a las religiones.
La religión es antigua. Su estudio no lo es.
La religión se considera, en general, antigua y universal. Y si bien expertos como el difunto e influyente académico Jonathan Z. Smith reconocen que esto es cierto en algunos aspectos, afirman que tampoco refleja la realidad completa.
“El ser humano ha tenido toda su historia para imaginar deidades y modos de interacción con ellas. Pero el ser humano, más precisamente el ser humano occidental, solo ha tenido los últimos siglos para imaginar la religión”, escribió Smith en 1982.
Muchos estudiosos de la religión comparten hoy la visión de Smith sobre su campo. Cuestionan la idea de que las religiones sean un conjunto de sistemas distintos y comparables, afirmando que se trata de una noción moderna que se remonta al siglo XIX.
El budismo y el hinduismo, por ejemplo, no eran reconocidos como tradiciones claramente delimitadas por quienes los practicaban antes de la llegada de los eruditos europeos, afirma Tomoko Masuzawa, experta en estudios religiosos y autora de “La invención de las religiones del mundo”. Masuzawa añade: “Ninguna de estas categorías era autóctona”.
Los académicos occidentales consolidaron esas categorías durante años, y solo comenzaron a reexaminarlas seriamente en la segunda mitad del siglo XX.
Esas ideas arraigadas sobre la religión —que es fácilmente comparable entre culturas— ayudan a explicar por qué Silicon Valley quizás no sienta la necesidad de definir su propia comprensión de ella. En un intento por representar diversos puntos de vista, la religión suele ser una forma obvia de mostrar la diversidad de pensamiento.
“De alguna manera, la religión se convierte en una forma de comprender el mundo”, dijo Masuzawa. “Es como si el mundo entero la hubiera adoptado”.
Algunos temen que, al descargar sabiduría específica, esta se pierda en el “pensamiento acumulado”.
Algunas personas quieren que las empresas definan con mayor precisión los términos y las intenciones para comprender mejor qué esperan obtener exactamente de la religión.
«Este trabajo no consiste en alinear nuestros modelos con la cosmovisión de ninguna tradición en particular. Queremos que Claude se inspire en una amplia gama de puntos de vista —religiosos, seculares, políticos— con igual profundidad y rigor», afirmó Anthropic en la entrada del blog. «Lo que buscamos en estas conversaciones es una reflexión cuidadosa y acumulada sobre cómo se forma realmente un buen carácter».
Los grandes modelos de lenguaje funcionan adivinando repetidamente la siguiente palabra en una oración después de haber “aprendido” los patrones de una enorme cantidad de obras escritas por humanos, incluidos textos religiosos.
Paolo Carozza, miembro del Consejo de Supervisión independiente de Meta y experto legal que estudia el pensamiento social católico y la tecnología, teme que en la búsqueda de la acumulación, exista la posibilidad de que se pierdan las características definitorias de una tradición determinada, homogeneizándola en algo que tienda hacia el centro o incluso favorezca a las religiones occidentales.
«Cualquier tradición viva y sofisticada, con el tiempo, es capaz de interactuar con otras ajenas a ella, absorber nuevos conocimientos y evolucionar. Pero lo hace de forma orgánica», afirmó. «Lo que la IA, en mi opinión, suele hacer, y potencialmente hace, no es de forma orgánica, sino que lo mezcla todo, lo revuelve todo y, por lo tanto, no le encuentra sentido a nada».
___
La cobertura de temas religiosos de Associated Press recibe apoyo a través de la colaboración de AP con The Conversation US, con financiación de Lilly Endowment Inc. AP es la única responsable de este contenido.
