El plan del Papa para luchar contra el mal AI

El viernes, el Papa Francisco respaldó un documento que describe cómo la inteligencia artificial, incluida la tecnología de reconocimiento facial, debe ser regulada. Esta llamada llamada «Llamada de Roma para la Ética de la IA» lleva el respaldo del Vaticano, así como de Microsoft e IBM. Lo creas o no, el futuro de la IA es en realidad uno de los proyectos de pasión del Papa — y las mayores preocupaciones.

El interés del Vaticano por la tecnología no es nuevo, y varias de sus academias pontificias, esencialmente sociedades de investigación bajo la autoridad del Papa, están trabajando arduamente estudiando lo que la IA, la robótica y otras tecnologías emergentes significarán para la fe católica y la humanidad en general. Sin embargo, el documento es una señal de que la religión organizada está cada vez más interesada en ponderar la ética de la inteligencia artificial y, en el caso del Vaticano, trabajar junto a las grandes empresas tecnológicas en el proceso.

Seis principios generales para el uso de la inteligencia artificial están en el centro de la Llamada de Roma, que declara que la ética debe ser integral en el diseño inicial de un algoritmo. Pero, en particular, ninguno de los principios esbozados son ideas especialmente nuevas. La promesa del Papa abarca los valores que muchos expertos en ética de IA ya han pedido señalando valores de transparencia, no discriminación y derecho a la privacidad. Eso se hace eco de algunas de las directrices no vinculantes de IA que la Unión Europea publicó el año pasado, así como de las directrices de la administración Trump para la regulación federal de la inteligencia artificial (publicadas en enero).

De la «Llamada de Roma para la Ética de la IA»

1. Transparencia: en principio, los sistemas de IA deben ser explicables;
2. Inclusión: las necesidades de todos los seres humanos deben ser tenidas en cuenta para que todos puedan beneficiarse y se puedan ofrecer a todos los individuos las mejores condiciones posibles para expresarse y desarrollar;
3. Responsabilidad: quienes diseñan e implementan el uso de IA deben proceder con responsabilidad y transparencia;
4. Imparcialidad: no crear o actuar de acuerdo con prejuicios, salvaguardando así la equidad y la dignidad humana;
5. Fiabilidad: los sistemas de IA deben ser capaces de funcionar de manera confiable; [y]
6. Seguridad y privacidad: los sistemas de IA deben funcionar de forma segura y respetar la privacidad de los usuarios.

« Los sistemas de IA deben concebirse, diseñarse e implementarse para servir y proteger a los seres humanos y al medio ambiente en el que viven», dice el documento. «Esta perspectiva fundamental debe traducirse en un compromiso de crear condiciones de vida (tanto sociales como personales) que permitan tanto a los grupos como a los miembros individuales esforzarse por expresarse plenamente cuando sea posible».

Junto a estos principios hay un mandato del Vaticano y sus afiliados para que AI sea «explicable» para los humanos. En otras palabras, a medida que la inteligencia artificial se aplica cada vez más en contextos consecuentes, como algoritmos que analizan nuestros currículos y determinan si se nos concede libertad condicional, necesitamos entender cómo la tecnología artificialmente inteligente toma decisiones. Los defensores de la ética de la IA argumentan que esa «explicabilidad» es una de las formas clave en las que podemos responsabilizar a los sistemas basados en inteligencia artificial.

El Llamamiento de Roma también enfatiza que la inteligencia artificial no debe ser discriminatoria, haciéndose eco de las preocupaciones de la junta acerca del sesgo algorítmico. Dependiendo de quién las construye, cómo se construyen y los datos en los que están entrenados, los sistemas informáticos pueden terminar imitando e incluso amplificando el racismo social, el sexismo y otras formas de sesgo. Esto es malo, dice el Papa.

También (tal vez) malo: reconocimiento facial, una de las aplicaciones más controvertidas de la inteligencia artificial. Este es un tema particularmente llamativo, ya que las consecuencias del escándalo de IA de Clearview demuestran cómo la tecnología de reconocimiento facial plantea preocupaciones significativas sobre la seguridad y los derechos humanos. Sin embargo, la nueva declaración del Vaticano sobre el tema no plantea la idea de una prohibición completa o moratoria del reconocimiento facial, que algunos críticos de la tecnología dicen que es necesaria. En cambio, el Vaticano simplemente parece pedir mejores reglas para gobernar la tecnología.

« Se deben alentar nuevas formas de regulación para promover la transparencia y el cumplimiento de los principios éticos», dice el documento, «especialmente para las tecnologías avanzadas que tienen un mayor riesgo de afectar los derechos humanos, como el reconocimiento facial».

La Iglesia Católica en realidad no es ajena a la inteligencia artificial. En los últimos años, gran parte de su enfoque en la tecnología ha estado en consulta con investigadores expertos en el campo y representantes de las principales empresas tecnológicas. La Orden Dominicana incluso ha apoyado desde 2012 a una organización de investigación dirigida por sacerdotes llamada Optic, que, entre otras cosas, investiga la IA y su potencial para marginar a las personas. El también dice que proporciona consultas privadas a los líderes de la industria tecnológica.

Mientras tanto, la Academia Pontificia para la Vida del Vaticano ha organizado talleres sobre inteligencia artificial. El esfuerzo se extiende aún más, como el año pasado, otras dos academias pontificias —la Academia Pontificia de Ciencias Sociales y la Academia Pontificia de Ciencias— organizaron una conferencia sobre las cuestiones éticas planteadas por la robótica y la inteligencia artificial. A estas conferencias han asistido personas como el CEO de DeepMind Demis Hassabis, el científico informático de Facebook Yann LeCun, e incluso el fundador de LinkedIn Reid Hoffman. El primer hackathon del Vaticano en 2018 también fue apoyado por compañías como Google, Salesforce y Microsoft.

La lista de estrellas de Silicon Valley pasando el rato en Roma continúa. El propio Papa se ha reunido personalmente con el presidente de Microsoft Brad Smith, el CEO de Facebook Mark Zuckerberg y Eric Schmidt de Google. A principios de este mes, el Papa se reunió con Smith para discutir cómo la inteligencia artificial podría servir al «bien común», según Reuters.

Así que podría no ser sorprendente que la visión del Vaticano para la inteligencia artificial parezca reflejar gran parte de lo que los gigantes tecnológicos ya están diciendo: Regula nuestra nueva tecnología, pero no la prohíban completamente.

Tenga en cuenta que, como informó Wired el año pasado, las empresas tecnológicas han estado tratando activamente de influir en las reglas que regirán esta nueva tecnología. Algunos, como Microsoft, incluso están creando principios de IA propios. También está la Partnership for AI, una organización sin fines de lucro financiada por empresas cuyo objetivo es estudiar las mejores prácticas para la inteligencia artificial que cuenta con el apoyo de Google, Amazon, Facebook, Microsoft, Apple e IBM, entre otras empresas.

La Llamada de Roma es sólo otra señal de que el Vaticano está prestando mucha atención a la tecnología emergente. Y, por lo que valga la pena, las empresas tecnológicas parecen ansiosas por venir. Mientras que los nuevos robots llenos de fe y dioses inspirados en la IA dan forma a las conversaciones sobre la religión en el siglo XXI, también hay conversaciones complicadas entre antiguas instituciones religiosas y poderosas plataformas tecnológicas que sería un error ignorar.

Fuente