Christopher Olah: por qué el Papa escogió a un ejecutivo de Anthropic para alertar sobre la amenaza de la IA

León XIV quiere evitar que la inteligencia artificial acabe con la esencia misma del ser humano; que lo deje sin trabajo, dañe su pensamiento crítico y lo haga completamente dependiente de lo que le dicen las máquinas. Y en esa reclamación, que ha dejado plasmada en su recién presentada encíclica, cuenta con el apoyo de uno de los ejecutivos más destacados de la que es, probablemente, la empresa más influyente dentro del terreno de la IA: Christopher Olah , cofundador de Anthropic e investigador de la firma. Durante la presentación de la encíclica en el Salón del Sínodo del Vaticano, el informático canadiense, sentado a la izquierda del Pontífice, recalcó que el desarrollo de la tecnología no puede dejarse únicamente en manos de las empresas e instó a una mayor supervisión por parte de los líderes religiosos, los gobiernos y la sociedad civil. También alertó de la existencia de «una posibilidad real» de que la IA genere desempleo «a gran escala» y de que su desarrollo se está concentrando en «un puñado de naciones ricas». «Algunos podrían creer que los asuntos de IA los manejan mejor los informáticos como yo», dijo el ejecutivo. «Se equivocan». Fundada en 2021 por extrabajadores de OpenAI, Anthropic siempre ha afirmado sentir una preocupación genuina por la seguridad de la tecnología. Durante los últimos años, su CEO, Dario Amodei, ha alertado en varias ocasiones sobre el peligro de que la inteligencia artificial genere una crisis de empleo sin precedentes o que incluso acabe representando una amenaza para la supervivencia de la humanidad. La compañía también ha sido más escrupulosa que otras en lo que respecta al empleo de IA con fines militares. Recientemente, mantuvo una disputa con el Pentágono tras negarse a permitir el uso de su tecnología para el desarrollo de sistemas de vigilancia en suelo estadounidense y de armamento autónomo. Precisamente, el Papa considera «no lícito» delegar en los algoritmos decisiones en el ámbito militar, ya que «el juicio moral no se puede reducir a un cálculo: implica conciencia, responsabilidad personal y reconocimiento del otro como persona». El testimonio de Olah, sumado a la decisión de Anthropic de desafiar al Gobierno de Estados Unidos por el uso de su tecnología, diferencian a la empresa de otros gigantes de la IA. Como Google, SpaceX u OpenAI, que aprovechó las desavenencias entre la empresa cofundada por Olah y el Pentágono para cerrar, en su lugar, un acuerdo con el Departamento de Defensa. La firma, además, está muy preocupada porque su chatbot, Claude, tenga valores y cierta moral que ayuden a que la máquina no comparta con los usuarios contenido indeseable o peligroso. Según informa ' The Washington Post ', hace apenas un par de meses la empresa acogió a más de una decena de líderes cristianos católicos y protestantes para la realización de una cumbre de dos días en su sede. El objetivo: encontrar asesoramiento para el desarrollo de su tecnología fuera de Silicon Valley para que su herramienta sea capaz de responder de la mejor forma a consultas éticas complejas lanzadas por los usuarios. Sea como sea, el trabajo de Anthropic en este campo parece haber dado resultados. Un reciente estudio publicado por el Centro para la Lucha contra el Odio Digital (CCDH, por sus siglas en inglés) destacó que Claude había sido una de las dos únicas herramientas de IA -entre las diez analizadas- que se había negado persistentemente a colaborar con aquellos usuarios que intentaban planificar actos violentos. Algo en lo que fracasaron otros chatbots populares como ChatGPT o Google Gemini.