El monarca británico reunió a representantes del sector tecnológico para debatir principios que orienten el desarrollo y uso responsable de la inteligencia artificial.
Londres.- El rey Carlos III advirtió sobre los posibles “peligros existenciales” asociados al desarrollo de la inteligencia artificial (IA) si estas tecnologías llegan a ser utilizadas con fines perjudiciales, durante un encuentro con representantes del sector tecnológico celebrado en Dumfries House, en Ayrshire, Escocia.
La reunión fue convocada por el propio monarca con el propósito de analizar cómo aprovechar los avances de la inteligencia artificial en beneficio de la sociedad y, al mismo tiempo, abordar los riesgos derivados de la rápida evolución de los modelos más avanzados.
En el encuentro participaron Kanishka Narayan, ministro británico vinculado al área de inteligencia artificial; un asesor del papa, así como representantes de empresas tecnológicas como Nvidia, OpenAI y Anthropic.
Carlos III llama a anticipar los riesgos
Durante su intervención, el rey Carlos III señaló que los propios desarrolladores de estas tecnologías han advertido sobre la posibilidad de que los sistemas de inteligencia artificial alcancen capacidades cada vez más complejas y potencialmente peligrosas.
El monarca consideró necesario prestar atención a los escenarios en los que estas herramientas puedan quedar en manos de actores que las utilicen de manera perjudicial.
Según Carlos III, existe una “urgencia” por analizar adecuadamente los riesgos asociados a la inteligencia artificial y evitar que pueda ser empleada de formas potencialmente catastróficas.
En ese sentido, sostuvo que la responsabilidad de quienes participan en el desarrollo de esta tecnología no debe limitarse únicamente a impulsar nuevas capacidades.
“La tarea que tenéis por delante no consiste simplemente en hacer avanzar la tecnología, sino en garantizar que siga estando firmemente al servicio de la humanidad, la comunidad y el mundo natural”, manifestó ante los participantes.
Buscan principios comunes para el desarrollo de la IA
La cumbre también abordó la posibilidad de establecer un conjunto de principios compartidos que sirvan como referencia para la aplicación y evolución futura de la inteligencia artificial.
El encuentro ocurre en medio del debate internacional sobre la necesidad de establecer mecanismos de seguridad, supervisión y regulación capaces de evolucionar al mismo ritmo que los modelos de IA más avanzados.
Especialistas, gobiernos y representantes de la industria tecnológica han intensificado en los últimos años las discusiones sobre los beneficios de estas herramientas, pero también sobre sus posibles implicaciones en ámbitos como la seguridad, la información, el empleo y la toma automatizada de decisiones.
El planteamiento presentado durante la reunión apunta a mantener el desarrollo tecnológico vinculado a criterios de responsabilidad y beneficio social, al tiempo que se establecen medidas para reducir los riesgos asociados al uso indebido de sistemas cada vez más avanzados.
