Inteligencia artificial: la gobernanza comienza en otros
Punto de vista
¿Qué pasaría si un desconocido le preguntara el nombre de su hijo, el colegio dónde estudia, el deporte que practica, los lugares que frecuenta, quiénes son sus amigos, a qué hora sale de clases o dónde celebra sus cumpleaños? Probablemente no respondería ninguna de esas preguntas.
Sin embargo, muchas veces esa misma información está disponible en internet. No porque alguien haya vulnerado un sistema de seguridad, sino porque nosotros mismos la hemos publicado. Una fotografía aparentemente inocente puede revelar mucho más de lo que imaginamos: el uniforme escolar, la institución educativa, la ubicación aproximada, las rutinas familiares, las actividades, las amistades e incluso patrones de comportamiento. Lo que para una familia representa un recuerdo, para alguien con malas intenciones, puede convertirse en una fuente de información.
Esta fue una de las reflexiones más inquietantes de la conferencia «Inteligencia Artificial en Acción: Oportunidades, Retos y Transformaciones», organizada por la Red de Egresadas del Centro William J. Perry el pasado 9 de julio. El encuentro dejó una idea central: el verdadero desafío de la inteligencia artificial no es únicamente tecnológico, es un desafío de gobernanza, responsabilidad y decisiones humanas.
La inteligencia artificial no es una moda pasajera. Es una transformación que ya está modificando la forma en que trabajamos, aprendemos, tomamos decisiones y enfrentamos problemas complejos. Precisamente por eso requiere una gobernanza adecuada.
El primer expositor, José Rodrigo Toledo de Guatemala abordó esta discusión desde seis dimensiones fundamentales: cultura, gobernanza, seguridad, ética, regulación y utilidad.
Desde la cultura, destacó la necesidad de una capacitación constante. Incorporar inteligencia artificial no significa simplemente utilizar nuevas herramientas; implica comprender su funcionamiento, conocer sus límites y aprender a emplearla para generar verdadero valor.
La gobernanza plantea una pregunta fundamental: cuando un sistema de inteligencia artificial falla, genera un daño o produce una decisión incorrecta, ¿quién responde? La respuesta no puede ser el algoritmo.
Las máquinas no tienen responsabilidad ética ni jurídica. Detrás de cada sistema existen personas, instituciones y organizaciones que deben establecer controles, supervisar resultados y asumir las consecuencias de sus decisiones. La inteligencia artificial puede apoyar la toma de decisiones, pero no elimina la responsabilidad humana.
En materia de seguridad, se abordaron amenazas que adquieren cada vez mayor importancia. Una de ellas es el prompt injection, una técnica mediante la cual un atacante introduce instrucciones manipuladas dentro de un sistema de inteligencia artificial para alterar su comportamiento, lograr que ignore sus restricciones o intentar obtener información que debería estar protegida.
También se analizaron riesgos como la fuga de información y la pérdida de privacidad. En un mundo donde los datos tienen un enorme valor estratégico, proteger la información personal se convierte en una responsabilidad tanto institucional como individual.
La ética representa otro desafío fundamental. Los sistemas de inteligencia artificial aprenden de los datos con los que son entrenados y pueden reproducir sesgos existentes en la sociedad. Por ello, la supervisión humana sigue siendo indispensable, especialmente cuando las decisiones pueden afectar derechos fundamentales.
En cuanto a la regulación, experiencias como el Artificial Intelligence Act de la Unión Europea y estándares internacionales como la ISO/IEC 42001 muestran que la discusión mundial ya no es si la inteligencia artificial debe regularse, sino cómo hacerlo de manera equilibrada, permitiendo la innovación sin abandonar la responsabilidad.
La gobernanza de la inteligencia artificial no corresponde únicamente a los gobiernos, organismos internacionales o empresas tecnológicas. También, existe una gobernanza personal. Y pocas decisiones personales tienen tanto impacto como la forma en que protegemos la huella digital que dejamos de quienes más nos importan.
La segunda expositora, Laura Camargo de Colombia llevó la conversación hacia la protección de los derechos humanos en el ciberespacio. Su planteamiento fue contundente: la seguridad dejó de limitarse al espacio físico. También, debemos proteger a las personas en el entorno digital.
La inteligencia artificial puede ayudar a salvar vidas. Puede analizar información para apoyar rescates después de un desastre natural, localizar personas desaparecidas o mejorar la respuesta ante emergencias. Pero esa misma tecnología puede ser utilizada por redes criminales para identificar víctimas, captar menores, fortalecer mecanismos de explotación o facilitar delitos como la trata de personas.
También, se abordó cómo grupos armados en Colombia han incorporado el ciberespacio para reclutar jóvenes. El reclutamiento ya no ocurre únicamente en territorios físicos; ahora puede iniciar con un mensaje, una interacción digital o una identidad construida en redes sociales.
Las guerras también han cambiado. Ya no buscan únicamente controlar territorios; también buscan controlar percepciones. La desinformación, la propaganda, la manipulación emocional y el control narrativo pueden influir en lo que las sociedades piensan, sienten y consideran verdadero. El riesgo no es solamente crear información falsa. El riesgo es lograr que millones de personas la acepten como verdadera.
Dentro de todos estos desafíos, la exposición de nuestros hijos en redes sociales fue el tema que más me preocupó. En inteligencia y seguridad existe un concepto conocido como OSINT (Open Source Intelligence) o inteligencia de fuentes abiertas. Consiste en recopilar y analizar información disponible públicamente para construir perfiles, identificar relaciones y establecer patrones de comportamiento.
Hoy, con herramientas tecnológicas cada vez más sofisticadas, incluyendo sistemas de inteligencia artificial, esa capacidad de análisis aumenta significativamente. No siempre se necesita hackear un teléfono. No siempre se necesita robar información. Muchas veces la información ya está disponible porque nosotros mismos decidimos compartirla.
Entonces, la próxima vez que tome una fotografía de su hijo y esté a punto de publicarla, deténgase unos segundos: no piense en los «me gusta», no piense en los comentarios, piense quién más puede verla, piense qué información está regalando, piense que una sola fotografía puede revelar el colegio donde estudia, los lugares que frecuenta, sus rutinas, sus amistades y hasta los espacios donde se siente seguro.
Piense que hoy esa información ya no puede ser observada únicamente por una persona. También puede ser analizada y relacionada mediante herramientas tecnológicas capaces de encontrar patrones que antes pasaban inadvertidos. Y entonces hágase una pregunta mucho más incómoda que cualquier debate sobre algoritmos, regulación o avances tecnológicos:
¿Estoy protegiendo la privacidad de mi hijo… o estoy construyendo, publicación tras publicación, el manual perfecto para quien quiera encontrarlo?
La inteligencia artificial puede ser una de las herramientas más poderosas de nuestra época, pero su impacto dependerá de algo que ninguna máquina puede hacer por nosotros: gobernar nuestras propias decisiones, porque una mala decisión digital puede tener consecuencias reales en la vida de quienes más amamos.
