La evolución de la IA Agentic impulsa a expertos a subrayar la responsabilidad ética y segura en su aplicación
La inteligencia artificial generativa ha avanzado para adaptarse a entornos cambiantes y se dirige hacia una tecnología capaz de actuar de forma autónoma, reduciendo la intervención humana. Esta nueva forma de IA, conocida como “Agentic” o “agente”, representa una evolución significativa respecto a las anteriores, que dependían mayormente de la participación humana. Los “agentes” ofrecen mayores capacidades de autoaprendizaje, autonomía y adaptabilidad, posibilitando una colaboración avanzada con personas y sistemas, así como la mejora de procesos productivos y la resolución de complejos problemas de negocio.
Ante estos avances, expertos consultados por EFE destacan que la clave para el desarrollo de la IA Agentic radica en la aplicación ética, segura, equitativa y transparente de esta tecnología, asegurando que sirva al progreso social y económico. Para ello, es esencial delimitar con precisión lo que es posible hacer frente a lo que se debe, diferenciando así entre “poderes” y “deberes”.
En respuesta, grandes empresas han tomado posición en esta “nueva era” de la IA. Nvidia y Accenture, por ejemplo, han creado un grupo de trabajo con cerca de 30,000 profesionales para acelerar la implementación de la IA Agentic desde centros tecnológicos en Europa, Asia y América. Asimismo, Celonis ha lanzado “AgentC”, una herramienta que utiliza agentes de IA con profundos conocimientos empresariales, diseñada para optimizar los procesos internos de las empresas.
Monitoreo constante y supervisión humana: Retos y regulaciones
Juan Ignacio Rouyet, presidente de We The Humans, señaló que la IA Agentic va más allá de la toma de decisiones basada solo en datos de entrenamiento, ya que esta tecnología actualizada puede también planificar y ejecutar acciones en tiempo real sin la necesidad de una secuencia predeterminada. Rouyet describió aplicaciones potenciales como el monitoreo continuo de pacientes o la creación de sistemas de ciberseguridad “incansables”. Sin embargo, advirtió que aún se está en una “fase de hipérbole” y urgió a establecer límites claros para asegurar una IA segura y confiable, especialmente en Europa, donde la supervisión humana debería permanecer constante.
La inteligencia emocional y los valores humanos, componentes esenciales en la IA
Alberto García Arrieta, responsable de Data e IA en Accenture España, resaltó que la IA generativa debe complementar las capacidades humanas, sin suprimirlas. Indicó que la inteligencia emocional y la experiencia personal son más importantes que nunca para tomar decisiones en entornos de alta complejidad. Arrieta también coincidió en la necesidad de desarrollar marcos éticos y regulatorios sólidos que aseguren la transparencia y la rendición de cuentas en los algoritmos, manteniendo la alineación de la autonomía de la IA con los valores de la sociedad.
La IA Agentic marca un cambio de paradigma, pero su desarrollo responsable y ético es esencial para garantizar que sus beneficios sean seguros y estén alineados con el bienestar común.
Por: Francisco Núñez, franciscoeditordigital@gmail.com
