La duodécima edición del AI Congress, el evento de referencia en inteligencia artificial impulsado por el CIDAI y organizado por el centro tecnológico Eurecat en el Auditori L’illa de Barcelona, ha puesto el foco en la eclosión de la inteligencia artificial agéntica y en la urgencia de establecer sistemas de gobernanza y control. El evento, que ha contado con más de 2.200 inscritos y ha superado el medio centenar de ponentes, ha advertido que la automatización avanzada de estos agentes debe alinearse estrictamente con el criterio humano para responder a los retos de seguridad, privacidad y sostenibilidad empresarial y social.
Durante las jornadas se ha constatado que la próxima gran evolución tecnológica no será necesariamente la creación de modelos más grandes, sino el desarrollo de modelos personalizados que se ejecuten de manera independiente y local sobre las infraestructuras de las propias empresas. Este enfoque busca reducir la dependencia de los grandes proveedores de servicios en la nube, garantizar la privacidad de los datos y mejorar la eficiencia energética y operativa.
La expansión de la IA agéntica aporta nuevas oportunidades de automatización, pero también riesgos asociados a la falta de supervisión. Ariadna Font, cofundadora y consejera delegada de Alinia AI, ha alertado sobre la rapidez con la que se pueden multiplicar los errores: “La IA agéntica multiplica no solo la productividad, sino también el volumen y la velocidad de los errores. Una persona se equivoca una vez, pero un agente repite el error mil veces antes de que nadie se haya dado cuenta”. Font ha insistido en que la clave del futuro no será “quien tenga más IA, sino quien mantenga el control con criterio humano”.
En esta línea, Joan Mas, director del AI Congress y director científico del área digital de Eurecat, ha remarcado que es necesario incluir protecciones para que las decisiones automatizadas no se desalineen de los valores humanos. Desde la perspectiva institucional, el presidente de Eurecat, Daniel Altimiras, ha afirmado que Catalunya dispone del talento y el tejido empresarial necesarios para liderar esta etapa, destacando que el reto actual es incorporar la IA de forma segura para convertirla en productividad y competitividad. Por su parte, Albert Tort, secretario de telecomunicaciones y transformación digital de la Generalitat de Catalunya, ha defendido una “IA con propósito” orientada a resolver problemas reales y a generar valor público.
Eficiencia energética, protección de datos e "IA intencional"
En el ámbito tecnológico, la directora científica de IA de Multiverse Computing, Jezabel R. Garcia, ha explicado cómo la compresión de modelos permite reducir su tamaño y el consumo energético en más de un 50%, un paso fundamental para la construcción de una IA "soberana, eficiente y sostenible en Europa".
El evento ha contado con más de 2.200 inscritos y ha superado el medio centenar de ponentes
El congreso ha contado también con las aportaciones de Pooja Munshi, experta en transformación digital y responsable del Programa de las Naciones Unidas para el Medio Ambiente, quien ha profundizado en el concepto de "IA intencional", aquella diseñada para responder a necesidades concretas de las personas y el entorno. Asimismo, Meritxell Borràs, directora de la Autoridad Catalana de Protección de Datos (APDCAT), ha abordado las prioridades de regulación y supervisión humana cuando los agentes gestionan información de carácter personal.
Añadir VIA Empresa como fuente preferida de Google de forma gratuita
Mantente informado con las últimas noticias de actualidad