Investigadores de la Florida International University (FIU) crearon un sistema que combina aprendizaje federado (federated learning) y blockchain para detectar y eliminar datos maliciosos antes de que comprometan modelos de inteligencia artificial. Los ataques de data poisoning representan riesgos significativos para sectores críticos como transporte, energía y gestión de infraestructura.
“Hemos desarrollado un método que puede tener muchas aplicaciones en la resiliencia de infrastructuras críticas, la ciberseguridad en transporte, la atención médica y más”, dijo Hadi Amini, investigador principal y profesor asistente en la Knight Foundation School of Computing and Information Sciences de FIU.
El aprendizaje federado permite entrenar modelos sin centralizar datos sensibles, mientras que blockchain verifica las actualizaciones, detecta valores atípicos y descarta amenazas antes de que afecten el modelo global.
“Verificar si los datos de un usuario son honestos o deshonestos antes de que lleguen al modelo es un desafío para el aprendizaje federado”, dijo Evrin Moor, estudiante de doctorado en el laboratorio de Amini y autor principal del estudio.
El equipo, liderado por Hadi Amini, planea integrar cifrado cuántico para reforzar la protección de sistemas estratégicos. El proyecto cuenta con apoyo del ADMIRE Center y del Departamento de Transporte de EE. UU., subrayando la importancia de garantizar que la IA opere de manera segura y confiable en aplicaciones críticas.
Por Funds Society
