O Departamento de Engenharia Informática (DEI) do Instituto Superior de Engenharia do Porto (ISEP), numa iniciativa conjunta com o Mestrado em Engenharia de Inteligência Artificial (MEIA), convida à participação em mais uma AI Master Class, desta vez sobre o tema “Cibersegurança e Inteligência Artificial: Melhoria da Segurança de modelos de Machine Learning”, que terá lugar no dia 30 de Novembro, pelas 18h00.

O evento será online, via Teams.

Evento online, aqui

Resumo

Existem vários desafios tecnológicos e éticos que prejudicam a confiabilidade dos modelos de Machine Learning (ML). Um dos principais desafios é a falta de robustez, propriedade essencial para garantir que os modelos de ML sejam utilizados de forma segura. Melhorar a robustez não é uma tarefa fácil, porque os modelos são inerentemente suscetíveis a exemplos adversários: amostras de dados com perturbações sutis que causam comportamentos inesperados. Os Engenheiros e profissionais de segurança de ML ainda não possuem o conhecimento e as ferramentas para evitar tais interrupções, como consequência, os exemplos adversários representam uma grande ameaça ao ML e aos sistemas inteligentes que dele dependem.

Bio

João Vitorino é investigador do GECAD, unidade de I&D do ISEP focada na área da Inteligência Artificial (IA). Possui o Mestrado em Engenharia de Inteligência Artificial, além de diversas certificações nas áreas de IA e redes de computadores. Colaborou com diversas empresas e instituições, em projetos internacionais de I&D, e foi responsável pela conceptualização e desenvolvimento de soluções de IA para diversas aplicações de cibersegurança do mundo real. O foco do seu trabalho tem sido a explicabilidade do ML e a robustez adversária em domínios de dados tabulares complexos. Desenvolveu um método inteligente, que executa ataques adversários realistas e mecanismos de treinamento que fornecem modelos de ML seguros para tarefas complexas, como classificação de ataques cibernéticos. João Vitorino, ganhou recentemente o IEEE Outstanding MSc Award, atribuído pela sua Dissertação de Mestrado.

Informação completa no site do DEI, aqui

Organização

Esta palestra é organizada pelo QTDEI, em colaboração com o Mestrado em Engenharia de Inteligência Artificial (MEIA) do Instituto Superior de Engenharia do Porto (ISEP).

+INFO