A Amazon Web Services (AWS) selecionou a NOVA School of Science and Technology como uma das dez universidades de elite a nível mundial para participar na primeira edição do Amazon Nova AI Challenge, ao lado de nomes como Universidade da Califórnia e Columbia University, para competir num concurso de desenvolvimento de software seguro e fiável assistido por IA da AWS. De entre mais de 90 candidaturas avaliadas, foram selecionadas apenas dez equipas para participar no desafio.
A NOVA School of Science and Technology distingue-se como uma das duas únicas universidades europeias escolhidas, juntamente com a Czech Technical University. As restantes oito instituições selecionadas são norte-americanas, entre as quais se destacam a Carnegie Mellon University, a University of California e a Columbia University.
À medida que a IA se torna mais integrada no dia-a-dia em geral, e em particular nos processos de programação, surgem também novos desafios ligados à segurança. Embora o Amazon Nova AI Challenge aborde várias dimensões da IA generativa (Gen AI), o tema central da edição deste ano é "Trusted AI: advancing secure, AI-assisted software development to build safer, more reliable applications" (IA de confiança: promover o desenvolvimento seguro de software apoiado por IA para criar aplicações mais seguras e fiáveis).
Num formato competitivo, em estilo de torneio, as dez equipas universitárias - cinco equipas de ‘defesa' (developers de modelos) e cinco equipas de ‘ataque' - competem com o objetivo de fortalecer o desenvolvimento de software seguro com recurso à IA. Cada modelo de criação de código concebido pelas equipas de defesa será testado por todas as cinco equipas ataque (ou red teams), que irão procurar expor vulnerabilidades e falhas, ao utilizar técnicas de IA. A equipa da NOVA School of Science and Technology vai assumir o papel de red team.
Esta posição coloca a universidade portuguesa na linha da frente da investigação em segurança na área da IA, o que contribui para reforçar as defesas contra potenciais ameaças em ferramentas de desenvolvimento de software assistidas por IA.
A primeira fase deste torneio arrancou em janeiro de 2025 e a ronda final terá lugar, ao vivo, em junho. Todas as equipas participantes vão publicar artigos científicos com a descrição das suas metodologias e conclusões, de forma a contribuir para melhorar a experiência do utilizador, prevenir utilizações indevidas e promover uma utilização mais segura da IA no desenvolvimento de software. Os avanços obtidos no âmbito do desafio irão beneficiar o desenvolvimento mais responsável da IA aplicada à criação de código, e não só.
Cada universidade selecionada recebe um conjunto de recursos, incluindo 250 mil dólares (cerca de 232 mil euros) em patrocínio, créditos mensais da AWS e acesso a hardware de IA especializado na cloud que não costuma estar ao alcance das instituições académicas. As equipas competem ainda por prémios adicionais até 250 mil dólares, num investimento total que ultrapassa os 5 milhões de dólares (cerca de 4,3 milhões de euros).
"Reunimos algumas das mentes mais brilhantes do setor académico para enfrentar um dos maiores desafios da IA generativa - o desenvolvimento seguro de software. Ao colaborar com universidades como a NOVA School of Science and Technology, estamos a explorar novas perspetivas e a desenvolver soluções práticas que protejam sistemas reais baseados em IA", afirma André Rodrigues, Head of Technology ISV, Europe South and France na AWS.
Com resoluções de conversação 24 horas por dia para eliminar tickets de TI
