Big tech assumem compromisso no controlo dos modelos avançados de IA

2024-06-06

Um grupo de empresas, entre as quais a Microsoft, Anthropic, Google, Amazon, Samsung, Meta, IBM e OpenAI, assumiram um compromisso voluntário para garantir um desenvolvimento seguro dos modelos avançados de IA. Nesse sentido, assinaram um pacto internacional no AI Safety Summit, que decorreu em Seoul, na Coreia do Sul. Além das gigantes tecnológicas, há outras empresas de países como os Estados Unidos, China, Canadá, Reino Unido, França, Coreia do Sul e Emirados Árabes Unidos.

Entre as medidas, as fabricantes de modelos de IA concordaram em publicar os frameworks de segurança e a forma como medem os desafios ligados aos modelos, como a prevenção que estes sejam utilizados com más intenções. Foram estabelecidas a
Também as "linhas vermelhas" que definem o tipo de riscos associados aos sistemas de IA que sejam considerados intoleráveis, como o risco de ciberataques automatizados e armas biológicas.

Para responder a essas circunstâncias extremas, as empresas vão implementar medidas conhecidas como "Kill Switch", que acabam com o desenvolvimento dos modelos de IA que não consigam dar a garantia de mitigação de riscos.

O ainda primeiro-ministro do Reino Unido, Rishi Sunak, mostrou-se na cimeira satisfeito por ver as empresas líderes mundiais a assinarem estes compromissos de segurança da IA, além da transparência e responsabilidade nos planos. Mas há quem avance que não ficou claro qual será a eficácia deste compromisso, uma vez que ficou por definir um acompanhamento legal associado ao acordo ou a definição de riscos específicos. 
 


Plataforma não cumpre regras do Digital Services Act


IA pode automatizar 30% das horas de trabalho até 2030


Dá 23 mil milhões de dólares pela startup de cibersegurança Wiz


Revela 21ª Edição do eGovernment Benchmark report da Capgemini


Depois de um recuo de 18% nas vendas e de 32% nos lucros


Liderando três novos relatórios de grandes analistas de mercado


Apesar de ter voltado a crescer na América do Norte


Terá de aplicar compromissos até 25 de julho