Big tech assumem compromisso no controlo dos modelos avançados de IA

2024-06-06

Um grupo de empresas, entre as quais a Microsoft, Anthropic, Google, Amazon, Samsung, Meta, IBM e OpenAI, assumiram um compromisso voluntário para garantir um desenvolvimento seguro dos modelos avançados de IA. Nesse sentido, assinaram um pacto internacional no AI Safety Summit, que decorreu em Seoul, na Coreia do Sul. Além das gigantes tecnológicas, há outras empresas de países como os Estados Unidos, China, Canadá, Reino Unido, França, Coreia do Sul e Emirados Árabes Unidos.

Entre as medidas, as fabricantes de modelos de IA concordaram em publicar os frameworks de segurança e a forma como medem os desafios ligados aos modelos, como a prevenção que estes sejam utilizados com más intenções. Foram estabelecidas a
Também as "linhas vermelhas" que definem o tipo de riscos associados aos sistemas de IA que sejam considerados intoleráveis, como o risco de ciberataques automatizados e armas biológicas.

Para responder a essas circunstâncias extremas, as empresas vão implementar medidas conhecidas como "Kill Switch", que acabam com o desenvolvimento dos modelos de IA que não consigam dar a garantia de mitigação de riscos.

O ainda primeiro-ministro do Reino Unido, Rishi Sunak, mostrou-se na cimeira satisfeito por ver as empresas líderes mundiais a assinarem estes compromissos de segurança da IA, além da transparência e responsabilidade nos planos. Mas há quem avance que não ficou claro qual será a eficácia deste compromisso, uma vez que ficou por definir um acompanhamento legal associado ao acordo ou a definição de riscos específicos. 
 


Garantindo usar todos os meios para reverter decisão do anterior presidente


De acordo com novo inquérito do Eurobarómetro


Estudo alerta que lacunas de conhecimento ameaçam decisões estratégicas


Com dois mil milhões de dólares para acelerar inovação


Com investimentos da ordem dos 400 milhões de dólares


Justin Hotard será o sucessor de Pekka Lundmark