OpenAI cria comité de supervisão para avaliar modelos de IA

2024-06-06

A OpenAI vai criar um comité de supervisão para averiguar a segurança dos modelos de inteligência artificial (IA) que desenvolve. O anúncio surge semanas depois da dona do ChatGPT ter dissolvido a equipa de segurança de IA.

O comité será responsável por fazer recomendações à administração sobre a segurança crítica e decisões de segurança para os projetos e decisões da OpenAI. Este órgão terá 90 dias para avaliar os limites de segurança dos modelos da empresa e criar um relatório. A OpenAI esclarece ainda que depois de uma análise pela administração, se compromete a "partilhar publicamente as recomendações adotadas de uma forma que é consistente com a segurança".

Está já a treinar o seu próximo modelo de IA topo de gama, antecipando que essa investigação deixe a empresa "no nível seguinte de competências no caminho para a AGI", a inteligência artificial geral, em que os sistemas de IA vão conseguir superar os humanos em várias tarefas.

Além do CEO Sam Altman, o comité contará com mais executivos do conselho de administração da OpenAI: Bret Taylor, presidente, Adam D'Angelo, CEO da Quora, e Nicole Seligman, advogada e ex-presidente da Sony Entertainment, que faz parte do board desde março.

Os restantes membros do comité têm um perfil mais técnico e são todos funcionários: Aleksander Madry (diretor de preparação para inteligência artificial), Lilian Weng (líder de sistemas de segurança), John Schulman (líder de alinhamento científico), Matt Knight (líder de segurança) e Jakub Pachocki (cientista-chefe). Haverá ainda consultores ligados à área da cibersegurança, como Rob Joyce, conselheiro de Segurança Interna de Trump, e John Carlin, que integrou o Departamento de Justiça durante a atual administração Biden.

 


Plataforma não cumpre regras do Digital Services Act


IA pode automatizar 30% das horas de trabalho até 2030


Dá 23 mil milhões de dólares pela startup de cibersegurança Wiz


Revela 21ª Edição do eGovernment Benchmark report da Capgemini


Depois de um recuo de 18% nas vendas e de 32% nos lucros


Liderando três novos relatórios de grandes analistas de mercado


Apesar de ter voltado a crescer na América do Norte


Terá de aplicar compromissos até 25 de julho