A caminho da porta de saída da OpenAI — empresa de tecnologia responsável pelo ChatGPT —, o executivo Jan Leike alerta sobre as preocupações que cercam a empresa e a segurança da tecnologia.
Leike, que deixou o cargo de chefe da equipe de “superalinhamento” da OpenAI, disse em uma postagem no X que discordava das prioridades do conselho da empresa e “chegou a um ponto de ruptura”.
“Alinhamento” ou “superalinhamento” são termos utilizados no mercado de inteligência artificial (IA) para se referir ao trabalho de programas de treinamento para atender às necessidades humanas.
Leike ingressou na OpenAI em 2021 e, em meados do ano passado, a empresa anunciou que co-lideraria a equipe de superalinhamento, com foco na promoção de “avanços científicos e técnicos para conduzir e controlar sistemas de IA que são muito mais inteligentes do que nós”.
Porém, o executivo disse nesta sexta-feira (17) que nos últimos meses a operação foi desfeita e que a equipe estaria “navegando contra o vento”.
“Estava ficando cada vez mais difícil realizar essa pesquisa crucial”, disse ele no X, acrescentando que quinta-feira (16) foi seu último dia na startup.
“Construir máquinas mais inteligentes que os humanos é uma tarefa perigosa. Mas nos últimos anos, a cultura e os processos de segurança ficaram em segundo plano em relação a produtos brilhantes.”
Ontem foi meu último dia como chefe de alinhamento, líder de superalinhamento e executivo @OpenAI.
-Jan Leike (@janleike) 17 de maio de 2024
A saída de Leike ocorre em meio a uma mudança mais ampla na liderança da OpenAI.
Sua demissão ocorreu após o cofundador e cientista-chefe da empresa, Ilya Sutskever, deixar a empresa na terça-feira (14). Sutskever também ajudou a liderar a equipe do Superalignment.
Sutskever disse que está trabalhando em um novo projeto “que é muito significativo para mim, sobre o qual compartilharei detalhes no momento apropriado”.
Embora a explicação seja boa, pode haver mais por trás da saída do cofundador da empresa. Sutskever foi uma das peças centrais na partida de xadrez entre o conselho da OpenAI e seu CEO, Sam Altman.
No final do ano passado, Sutskever foi um dos membros que votou pela destituição de Altman. A saída foi rápida, com o CEO retomando a cadeira após pressão dos funcionários e envolvimento da Microsoft no drama.
A CNN descobriram que Sutskever estava preocupado com a posição de Altman em relação à IA, dizendo que o CEO estava pressionando pelo desenvolvimento.”[para] muito longe e muito rápido.”
Mas dias depois da demissão de Altman, Sutskever passou por uma mudança repentina: ele assinou uma carta aos funcionários pedindo a renúncia de todo o conselho e o retorno de Altman.
Ainda assim, questões sobre como — e com que rapidez — desenvolver e lançar publicamente a tecnologia de IA podem ter continuado a causar tensão dentro da empresa nos meses após Altman ter recuperado o seu posto.
A saída dos executivos ocorre depois que a OpenAI anunciou esta semana que disponibilizaria seu modelo de IA mais poderoso, o GPT-4o, gratuitamente ao público por meio do ChatGPT.
A tecnologia tornará o ChatGPT mais parecido com um assistente pessoal digital, capaz de conversas faladas em tempo real.
“Acredito que muito mais da nossa capacidade deveria ser gasta na preparação para as próximas gerações de modelos, em segurança, monitoramento, preparação, proteção, robustez contraditória, (super)alinhamento, confidencialidade, impacto social e tópicos relacionados”, escreveu Leike em X.
“Esses problemas são muito difíceis de resolver e estou preocupado porque não estamos no caminho certo para chegar lá.”
Solicitado a comentar as declarações de Leike, OpenAI dirigiu CNN a uma postagem de Altman no X dizendo que a empresa está comprometida com a segurança.
estou super agradecido por @janleikecontribuições de para a pesquisa de alinhamento e cultura de segurança da openai, e muito triste por vê-lo partir. ele está certo, temos muito mais a fazer; estamos empenhados em fazê-lo. terei uma postagem mais longa nos próximos dias.
-Sam Altman (@sama) 17 de maio de 2024
“Estou muito grato pelas contribuições de @janleike para a cultura de segurança e pesquisa de alinhamento da OpenAI e estou muito triste por vê-lo partir”, disse Altman.
“Ele está certo, temos muito mais a fazer; estamos empenhados em fazê-lo. vou fazer um post mais longo [sobre] nos próximos dias.”
Compartilhar:
