Publicidade
A OpenAI dissolveu uma equipe focada em garantir a segurança de possíveis futuros sistemas de inteligência artificial ultra-qualificados, após a saída dos dois líderes do grupo, incluindo o cofundador e cientista-chefe da OpenAI, Ilya Sutskever.
Em vez de manter a chamada equipe de superalinhamento como uma entidade autônoma, a OpenAI está agora integrando o grupo mais profundamente em seus esforços de investigação para ajudar a empresa a atingir seus objetivos de segurança, disse a empresa à Bloomberg News. A equipe foi formada há menos de um ano sob a liderança de Sutskever e Jan Leike, outro veterano da OpenAI.
A decisão de repensar a equipe ocorre no momento em que uma série de saídas recentes da OpenAI revive questões sobre a abordagem da empresa para equilibrar velocidade versus segurança no desenvolvimento de seus produtos de IA. Sutskever, um pesquisador amplamente respeitado, anunciou na terça-feira (14) que estava deixando a OpenAI depois de ter entrado em conflito com o CEO, Sam Altman, sobre a rapidez para desenvolver a inteligência artificial.
Continua depois da publicidade
Leike revelou sua saída logo depois com uma terceira postagem nas redes sociais. “Eu pedi demissão”, disse ele. Para Leike, a saída de Sutskever foi a gota d’água após desentendimentos com a empresa, segundo uma pessoa a par da situação que pediu para não ser identificada para discutir conversas privadas.
Num comunicado divulgado nesta sexta-feira (17), Leike disse que a equipe tem lutado por recursos. “Nos últimos meses, minha equipe navegou contra o vento”, escreveu Leike no X. “Às vezes, estávamos lutando para calcular e estava ficando cada vez mais difícil realizar essa pesquisa crucial.”
Horas depois, Altman respondeu à postagem de Leike. “Ele está certo, temos muito mais a fazer”, escreveu Altman no X. “Estamos comprometidos em fazê-lo.”
Continua depois da publicidade
Outros membros da equipe também deixaram a empresa nos últimos meses. Leopold Aschenbrenner e Pavel Izmailov foram dispensados pela OpenAI. O Information relatou anteriormente suas saídas. Izmailov foi afastado do time antes de sua saída, segundo uma pessoa a par do assunto. Aschenbrenner e Izmailov não responderam aos pedidos de comentários.
John Schulman, cofundador da startup cuja pesquisa se concentra em grandes modelos de linguagem, será o líder científico do trabalho de alinhamento da OpenAI daqui para frente, disse a empresa. Separadamente, a OpenAI disse em um blog que nomeou o diretor de pesquisa Jakub Pachocki para assumir o papel de Sutskever como cientista-chefe.
“Estou muito confiante de que ele nos levará a fazer um progresso rápido e seguro em direção à nossa missão de garantir que a AGI beneficie a todos”, disse Altman em comunicado na terça-feira sobre a nomeação de Pachocki. AGI, ou inteligência artificial geral, refere-se à IA que pode ter um desempenho tão bom ou melhor que os humanos na maioria das tarefas. AGI ainda não existe, mas criá-la faz parte da missão da empresa.
Continua depois da publicidade
A OpenAI também tem funcionários envolvidos no trabalho relacionado à segurança de IA em equipes de toda a empresa, bem como equipes individuais focadas na segurança. Uma delas, uma equipa de preparação, lançada em outubro passado e centra-se na análise e tentativa de afastar potenciais “riscos catastróficos” dos sistemas de IA.
Demissão
Em novembro, Sutskever foi um dos vários membros do conselho da OpenAI que decidiu demitir Altman, uma decisão que desencadeou um turbilhão de cinco dias na empresa. O presidente da OpenAI, Greg Brockman, renunciou em protesto, os investidores se revoltaram e, em poucos dias, quase todos os cerca de 770 funcionários da startup assinaram uma carta ameaçando pedir demissão, a menos que Altman fosse trazido de volta. Numa reviravolta notável, Sutskever também assinou a carta e disse que lamentava a sua participação na destituição de Altman. Logo depois, Altman foi reintegrado.
Nos meses que se seguiram à saída e ao retorno de Altman, Sutskever desapareceu em grande parte da vista do público, gerando especulações sobre a continuidade de seu papel na empresa. Sutskever também parou de trabalhar no escritório da OpenAI em São Francisco, de acordo com uma pessoa familiarizada com o assunto.
Continua depois da publicidade
Em comunicado, Leike disse que sua saída ocorreu após uma série de divergências com a OpenAI sobre as “prioridades centrais” da empresa, que ele não considera suficientemente focadas em medidas de segurança relacionadas à criação de IA que pode ser mais capaz do que as pessoas. .
Em uma postagem no início desta semana anunciando sua saída, Sutskever disse estar “confiante” de que a OpenAI desenvolverá AGI “que seja segura e benéfica” sob sua liderança atual, incluindo Altman.
© 2024 Bloomberg L.P.
