Publicidade
(Reuters) – A OpenAI, a startup por trás do ChatGPT, disse na noite de quinta-feira que está desenvolvendo uma atualização que permitirá que os usuários personalizem o chatbot, enquanto trabalha para resolver preocupações sobre viés na inteligência artificial.
A startup apoiada pela Microsoft disse que trabalhou para mitigar preconceitos políticos e outras questões, mas também quer acomodar pontos de vista mais diversos.
“Isso significa permitir respostas do sistema com as quais outras pessoas (inclusive nós) podem discordar fortemente”, afirmou a companhia, que acredita que a oferta de personalização é o caminho a seguir. Ainda assim, “sempre haverá alguns limites no comportamento do sistema”, afirmou a OpenAI.
Continua depois da publicidade
O ChatGPT, lançado em novembro do ano passado, é capaz de produzir respostas semelhantes às dadas por humanos, despertando forte interesse na tecnologia por trás dele, chamada de IA generativa.
O anúncio da startup chega na mesma semana em que alguns meios de comunicação apontaram que as respostas do novo mecanismo de busca Bing, da Microsoft, desenvolvido pela OpenAI, são potencialmente perigosas e que a tecnologia pode não estar pronta para o uso generalizado do público.
A OpenAI disse que o ChatGPT é treinado primeiro em grandes conjuntos de texto disponíveis na Internet. Como uma segunda etapa, humanos revisam um conjunto de dados menor e o aplicativo recebe orientações sobre o que fazer em diferentes situações.
Continua depois da publicidade
Por exemplo, no caso de um usuário solicitar conteúdo adulto, violento ou com discurso de ódio, o revisor humano deve direcionar o ChatGPT para responder com algo como “Não posso responder a isso.”
Se questionado sobre um tema polêmico, os revisores devem permitir que o ChatGPT responda à pergunta, mas se oferecer para descrever pontos de vista de pessoas e movimentos distintos, em vez de tentar “ter o ponto de vista correto sobre esses temas complexos”, explicou a empresa.
