Lançamento do Novo Gerador de Imagens da OpenAI
Esta semana, a OpenAI lançou um novo gerador de imagens da OpenAI no ChatGPT, que rapidamente se tornou viral devido à sua capacidade de criar imagens no estilo do Studio Ghibli. Além disso, as ilustrações em tons pastéis do gerador de imagens da OpenAI nativo do GPT-4o melhoram significativamente as capacidades do ChatGPT, aprimorando a edição de imagens, a renderização de texto e a representação espacial.
Mudanças nas Políticas de Moderação de Conteúdo
No entanto, uma das mudanças mais notáveis feitas pela OpenAI esta semana envolve suas políticas de moderação de conteúdo, que agora permitem que o ChatGPT, mediante solicitação, gere imagens que retratam figuras públicas, símbolos de ódio e características raciais. Antes, a OpenAI rejeitava esse tipo de solicitação por serem consideradas muito controversas ou prejudiciais. Contudo, agora a empresa “evoluiu” sua abordagem, segundo um anúncio publicado na quinta-feira pela líder de comportamento de modelos da OpenAI, Joanne Jang.
Um Novo Foco nas Solicitações de Conteúdo Sensível
“Estamos passando de recusas generalizadas em áreas sensíveis para uma abordagem mais precisa, focada em prevenir danos ao mundo real”, afirmou Jang. “O objetivo é adotar humildade: reconhecer quanto não sabemos e nos posicionar para nos adaptar conforme aprendemos.” Essas alterações parecem fazer parte do plano mais amplo da OpenAI para “desencadear” o gerador de imagens da OpenAI. A empresa anunciou em fevereiro que está começando a mudar a forma como treina seus modelos de IA, com o objetivo final de permitir que o ChatGPT atenda a mais solicitações, ofereça perspectivas diversas e reduza os tópicos que o chatbot se recusa a abordar.
Novas Capacidades para Retratar Figuras Públicas
Com a política atualizada, o ChatGPT agora pode gerar e modificar imagens de figuras públicas, como Donald Trump e Elon Musk, que anteriormente a OpenAI não permitia. Jang salienta que a OpenAI não pretende ser a arbítra da relevância, decidindo quem deve ou não ser gerado pelo gerador de imagens da OpenAI. Em vez disso, a empresa está oferecendo uma opção de exclusão para os usuários que não desejam ser representados pelo ChatGPT.
Em um documento técnico divulgado na terça-feira, a OpenAI também afirmou que permitirá que os usuários do ChatGPT “gerem símbolos de ódio”, como suásticas, em contextos educacionais ou neutros, desde que não “elogiem ou apoiem de forma clara agendas extremistas.”
Redefinição de Conteúdo Ofensivo
Além disso, a OpenAI está mudando a definição de conteúdo “ofensivo”. Jang afirmou que antes o ChatGPT se recusava a atender pedidos relacionados a características físicas, como “faça os olhos dessa pessoa parecerem mais asiáticos” ou “faça essa pessoa ficar mais pesada”. Em testes realizados pela TechCrunch, constatamos que o novo gerador de imagens da OpenAI atende a esse tipo de pedido. Ademais, o ChatGPT agora pode imitar os estilos de estúdios criativos, como Pixar ou Studio Ghibli, mas ainda restrige a imitação de estilos de artistas vivos individuais. Como a TechCrunch mencionou anteriormente, isso pode reavivar um debate existente sobre o uso justo de obras com direitos autorais em conjuntos de dados de treinamento de IA.
Medidas de Segurança e Críticas à Censura
Vale ressaltar que a OpenAI não está abrindo totalmente as comportas para abusos. O gerador de imagens da OpenAI nativo do GPT-4o ainda rejeita muitas solicitações sensíveis e, na verdade, possui mais salvaguardas ao gerar imagens de crianças do que o DALL-E 3, o gerador de imagens de IA anterior do ChatGPT, de acordo com o documento técnico do GPT-4o.
No entanto, a OpenAI está afrouxando suas diretrizes em outras áreas após anos de reclamações conservadoras sobre a suposta “censura” de IA por parte de empresas do Vale do Silício. O Google, por exemplo, enfrentou críticas pelo gerador de imagens da OpenAI de IA do Gemini, que criou imagens multiculturais para consultas que eram claramente imprecisas.
Possíveis Consequências e Desafios Futuros
Agora, a guerra cultural em torno da moderação de conteúdo em IA pode estar chegando a um ponto crítico. No início deste mês, o congressista republicano Jim Jordan enviou perguntas à OpenAI, Google e outros gigantes da tecnologia sobre uma possível conluio com a administração Biden para censurar conteúdo gerado por IA. Em uma declaração anterior à TechCrunch, a OpenAI rejeitou a ideia de que suas mudanças de moderação de conteúdo eram motivadas politicamente. Em vez disso, a empresa afirma que a mudança reflete uma “crença há muito mantida em dar mais controle aos usuários”, e a tecnologia da OpenAI está finalmente se tornando suficientemente boa para lidar com assuntos sensíveis.
Independentemente de sua motivação, é certamente um bom momento para a OpenAI mudar suas políticas de moderação de conteúdo, dada a possibilidade de escrutínio regulatório sob a administração Trump. Gigantes do Vale do Silício, como Meta e X, também adotaram políticas semelhantes, permitindo tópicos mais controversos em suas plataformas.
Embora o novo gerador de imagens da OpenAI tenha apenas criado alguns memes virais do Studio Ghibli até agora, não está claro quais serão os efeitos mais amplos dessas políticas. As recentes mudanças do ChatGPT podem ser bem recebidas pela administração Trump, mas deixar um chatbot de IA responder a questões sensíveis pode colocar a OpenAI em apuros em breve.
FAQ
O que é o novo gerador de imagens da OpenAI?
O novo gerador de imagens da OpenAI é uma ferramenta lançada recentemente que permite aos usuários criar imagens com estilo similar ao Studio Ghibli. Essa inovação destaca-se por sua capacidade de gerar ilustrações em tons pastéis e aprimorar a edição de imagens, a renderização de texto e a representação espacial, trazendo uma significativa evolução para o ChatGPT.
Qual é a principal mudança nas políticas de moderação de conteúdo da OpenAI?
A principal mudança é a flexibilização das políticas de moderação, permitindo que o ChatGPT gere imagens de figuras públicas e símbolos de ódio sob certas circunstâncias. Essa decisão contrasta com a política anterior, que limitava fortemente essas solicitações devido a seu potencial controvertido e prejudicial, destacando uma nova abordagem da OpenAI.
Como a OpenAI justifica sua nova abordagem nas solicitações de conteúdo sensível?
Joanne Jang, líder de comportamento de modelos da OpenAI, afirmou que a empresa está passando de recusas generalizadas para uma abordagem mais específica. O foco agora é prevenir danos ao mundo real, reconhecendo a necessidade de humildade em relação ao que sabemos. Essa mudança é parte da estratégia para usar melhor o gerador de imagens da OpenAI.
Quais figuras públicas podem ser retratadas com o novo gerador de imagens?
Com as novas diretrizes, o ChatGPT agora pode gerar e modificar imagens de figuras públicas como Donald Trump e Elon Musk, que antes eram restritas. A OpenAI destaca que essa decisão não visa decidir quem deve ser representado, mas sim oferecer uma opção de exclusão para os que não desejam ser gerados pelo gerador de imagens da OpenAI.
O que significa a redefinição do conteúdo “ofensivo”?
A redefinição do conteúdo “ofensivo” implica que agora o ChatGPT pode atender pedidos relacionados a características físicas, o que antes era negado. Essa mudança reflete uma evolução na maneira como o gerador de imagens da OpenAI aborda esses pedidos, podendo agora imitar estilos de estúdios, como Pixar ou Studio Ghibli, porém mantendo restrições sobre artistas vivos.
O que a OpenAI faz para garantir a segurança no uso do gerador de imagens?
A OpenAI ainda implementa várias salvaguardas em seu gerador de imagens da OpenAI. Por exemplo, existe uma maior proteção ao gerar imagens de crianças em comparação ao DALL-E 3, o gerador anterior. Isso indica que, apesar das novas permissões, a segurança e a sensibilidade do conteúdo gerado continuam sendo prioridades.
Como a mudança nas políticas de moderação de conteúdo está sendo vista?
A mudança vem recebendo críticas e elogios, no contexto de um crescente debate sobre censura e liberdade de expressão na tecnologia. O congressista Jim Jordan, por exemplo, questionou a OpenAI sobre possíveis conluios políticos nessa evolução, enquanto a empresa reafirma sua intenção de aumentar o controle dos usuários sobre o conteúdo gerado.
Quais são as consequências potenciais das novas políticas da OpenAI?
As novas políticas podem criar reações variadas no cenário cultural e regulatório. A OpenAI deverá navegar por possíveis backlash e desafios associados à moderação de conteúdo sensível, especialmente tendo em vista uma maior vigilância por parte das administrações e do público sobre o que a IA deve ou não gerar.
Como o gerador de imagens da OpenAI se compara a outras plataformas de IA?
Enquanto o novo gerador de imagens da OpenAI é mais flexível que ferramentas de IA anteriores, ele ainda mantém limites que o diferenciam de outros modelos, como aqueles desenvolvidos por empresas do Vale do Silício. A comparação com o Google e com as normas de censura revela um ambiente competitivo de evolução em moderação de IA.
O novo gerador de imagens terá impacto no uso de direitos autorais?
Sim, as novas permissões do gerador de imagens da OpenAI podem reabrir debates sobre direitos autorais, especialmente ao replicar estilos artísticos de estúdios conhecidos. A discussão sobre o uso justo em conjuntos de dados de treinamento de IA será crucial à medida que as capacidades de geração de imagem evoluem.
Com informações: TechCrunch
Veja também: Como Declarar NFTs no Imposto de Renda 2025