{"id":125166,"date":"2024-08-06T18:04:29","date_gmt":"2024-08-06T18:04:29","guid":{"rendered":"https:\/\/pt.cryptonews.com\/?p=125166"},"modified":"2024-08-06T18:04:29","modified_gmt":"2024-08-06T18:04:29","slug":"openai-pretende-lancar-ferramenta-que-detectara-conteudo-gerado-pelo-proprio-chatgpt","status":"publish","type":"post","link":"https:\/\/cryptonews.com\/br\/tecnologia\/openai-pretende-lancar-ferramenta-que-detectara-conteudo-gerado-pelo-proprio-chatgpt\/","title":{"rendered":"OpenAI pretende lan\u00e7ar ferramenta que detectar\u00e1 conte\u00fado gerado pelo pr\u00f3prio ChatGPT"},"content":{"rendered":"

\"openai\"<\/p>

A OpenAI, empresa responsável por criar o ChatGPT, está adiando o lançamento de uma nova ferramenta, descrita como “altamente precisa”. Aparentemente, ela possui a capacidade de identificar conteúdo gerado pelo próprio ChatGPT.<\/p>

Em resumo, a hesitação se deve a preocupações de que a ferramenta possa ser manipulada ou desencorajar usuários não falantes de inglês de usar modelos de inteligência artificial<\/a> (IA) para gerar texto.<\/p>

Em uma publicação em seu blog em maio, a empresa revelou que estava desenvolvendo várias técnicas para identificar conteúdo especificamente gerado por seus produtos.<\/p>

No entanto, uma reportagem exclusiva do Wall Street Journal (WSJ), publicada em 4 de agosto, sugeriu que os planos de lançamento dessas ferramentas foram postergados após debates internos sobre as possíveis consequências de disponibilizar tal tecnologia.\n<\/p>

OpenAI teme que indivíduos mal-intencionados utilizem a sua ferramenta<\/h2>

<\/span><\/p>

\nApós uma matéria do WSJ, a OpenAI atualizou uma postagem em seu blog de maio, acrescentando informações adicionais sobre suas ferramentas de detecção.<\/p>

A empresa revelou que ainda não definiu uma data para o lançamento<\/a> dessas ferramentas, embora tenha destacado que uma delas, destinada a identificar a origem dos textos, mostra-se “altamente precisa e eficaz até mesmo em casos de adulterações pontuais”.<\/p>

No entanto, a OpenAI reconhece que ainda existem técnicas que poderiam ser utilizadas por indivíduos mal-intencionados para escapar dessa detecção. Por esse motivo, a empresa optou por não disponibilizar essa tecnologia ao público por ora.<\/p>

Além disso, a empresa mencionou uma preocupação com a possibilidade de não falantes de inglês serem “estigmatizados” ao usar produtos de IA para composição textual. Isso se deve a uma brecha que permite a tradução de textos do inglês para outros idiomas como um método para burlar a detecção.\n<\/p>

A ferramenta de detecção da OpenAI seria a primeira desenvolvida internamente<\/h3>

\nAtualmente, existem diversos produtos e serviços que alegam detectar conteúdo gerado por IA. No entanto, até o momento, nenhum deles comprovou alta precisão em tarefas gerais conforme estudos revisados por pares.<\/p>

A ferramenta da OpenAI seria pioneira ao ser o primeiro sistema desenvolvido internamente que utiliza marcação invisível e métodos de detecção proprietários especificamente para conteúdo produzido pelos modelos da própria empresa.\n<\/p>

\"\"<\/a><\/h2>

<\/span><\/p>

<\/h2>

<\/span><\/p>

<\/h2>

<\/span><\/p>

Leia mais:<\/h2>

<\/span><\/p>