Criadora do robô ChatGPT lança ferramenta para detectar texto gerado por inteligência artificial
Fique por dentro de todas as notícias pelo nosso grupo do WhatsApp!
Classificador é um modelo de linguagem treinado por um conjunto de textos escritos por humanos e por inteligência artificial sobre o mesmo assunto. Logo do ChatGPT e da OpenAI, criadora da ferramenta
Lionel Bonaventure/ AFP A OpenAI, criadora do robô conversador ChatGPT, lançou uma ferramenta de software para identificar textos que foram escritos por inteligência artificial (IA), informou a empresa em um post de blog na terça-feira (31). O ChatGPT é um programa gratuito que gera texto em resposta a uma solicitação, incluindo artigos, ensaios, piadas e até poesia. O robô ganhou grande popularidade desde a sua estreia, em novembro, mas levanta preocupações sobre direitos autorais e plágio. A nova ferramenta que identifica texto escrito por IA é um modelo de linguagem treinado a partir de um conjunto de dados de textos escritos por humanos e por IA sobre o mesmo assunto. O software também usa uma variedade de provedores para ajudar a detectar campanhas automatizadas de desinformação, disse a empresa. Quer entrar na onda e testar o ChatGPT? Veja quais tarefas do dia a dia ele consegue fazer (talvez melhor do que você) SAIBA MAIS: ChatGPT escreve redação do Enem em 50 segundos; saiba quanto ele tiraria Limitações A própria OpenAI adverte que o recurso, como outros já disponíveis, tem limitações. O método para detectar texto escrito por IA “é imperfeito e às vezes pode estar errado”, disse Jan Leike, chefe da equipe de alinhamento da OpenAI encarregada de tornar seus sistemas mais seguros. Veja abaixo as fragilidades citadas pela empresa: O classificador não deve ser usado como a ferramenta principal de tomada de decisão, mas sim como um complemento a outros métodos de determinação da fonte de um texto; A ferramenta é pouco confiável em textos curtos (abaixo de 1.000 caracteres, o que equivale a aproximadamente 150 a 250 palavras). Textos ainda mais longos às vezes são rotulados incorretamente pelo classificador. Às vezes, o texto escrito por humanos pode ser rotulado incorretamente; A recomendação, por enquanto, é para utilizar o classificador apenas para texto em inglês. Ele tem um desempenho significativamente pior em outros idiomas e não é confiável no código. O texto que é muito previsível não pode ser identificado de forma confiável, como uma lista dos primeiros 1.000 números primos, já que a resposta correta é sempre a mesma. ChatGPT: como usar o robô no dia a dia Alguns dos maiores distritos escolares dos Estados Unidos, incluindo a cidade de Nova York, proibiram o chatbot de IA devido a preocupações de que os alunos usariam o gerador de texto para trapacear ou plagiar. “A identificação de texto escrito por IA tem sido um ponto importante de discussão entre os educadores, e igualmente importante é reconhecer os limites e impactos dos classificadores de texto gerados por IA na sala de aula”, afirma Leike. Outros criaram ferramentas de detecção de terceiros, incluindo GPTZeroX, para ajudar os educadores a detectar texto gerado por IA. A OpenAI disse que está se envolvendo com educadores para discutir os recursos e limitações do ChatGPT e continuará trabalhando na detecção de texto gerado por IA. Conheça o ChatGPT, a tecnologia que viralizou por ter resposta para (quase) tudoFONTE: G1 Globo
