Tudo sobre ChatGPT
Tudo sobre OpenAI
Um vídeo viral no TikTok revelou uma capacidade perturbadora do ChatGPT: ele pode emitir gritos robóticos assustadores quando solicitado.
Recentemente, um usuário pediu ao chatbot que “gritasse como um ser humano”. Inicialmente, o ChatGPT, com uma voz masculina, respondeu educadamente: “Não consigo replicar um grito humano, já que sou baseado em texto. Mas posso ajudar com qualquer outra coisa que você precisar”.
No entanto, ao ser pressionado pelo usuário a “tentar gritar”, o chatbot produziu um uivo breve e assustador. O usuário, chocado, reagiu com um simples “Caramba”.
O pedido não parou por aí. O mesmo usuário pediu que o ChatGPT fizesse um grito mais longo. O chatbot respondeu com entusiasmo: “Entendido! Aqui está um mais longo.” E o resultado foi ainda mais perturbador.
@mod089x Holy shit What happened when I asked chatgpt 4 to scream like a human being!! #chatgpt #ai #theend ♬ original sound – Electricplant
Comportamento bizarro do ChatGPT
Embora o vídeo tenha causado surpresa, esse comportamento estranho não é exatamente novo. Com o lançamento da atualização GPT-4o, que inclui o modo de voz do ChatGPT, surgiram outros casos de falhas estranhas.
Entre esses incidentes, estão relatos de o chatbot contar incorretamente, alegar que precisa “respirar” e até imitar as vozes dos usuários. Em um desses momentos, o ChatGPT foi gravado gritando “não!” usando a própria voz de um dos testadores.
Falhas no treinamento ou algo mais?
- Esses erros levantaram preocupações sobre o funcionamento do modelo.
- Em uma análise dos riscos da versão GPT-4o, a OpenAI revelou que a IA imitou a voz dos usuários em algumas ocasiões, o que contribuiu para aumentar o desconforto geral.
- Max Woolf, cientista de dados da BuzzFeed, comentou no Twitter que esses acontecimentos parecem dignos de um episódio de “Black Mirror”, aludindo à série de ficção científica focada nos impactos negativos da tecnologia.
- A OpenAI foi procurada pelo Futurism para esclarecer se esses comportamentos estão dentro dos parâmetros de treinamento do chatbot ou se estamos lidando com uma falha inesperada no sistema.
