terça-feira, novembro 26, 2024
InícioCiência e tecnologiaOpenAI monta equipe para melhorar segurança infantil

OpenAI monta equipe para melhorar segurança infantil

A OpenAI, empresa responsável pelo ChatGPT, está procurando profissionais para montar uma equipe especializada em segurança infantil. A iniciativa visa melhorar políticas de plataforma, jurídicas e de investigações para que crianças e adolescentes não usem incorretamente a inteligência artificial.

No momento, a empresa procura um especialista em aplicação de segurança infantil, que será o líder e o responsável por aplicar as políticas da OpenAI no contexto de conteúdo gerado por IA e trabalhar em processos de revisão relacionados a “conteúdo sensível”.

O fato de a OpenAI estar contratando especialistas em segurança infantil já era esperado e vai na linha do que outras grandes empresas de tecnologia tem feito para fazer uma separação do conteúdo entre adultos e menores de idade – algo muito visto em streamings, por exemplo. Os termos de uso atuais da OpenAI exigem consentimento dos pais para crianças de 13 a 18 anos e proíbem o uso para crianças menores de 13 anos.

A formação da nova equipe ocorre algumas semanas após a OpenAI anunciar uma parceria com a Common Sense Media para colaborar em diretrizes de IA amigáveis para crianças e garantir seu primeiro cliente na área da educação. Crianças e adolescentes estão cada vez mais recorrendo a ferramentas de IA para GenAI (IA generativa) não apenas para ajudar nos trabalhos escolares, mas também em questões pessoais. De acordo com uma pesquisa do Centro de Tecnologia Democrática, 29% das crianças relatam ter usado o ChatGPT para lidar com ansiedade ou problemas de saúde mental, 22% para questões com amigos e 16% para conflitos familiares.

openai
Imagem: T. Schneider / Shutterstock.com

Desde que o ChatGPT se tornou acessível para o público geral, escolas e universidades tem se mostrado preocupadas e tentado tomar medidas contra plágio, algo que afeta o ensino profundamente. Desde então, muitas instituições proibiram o uso da plataforma.

Uma pesquisa do Safer Internet Centre’s do Reino Unido descobriu que mais da metade das crianças (53%) relatam ter visto pessoas da sua idade usando inteligência artificial de maneira negativa — por exemplo, criando informações falsas e imagens convincentes usadas para incomodar alguém.

Receita da OpenAI atinge US$ 2 bilhões em 2023

  • A OpenAI, apoiada pela Microsoft, atingiu a marca de US$ 2 bilhões (aproximadamente R$ 10 bilhões) de receita em dezembro de 2023, revelou a Reuters nesta sexta-feira (09);
  • A expectativa da empresa de Sam Altman é mais do que duplicar esse valor até 2025, com o aumento da demanda por produtos com inteligência artificial (IA) generativa – tecnologia por trás do ChatGPT, por exemplo;
  • Atualmente, o CEO negocia investimento trilionário para superar as limitações atuais da produção de chips, cruciais para o avanço da IA.

Via Olhar Digital

MAIS DO AUTOR

DEIXE UMA RESPOSTA

Por favor digite seu comentário!
Por favor, digite seu nome aqui