sexta-feira, novembro 22, 2024
InícioCiência e tecnologia"desalinhamentos sociais" podem tornar IA perigosa

“desalinhamentos sociais” podem tornar IA perigosa

O CEO da OpenAI, Sam Altman, afirmou durante discurso no World Governments Summit, em Dubai, que “desalinhamentos sociais sutis” tiram seu sono e podem fazer estragos nos sistemas de inteligência artificial. A OpenAI, vale lembrar, é a organização que criou a ferramenta de IA mais popular mundialmente, o ChatGPT.

Em seu discurso, que foi feito através de uma videochamada perante alguns dos principais líderes mundiais, Sam Altman também reiterou o apelo para a criação de um órgão para supervisionar as ferramentas de IA, que “possivelmente estão avançando mais rápido do que o esperado”, em suas palavras.

Altman ainda disse que não concorda que quem deva supervisionar as ferramentas sejam as próprias empresas. Ele vê a necessidade da criação de um órgão para regular o uso:

Não estou interessado nos robôs assassinos andando na rua. Estou interessado nos desalinhamentos sociais sutis. Temos esses programas à disposição da população e, com isso, as coisas podem ir para um lado terrivelmente ruim. Ainda estamos em fase de muita discussão. Todos estão realizando conferências. Todo mundo tem uma ideia, um documento político, e tudo bem…acho que ainda estamos em um momento em que o debate é necessário e saudável, mas em algum momento nos próximos anos, acho que temos que mudar rumo a um plano de ação com adesão real em todo o mundo.

openai
Imagem: T. Schneider / Shutterstock.com

O crescimento exponencial da OpenAI

O sucesso do ChatGPT transformou Sam Altman em um dos líderes do movimento de IA no mundo e da luta pela sua regularização. A empresa, que fica em São Francisco, na Califórnia, é uma das pioneiras e líderes no ramo. Recentemente, a Microsoft investiu 10 bilhões de dólares na companhia e a Associated Press, uma das principais redes de notícias do mundo, assinou um acordo com a OpenAI para acessar seu arquivo.

No entanto, em novembro, a empresa foi abalada por uma crise interna que resultou na perda de confiança do conselho em Sam Altman, levando à sua remoção da empresa. O conselho alegou que ele não era consistentemente franco em suas comunicações, prejudicando a capacidade do conselho de exercer suas responsabilidades.

Quase a totalidade da equipe da OpenAI ameaçou renunciar a menos que Altman fosse reintegrado. “Quando o primeiro conselho pediu para eu voltar, minha resposta imediata foi não, porque eu estava irritado”, disse Altman ao público em evento em Davos, na Suíça mês passado. “Mas eu também sabia, e havia visto observando a equipe executiva, que a empresa ficaria bem sem mim”, acrescentou. Depois disso, o executivo foi recontratado apenas cinco dias após sua demissão.

Via Olhar Digital

MAIS DO AUTOR

DEIXE UMA RESPOSTA

Por favor digite seu comentário!
Por favor, digite seu nome aqui