Tudo sobre Inteligência Artificial
A inteligência artificial (IA) pode se tornar “ameaça em nível de extinção para a espécie humana” se providências rápidas não forem tomadas. É o que alerta um relatório encomendado pelo governo dos Estados Unidos, segundo a CNN. De acordo com o documento, a tecnologia pode estar a caminho de se tornar um risco para a segurança nacional do país.
Para quem tem pressa:
- Um relatório encomendado pelo governo dos EUA alerta que a IA pode representar uma “ameaça em nível de extinção” se ações não forem tomadas rapidamente;
- O relatório – elaborado pela Gladstone AI após entrevistar mais de 200 especialistas – busca entender como a IA impacta a segurança nacional e os interesses dos EUA. O documento ressalta a necessidade de equilibrar os possíveis benefícios com os riscos associados ao seu avanço;
- Entre os apontamentos do relatório está o potencial da IA para ser armada ou se tornar incontrolável. O documento recomenda a criação de uma nova agência regulatória, implementação de regulamentações emergenciais e limitação do poder computacional para modelos de IA;
- Além disso, o relatório sublinha a importância da cooperação global e de leis para enfrentar os desafios da IA. O documento também destaca os perigos da inteligência geral artificial (AGI) e a urgência em desenvolver medidas de segurança eficazes.
O relatório, encomendado pelo Departamento de Estado dos EUA (equivalente ao Ministério das Relações Exteriores do Brasil, o Itamaraty), foi elaborado pela Gladstone AI. A empresa entrevistou mais de 200 especialistas, entre eles: executivos de empresas de IA, pesquisadores e oficiais de segurança.
O Departamento busca avaliar como a IA impacta os interesses nacionais dos EUA. E esclarece que as conclusões do relatório não refletem necessariamente as visões do governo do presidente Joe Biden. Esta iniciativa sublinha a crescente preocupação com os riscos associados ao avanço da IA, mesmo diante de seu potencial benéfico em campos como medicina e ciência.
Benefícios e riscos inteligência artificial
O CEO da Gladstone AI, Jeremie Harris, destaca a IA como uma tecnologia transformadora, capaz de trazer benefícios significativos, mas também riscos graves, incluindo os de natureza catastrófica. O documento aponta que, além de um certo limiar de capacidade, as ferramentas baseadas em IA poderiam se tornar incontroláveis.
O relatório destaca dois riscos principais da IA: o potencial de ser armada para causar danos irreversíveis e a possibilidade de os desenvolvedores perderem controle sobre esses sistemas, com impactos devastadores para a segurança global. Essas preocupações incluem a possibilidade de uma corrida armamentista de IA e conflitos acidentais em grande escala.
A administração Biden tem tomado medidas significativas para gerenciar os riscos da IA, com uma ordem executiva visando tanto aproveitar seu potencial quanto mitigar perigos. A Casa Branca enfatiza a importância da cooperação internacional e legislação para lidar com essas tecnologias emergentes.
O que fazer, então?
Para enfrentar essas ameaças, o relatório da Gladstone AI recomenda a criação de uma nova agência de IA, implementação de medidas regulatórias emergenciais e limitação do poder computacional para treinamento de modelos de IA. Essas etapas visam prevenir perdas de controle e mitigar riscos à segurança.
As entrevistas realizadas pela Gladstone AI revelaram uma percepção de inadequação das medidas de segurança em IA avançada, apontando para a aceleração do desenvolvimento tecnológico às custas da segurança. O documento também menciona o alerta do pioneiro da IA Geoffrey Hinton sobre o risco de extinção humana pela tecnologia e a necessidade de priorizar a mitigação desses riscos.
Por fim, o relatório discute o potencial de AGI (inteligência geral artificial) – forma de IA com capacidade de aprendizado semelhante ou superior à humana – de introduzir riscos sem precedentes. Ele destaca o desafio de regular e desenvolver salvaguardas para uma tecnologia cuja evolução é incerta, alertando para o risco de aplicações de IA em áreas como ciberataques e manipulação psicológica.