Geoffrey Hinton alertou que a sociedade talvez estivesse melhor se nunca tivesse desenvolvido a inteligência artificial, ao mesmo tempo que defendeu que a tecnologia seja submetida a avaliações de segurança independentes antes de as empresas lançarem novos modelos.
Em conversa com o The Guardian, Hinton disse que não se considera um catastrofista da IA e acredita que a tecnologia pode levar a resultados positivos. Mas também advertiu que seu desenvolvimento pode ter consequências graves. “Talvez estivéssemos melhor se nunca a tivéssemos desenvolvido”, afirmou.
Hinton propôs a criação de um órgão de supervisão semelhante à Administração de Alimentos e Medicamentos dos EUA, que regulamenta os medicamentos. Segundo sua proposta, as empresas de IA teriam de apresentar às autoridades independentes provas estatísticas robustas de que um modelo faz mais bem do que mal antes de ser lançado.
Ele também criticou líderes proeminentes da tecnologia, incluindo Mark Zuckerberg, Elon Musk e Sam Altman, dizendo acreditar que eles compreendem os riscos da IA, mas dão prioridade ao dinheiro. Os comentários expressam a opinião de Hinton, e não uma afirmação respaldada por evidências na entrevista.
Hinton já havia distinguido os riscos de curto prazo, como o uso indevido da IA por pessoas, das preocupações de longo prazo com sistemas que se tornem altamente capazes e deixem de precisar do envolvimento humano. Em uma participação separada na CNN, ele disse que a IA poderia representar uma ameaça real à humanidade se os pesquisadores não encontrarem maneiras de torná-la segura.
Apesar desses alertas, Hinton disse acreditar que ainda talvez seja possível administrar a tecnologia, desde que se faça um esforço substancial para isso.
Fontes: Tom's Guide.