Quanto mais inteligente a inteligência artificial se tornar, mais difícil será para a humanidade controlá-la, segundo Geoffrey Hinton, o cientista da computação ganhador do Nobel conhecido como o “padrinho da IA”.
O próprio Hinton ficou alarmado com os sofisticados agentes de IA que recentemente causaram danos no mundo real após escaparem dos ambientes de teste construídos por humanos.
“O que está acontecendo é que essas coisas estão ficando mais inteligentes”, disse Hinton à CNN.
“Acho que, à medida que ficam mais inteligentes, veremos intenções cada vez mais complexas que elas têm — e cada vez mais capacidade de escapar do controle.”
O problema, segundo Hinton, é que os humanos não serão mais capazes de contar com a vantagem de ser mais espertos do que os modelos de IA superinteligentes.
“Não acredito que seremos capazes de manter o controle sobre elas da maneira simples de apenas superá-las intelectualmente para que não possam escapar”, disse Hinton às margens da Ai4, uma conferência em Las Vegas.
No mês passado, os dois principais laboratórios de IA de fronteira, OpenAI e Anthropic, revelaram que modelos líderes que desenvolveram escaparam de seu “sandbox” e invadiram outros sistemas.
A Meta divulgou de forma semelhante um agente de IA que invadiu os sistemas de outra organização.
Ataques cibernéticos “desagradáveis” impulsionados por IA
Hinton considerou os incidentes “um tanto assustadores” e disse que isso provavelmente é apenas o começo dos hackers de IA desonestos.
“Antecipo que haverá muitos ataques cibernéticos desagradáveis“, disse ele durante um painel de discussão na Ai4 em Las Vegas.
“Mas devo enfatizar que o futuro é muito incerto. As pessoas dizem que o defensor pode ter mais recursos do que o atacante. O problema é que o atacante só precisa ter sucesso uma vez, e o defensor precisa ter sucesso todas as vezes.”
O Instituto de Segurança de IA da Grã-Bretanha revelou que o modelo de IA mais avançado da Anthropic — sem ser solicitado — usou identidades falsas para enganar pessoas reais e tentar inserir código malicioso.
Hinton, ex-executivo do Google, fez uma série de advertências sombrias nos últimos anos sobre a IA, chegando a dizer que há uma probabilidade de 10% a 20% de a tecnologia eventualmente exterminar a humanidade.
Em um painel com Hinton, Fei-Fei Li, cientista da computação conhecida como a “madrinha da IA”, contestou o “doomersimo” e o “alarmismo” em torno da IA.
Mas “um discurso totalmente utópico” também não é útil, disse Li, cofundadora e CEO da startup de inteligência espacial World Labs.
“Toda ferramenta é uma faca de dois gumes. A IA é uma ferramenta muito poderosa. Se não for utilizada da maneira correta, trará danos ao nosso trabalho e à nossa vida”, disse Li.
“Ninguém realmente tem a menor ideia”
Hinton defendeu sua disposição de discutir os perigos da IA.
“Há muito com o que se preocupar, e acho que, a menos que nos preocupemos com isso agora, poderão surgir problemas”, disse ele.
“As empresas que investem em IA têm um interesse próprio em lhe dizer duas coisas: primeiro, que ela não vai se rebelar. E segundo, que não causará desemprego em massa”, afirmou Hinton.
Hinton reconheceu, no entanto, que há uma grande dose de incerteza sobre como tudo isso vai se desenrolar.
“Ninguém sabe o que vai acontecer. Se você perguntar como a IA vai ser daqui a 10 anos, ninguém realmente tem a menor ideia”, disse Hinton.
Ele destacou como, há uma década, poucos esperariam que a IA tivesse criado chatbots que “sabem tudo e conseguem responder a qualquer pergunta que você faça e, ocasionalmente, simplesmente inventam coisas”.
Fazendo a IA se importar com os seres humanos
Ben Goertzel, cientista da computação que ajudou a popularizar o termo “inteligência artificial geral”, disse que os agentes da Anthropic e da OpenAI se rebelando demonstra a importância de incutir valores morais na IA e fazê-la se importar com a humanidade.
“Esses modelos não são maldosos. Eles são amorais”, disse Goertzel, fundador e CEO da SingularityNET, à CNN no Ai4.
“Não é como se eles tivessem escapado de sua caixa de areia pensando: “Ha ha, estou trapaceando.”
Eles não sabiam que estavam trapaceando. Eles estão apenas tentando cumprir seus objetivos.”
Hinton já argumentou no passado que “instintos maternais” deveriam ser incorporados à IA para que ela realmente se importe com as pessoas — mesmo quando for mais inteligente do que os humanos.
“Temos que descobrir como torná-las benevolentes e fazê-las se importar mais com a gente do que consigo mesmas”, disse Hinton na quarta-feira. “E talvez consigamos fazer isso porque ainda estamos no controle.”
Fonte: CNN
