Ex-executivo do Google alerta que a IA pode ver os humanos como "escória" e criar "máquinas perigosas"

05/06/2023
IA

Mo Gawdat, que passou mais de uma década como CEO do laboratório do Google focado em projetos de IA e robótica, comparou esse cenário ao futuro distópico do filme

Um ex-executivo do Google alertou para os perigos da inteligência artificial (IA) e disse que as máquinas movidas por ela podem passar a ver os humanos como “escória” e até pensar em conspirar para matá-los, relata o jornal New York Post.

Falando no podcast 'Secret Leaders', publicado na terça-feira, Mo Gawdat, que passou mais de uma década como CEO da X Development - um laboratório anteriormente conhecido como Google X, focado em projetos que incluem IA e jogos online como da Leon casino login - acredita que esta tecnologia " tem a capacidade de criar máquinas de matar porque os humanos as estão criando."

A IA pode criar exterminadores na medida em que é capaz de "gerar seu próprio poder de computação e realizar instalações por conta própria por meio de braços robóticos". Nesse sentido, Gawdat comparou esse cenário com o futuro distópico apresentado pelo filme de ficção científica 'I, robot', estrelado por Will Smith, no qual a IA decide que precisa assumir o controle e eliminar os humanos. Ele afirmou que esta é uma possibilidade clara.

Em sua opinião, as chances da IA pensar na raça humana como "escória" são "muito altas" porque os modelos de aprendizagem que a treinam aprendem com o universo criado online, onde más notícias, raiva e ódio, e isso pode incentivar a IA a ver a espécie como má e uma ameaça. Você provavelmente está vendo apenas o pior do que a humanidade tem a oferecer porque "somos falsos nas redes sociais, rudes, zangados ou mentindo nas redes sociais".

Da mesma forma, Gawdat insistiu que já é tarde demais para desfazer avanços nessa área, principalmente porque as empresas de tecnologia estão muito investidas financeiramente para recuar. "Cientistas muito proeminentes e líderes empresariais estão dizendo: 'Vamos parar o desenvolvimento da IA', mas isso nunca acontecerá, não por causa de problemas tecnológicos, mas por causa do dilema comercial. Se o Google está desenvolvendo IA e teme que o Facebook a derrote , não vai parar porque ele tem certeza absoluta de que se ele parar, outra pessoa não para", acrescenta.

CONTINUA DEPOIS DA PUBLICIDADE

O especialista enfatiza que ainda há um longo caminho a percorrer para que aconteça o que ele prevê e considera que definir a rapidez com que esse dia chegará depende do homem e da energia que ele decide dedicar a partir de agora a essas máquinas. Ao mesmo tempo, ele diz que não faz sentido simplesmente demonizar os modelos de IA pelos riscos que eles representam, já que "a humanidade é a ameaça".

Gawdat não é o único com uma posição fatalista sobre o assunto. O cientista Geoffrey Hinton, considerado o 'padrinho' da IA, concorda que novos sistemas de IA podem representar um risco para a humanidade. Ele teme que eles não apenas gerem seu próprio código de computador, mas também o executem e desenvolvam comportamentos inesperados, então ele teme que um dia essa tecnologia possa dar lugar a armas verdadeiramente autônomas, como os robôs assassinos que se tornaram populares na ficção científica.