Frankenstein de Geoffrey Hinton

Por Nicholas Harrington

Como devemos nós, meros mortais, interpretar a reviravolta de um Prometeu? Eles possuem uma visão especial que falta ao resto de nós, ou esse é um padrão familiar com uma resolução mais benigna? Em outras palavras, Geoffrey Hinton é Cassandra ou Chicken Little?

“Como posso descrever minhas emoções nesta catástrofe, ou como delinear o miserável que com tantas dores e cuidados infinitos eu me esforcei para formar? . Para isso, eu havia me privado do descanso e da saúde. Eu o desejava com um ardor que excedia em muito a moderação; mas agora que terminei, a beleza do sonho desapareceu, e o horror e a repulsa sem fôlego encheram meu coração. –Frankenstein , Mary Shelley 1816

Geoffrey Hinton, o inventor do indispensável algoritmo de inteligência artificial ' backpropagation ' e co-receptor do Prêmio Turing de 2018 (equivalente ao Nobel da computação), anunciou publicamente sua saída do Google.

Hinton disse ao New York Times que não poderia trabalhar para o departamento de aprendizado profundo e IA do Google ( Google Brain) por mais tempo porque ele precisava de liberdade para alertar o mundo sobre os riscos e perigos associados exatamente ao que ele havia sido tão instrumental em desenvolver.

O 'Padrinho' da IA ​​passou a última década tentando fazer com que a arquitetura da computação emule as funções cognitivas do cérebro humano, e justamente quando esse objetivo parece estar ao alcance, Hinton se vê atormentado pela culpa e dominado por um profundo sentimento de mau presságio. .

Como devemos nós, meros mortais, interpretar a reviravolta de um Prometeu? Eles possuem uma visão especial que falta ao resto de nós, ou esse é um padrão familiar com uma resolução mais benigna? Em outras palavras, Geoffrey Hinton é Cassandra ou Chicken Little?

Em primeiro lugar, devemos reconhecer que Hinton não está simplesmente reagindo ao que vemos no ChatGPT-4 da OpenAI e na Bard AI do Google . Como Hinton está intimamente envolvido com a pesquisa e desenvolvimento de sistemas de inteligência artificial na face do carvão, ele está a par da tecnologia que ainda não chegou ao mercado. Hinton viu código, algoritmos, tecnologia e arquitetura que estão escondidos com segurança por trás do véu de uma das maiores e mais avançadas empresas de computação do mundo. Do ponto de vista de Hinton, o ChatGPT-4 é um relógio de pulso digital Casio em comparação com o que ele vê descendo o pique. Até certo ponto, Hinton pode ver o futuro porque ele o está fazendo .

Por outro lado, ao denunciar sua invenção e tentar alertar o resto de nós sobre sua criação, Hinton se junta às sagradas fileiras de Alfred Nobel, Johannes Gutenberg, Tim Berners-Lee e Mikhail Kalashnikov. Cada um lamentou profundamente e procurou reparar suas invenções: dinamite , a imprensa , a World Wide Web e o AK-47, respectivamente. Com a possível exceção da metralhadora, acho justo dizer que as contribuições científicas restantes representam uma medida igual de progresso positivo e negativo, e nenhuma chegou perto de levar a humanidade à beira da extinção.

Agora, alguns argumentariam que a IA representa uma tecnologia com potencial transformador e impactante, ordens de magnitude maiores do que qualquer coisa que veio antes. Na verdade – assim argumentam os pessimistas – a IA representa a primeira invenção da humanidade que pode levar ao seu completo desempoderamento e desapropriação. Mas isso soa verdadeiro?

Leia o artigo completo em: https://projectqsydney.com/geoffrey-hintons-frankenstein/