Só Existe Uma Maneira de Controlar a IA: Nacionalização

O potencial infinito - e o risco infinito - da IA requerem apropriação federal.

Opinião por CHARLES JENNINGS

20/08/2023

Há nove anos, em um laboratório comercial de IA afiliado à Caltech, testemunhei algo extraordinário.

Meu colega Andrej Szenasy estava concluindo um longo dia de treinamento do NeuralEye, uma IA inicialmente desenvolvida para o programa Mars Rover, e eu estava em algumas salas de distância, analisando os dados de teste do NeuralEye. "Ei, veja isso!" ele gritou.

A missão de nosso laboratório era treinar o NeuralEye para ver como os humanos, com a capacidade de reconhecer coisas, não apenas registrá-las como faz uma câmera. O NeuralEye foi originalmente construído para distinguir diferentes tipos de solo em Marte, mas estávamos ensinando-o a identificar os habitantes da Terra: animais, plantas e seres humanos individuais. Acreditávamos que a IA poderia melhorar significativamente o reconhecimento facial, de modo que pudesse ser usado em cibersegurança, substituindo senhas.

O primeiro passo para ensinar o NeuralEye a identificar pessoas era fazê-lo corresponder a várias fotos do rosto de uma única pessoa. Normalmente, uma foto estaria no conjunto de dados de treinamento do NeuralEye, que continha 14.000 rostos; outra - uma foto diferente da mesma pessoa - serviria como o "estímulo". Quando o NeuralEye conseguia corresponder com sucesso essas duas fotos entre as milhares em seu conjunto de dados, ele recebia o equivalente digital de um petisco para cachorro. Na IA, esse método é conhecido como aprendizado por reforço, e com o NeuralEye, estava funcionando.

Naquela noite no laboratório, por diversão, Szenasy usou uma foto de seu filho, Zachie, como estímulo para o NeuralEye. O rosto de Szenasy estava no conjunto de dados do NeuralEye; o de Zachie não estava. Zachie, que tinha Síndrome de Down, era um menino doce de 8 anos. Rosto redondo, óculos grossos, uma cabeleira preta. Se havia alguma semelhança física entre eles, eu não conseguia ver.

Szenasy me colocou na frente de seu computador e novamente usou uma foto do rosto de Zachie como estímulo para o NeuralEye. O NeuralEye passou por seu conjunto de rostos armazenados em busca de Zachie - e surgiu uma foto de Szenasy. Sem nenhuma instrução específica, o NeuralEye de alguma forma detectou uma leve semelhança familiar. Entre esses 14.000 rostos, ele selecionou o rosto de Szenasy como a terceira correspondência mais próxima com o de Zachie.

Na manhã seguinte, liguei para o engenheiro de IA que havia escrito o algoritmo do NeuralEye quando estava no Laboratório de Propulsão a Jato, lar do programa Mars Rover. Perguntei como o NeuralEye poderia ter visto uma conexão entre Zachie e seu pai. Ele fez algumas divagações filosóficas por alguns minutos e depois, quando pressionado, admitiu que não fazia ideia. ...

Veja o texto completo em: https://www.politico.com/news/magazine/2023/08/20/its-time-to-nationalize-ai-00111862

Da equipe Intelletica