* Por Pyr Marcondes

A Inteligência Artificial pode resolver todos os problemas da Humanidade. Todos. Mas está trilhando um perigoso e descontrolado caminho de desgovernança. A sociedade, você e eu, precisa se manifestar contra isso. Já. Debate já. Leis já. Ou, caríssimos e caríssimas, tamo tudo ferrado!

Estava eu lá entregue as minhas conjecturas e leituras (intensas ambas) de final de ano, chegando a triste e apavorante conclusão de que a Inteligência Artificial na mão de cientistas toscos, pesquisadores socialmente despreparados, tecnólogos rasos, startups idiotas e as Big Techs (parte delas, ao menos) está aberta e francamente desgovernada e que todo esse povo está se lixando para a segurança e a sustentabilidade da vida no Planeta… Estava lá eu, então, viajando na maionese, dizia, quando dei de cara com esta capa abaixo, da Wired dos EUA.

Foi o estopim. Copiei o genial título da capa da
revista (quase que integralmente dedicada à minha mesma preocupação) e resolvi
aqui alinhar alguns princípios e trechos de textos que considero importante que
todos leiam, para tentarmos entender um pouco melhor o que está acontecendo e o
efetivo perigo que corremos.

Acho que deveríamos caminhar para a redação de um HUMAN INTELLIGENCE MANIFEST, franca e
abertamente em contraposição ao desenfreado e anti-humano desenvolvimento da ARTIFICIAL INTELLIGENCE. Uma espécie de
Direitos Humanos para o novo mundo digital.

Parece-me mais do que razoável que todos nós, em
sociedade, tenhamos direito a defender a vida. A vida biológica. Eventualmente com
os ganhos que a tecnologia possa nos proporcionar. Mas do jeito que a ciência e
a tecnologia tratam o tema hoje, somos solenemente excluídos e ignorados, por
definição e de facto, das decisões tomadas em centros de pesquisa e
laboratórios, que poderiam estar (e, de fato, muitos estão, justiça seja feita)
desenvolvendo soluções para melhorar a vida no Planeta. Só que não.

Entenda
um pouco mais e caia na real, please!

Uma preocupação estrutural básica em relação a AI é
que, tecnicamente, não temos agora mais controle sobre ela. Alimentamos sua
base de dados e ela, a partir daí, faz suas próprias conexões na busca da
resolução de algum desafio/problema/objetivo e…..foi. Ela vai fazendo isso
sozinha. Nenhum ser humano pode mais acompanhar sua velocidade e suas
“deduções”. Ela simplesmente cospe, depois, um resultado qualquer.
Que não controlamos como será e qual será.

AI é hoje, uma caixa preta para os seres humanos. Está fora do nosso controle. Isso não dito por mim, mas por técnicos que mexem como o assunto.

Veja abaixo trecho de excelente artigo do engenheiro de software e blogueiro, Ben Dickson, cujo título revelador é Learning How AI Makes Decision. Ele cita um cientista e faz o seguinte comentário abaixo.

“In classical computer programming, you have precision with the algorithm. You know exactly in mathematical terms what you are doing,” said Sheldon Fernandez, CEO of DarwinAI, an Ontario-based AI company.

“With deep learning, the behavior is data driven. You are not prescribing behavior to the system. You are saying, ‘here’s the data, figure out what the behavior is.’ That is an inherently fuzzy and statistical approach. This means that when you let a neural network develop its own behavioral model, you are basically losing visibility into its reasoning process. And mostly, the inner parameters and connections that neural networks develop are so numerous and complex that they become too difficult for humans to understand“.

Sacou? Sacou que ferrou? Sacou que não sou eu que
estou dizendo, mas gente muito mais qualificada que eu? Ainda duvida?

*A nossa conversa ainda não acabou, quero expor outras ideias sobre o tema.

* Pyr Marcondes é jornalista, consultor, autor de livros e empreendedor

Publicação Original


0 comentário

Deixe uma resposta