* Por Pyr Marcondes
*Continuando a nossa conversa (caso você perdeu, veja a Parte I e Parte II)
Fei-Fei
Uma das vozes mais destacadas recentemente no
discurso de alerta sobre a evolução sem controle da AI é o da pesquisadora e
cientista, ela mesma, de AI, a chinesa-norte-americana Fei-Fei Li.
Se quiser ver um vídeo legal sobre o que ela pensa, clique no link adiante. Mas, basicamente, o que ela defende é o óbvio. Num caso tão radical como o poder de transformação da raça humana, ou melhor, o poder de extinção da raça humana, o que ela defende é que, em se tratando de AI, “With Great Power Comes Great Responsibility”.
Assim a Wired descreve Fei-Fei: “As a researcher at Stanford and Google, Li has helped perfect and spread machine-learning technology that allows computers to understand the world through images and video. She’s been part of a recent AI boom that has led to fleets of autonomous cars and made facial recognition powerful and ubiquitous”.
Para Fei-Fei, com todos esses feitos, ao invés de irmos na direção que estamos indo, em que sistemas de AI tenham autonomia individual e, em verdade, andem para o lado que a cabeça de um cientista maluco qualquer deseje, ou ela mesmo defina, teríamos que, como Humanidade, “think more about how smart software can work with people, for people. What’s really important is putting humanity at the center.”
Para ela, todo o poder adquirido e atingido pela AI hoje – fora o que se avizinha, que é exponencialmente maior – é extremamente perigoso. E temos que, como defendo, agir já. Em suas palavras: “Those powers, of course, can be dangerous. We will hit a moment when it will be impossible to course-correct. That’s because the technology is being adopted so fast, and far and wide. We have to act now”.
Complementando, ela coloca: “If we make fundamental changes to how AI is engineered—and who engineers it—the technology will be a transformative force for good. If not, we are leaving a lot of humanity out of the equation”.
E voltando à questão do “artificial” versus “humano”, ela é categórica: “There’s nothing artificial about AI.”
Wow!
E explica: “It’s inspired by people, it’s created by people, and—most importantly—it impacts people. It is a powerful tool we are only just beginning to understand, and that is a profound responsibility.”
Phoda ela.
A
perda de empregos humanos é só o começo do pior
Indo além, o que pega em suas declarações é sua consciência social sobre a revolução tecnológica (algo que parte significante dos cientistas não tem em seu próprio HD): “With proper guidance AI will make life better. But without it, the technology stands to widen the wealth divide even further, make tech even more exclusive, and reinforce biases we’ve spent generations trying to overcome.”
É a mesma preocupação de Yuval Noah Harari, de Sapien e Homo Deus, em seu último livro “21 Lessons for the 21st Century”: Despite the appearance of many new human jobs (por conta da evolução tecnológica), we might nevertheless witness the rise of a new useless class. We might actually get the worst of both worlds, suffering simultaneously from high unemployment and a shortage of skilled labor. Many people might share the fate not of nineteenth-century wagon drivers, who switched to driving taxis, but of nineteenth-century horses, who were increasingly pushed out of the job market altogether. In addition, no remaining human job will ever be safe from the threat of future automation, because machine learning and robotics will continue to improve.”
É o resultado social do desgoverno. Mas a perda de
postos de trabalho e o alijamento ainda maior dos desvalidos e das classes de
menor poder, ou seja, a parcela mais significativa das pessoas do Mundo, de
qualquer ambiente de trabalho ou expressão social será só o começo. Vai piorar.
E piorar muito.
Estamos alimentando e retroalimentando os neurônios
das máquinas durante anos com zilhões de dados, ensinando-as a
“pensar” como pensa um cérebro humano e nem sequer temos mais
controle sobre o que os algoritmos estão, de fato, “pensando”. Nem
que “decisões” irão tomar. Eles são estupidamente espertos (com
perdão do trocadilho) por conta disso. Mas era o que deveríamos ter feito? É o
que temos que continuar fazendo? Mesmo? Nope.
Meu manifesto
/ opinião
Proponho que a sociedade se manifeste global e publicamente contra a evolução indiscriminada da AI. Que leis internacionais sejam votadas pelo controle das pesquisas de AI. Que elas sejam transparentes e possam ser avaliadas pela Humanidade como um todo e não apenas por um bando de manés cientista, geniais muitos deles, mas que nem sempre se pautam pela Ética e pelo Humano, prioritariamente. Já vimos isso ocorrer mais de uma vez na História e deu merda forte.
Manifesto-me totalmente contra a liberdade irrestrita da pesquisa científica da Inteligência Artificial por acreditar sinceramente que esse é o começo do nosso fim.
Fim.
* Pyr Marcondes é jornalista, consultor, autor de livros e empreendedor.
0 comentário