MEDO DA IA… POR QUÊ?
RICARDO VIVEIROS*
Quando dos primeiros passos públicos da nova ferramenta tecnológica, perguntado se temia seu avanço sobre o meu trabalho de escrever artigos e livros, respondi que não estava preocupado com a inteligência artificial, mas sim com a burrice natural que, como podemos ver no dia a dia, segue firme e crescente. Agora, depois de algum tempo de teoria na prática, vejo a IA como útil para muitas coisas, menos escrever por mim. E sigo, com razão, apostando no seu aperfeiçoamento e no cuidado para utilizá-la. Seguem alguns perigos.
A inteligência artificial, por exemplo, está produzindo um choque silencioso em uma das áreas mais antigas do conhecimento: a matemática. Sistemas de IA já começam a resolver problemas que desafiaram pesquisadores durante décadas, e a velocidade desse avanço alimenta uma pergunta que, até pouco tempo atrás, parecia impensável. O que acontecerá com essa ciência quando as máquinas forem melhores do que os humanos em fazer matemática?
A preocupação ganhou um rosto simbólico, o jovem doutor canadense Jacob Tsimerman, um dos quatro vencedores da Medalha Fields de 2026, considerada a maior distinção da matemática. Pouco depois de receber o prêmio, ele anunciou que deixaria em segundo plano sua pesquisa tradicional para trabalhar com segurança de inteligência artificial na OpenAI.
A decisão não decorre apenas do temor de que a IA roube o trabalho dos matemáticos. Tsimerman considera que o problema é maior. Ele prevê que, em poucos anos, sistemas de IA poderão superar pesquisadores humanos não apenas na resolução de problemas, mas também na produção de novas descobertas. Já há sinais concretos dessa transformação, modelos de IA têm produzido soluções para antigos problemas matemáticos, com posterior análise e verificação de pesquisadores humanos.
Para Tsimerman, entretanto, o avanço das máquinas traz um risco ainda maior, a possibilidade de perdermos o controle sobre sistemas cada vez mais capazes. Ele alerta para cenários que vão de decisões automatizadas capazes de provocar mortes até hipóteses extremas de extinção da humanidade. Foi esse temor que o levou a trocar, ao menos em parte, a matemática pura e aplicada pela pesquisa em segurança de IA.
O paradoxo é poderoso. Um dos maiores e mais promissores matemáticos de sua geração está abandonando parte da atividade que lhe rendeu a Medalha Fields, de importância equivalente ao Nobel, porque acredita que a tecnologia que ameaça transformar a matemática pode representar um perigo muito maior para toda a sociedade.
A crítica de Tsimerman também atinge a maneira como a indústria, hoje, trata a segurança. Em essência, segundo ele, ainda dependemos de uma lógica rudimentar, pedir ao modelo que se comporte bem, testar se ele parece obedecer e concluir que está seguro enquanto continua se atuando dessa maneira. Para o cientista, sistemas tão poderosos exigem algo bem mais próximo do método científico, como testes controlados, verificação rigorosa e mecanismos que impeçam determinados comportamentos, mesmo quando a máquina tentar executá-los.
Daí sua defesa em mudar a escala na governança. Modelos avançados deveriam passar por avaliações obrigatórias antes de serem lançados, sob supervisão de estruturas governamentais e internacionais. A segurança, nessa visão, não pode ficar restrita à decisão voluntária das próprias empresas que desenvolvem a tecnologia. Afinal, o foco é sempre econômico.
O impacto sobre a matemática é apenas um dos primeiros sinais de uma transformação mais ampla. O próprio Tsimerman reconhece o sentimento de perda provocado pelo avanço da IA. Ou seja, a matemática continuará existindo, mas parte dela que conhecemos pode desaparecer como uma atividade apenas humana.
Esse ponto é o mais inquietante da história. Não se trata de um programador ou de um trabalhador ameaçado pela automação. É um medalhista Fields, de apenas 38 anos e já no auge de sua carreira, olhando para a tecnologia e concluindo que é preciso ajudar a controlá-la antes que se torne poderosa e perigosa demais.
A questão, portanto, já não é apenas se a IA conseguirá resolver os problemas que os humanos não conseguiram. A pergunta que insiste em não calar é sobre nossa real capacidade de compreender, verificar e controlar aquilo que estamos criando.
Aqui, pelo menos por enquanto, sigo escrevendo meus textos porque a máquina cria-los por mim seria um estelionato intelectual para com os leitores que tanto respeito. A inteligência artificial deve servir como uma ferramenta de apoio, e não como uma substituta do pensamento humano.
Minhas falhas e escolhas, minha criatividade e estilo de abordar cada tema, são próprios. Quando escrevo sou também leitor, e assim disciplino meus pensamentos. Tenho a certeza de que vocês querem alguém real por trás dos artigos e livros, mesmo que até contrariando suas convicções em diferentes temas. Os leitores valorizam essa conexão humana que provoca legítimas e transparentes reflexões.
Aprendi a não ter medo de nada, e que a coragem além de ser um dos mais nobres sentimentos é o que nos dá força para empreender. Assim, a IA é ferramenta que pode ser útil. Só depende do usuário.
*Ricardo Viveiros, jornalista, professor e escritor, é doutor em Educação, Arte e História da Cultura (UPM); membro da Academia Paulista de Educação (APE) e conselheiro da Associação Brasileira de Imprensa (ABI); autor, entre outros livros, de A vila que descobriu o Brasil, Memórias de um tempo obscuro e O sol brilhou à noite.
Publicar comentário