A inteligência artificial pode se transformar em uma ferramenta capaz de provocar uma catástrofe de proporções globais quando utilizada por pessoas com intenções criminosas. O alerta foi feito pelo bilionário Bill Gates, cofundador da Microsoft, durante uma entrevista ao programa Meet the Press, da emissora americana NBC News, exibida no domingo, 27 de setembro.
Gates afirmou que a tecnologia já alcançou um nível de capacidade que exige medidas de segurança mais rigorosas e participação direta dos governos. Ao abordar os possíveis impactos de seu uso malicioso, ele declarou que a inteligência artificial é poderosa o suficiente para desencadear acontecimentos capazes de causar até um bilhão de mortes.
A afirmação representa um alerta sobre um cenário extremo, não uma estimativa científica de mortes ou uma previsão de que a tragédia necessariamente acontecerá. O empresário relacionou esse risco à combinação de ferramentas avançadas com indivíduos ou organizações dispostos a utilizá-las para causar danos.
Por que Bill Gates acredita que a inteligência artificial pode causar uma catástrofe?
A principal preocupação apresentada pelo empresário não está apenas na possibilidade de sistemas se tornarem mais inteligentes que os seres humanos, mas na utilização criminosa de capacidades que já estão sendo desenvolvidas.
Segundo Gates, a inteligência artificial pode ampliar a capacidade de grupos pequenos realizarem atividades que, anteriormente, exigiam recursos técnicos e financeiros de governos ou grandes organizações.
Entre os riscos mencionados estão fraudes sofisticadas, ataques cibernéticos contra sistemas bancários, interrupções no fornecimento de eletricidade e ameaças relacionadas ao bioterrorismo.
O avanço de ferramentas automatizadas poderia facilitar a execução de operações coordenadas em grande escala, reduzindo as barreiras técnicas enfrentadas por criminosos.
Durante a entrevista, Gates destacou que a combinação entre pessoas mal-intencionadas e ferramentas modernas de IA representa uma ameaça especialmente preocupante.
Ele argumentou que mecanismos de monitoramento precisam ser incorporados aos sistemas antes que ocorram incidentes de grandes proporções.
Ataques a bancos e redes elétricas estão entre os riscos mencionados
Um dos pontos centrais da discussão envolve a possibilidade de agentes criminosos utilizarem inteligência artificial para atingir infraestruturas consideradas essenciais.
Sistemas de energia, plataformas financeiras e serviços digitais dependem de redes conectadas que podem se tornar alvos de ataques cibernéticos.
A IA pode ser empregada para automatizar partes dessas operações, ampliar campanhas de fraude e facilitar determinadas atividades maliciosas. Entretanto, a capacidade efetiva de provocar danos depende de vários fatores, incluindo vulnerabilidades dos sistemas e mecanismos de defesa existentes.
Gates defendeu que as empresas responsáveis pelos modelos avançados mantenham registros das atividades realizadas por esses sistemas.
Esses registros poderiam auxiliar autoridades na investigação de incidentes e na identificação de comportamentos perigosos antes que causem prejuízos maiores.
Bilionário defende leis para controlar os sistemas de IA
Para Gates, depender exclusivamente das regras estabelecidas pelas próprias empresas de tecnologia não oferece garantias suficientes de segurança.
O empresário defendeu a criação de legislação específica e a participação de autoridades públicas na definição de padrões de monitoramento.
Entre as medidas discutidas está a possibilidade de interromper imediatamente o funcionamento de determinados sistemas em situações de emergência, mecanismo conhecido como kill switch.
Gates, porém, ressaltou que a simples existência de um botão de desligamento não resolveria todos os problemas. Segundo ele, as autoridades também precisam ter meios de compreender e investigar o comportamento dos agentes de inteligência artificial.
O cofundador da Microsoft argumentou que essas proteções poderiam ser implementadas sem provocar uma desaceleração expressiva no desenvolvimento tecnológico.
Empresas de inteligência artificial também discutem os perigos da tecnologia
As declarações aconteceram em meio a um debate que envolve algumas das principais companhias responsáveis pelo desenvolvimento de sistemas avançados de IA.
Dario Amodei, presidente-executivo da Anthropic, defendeu maior coordenação entre laboratórios e governos para estabelecer padrões de segurança.
Sam Altman, da OpenAI, também participou das discussões internacionais sobre os riscos associados ao desenvolvimento de sistemas cada vez mais capazes.
Uma das preocupações envolve agentes autônomos, programas que conseguem executar sequências de tarefas com intervenção humana limitada.
Esse tipo de tecnologia amplia as possibilidades de automação, mas também exige mecanismos para impedir comportamentos indesejados, utilização criminosa e ações que escapem dos controles estabelecidos.
O debate inclui diferentes propostas, desde avaliações obrigatórias de segurança até sistemas de auditoria, registros de operações e protocolos para interromper atividades perigosas.
Outro ponto da entrevista foi a dificuldade de estabelecer regras internacionais capazes de acompanhar o avanço da inteligência artificial.
Gates comparou o desafio às negociações realizadas durante a Guerra Fria para limitar armamentos nucleares e afirmou que construir acordos globais sobre IA pode ser ainda mais complicado.
A comparação está relacionada à necessidade de coordenação internacional, à velocidade do desenvolvimento tecnológico e à participação de empresas privadas na criação dos sistemas.
Nos Estados Unidos, o debate ocorre em meio a diferentes posições sobre a extensão da intervenção federal. O presidente Donald Trump manifestou oposição a novas restrições amplas, embora tenha mencionado a possibilidade de atuação das autoridades diante de abusos.
Apesar dos alertas, Bill Gates continua defendendo o potencial da inteligência artificial para melhorar serviços essenciais.
A Fundação Gates trabalha com organizações e empresas de tecnologia para ampliar a disponibilidade de ferramentas de IA em diferentes idiomas, especialmente em regiões com menor acesso a recursos digitais.
Entre as aplicações destacadas estão o apoio a profissionais de saúde, o desenvolvimento de soluções educacionais e o uso de sistemas inteligentes na agricultura.
A fundação também anunciou uma iniciativa de US$ 1 bilhão voltada a aplicações de inteligência artificial nessas áreas, com atenção especial às populações que enfrentam barreiras tecnológicas e linguísticas.
A principal questão apresentada por Gates é como ampliar esses benefícios enquanto governos e empresas estabelecem mecanismos capazes de reduzir os riscos de utilização maliciosa.
Quer saber tudo
o que está acontecendo?
Receba todas as notícias da A Revista no seu WhatsApp.
Entre em nosso grupo e fique bem informado.
