Article information

• Author, Dalia Ventura
• Role, BBC News Mundo

• 27 maio 2023, 10:13 -03

  Atualizado Há 30 minutos

Em 2020, Sean Ekins – diretor-executivo da empresa Collaborations Pharmaceuticals, com sede em Raleigh, na Carolina do Norte (Estados Unidos) – recebeu um convite para participar da Conferência da Convergência de Spiez, na Suíça.

“Nunca havia ouvido falar dela”, declarou Ekins à BBC News Mundo, o serviço em espanhol da BBC.

“Na verdade, o que me entusiasmou, mais do que qualquer outra coisa, foi a localização, porque era na Suíça, em um lugar bonito.”

Mas a pandemia de covid-19 fez com que a conferência fosse cancelada. Ekins e sua equipe continuaram se dedicando às suas atividades diárias – buscar medicamentos para doenças raras e não atendidas pelas grandes farmacêuticas, por não serem consideradas lucrativas.

Suas pesquisas englobam desde ‘uma doença que reduz o tempo de vida das crianças e afeta cerca de 100 pessoas em todo o mundo” até infecções como a malária, já que, “embora, para alguns casos, existam medicamentos, eles perdem a eficácia com o tempo”.

“Não iremos ficar ricos, mas, pelo menos, acredito que estejamos contribuindo para a sociedade como um todo”, destaca Ekins.

Um ano se passou e ele recebeu outro convite para a conferência. Mas, agora, não havia o atrativo da viagem, já que ela seria realizada pelo aplicativo Zoom.

Ekins precisou prestar mais atenção desta vez. Era um encontro para avaliar as novas tendências das pesquisas químicas e biológicas que pudessem representar ameaças de segurança.

“Eles estavam interessados pelo mau uso da tecnologia, das ferramentas científicas e da ciência em geral”, ele conta.

Os organizadores pediram a Ekins que fizesse uma apresentação, o que parecia “muito estranho. [Aquilo] me obrigou a pensar como poderíamos fazer mau uso do nosso trabalho”.

O que eles fazem

Para descobrir remédios contra doenças raras, a Collaborations Pharmaceuticals havia criado a plataforma de inteligência artificial (IA) MegaSyn.

A plataforma é algo que não pode ser comprado, mas sim montado, “como se fosse Lego”, explica Ekins. Segundo ele, “todos os pequenos tijolos” necessários para construí-la foram obtidos em “bancos de dados de software de código aberto”.

“Depois, consultamos bancos de dados de informações, para criar modelos de aprendizado automático que conectamos à MegaSyn”, explica ele. “Isso permite projetar moléculas com propriedades específicas.”

Em outras palavras, os pesquisadores treinaram a IA para fazer o trabalho de um químico humano, mas em velocidade descomunal.

Os medicamentos são basicamente compostos de moléculas. A MegaSyn procura não só as moléculas já existentes, para ver se alguma serve para combater doenças, mas pode também criar outras moléculas, até agora inexistentes.

O ‘Dr. Malvado’

Às vésperas da conferência, Ekins e o diretor associado Fabio Urbina dedicaram-se à tarefa de verificar o que aconteceria se a MegaSyn caísse nas mãos erradas. Assim nasceu o experimento que recebeu o nome de “Projeto Dr. Malvado”.

Era um projeto simples. Para gerar um novo produto farmacêutico, é fundamental garantir que ele não seja tóxico. E se esse filtro fosse alterado?

“Nós apenas mudamos a direção de um interruptor no modelo. Em vez de ‘não tóxico’, dissemos ‘tóxico'”, explica Ekins. “Literalmente, foi questão de trocar um 1 e um 0 no programa. Simples assim.”

Eles pressionaram “enter” e deixaram a MegaSyn fazer o trabalho.

No dia seguinte, eles encontraram uma lista de dezenas de milhares de moléculas e fizeram uma busca para ver se havia alguma conhecida. E ficaram espantados com o resultado.

VX

“Esta mudança simples no programa teve um efeito dramático”, conta Ekins.

Com o simples pressionar de uma tecla, a MegaSyn havia projetado o assustador agente nervoso VX, classificado como arma de destruição em massa e proibido pela ONU.

Trata-se de uma das substâncias mais letais já produzidas. Menos de uma gota em contato com a pele é suficiente para matar uma pessoa.

Eles também confirmaram que a MegaSyn “conseguiu encontrar moléculas precursoras até então desconhecidas – pontos de partida para o desenvolvimento de armas químicas em massa mais potentes”.

O mais preocupante foi saber que, embora o Dr. Malvado fosse um experimento teórico, outras pessoas, com outras intenções, “poderiam fazer o mesmo, se é que ainda não fizeram”.

“Você não precisa de doutorado, apenas de algum conhecimento de codificação, um computador portátil básico… todo o resto está disponível online de forma gratuita”, afirmou ele.

“Se algum químico tivesse isso nas mãos e quisesse converter essas moléculas em armas, como ninguém sabe que elas existem, seria impossível rastreá-las e detectá-las.”

O dilema

Alertar os bem-intencionados sobre o perigo também significa informar aos mal-intencionados sobre as possibilidades.

Ekins e Urbina decidiram não fornecer muitos detalhes sobre os resultados do Projeto Dr. Malvado na sua palestra em Spiez. Eles apresentaram uma descrição genérica do seu trabalho, oferecendo apenas as informações suficientes para prevenir os especialistas.

Mas, por mais camuflado que fosse, o potencial de uso negativo da sua tecnologia foi o que causou maior impacto.

Pouco depois, um artigo resumindo a palestra, publicado na revista científica Nature Machine Intelligence, chamou a atenção de jornais e revistas, como The Washington Post e The Economist. Surgiram discussões entre especialistas em armas químicas, inteligência artificial, a indústria farmacêutica e até entre filósofos.

Ekins e sua equipe chegaram a ser convocados a uma reunião com o Escritório de Política Científica e Tecnológica e o Conselho de Segurança Nacional, na Casa Branca.

“Foi surreal”, relembra ele.

Apesar dos temores iniciais de que falar sobre o assunto poderia servir mais para inspirar do que para prevenir, Ekins precisou assumir o risco de conscientizar as pessoas, não só pelo interesse despertado, mas porque “já não conseguia dormir em paz”.

Mas ele nunca se dispôs a compartilhar a lista de dezenas de milhares de possíveis moléculas tóxicas gerada pela MegaSyn – nem mesmo com a Casa Branca.

O que fazer?

Mesmo com todos os riscos, ninguém consegue deter o progresso. Plataformas como a MegaSyn são imensamente benéficas e Ekins sabe disso melhor do que a maioria das pessoas.

Uma estratégia para prevenir seu mau uso é “educar as pessoas sobre os problemas”.

“Agora que o governo está ciente, fomos convidados a falar sobre o tema em nome das agências governamentais”, ele conta.

“Em maio, por exemplo, iremos a uma conferência no Brasil, falar em nome do Departamento de Estado dos Estados Unidos com acadêmicos e profissionais da indústria sobre os possíveis problemas referentes à IA generativa.”

E estas atividades terão ajudado Ekins a dormir mais tranquilo? Bem, não muito.

“Desde que fizemos o Projeto Dr. Malvado, a IA generativa ficou muito mais pública, com coisas como o ChatGPT e DALL-E”, comenta ele. “Até se demonstrou que os aplicativos de chat podem projetar moléculas.”

“As barreiras de entrada, hoje em dia, são muito menores do que eram um ano e meio atrás. É fundamental educar os cientistas que não tiveram a mesma experiência que nós”, insiste Ekins.

Mas especialistas consultados pela imprensa afirmam que não existe motivo para despertar tantos alarmes. Eles ressaltam que a identificação de novas moléculas é apenas o primeiro passo de um longo caminho para a produção de um novo medicamento… ou de uma nova arma. E que a maioria desses caminhos leva ao fracasso.

Dos dois lados do debate, surge com frequência a mesma analogia.

O bolo

Para alguns especialistas – aqueles para quem nada tira o sono – o que a MegaSyn forneceu foi uma lista de ingredientes. E seria preciso ter chefs com todas as estrelas Michelin e uma cozinha repleta de cozinheiros para poder preparar o bolo perfeito.

“Um ano atrás, eu teria ficado tranquilo com isso”, afirma Ekins. “Sempre houve pessoas que fabricam drogas e armas ilegalmente e, é claro, este é um nicho de mercado.”

“Mas nós aumentamos o número potencial de confeiteiros”, segundo ele.

Para Ekins, tecnologias como a MegaSyn não produzem meros ingredientes, mas sim receitas. E, se as receitas não funcionarem, elas ajudam a aperfeiçoá-las.

“Uma vez fornecida a receita, qualquer pessoa pode assar esse bolo”, afirma ele. “Alguns farão melhor do que outros, mas o risco sempre existe.”

Mas ele destaca que existe algo que talvez nos ajude a dormir melhor.

Diversas entidades em países como a Suíça estão muito comprometidas com este tema. Existem discussões para verificar como organismos como a Organização para a Proibição das Armas Químicas (Opaq), que regulamenta as moléculas, podem incluir a IA no seu marco legal.

“Podemos usar essas tecnologias para nos defendermos. [Podemos] nos valer das mesmas ferramentas para verificar quais são os produtos químicos que poderiam ser utilizados para preparar novas moléculas tóxicas e, assim, controlá-los”, conclui Sean Ekins.