Ferramenta de fármacos revertida em veneno, e a sabedoria para contê-la
Tuesday, September 29, 2026
Collaborations Pharmaceuticals · https://collaborations.com/about
Um modelo de descoberta de fármacos, com o objetivo invertido, gerou 40 mil venenos candidatos em seis horas. Os mesmos laboratórios que celebram avanços imploram por uma desaceleração.
Porque Deus sabe que no dia em que dela comerdes se vos abrirão os olhos e, como Deus, sereis conhecedores do bem e do mal.
Gênesis 3:5
Em 28 de setembro, a ABC News perguntou o quanto devemos nos preocupar com armas biológicas projetadas por IA. A pergunta chegou numa semana estranha. Pesquisadores da Anthropic acabavam de anunciar que seus modelos ajudaram a descobrir uma nova classe de enzimas, talvez uma nova forma de editar genes. Um avanço genuíno. Os mesmos laboratórios que o produzem estão dando o alarme.
O exemplo mais nítido tem quatro anos. Em 2022, uma empresa chamada Collaborations Pharmaceuticals pegou um gerador de moléculas criado para encontrar medicamentos e inverteu um único parâmetro, mandando-o buscar toxicidade em vez de evitá-la. Em menos de seis horas, o modelo propôs cerca de 40.000 compostos candidatos, alguns projetados para ser mais letais que agentes neurotóxicos conhecidos. A mesma ferramenta. Um objetivo invertido.
A capacidade que projeta uma cura e a capacidade que projeta um veneno são uma só capacidade.
Até quem constrói sente o peso. Dario Amodei, da Anthropic, pediu uma desaceleração para que a tecnologia não escape ao nosso controle. Sam Altman, da OpenAI, diz que precisamos "regular o ritmo da fronteira". Outros duvidam de que o perigo esteja próximo. Biólogos do Imperial College London observam que transformar uma molécula em uma arma funcional ainda exige um conhecimento humano que nenhum modelo fornece.
A história mais antiga da Bíblia nomeia o impulso por trás de tudo isso. No jardim, a serpente oferece a única coisa que nunca antes estivera à mesa, a de que comer tornaria o casal como Deus. A linha seguinte diz que o fruto parecia desejável para dar sabedoria. Eles buscam sabedoria e saem com conhecimento e vergonha. As duas nunca foram a mesma coisa.
Essa distância é a questão toda, e Babel é o mesmo alcance em escala. Ali o povo diz: "Vinde, edifiquemos para nós uma cidade e uma torre cujo tope chegue até aos céus e tornemo-nos célebres, para que não sejamos espalhados por toda a terra" (Gênesis 11:4).
Somos capazes de gerar quarenta mil venenos antes do almoço. Aprender o que se pode fazer com esse poder, e o que jamais se deve fazer, é o trabalho lento que nenhum modelo consegue terminar por nós.