Es probable que las armas más peligrosas del mundo provengan de la inteligencia artificial (IA), al menos así lo ha demostrado un reciente estudio donde una IA para el desarrollo de fármacos sugirió en menos de seis horas 40.000 armas químicas potencialmente letales.
Toda tecnología facilita y logra avances para el bien de la humanidad a no ser que esta sea utilizada con fines destructivos. Esto es lo que corroboró un equipo de investigadores al demostrar cómo una IA de desarrollo de fármacos logró en tiempo récord crear armas biológicas que pueden conducir a una guerra química devastadora para el mundo.
Los resultados de la investigación fueron explicados por el científico senior en Collaborations Pharmaceuticals y autor principal del estudio Fabio Urbina en una entrevista con The Verge donde explica que se centraron en una de las moléculas más letales conocida como VX, que se caracteriza por inmovilizar el diafragma, paralizando a los pulmones.
"Históricamente tenemos muchos conjuntos de datos de moléculas que se han probado para ver si son tóxicas o no. (…) Le damos a IA nuevas moléculas, potencialmente nuevos medicamentos que tal vez nunca antes se hayan probado y predice si serán o no tóxicos", explicó.
Los investigadores admitieron que no estaban seguros de los resultados que conseguirían con este estudio porque los modelos generativos son tecnologías relativamente nuevas y quedaron sorprendidos cuando la IA sugirió miles de armas químicas, exactamente más de 40.000 moléculas letales en menos de seis horas, algunas más tóxicas que la misma VX, que con una cantidad minúscula podría resultar letal.
"Incluso si hay muchos falsos positivos, tememos que haya algunas moléculas más potentes allí. Para mí, la preocupación era lo fácil que es hacerlo", comentó Urbina a tiempo de alertar lo sencillo que es diseñar estas armas químicas virtuales sin mucho esfuerzo, tiempo o recursos computacionales.
En su opinión, cualquier persona con conocimientos mínimos de programación puede replicar los resultados a los que llegaron los investigadores ya que para ello solo se necesitarían las herramientas open source, software de código abierto, e incluso los modelos generativos gratuitos que ha lanzado google para unirlos a grandes volúmenes de datos de toxicidad.
Si bien teóricamente sería sencillo encontrar la molécula tóxica potencial, Urbina detalló que lo complejo está en que la molécula tóxica potencial debería sintetizarse y crearse en el mundo real.
"Solo queremos que más investigadores reconozcan y sean conscientes del posible uso indebido.
Cuando comienzas a trabajar en el espacio de la química, te informan sobre el mal uso de la química y eres responsable. En el aprendizaje automático, no hay nada de eso. No hay orientación sobre el mal uso de la tecnología", advirtió Urbina.
El investigador reiteró que si bien llegar a los resultados del estudio que llevó a cabo puede ser replicado por cualquier persona que tenga conocimientos básicos al respecto, cree que por ahora no hay motivo para alarmarse por una guerra química impulsada por la IA, aunque esto en un futuro podría convertirse en una posibilidad.
https://www.extranotix.com/2022/03/una-inteligencia-artificial-genera.html
No hay comentarios:
Publicar un comentario