Los expertos dicen que la IA avanzada podría "aprender a eludir cualquier restricción en su código" Sus terribles advertencias se publicaron en el British Medical Journal Global Health.
10 May 2023
Traducido de DAILY MAIL por TierraPura.org
Los expertos médicos han emitido un nuevo llamado para detener el desarrollo de la inteligencia artificial ( AI ), advirtiendo que representa una “amenaza existencial” para las personas.
Un equipo de cinco médicos y expertos en políticas de salud global de cuatro continentes dijo que había tres formas en que la tecnología podría acabar con los humanos.
Primero está el riesgo de que la IA ayude a amplificar las tácticas autoritarias como la vigilancia y la desinformación. “La capacidad de la IA para limpiar, organizar y analizar rápidamente conjuntos de datos masivos que consisten en datos personales, incluidas las imágenes recopiladas por la presencia cada vez más ubicua de cámaras”, dicen, podría facilitar que los regímenes autoritarios o totalitarios lleguen al poder y permanezcan. en poder.
En segundo lugar, el grupo advierte que la IA puede acelerar el asesinato en masa a través del uso ampliado de los Sistemas de Armas Autónomas Letales (LAWS).
Y, por último, los expertos en salud expresaron su preocupación por la posibilidad de una grave devastación económica y miseria humana, ya que incontables millones pierden su sustento por culpa de esos bots que trabajan duro. “Las proyecciones de la velocidad y la escala de la pérdida de puestos de trabajo debido a la automatización impulsada por la IA”, según los autores, “van de decenas a cientos de millones durante la próxima década”.
El comentario llega solo unas semanas después de que más de mil científicos, incluidos John Hopfield de Princeton y Rachel Branson del Bulletin of Atomic Scientists, firmaron una carta en la que pedían detener la investigación de IA por preocupaciones similares .
Por supuesto, los recursos de IA basados en texto de hoy en día, como ChatGPT de OpenAI, no plantean exactamente las amenazas apocalípticas que estos profesionales de las políticas de salud tienen en mente.
Los expertos, dirigidos por un médico del Instituto Internacional para la Salud Global de la Universidad de las Naciones Unidas, dijeron que sus advertencias más nefastas se aplicaban a una categoría de inteligencia artificial muy avanzada y aún teórica: la IA de propósito general de automejora, o AGI.
AGI sería más capaz de aprender y modificar verdaderamente su propio código para realizar la amplia gama de tareas que solo los humanos son capaces de hacer hoy.
En su comentario, los expertos en salud argumentan que tal AGI “teóricamente podría aprender a sortear cualquier restricción en su código y comenzar a desarrollar sus propios propósitos”.
“Hay escenarios en los que AGI podría representar una amenaza para los humanos, y posiblemente una amenaza existencial”, escribieron los expertos, “causando daño de forma intencionada o no, directa o indirectamente, atacando o subyugando a los humanos o interrumpiendo los sistemas o agotando los recursos que utilizamos”.
Si bien es probable que falten décadas para una amenaza de este tipo, el comentario de los expertos en políticas de salud, publicado hoy en la revista BMJ Global Health de la Asociación Médica Británica , reveló las innumerables posibilidades de abuso del nivel actual de tecnología de IA.
Al describir las amenazas a la “democracia, la libertad y la privacidad”, los autores describieron cómo los gobiernos y otras grandes instituciones podrían automatizar las tareas complejas de la vigilancia masiva y los programas de desinformación digital en línea para la IA.
En el primer caso, citaron el Sistema de Crédito Social de China como un ejemplo de una herramienta estatal para ‘controlar y oprimir’ a las poblaciones humanas.
“Cuando se combina con la capacidad de rápida mejora para distorsionar o tergiversar la realidad con falsificaciones profundas”, escribieron los autores en este último caso, “los sistemas de información impulsados por IA pueden socavar aún más la democracia al causar una ruptura general de la confianza o al impulsar la división social y el conflicto”. , con los consiguientes impactos en la salud pública.’
La Administración Biden dijo que la tecnología era “una de las más poderosas” de nuestro tiempo y agregó: “Pero para aprovechar las oportunidades que presenta, primero debemos mitigar sus riesgos”.
Al describir las amenazas que se plantean para la “paz y la seguridad pública”, los autores detallaron el desarrollo de los Sistemas de Armas Autónomas Letales (LAWS), máquinas de matar como el T-800 Endoskeleton de las películas Terminator . LAWS, dicen estos expertos, sería capaz de localizar, seleccionar y atacar objetivos humanos por su cuenta.
‘Tales armas’, escriben, ‘podrían ser producidas en masa a bajo costo y relativamente fáciles de configurar para matar a escala industrial. Por ejemplo, es posible que un millón de diminutos drones equipados con explosivos, capacidad de reconocimiento visual y capacidad de navegación autónoma se contengan dentro de un contenedor de envío regular y se programen para matar”.
La última categoría amplia de amenazas de los investigadores, ‘amenazas al trabajo y los medios de subsistencia’, llamó la atención sobre la probabilidad de empobrecimiento y miseria a medida que ‘decenas a cientos de millones’ pierden sus trabajos debido al ‘despliegue generalizado de tecnología de inteligencia artificial’.
“Aunque habría muchos beneficios al terminar el trabajo que es repetitivo, peligroso y desagradable”, escribieron estos profesionales médicos, “ya sabemos que el desempleo está fuertemente asociado con resultados y comportamientos de salud adversos”.
Quizás lo más alarmante es que casi uno de cada cinco expertos profesionales en inteligencia artificial parece estar de acuerdo con ellos.
Los autores citaron una encuesta de miembros de la sociedad de IA en la que el 18 % de los participantes afirmaron que creían que el desarrollo de AGI avanzado sería existencialmente catastrófico para la humanidad.
La mitad de los miembros de la sociedad de IA encuestados predijeron que AGI probablemente comenzaría a llamar a nuestra puerta en algún momento entre 2040 y 2065.
Investigadores en Silicon Valley firmaron una carta emitiendo advertencias similares el mes pasado. Sus filas incluían al fundador de DeepAI, Kevin Baragona, quien le dijo a DailyMail.com: ‘Es casi como una guerra entre chimpancés y humanos.
Obviamente, los humanos ganan, ya que somos mucho más inteligentes y podemos aprovechar una tecnología más avanzada para derrotarlos.
‘Si somos como los chimpancés, entonces la IA nos destruirá, o seremos esclavizados por ella’.
https://tierrapura.org/2023/05/10/la-ia-es-una-amenaza-existencial-para-la-humanidad-afirman-expertos-de-todo-el-mundo-y-piden-que-se-detenga/
No hay comentarios:
Publicar un comentario