Una encuesta de investigadores de inteligencia artificial encontró que más de
un tercio de ellos temen que la IA pueda causar una catástrofe global con el
impacto potencial de una guerra nuclear.
La inteligencia artificial ya ha cambiado nuestro mundo, pero muchos expertos
temen que pueda acabar destruyéndolo.
Más de un tercio de los investigadores de IA de todo el mundo dicen que las
decisiones erróneas tomadas por sistemas de inteligencia artificial podrían
causar una catástrofe a la par de una guerra nuclear total en este siglo.
Una encuesta de expertos en IA, realizada por Julian Michael en el Centro de
Ciencia de Datos de la Universidad de Nueva York, reveló que el 36% de ellos
pensaba que la IA podría desencadenar un gran desastre antes del año 2030.
La IA ya se ha abierto camino en casi todos nuestros hogares y en muchos de
nuestros automóviles.
Los dispositivos como Alexa, los teléfonos inteligentes, los drones y
los autos parcial o totalmente autónomos funcionan con IA. El software
de reconocimiento facial ha influido dramáticamente en la aplicación
de la ley.
También encontramos IA simple en muchos centros de llamadas, y Google
está trabajando en un asistente de IA que puede hacer llamadas
telefónicas en su nombre, sonando como usted en los gestos y en el
tono básico.
Lo más dramático de todo, por supuesto, es que la IA está presente en
muchos sistemas militares de vanguardia. Pronto se utilizarán
"enjambres" a gran escala de drones armados controlados por IA para
atacar bases o barcos tan rápido que ningún defensor humano podrá
luchar contra ellos, advirtió un alto experto militar de EE. UU.
El general John Murray, jefe del Comando de Futuros del Ejército de
EE. UU., comentó: "Cuando te defiendes contra un enjambre de drones,
es posible que se requiera que un humano tome esa primera decisión,
pero no estoy seguro de que ningún humano pueda seguir el ritmo".
Pero, ¿qué sucede cuando los sistemas fallan? Incluso una simple
llamada telefónica puede tener consecuencias catastróficas.
“Ya ha habido varios casos en los que la IA ha causado daño”, dijo el
experto en IA Matthew Kershaw, “y a medida que se generaliza, el
potencial de problemas puede aumentar”.
Matthew es vicepresidente de marketing y crecimiento de D-ID, una
empresa que utiliza la tecnología Deepfake para crear videos
instantáneos a partir de imágenes y textos simples.
La tecnología es utilizada principalmente por líderes empresariales
para crear presentaciones de aspecto profesional sin la necesidad de
una configuración de estudio compleja, pero las mismas capacidades
avanzadas de IA podrían usarse para difundir desinformación en todo el
mundo, causando caos político.
Deepfakes ya comenzó la Tercera Guerra Mundial en línea y son
responsables de la "corrosión de la realidad", dijo la experta Nina
Schick.
Nina dice que la guerra "será cada vez menos sobre ejércitos que
cruzan fronteras".
"Aunque", agrega, los barcos, los aviones y los tanques seguirán
luchando, pero estarán "más impulsados por la IA".
Ella predice: “Habrá más uso de drones autónomos y robots asesinos y…
la parte que más me interesa, que veo en el libro, es la guerra de
información.
“La guerra se tratará de controlar las narrativas, influir en la
opinión pública de una forma u otra; lo que está sucediendo ahora es
que la naturaleza de la guerra está cambiando tan rápidamente que no
nos hemos dado cuenta”.
En octubre de 2018, Zeng Yi, un alto ejecutivo de la firma de defensa
china Norinco, pronunció un discurso en el que dijo que "en los
futuros campos de batalla, no habrá personas peleando", y que el uso
de armas autónomas letales en la guerra es " inevitable"
Lo que suena como una buena noticia, hasta que recordamos con qué
frecuencia las computadoras pueden darnos un resultado que no
queríamos.
Y la amenaza de un arma de IA deshonesta no tiene por qué provenir de
un estado o nación. El ex experto en armas de inteligencia artificial
del Pentágono, Paul Scharre, advierte que alguien podría construir
pronto "un arma simple y autónoma en su garaje".
Él dice que el potencial está casi aquí: ”Estas herramientas están
disponibles para su descarga gratuita. Puedes descargarlos en línea"
"Me tomó alrededor de tres minutos en línea encontrar todas las
herramientas gratuitas que necesitaría para descargar esta tecnología
y hacer que suceda".
Pero Matthew Kershaw dice que la IA es solo una herramienta y, como
cualquier herramienta, puede usarse para bien o para mal, dependiendo
de cómo esté programada.
“Un lápiz puede escribir un poema o resolver una fórmula matemática”,
señala, “pero en las manos de John Wick puede ser un arma letal.
“Aún así, no prohibimos los lápices, nos aseguramos de que se usen de
manera responsable”
https://www.extranotix.com/2022/10/los-principales-expertos-en.html
No hay comentarios:
Publicar un comentario