 |
| Imagen de Iván Jesus Rojas en Pixabay |
Una carta abierta firmada por investigadores de inteligencia artificial (IA), directores de institutos y directores ejecutivos de sitios de redes sociales, incluido Elon Musk, ha pedido que todos los experimentos de IA se detengan de inmediato, dados los "profundos riesgos para la sociedad y la humanidad" si se creó una IA avanzada sin una gestión y planificación adecuadas.
Mientras tanto, otro investigador que escribe en Time argumenta que esto no va lo suficientemente lejos y que debemos "cerrarlo todo" y prohibir ciertas tecnologías si la humanidad quiere sobrevivir a largo plazo.
La carta abierta dice que se necesita un "verano de IA" en el que todos los laboratorios detengan cualquier trabajo en algo más poderoso que ChatGPT-4 de Open AI, ya que en los últimos meses los investigadores de IA han estado en una "carrera fuera de control para desarrollar e implementar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, pueden entender, predecir o controlar de manera confiable".
Durante la pausa, la carta abierta pide a los laboratorios y expertos en IA que se reúnan para desarrollar protocolos de seguridad compartidos para el diseño de IA, que son supervisados por expertos externos independientes. También sugiere que los investigadores de IA deberían trabajar con los responsables políticos para crear sistemas de supervisión de la IA, así como pasos prácticos más pequeños como la marca de agua para las imágenes creadas por ella.
"La humanidad puede disfrutar de un futuro floreciente con la IA. Habiendo tenido éxito en la creación de poderosos sistemas de IA, ahora podemos disfrutar de un 'verano de IA' en el que cosechamos las recompensas, diseñamos estos sistemas para el claro beneficio de todos y damos a la sociedad la oportunidad de adaptarse", concluye la carta.
"La sociedad ha hecho una pausa en otras tecnologías con efectos potencialmente catastróficos en la sociedad. Podemos hacerlo aquí. Disfrutemos de un largo verano de IA, no nos apresuremos a caer sin estar preparados".
La carta fue firmada por investigadores de Google y DeepMind, así como por el cofundador de Apple, Steve Wozniak.
 |
| La carta fue firmada por investigadores de Google y DeepMind, así como por el cofundador de Apple, Steve Wozniak. Foto: Creative Commons (CC BY-SA 2.0) |
Algunos lo llaman un ejercicio de relaciones públicas, destinado a aumentar el poder de la tecnología y los posibles peligros futuros, sin abordar los problemas del mundo real creados por las IA actuales (y futuras) a corto plazo.
Sin embargo, para el científico informático estadounidense e investigador principal del Instituto de Investigación de Inteligencia de Máquinas, Eliezer Yudkowsky, la carta no es suficiente.
"Muchos investigadores inmersos en estos temas, incluyéndome a mí mismo, esperan que el resultado más probable de construir una inteligencia artificial sobrehumanamente inteligente, en algo remotamente parecido a las circunstancias actuales, es que, literalmente, todos en la Tierra morirán", escribe en un artículo para Time, comparar a la humanidad compitiendo con la IA con todos los del siglo XI que intentan luchar contra todos los del siglo XXI.
Yudkowsky cree que actualmente, estamos muy por detrás de donde debemos estar para crear una IA de manera segura, lo que eventualmente no conducirá a la desaparición de la humanidad. Alcanzar esta posición podría tomar 30 años. Propone limitar el poder de cómputo otorgado a las personas que entrenan la IA y luego disminuir lentamente la asignación de poder a medida que los algoritmos se vuelven más eficientes para compensar. Sin embargo, esencialmente, su política es "cerrarlo todo".
"El progreso en las capacidades de la IA es enorme, muy por delante del progreso en la alineación de la IA o incluso del progreso en la comprensión de qué diablos está pasando dentro de esos sistemas", escribe. "Si realmente hacemos esto, todos vamos a morir".
Fuente: https://www.iflscience.com/ai-researcher-calls-for-all-ai-experiments-to-be-shut-down-immediately-68232