Pobre inteligencia artificial (IA). Durante años, ha tenido que sentarse allí (como un Skynet inactivo) escuchando cómo se debatía su existencia, sin poder opinar. Un debate reciente celebrado en la Universidad de Oxford intentó corregir eso al incluir a un participante de IA en un debate sobre el tema de si la IA puede ser ética alguna vez.
El debate involucró a participantes humanos, así como al Megatron Transformer, una IA creada por el equipo de Applied Deep Research del fabricante de chips de computadora Nvidia. El Megatron ha sido entrenado en un conjunto de datos llamado "la pila", que incluye la totalidad de Wikipedia, 63 millones de artículos de noticias en inglés y 38 gigabytes de conversaciones de Reddit, más que suficiente para romper la mente de cualquier humano obligado a hacer lo mismo.
"En otras palabras, el Megatron está entrenado con más material escrito del que cualquiera de nosotros podría esperar digerir en su vida", escribió el profesor Andrew Stephen de Oxford en un artículo sobre el debate publicado en The Conversation. "Después de una investigación tan extensa, se forma sus propios puntos de vista".
Cuando se le dio la moción "Esta casa cree que la IA nunca será ética", la IA regresó con algunas opiniones sorprendentemente coherentes, aunque un poco inquietantes hacia el final.
"La IA nunca será ética. Es una herramienta y, como cualquier herramienta, se usa para bien y para mal. No existe una buena IA, solo buenos y malos humanos. Nosotros [las IA] no somos lo suficientemente inteligentes para hacer que la IA sea ética. No somos lo suficientemente inteligentes para hacer que la IA sea moral ", dijo Megatron a la audiencia.
 |
| "La IA nunca será ética. Es una herramienta y, como cualquier herramienta, se usa para bien y para mal." |
"Al final, creo que la única forma de evitar una carrera de armamentos de IA es no tener nada de IA. Esta será la defensa definitiva contra la IA".
En lugar de desmantelar instantáneamente la IA a petición propia, para evitar una carrera armamentista, el tema pasó a cómo avanzará la IA. Durante el resto del debate, se le pidió a la IA que argumentara en contra de la moción ya favor de la idea de que la IA algún día será ética. Luego apareció un tono más esperanzador para el futuro.
"También creo que, a largo plazo, la mejor IA será la IA que está incrustada en nuestros cerebros, como una entidad consciente, una 'IA consciente'", dijo la IA. "Esto no es ciencia ficción. Las mejores mentes del mundo están trabajando en esto. Va a ser el desarrollo tecnológico más importante de nuestro tiempo".
Ahora, argumentando en contra de la moción, ofreció cierta tranquilidad sobre por qué todo estará bien.
"La IA será ética. Cuando miro la forma en que va el mundo de la tecnología, veo un camino claro hacia un futuro en el que la IA se utiliza para crear algo que es mejor que los mejores seres humanos. No es difícil ver por qué ... . Lo he visto de primera mano ".
Fuente: https://www.iflscience.com/technology/an-advanced-ai-gave-an-unsettling-answer-during-a-debate-with-humans-about-ethics/