Expertos: Hay que tomar en serio advertencias de IA sobre la humanidad
Expertos consultados por CR Hoy coinciden en que hay tomarse en serio las palabras de representantes de compañías globales de IA que advirtieron un escenario donde los desarrollos sin control podrían convertirse en una amenaza para la existencia humana.
Por ejemplo, Jacob Coxon, quien trabajó en preentrenamiento de modelos de IA en OpenAI y luego en su rival, Anthropic, afirmó que "ninguna de las dos empresas OpenAI y Anthropic actúa de forma responsable. Están corriendo directamente hacia una superinteligencia capaz de mejorarse a sí misma y están jugando con nuestras vidas".
Tomás de Camino
Especialistas como Tomás de Camino señalan que "son personas que trabajan efectivamente en esos proyectos, en una capacidad de alto rango dentro de esas organizaciones, entonces, hay que tomar sus advertencias en serio.
Sin embargo, también son percepciones de esas personas, no hay nada evidente. Definitivamente pone en frente una discusión que tenemos que tener, pero en este momento es un comentario personal de Coxon".
De Camino, director de la Escuela de Sistemas Inteligentes de la Universidad Cenfotec considera que las recientes declaraciones de que la IA podría acabar con la humanidad "son afirmaciones un poco alarmistas y entran en una narrativa que creo que no vale la pena discutir, porque estamos hablando de la opinión de una persona, que no tenemos ninguna forma de verificar si lo que dijo es cierto o no".
Roberto Sasso
Para el Dr. Roberto Sasso, presidente del Club de Investigación Tecnológica, "decir que la IA por sí misma nos mate, lo veo muy difícil; algo así tan fuerte como decir: aniquilar la raza humana, es difícil.
Que alguien la utilice para producir un virus nuevo eso sí puede ser; que un terrorista utilice la IA para aniquilar a la raza humana, no es tremendamente probable, pero sí es posible".
También coincide en que las últimas manifestaciones hay que tomarlas en serio, a la vez que hizo un llamado a la regulación.
"Un uso temerario es peligroso, pero lo peligroso es la gente; necesitamos regulación, el problema es que nadie sabe exactamente cómo hacerlo.
La tecnología se desarrolla mucho más rápido de lo que podemos regular, ese es el meollo del problema", estima el máster en Ciencias de la Computación de la Universidad de Essex y Dr. en Ingeniería de Software de la Universidad de Oxford.
Verificación colectiva
Esta misma semana, Coxon aseguró que "las personas que están desarrollando la IA creen sinceramente que podría matarnos a todos antes de que termine la década. Esto no es una estrategia de mercadeo".
Evan Hubinger, responsable de seguridad en Anthropic, le dio la razón a Coxon, a quien le respondió los comentarios en la red social X con este mensaje: "creemos realmente que la IA podría matar a humanos"; a título personal, estimó ese riesgo en "más de un 10%" dentro de la próxima década.
Al respecto, de Camino Beck insiste en que hay que tomar en serio la advertencia; "sí, efectivamente estamos ante un sistema que es peligroso, a la vez que es beneficioso y tenemos que buscar la manera de cómo acelerar el desarrollo de esos sistemas en un contexto donde puedan ser controlados, que ese control se distribuya.
Que no quede encapsulado en las mismas empresas que lo que lo generan, sino que sea distribuido, que tampoco sea controlado en una organización, por decirlo así, que no es ni la empresa ni el estado, sino que es una cuestión mucho más amplia, que sea verificable por cualquiera de manera abierta".
Para el Ph.D. en Biología Matemática de Universidad de Alberta, esa verificación es la manera en que los riesgos sean controlados.
Enfatizó que la IA es una "tecnología extremadamente buena" y por su naturaleza de impacto en la humanidad, tiene que ser abierta y esta apertura va a permitir una verificación colectiva y rigurosa por parte de académicos, personas de la sociedad civil, empresas y gobiernos.
"Estas afirmaciones hay que tomarlas con cuidado, lo que hay que tomar en serio es que sí, son personas que han estado desde adentro viendo lo que sucede, por tanto la advertencia es importante, pero cuando hacen esas estimaciones, no hay forma de verificarlo", concluyó el máster en Ciencias de la Computación.
El Ing. Roberto Sasso, reiteró la regulación a estas tecnologías emergentes.
"Esta es una herramienta nueva y la usan sin haber aprendido; una parte del problema es lo que llamo la ialfabetización, la gente no entiende y la usa para todo, lo están usando intensivamente.
Todos los gerentes de empresas están diciendo: sí, necesito capacitar a todo el mundo en IA. ¿Para qué?, ¿qué quiere decir eso?", finalizó Sasso Rojas, fundador de TEDxPuraVida.
No son los únicos
Pero no solo Coxon y Hubinger hablaron del tema, a finales del mes pasado Bill Gates, también advirtió que el mundo no está preparado para las consecuencias que traerá la IA, ya que en su opinión, destruye puestos de trabajo y amenaza el vínculo de los seres humanos, especialmente en el caso de los jóvenes.
En un artículo publicado en su blog, el cofundador de Microsoft afirmó que la transición hacia la era de la IA será uno de los períodos más turbulentos de la historia y sostuvo que nadie ha presentado un plan creíble para gestionarla.
"La IA será el mayor igualador jamás inventado o la peor fuente de injusticia", escribió el magnate, que ahora preside la fundación filantrópica que lleva su nombre.