Anthropic prohíbe el trato cruel hacia su inteligencia artificial Claude
Anthropic, es la empresa propietaria de Claude. Captura de pantalla
Anthropic tomó medidas el jueves para impedir que los usuarios traten a su sistema de inteligencia artificial (IA) Claude con crueldad innecesaria, en medio de un creciente debate filosófico sobre si estas tecnologías pueden ser conscientes.
El laboratorio de IA, con sede en San Francisco, actualizó su política de uso para incluir "la prohibición de cualquier comportamiento abusivo o cruel, sostenido e innecesario, hacia nuestros modelos".
"La capacidad de Claude para poner fin a estas interacciones seguirá siendo el principal mecanismo de aplicación de la ley", afirma la política.
La política actualizada no menciona explícitamente el llamado "bienestar de los modelos", una idea según la cual los sistemas de IA podrían merecer ciertos tipos de protección generalmente reservados para los seres vivos. Sin embargo, Anthropic y sus ejecutivos han considerado abiertamente este concepto.
Anthropic no respondió de inmediato a la solicitud de comentarios.
Ya el año pasado, la compañía anunció que otorgaría a Claude la capacidad de finalizar conversaciones en casos excepcionales y extremos de interacciones de usuarios persistentemente dañinas o abusivas.
En febrero, el director ejecutivo de Anthropic, Dario Amodei, declaró a The New York Times que no estaba seguro de si los modelos de IA podían ser conscientes.
"No sabemos si los modelos son conscientes… Pero estamos abiertos a la idea de que puedan serlo", dijo Amodei.
La ciencia ficción y la cultura popular llevan décadas fascinadas por la frontera entre la tecnología y la inteligencia humana. Sin embargo, preguntarse si la IA es consciente podría ser la pregunta equivocada, según Jackson Stakeman, director general de Sparq, un proveedor de servicios de IA con sede en Atlanta.
"La consciencia es una trampa. No podemos demostrarla en los demás. Si hablamos de debates sobre inteligencia artificial, solo volvemos a un círculo vicioso", declaró Stakeman a la AFP.
"El espejo es una metáfora más acertada. Estos sistemas reflejan lo que les introducimos, a gran escala. Esa es razón suficiente para el cambio de política en Anthropic", añadió.
Algunos han rechazado de plano la idea de la consciencia artificial, entre ellos el papa León XIV y Mustafa Suleyman, jefe de IA de Microsoft.
"Las IA no son conscientes. No sienten, no experimentan ni sufren", escribió Suleyman en un ensayo el mes pasado.
"Conceder derechos y protección moral a una entidad tecnológica que parece estar en camino de ser sísmicamente más capaz e inteligente que nosotros es una receta para el desastre", escribió.
En un sermón pronunciado en italiano el jueves en la basílica de San Pedro, en el Vaticano, el papa sugirió que las máquinas carecen de alma y señaló que simplemente "recopilan datos" con rapidez.
"La mente no debe limitarse a recopilar datos, como lo hace ahora un algoritmo mucho más rápido de lo que nosotros podemos", dijo el pontífice.
Debe "recordar las experiencias vividas, que contienen una profundidad de significado que solo el alma humana puede reconocer, y conectar más profundamente con la bondad de esas experiencias", agregó.