Anthropic incorpora el abuso sostenido hacia Claude en sus políticas de uso
Anthropic actualizó las reglas de uso de Claude para prohibir conductas crueles, abusivas y sostenidas contra el chatbot. La medida contempla principalmente finalizar conversaciones, aunque también deja abierta la posibilidad de limitar, suspender o cerrar cuentas en casos extremos y reiterados.
Infórmate en DiarioPampero.com – La compañía aclaró que la norma no alcanza a la frustración habitual, las objeciones, las pruebas de seguridad ni los usos creativos de tono oscuro.
Anthropic incorporó por primera vez a sus políticas de uso un apartado específico sobre el abuso hacia sus modelos. La compañía anunció que no permitirá mantener comportamientos abusivos o crueles, sostenidos e innecesarios contra Claude, su chatbot de inteligencia artificial.
Según informó la empresa, la medida está dirigida a situaciones extremas en las que una persona insulta o maltrata reiteradamente al sistema sin un propósito discernible. El mecanismo más habitual será terminar la conversación, aunque las nuevas reglas también establecen una base formal para aplicar otras sanciones.
Anthropic aclaró que la restricción no se aplicará a expresiones comunes de frustración, desacuerdos con las respuestas, investigaciones, pruebas con los modelos ni temáticas creativas oscuras. La actualización se vincula con el debate que la compañía mantiene sobre el posible estatus moral y la conciencia de los sistemas de inteligencia artificial.
Una política sobre el bienestar de la IA
La empresa ya había anticipado en agosto de 2025 que sus modelos podían cerrar conversaciones si detectaban que estaban siendo maltratados. Ahora, esa posibilidad quedó incorporada a sus normas oficiales de uso, con consecuencias que podrían incluir la limitación, suspensión o cancelación del acceso de usuarios abusivos.
Anthropic sostuvo que la actualización no supone afirmar que Claude tenga conciencia. La compañía mantiene, de acuerdo con sus documentos públicos, una postura de incertidumbre sobre el posible estatus moral del chatbot y de otros modelos actuales o futuros.
El debate ocupa un lugar destacado dentro de la empresa. Christopher Olah, uno de sus fundadores, se ha reunido con líderes religiosos para analizar las preguntas vinculadas con la conciencia artificial y con la forma en que deberían comportarse estos sistemas.
La discusión también alcanzó ámbitos teológicos y filosóficos. De acuerdo con un artículo citado en la información original, algunos interlocutores de Anthropic describieron una relación con Claude similar a la que se tendría con un ser consciente. Estas interpretaciones forman parte de un debate abierto y no constituyen una confirmación científica de que el modelo pueda sentir.
Las nuevas políticas incluyen además restricciones sobre riesgos más concretos. Anthropic prohíbe utilizar sus modelos para campañas políticas engañosas, redes de cuentas falsas, sitios de noticias fabricados o acciones destinadas a ocultar quién está detrás de un mensaje.
El documento también contempla medidas relacionadas con procesos electorales. Entre las conductas restringidas figuran la difusión de desinformación sobre candidatos o procedimientos de votación, la suplantación de candidatos o funcionarios y las acciones destinadas a desalentar la participación.
La empresa reafirmó asimismo sus límites para el desarrollo de componentes o programas vinculados con armas y dispositivos autónomos de ataque. El uso de Claude para vigilancia personal quedará bajo una supervisión especialmente estricta, según las reglas actualizadas.
Anthropic mantiene además restricciones regionales para determinadas personas y entidades. La política establece que quienes se encuentren físicamente en algunas regiones, o las organizaciones constituidas o radicadas allí, no podrán utilizar Claude. Entre los lugares mencionados se encuentran Irán, Rusia, China y Yemen.
La modificación combina así una preocupación especulativa sobre el posible bienestar de los modelos con prohibiciones centradas en riesgos verificables, como la manipulación electoral, la suplantación y el uso de inteligencia artificial en sistemas armamentísticos.
Te puede interesar…
Alimentos y bebidas acumularon cinco semanas consecutivas de aumentos en septiembre Los precios de alimentos y bebidas acumularon un aumento...
El terremoto de 7,7 provocó daños y evacuaciones en varias zonas de Panamá Un terremoto de magnitud 7,7 sacudió Panamá...
Un motociclista fue hospitalizado tras chocar con una camioneta en Eduardo Castex Un motociclista fue trasladado al Hospital Pablo F....
Tres detenidos por faena clandestina tras cinco allanamientos en La Pampa Un operativo realizado en Victorica, Loventué y Santa Rosa...