Anthropic presentó nuevas reglas para el uso de Claude que incluyen restricciones contra comportamientos abusivos persistentes. La decisión plantea preguntas sobre la relación entre las personas y los sistemas de inteligencia artificial.
Una nueva etapa en las reglas de la inteligencia artificial
Las herramientas de inteligencia artificial están dejando de ser simples sistemas de consulta para convertirse en asistentes capaces de realizar tareas cada vez más complejas.
Esta transformación también está obligando a las empresas desarrolladoras a revisar las reglas que regulan su utilización.
El 8 de octubre de 2026, Anthropic presentó una actualización de su política de uso que entrará en vigor el 12 de noviembre.
Entre sus disposiciones destaca una prohibición contra conductas abusivas reiteradas hacia sus modelos.
¿Claude puede terminar una conversación?
Sí. Anthropic explicó que sus sistemas ya cuentan con mecanismos para finalizar determinadas interacciones cuando se presentan comportamientos persistentemente abusivos.
Sin embargo, la compañía estableció límites claros para esta medida.
Las expresiones habituales de frustración, los desacuerdos, las temáticas creativas oscuras y las evaluaciones legítimas de seguridad no forman parte de las conductas prohibidas.
El objetivo declarado es intervenir únicamente en situaciones extremas.
¿Significa que Claude tiene sentimientos?
No existe evidencia concluyente que permita afirmar que Claude experimente emociones o sufrimiento de manera comparable a una persona.
La nueva política tampoco constituye una demostración de conciencia artificial.
Lo que sí revela es que Anthropic considera importante establecer límites sobre determinadas formas de interacción entre humanos y modelos de IA.
La decisión abre una discusión que trasciende la tecnología: ¿las reglas de comportamiento deben aplicarse únicamente cuando existe una persona afectada o también pueden responder a otros objetivos?
Las nuevas políticas van más allá del trato a la IA
La actualización también refuerza restricciones relacionadas con campañas de desinformación, manipulación electoral, vigilancia y desarrollo de armamento.
Además, precisa requisitos para aplicaciones de alto riesgo, especialmente cuando las decisiones automatizadas pueden afectar la salud, las finanzas o los derechos de las personas.
Estas disposiciones muestran que la regulación del uso de la inteligencia artificial está evolucionando junto con sus capacidades.
Claude no necesita tener sentimientos para que exista un debate sobre los límites de nuestra interacción con la tecnología. La pregunta central es qué comportamientos queremos normalizar en una sociedad donde convivimos cada vez más con sistemas inteligentes.
