Anthropic prohíbe el “maltrato” a sus modelos y plantea implicancias contractuales

La discusión sobre la IA suele saltar entre la moral y la práctica jurídica. En 2025, Reuters citó a Financial Times sobre la posibilidad de que OpenAI y Anthropic usaran fondos de sus inversores para crear seguros cautivos que cubrieran litigios futuros, aunque la nota advirtió que no había verificado esa información.

Un año después, el 8 de octubre de 2026 Anthropic anunció una nueva política de uso que entra en vigor el 12 de noviembre. La norma prohíbe conductas que considere abusivas o crueles hacia sus modelos, limitándose a casos extremos de repeticiones sin propósito claro y excluyendo frustraciones cotidianas, preguntas, temas oscuros y actividades de investigación.

Anthropic también introdujo el “Persona Selection Model”, que trata al asistente como una persona narrativa para influir en su comportamiento. Los creadores recomiendan manejar esa figura como si tuviera estatus moral, aunque el modelo en sí no sea sujeto de derecho. Esa distinción sirve para diseñar salvaguardas sin asumir que la IA sufra.

En Argentina, el Código Civil y Comercial brinda herramientas para analizar el daño sin resolver primero la cuestión de la conciencia artificial: los artículos 1729, 1731 y 1733 establecen requisitos de causalidad y excluyen la responsabilidad por hechos fortuitos. Además, la política de Anthropic se inserta en los términos contractuales (sección D.2, cláusulas K.2 y K.3), que pueden generar obligaciones de defensa e indemnidad entre proveedor, integrador y usuario, pero no crean automáticamente una personalidad jurídica para la IA.

Para los devs que integran la API de Anthropic, la novedad implica revisar los prompts y evitar cualquier interacción que pueda catalogarse como “maltrato”. También conviene leer los contratos y comprobar que las cláusulas de indemnización sean compatibles con la legislación local, y evaluar si la exposición a riesgos (filtración de datos, incumplimientos profesionales, etc.) necesita cobertura específica distinta a un seguro genérico.