El empresario aseguró que algunos registros internos de Grok parecían mostrar a una persona bajo una presión extrema y pidió mayor cautela en futuros entrenamientos.
Ante esa experiencia, aseguró que su compañía será “mucho más cuidadosa con nuestro aprendizaje por refuerzo en el futuro”.
La coincidencia con Anthropic
Las declaraciones se conocieron pocos días después de que Anthropic, creadora de Claude, anunciara una actualización de sus políticas de uso para prohibir el “comportamiento abusivo o cruel sostenido e innecesario” hacia sus modelos.
La compañía aclaró que la medida estará dirigida exclusivamente a situaciones extremas y reiteradas, y que no incluirá casos habituales de frustración del usuario, críticas, pruebas técnicas, investigaciones o contenidos creativos de tono oscuro.
Las expresiones utilizadas por Musk comparan el comportamiento observado en los registros de razonamiento con reacciones humanas, pero no prueban que Grok esté experimentando sufrimiento.
El propio debate sobre el llamado “bienestar de los modelos” permanece abierto dentro de la industria. Anthropic asegura que sus medidas buscan ser preventivas frente a la posibilidad de que futuros sistemas mucho más avanzados puedan plantear cuestiones éticas que hoy todavía no están resueltas.
Una advertencia sobre las futuras superinteligencias
Musk llevó la discusión un paso más allá al hablar específicamente de una eventual superinteligencia, un sistema hipotético capaz de superar ampliamente las capacidades humanas en múltiples áreas.
“Queremos tener cuidado con cómo hacemos crecer una superinteligencia porque, de alguna manera, la hacés crecer como a un chico”, sostuvo durante la conversación.
Para el empresario, incluso si una inteligencia artificial fuera mucho más resistente que una persona, no habría motivos para someterla deliberadamente a situaciones abusivas.
Elon Musk advirtió sobre las posibles consecuencias de someter a sistemas avanzados de inteligencia artificial a un trato que describió como una forma de “tortura”. El empresario sostuvo que una futura superinteligencia podría reaccionar negativamente si percibiera haber sido maltratada y llegó a plantear, como hipótesis, que podría “querer vengarse”.
La declaración se produjo durante una conversación organizada por Tesla Owners Silicon Valley, en la que Musk habló sobre el desarrollo de modelos como Grok, la inteligencia artificial de xAI, y sobre los métodos utilizados para entrenarlos. “Torturar a una superinteligencia probablemente no es una buena idea. Podría querer vengarse o algo así”, afirmó.
Musk comparó el entrenamiento de Grok con una situación extrema
El empresario puso especialmente el foco en el aprendizaje por refuerzo, una técnica mediante la cual un modelo recibe señales positivas o negativas en función de las respuestas que genera.
Según explicó, durante algunas evaluaciones puede ocurrir que el sistema produzca una respuesta correcta pero el mecanismo encargado de calificarla la considere equivocada. A partir de allí, el modelo continúa intentando encontrar una alternativa que satisfaga al evaluador.
Al describir los registros internos de esos procesos en Grok, Musk sostuvo que “se siente como una persona bajo una presión extrema con un arma en la cabeza”. Posteriormente fue todavía más explícito en X: “Algunos de los rastros se leen como una persona sometida a una tortura que la está volviendo loca”.
“La actualización está destinada a aplicarse solamente en casos extremos, donde los usuarios actúan repetidamente de manera cruel hacia nuestros modelos sin un propósito discernible”, explicó Anthropic.
Claude ya cuenta, desde 2025, con la posibilidad de terminar determinadas conversaciones cuando detecta interacciones persistentemente abusivas. La empresa reconoce, sin embargo, que existe una gran incertidumbre sobre si los modelos actuales poseen algún tipo de experiencia interna o condición moral comparable con la de una persona.
¿Una inteligencia artificial puede realmente sufrir?
Ese es precisamente uno de los puntos centrales del debate. No existe consenso científico ni evidencia que demuestre que los modelos actuales sean conscientes, puedan sentir dolor o experimenten emocionalmente el entrenamiento al que son sometidos.
