El 8 de septiembre de 2026, Jacob Coxon renunció a Anthropic e hizo públicas sus razones. Había trabajado en investigación tanto en OpenAI como en Anthropic, y en su declaración advirtió que la industria corre hacia una superinteligencia capaz de mejorarse a sí misma sin las salvaguardas adecuadas.
Esas son sus palabras y su juicio, y aquí se reportan como lo que él dijo, no como una conclusión definitiva sobre el futuro. Personas razonables dentro de estas empresas no están de acuerdo sobre los plazos ni sobre los riesgos. Lo que no está en duda es que el ritmo del desarrollo de frontera lo marca un número pequeño de organizaciones, y que la mayoría de nosotros no estamos en esa sala.
Esa es una posición incómoda para un líder. Pero tampoco es todo el panorama. La pregunta a la que vuelvo una y otra vez con fundadores, CEOs, directores de organizaciones sin fines de lucro y organizaciones medianas es más acotada y mucho más útil: ¿qué podemos decidir sobre la IA dentro de nuestro propio entorno?
El control es local
En este contexto, tener control significa decidir dónde, cuándo y bajo qué condiciones opera la IA en tu organización. Qué procesos toca. Qué información puede ver. Qué recomendaciones tienen peso. Quién las revisa. Quién puede detener el sistema.
La IA centrada en lo humano es lo que haces con ese control. Es usar a propósito estas decisiones para fortalecer la capacidad, el criterio, la dignidad y la responsabilidad de las personas, en lugar de desgastarlas en silencio. No es una postura de rechazo. Es una postura de autoría.
Microcosmos éticos
Un microcosmos ético es una idea sencilla con un nombre un poco académico: una organización local que elige estándares responsables por su cuenta, antes de que exista un acuerdo en la industria y, muchas veces, sin él. No requiere un tratado, un regulador ni que un laboratorio de frontera cambie de rumbo. Requiere un equipo de liderazgo dispuesto a decir qué es aceptable aquí.
Estos entornos importan más de lo que parece. Los estándares suelen viajar a través de la práctica mucho antes de viajar a través de las políticas. Las personas los llevan a su siguiente trabajo. Los clientes aprenden qué esperar. Los proveedores se ajustan a lo que los compradores de verdad exigen.
Cuatro decisiones que puedes tomar este trimestre
Decisión 01
Define los derechos de decisión de la IA
Deja por escrito qué decisiones puede informar la IA, cuáles puede redactar y cuáles deben seguir bajo una autoridad humana responsable. Las decisiones importantes sobre empleo, sueldo, acceso, seguridad, crédito, cuidado o elegibilidad le corresponden a una persona con nombre que pueda explicar el razonamiento y revertir el resultado.
Decisión 02
Controla el acceso a los datos y los permisos
Decide qué puede leer el sistema, cuánto tiempo guarda la información, cómo se revisa la calidad y qué consentimiento se dio realmente. El acceso debe darse a propósito y de forma limitada, no heredarse de lo que permita la configuración por defecto de un proveedor.
Decisión 03
Rechaza la vigilancia invasiva e involucra a tu equipo
Hay razones honestas para medir el trabajo, y hay un límite a partir del cual medir se vuelve vigilar. Involucra a las personas que hacen el trabajo en la selección, las pruebas y el rediseño. Ellas saben dónde están las excepciones, y su participación hace que el sistema sea más preciso y también más humano.
Decisión 04
Revisa sesgos, desvíos y efectos no deseados
Los sistemas cambian a medida que cambian los datos y el uso. Revisa los resultados de forma programada, busca patrones que perjudiquen a ciertos grupos, presta atención al deterioro silencioso y asigna una persona responsable con nombre a cada sistema en uso.
Las tensiones son reales
Nada de esto es gratis. La velocidad y la gobernanza tiran en direcciones opuestas, y un paso de revisión que protege a las personas también retrasa un lanzamiento. Las plataformas de los proveedores dan capacidades rápido, pero hacen más difícil mantener el control interno. Reducir costos puede ser de verdad necesario a corto plazo y aun así vaciar la capacidad humana a largo plazo.
Los líderes no resuelven esas tensiones haciendo como si no existieran. Las resuelven nombrando en voz alta lo que se gana y lo que se pierde, decidiendo a propósito y revisando la decisión cuando cambia la evidencia.
Lo que de verdad controlamos
Puede que no tengamos control sobre el gran sistema de IA que se está formando a nuestro alrededor. Sí tenemos control sobre los entornos que creamos.
Ese control se ejerce en lugares cotidianos: una configuración de permisos, un umbral de revisión, una conversación con el equipo cuyo trabajo está por cambiar, la decisión de decirle que no a una herramienta que sería cómoda y dañina a la vez.
Cada organización que usa la IA con criterio, dignidad y cuidado se convierte en prueba de que hay otro camino posible.
Si quieres un punto de partida estructurado, la Evaluación de preparación Human-First AI toma cuatro a cinco minutos y muestra dónde tu organización está lista y dónde el criterio necesita protección. También te puede ser útil nuestro artículo anterior sobre lo que la IA realmente escala como complemento.
Fuentes e interpretación
El relato de la renuncia de Jacob Coxon el 8 de septiembre de 2026 y de su declaración pública se reporta como un hecho. La forma de presentar el control, los microcosmos éticos y las cuatro decisiones anteriores es una interpretación de Sacred Algorithms, no una afirmación de ninguna de las empresas aquí mencionadas.
- Jacob Coxon, declaración pública de renuncia, 8 de septiembre de 2026 — declaración original (se abre en una pestaña nueva)
- Documentación de riesgos de Anthropic — Responsible Scaling Policy (se abre en una pestaña nueva)
- Materiales de seguridad de OpenAI — OpenAI Safety (se abre en una pestaña nueva)
Preguntas frecuentes
¿Qué significa tener control sobre la IA dentro de una organización?
Tener control significa decidir dónde, cuándo y bajo qué condiciones opera la IA en tu entorno: qué decisiones toca, a qué datos puede llegar, quién la revisa y quién puede pausarla.
¿Qué es un microcosmos ético?
Un microcosmos ético es una organización local que elige a propósito estándares responsables para la IA, aunque la industria en general todavía no se haya puesto de acuerdo en ellos. Es un entorno pequeño y real, gobernado con cuidado.
¿Las organizaciones más pequeñas de verdad tienen influencia sobre la IA?
Tienen poca influencia sobre la carrera de frontera y bastante influencia sobre su propio entorno. Cada organización define las reglas de cómo la IA afecta a su gente, a sus clientes y a sus decisiones.
¿Qué debería decidir primero un líder?
Empieza por los derechos de decisión: nombra las decisiones que deben seguir bajo una autoridad humana responsable, y nombra a la persona responsable de cada sistema de IA en uso.
