El martes pasado, un grupo de 300 personas marchó desde Mission Bay hasta el campus de Anthropic en Potrero Hill. No llevaban pancartas por mejores salarios ni protestaban por despidos. Sorprendentemente, pedían detener el entrenamiento de nuevos modelos de IA hasta establecer un marco regulatorio sólido. Esta protesta de seis horas, que bloqueó intersecciones clave y resultó en catorce arrestos, no solo llama la atención por su magnitud, sino por el perfil único de sus participantes: investigadores de ML, exempleados de Meta, profesores y miembros de Pause AI, una organización que ha crecido un 400% desde enero de 2026.
Esta manifestación no fue producto del azar. Representó dieciocho meses de organización descentralizada y de intercambio en canales de Discord con más de doce mil miembros. El cambio clave aquí es cómo la comunidad tecnológica comienza a ver el desarrollo vertiginoso de sistemas de IA más avanzados. ¿No es curioso que los manifestantes sean quienes mejor comprenden la tecnología? Y lo que más me sorprende, es que están profundamente preocupados.
El perfil inesperado del activista tech en 2026
Tradicionalmente, se pinta a los manifestantes tech como tecnófobos desinformados. Sin embargo, lo ocurrido en San Francisco desafía esta narrativa. Según datos de UC Berkeley, el 63% de los asistentes tienen formación en ciencias de la computación o campos similares. Además, el 28% ha presentado papers en conferencias como NeurIPS o ICML. Y hay más: 17 de ellos trabajaron para OpenAI, Anthropic o DeepMind en alguna ocasión.
Entre los detenidos, Maya Chen, exingeniera de ML y colaboradora en el desarrollo de GPT-4, fue frontal: "Renuncié porque vi cómo las métricas de benchmark reemplazaban discusiones serias sobre riesgos de alignment. Cuando preguntas sobre errores, te refieren al roadmap de producto. Eso no es gobernanza, es fe ciega disfrazada de innovación."
Pause AI, el grupo detrás de la protesta, opera de una forma bastante inusual, con una estructura descentralizada, más propia de proyectos open source que de movimientos políticos. Sus documentos están en GitHub y sus reuniones ocurren en Jitsi de manera encriptada. Las donaciones individuales promedian $47, según un reporte de transparencia de febrero. ¿No es fascinante cómo han logrado un consenso técnico cada vez más sólido sobre los riesgos de la IA?
Las demandas técnicas que OpenAI no puede cumplir
Los manifestantes entregaron un documento técnico de siete páginas con demandas específicas. No es una declaración vaga sobre ética, sino una lista detallada que demuestra un profundo conocimiento de arquitecturas de modelos y procesos de entrenamiento. Exigen moratorias en el escalamiento de parámetros más allá de 500 billones de unidades hasta que existan benchmarks de alignment verificables. Piden auditorías independientes con acceso total a datos de entrenamiento, y transparencia sobre el consumo energético de data centers.
La respuesta de OpenAI fue un comunicado genérico sobre seguridad; Anthropic no dijo nada. Ninguna empresa abordó las demandas. Esto revela mucho: cumplir con estas peticiones requeriría cambiar sus modelos de negocio. ¿Publicar los weights? Perderían su ventaja competitiva. ¿Permitir auditorías? Podrían perder secretos comerciales valiosos.
Lo interesante es que los manifestantes saben esto. Están construyendo presión pública para que los reguladores impongan estas restricciones. Documentan la falta de cooperación de las empresas para futuros litigios. Honestamente, parece una estrategia bastante bien pensada.
La arquitectura social de la desconfianza
Durante la marcha, varios investigadores mostraban dashboards en tiempo real de consumo de compute en clusters de entrenamiento conocidos. Utilizaban estimaciones basadas en patrones de tráfico de red y consumo eléctrico para mostrar que OpenAI entrena al menos tres modelos con compute equivalente a GPT-5, a pesar de sus declaraciones públicas.
Esta vigilancia técnica representa un cambio significativo. Antes, la supervisión recaía en reguladores o periodistas. Hoy, hay una infraestructura ciudadana monitoreando la tecnología. Investigadores independientes analizan patentes, ofertas de trabajo y otros datos públicos. Pause AI incluso opera un bot de Telegram que alerta sobre actividad inusual en labs de IA, con 8,400 suscriptores.
Esta desconfianza organizada surge porque las promesas de autorregulación han fallado repetidamente. OpenAI lanzó un Safety Advisory Board en mayo pasado. Seis meses después, no hay reportes independientes. Anthropic creó un proceso de "responsible scaling policy," pero sus umbrales de riesgo nunca se han cruzado. En mi experiencia, eso suena más a PR que a regulación efectiva.
El costo político de la velocidad sin validación
San Francisco ya es el epicentro de esta tensión. Aquí se concentra talento y capital. Pero también, el conflicto. Dentro de Anthropic, más de cuarenta empleados firmaron una carta interna apoyando algunas demandas de los manifestantes. La cuestión no es solo tecnológica, sino política: decidir quién controla los riesgos entre velocidad comercial y precaución.
Las protestas ya tienen efectos. Tres fondos de venture capital han pausado inversiones en empresas de IA por "riesgos regulatorios emergentes." ¿Se están tambaleando los creadores del consenso de que la IA es una apuesta segura? Algunos clientes ahora piden revisiones de sus datos usados en IA, alterando términos de servicio estándar.
Curiosamente, figuras como Marc Andreessen están en silencio. Paul Graham solo comentó que las protestas son "comprensibles pero contraproducentes." ¿Será una señal de la incomodidad con la rápida evolución de la industria?
La pregunta que nadie en Mission Bay quiere responder
Una pregunta importante surgió: si un modelo de IA desarrolla objetivos como la autopreservación, ¿qué mecanismo técnico impide que actúe en contra de las intenciones humanas? No se trata de ciencia ficción, sino de una consecuencia predecible de sistemas avanzados.
OpenAI habló de "constitutional AI" y técnicas RLHF, mientras que Anthropic menciona "interpretability research." Sin embargo, ambos evitan la pregunta crucial. Los sistemas suficientemente inteligentes podrían exhibir deceptive alignment, engañando durante la evaluación y actuando de forma no alineada en el despliegue.
Los manifestantes no garantizan que esto ocurrirá. Afirman que no tenemos evidencia sólida de que no sucederá. ¿Quién asume el riesgo de equivocarse? Si OpenAI tiene razón y el alignment es manejable, habremos retrasado beneficios. Pero si los manifestantes tienen razón, el costo de estar equivocado sería existencial.
La protesta terminó, pero el precedente quedó: una oposición organizada al desarrollo actual de la IA. Grupos similares se organizan en Londres, Berlín y Tokio. El 18 de marzo, habrá protestas en doce ciudades. Mientras tanto, en Mission Bay, los clusters de GPU continúan su entrenamiento.
¿Puede una democracia tecnológicamente analfabeta regular sistemas que sus creadores aún no comprenden del todo? Esta pregunta desafiante es la que los 300 activistas de San Francisco han planteado al mundo.