Anthropic, una de las empresas más influyentes en el campo de la inteligencia artificial, ha propuesto formalmente una pausa en el desarrollo de modelos avanzados. La compañía argumenta que la velocidad del progreso en IA podría superar la capacidad de control humano en un futuro cercano, especialmente debido a un fenómeno conocido como automejora recursiva completa. Este proceso permite que los sistemas de IA optimicen sus propias capacidades sin intervención humana, lo que podría resultar en la pérdida de control por parte de los humanos. En un análisis reciente, Jack Clark y Marina Favaro enfatizan la necesidad de establecer marcos de supervisión antes de alcanzar este umbral tecnológico. Para mitigar estos riesgos, sugieren un pacto de no proliferación internacional, similar a los acuerdos nucleares de la Guerra Fría. Sin embargo, la implementación de un sistema de supervisión global presenta desafíos logísticos significativos, y una pausa unilateral podría beneficiar a competidores menos éticos. A pesar de la presión por su próxima oferta pública de venta, Anthropic está dispuesta a detener sus proyectos si otros laboratorios también participan en un control verificable.