Anthropic ha emitido una advertencia sobre el desarrollo de la inteligencia artificial, sugiriendo que podría llegar un momento en que los sistemas de IA sean capaces de diseñar sus propios sucesores sin intervención humana. Aunque la empresa considera que esta etapa aún no ha llegado, advierte que podría ocurrir antes de que la sociedad esté preparada. En consecuencia, propone una pausa o ralentización en el desarrollo de modelos avanzados de IA para permitir la supervisión y regulación adecuadas. Esta solicitud se enmarca en el trabajo del Anthropic Institute, creado para investigar los retos que surgen con la IA, incluyendo su impacto en el empleo y la economía. Sin embargo, la efectividad de esta pausa dependería de la coordinación entre varias empresas y países, ya que un esfuerzo unilateral podría resultar en una competencia desleal. Anthropic también ha indicado que más del 80% del código en su desarrollo actual fue generado por su sistema Claude, evidenciando la rapidez del avance de la IA. La empresa planea abrir conversaciones con diversos actores para abordar estos temas y buscar soluciones.