Anthropic, la empresa detrás de Claude, sugiere una pausa coordinada en el desarrollo de inteligencia artificial avanzada debido a riesgos de automejora que podrían llevar a la pérdida de control humano. La propuesta busca establecer mecanismos internacionales para asegurar que todos los laboratorios de IA frenen su progreso simultáneamente.

• 01Anthropic propone una pausa en el desarrollo de IA para mitigar el riesgo de que los humanos pierdan control sobre sistemas avanzados.
• 02La automejora recursiva de la IA podría permitir a estos sistemas diseñar y crear sus propios sucesores.
• 03La pausa permitiría que las estructuras sociales y la investigación en alineación tecnológica se mantengan al día con los avances de la IA.
• 04Se sugiere un mecanismo de coordinación internacional para asegurar que todos los laboratorios de IA detengan su progreso al mismo tiempo.
• 05La propuesta surge en un contexto de creciente preocupación por los riesgos de la inteligencia artificial, incluyendo nuevos tipos de ataques cibernéticos.

La propuesta de pausa en el desarrollo de IA podría influir en la regulación y el desarrollo tecnológico a nivel global, afectando a empresas y gobiernos.