El CEO de Anthropic aboga por un enfoque cauteloso en el desarrollo de IA

Dario Amodei, el CEO de Anthropic, ha expresado su preocupación por la rápida evolución del desarrollo de inteligencia artificial, abogando por un enfoque más medido. Sugiere que la industria debería detenerse para garantizar que existan protocolos de seguridad y marcos regulatorios antes de avanzar más. Amodei ha propuesto una estrategia de tres pasos destinada a 'regular la frontera' de la tecnología de IA. La primera fase implica otorgar a evaluadores externos, como METR, acceso a los modelos de Anthropic para evaluar su cumplimiento con las normas de seguridad. Este movimiento busca fomentar la transparencia y la responsabilidad en el desarrollo de IA. La segunda fase llama a un esfuerzo colectivo dentro de la industria, posiblemente con colaboración gubernamental, para establecer prácticas de seguridad unificadas. Finalmente, el tercer paso se centraría en la evaluación continua y la mejora de los sistemas de IA para asegurar que se alineen con las pautas éticas. El llamado a la cautela de Amodei refleja un reconocimiento creciente de los riesgos potenciales asociados con los avances descontrolados en IA.