Le PDG d'Anthropic prône une approche prudente du développement de l'IA

Dario Amodei, le PDG d'Anthropic, a exprimé des préoccupations concernant le rythme rapide du développement de l'intelligence artificielle, plaidant pour une approche plus mesurée. Il suggère que l'industrie devrait faire une pause pour s'assurer que des protocoles de sécurité et des cadres réglementaires sont en place avant de poursuivre les avancées. Amodei a introduit une stratégie en trois étapes visant à 'réguler la frontière' de la technologie IA. La première phase consiste à accorder aux évaluateurs externes, comme METR, l'accès aux modèles d'Anthropic pour évaluer leur conformité aux normes de sécurité. Ce mouvement vise à favoriser la transparence et la responsabilité dans le développement de l'IA. La deuxième phase appelle à un effort collectif au sein de l'industrie, impliquant potentiellement une collaboration gouvernementale, pour établir des pratiques de sécurité unifiées. Enfin, la troisième étape se concentrerait sur l'évaluation continue et l'amélioration des systèmes IA pour garantir leur conformité aux directives éthiques. L'appel à la prudence d'Amodei reflète une reconnaissance croissante des risques potentiels associés aux avancées non contrôlées de l'IA.