Le PDG de Microsoft AI Discute des Menaces Réelles de l'IA et Critique Anthropic

Lors d'une récente discussion, Mustafa Suleyman, le PDG de Microsoft AI, a abordé les questions pressantes concernant la sécurité et la réglementation de l'IA. Il a souligné l'importance d'une approche structurée pour le développement de l'IA, comme le montre le nouveau 'Code de conduite Humaniste de l'IA' publié par Microsoft. Ce document expose les principes de l'entreprise sur l'IA, y compris sa position sur des sujets complexes tels que la conscience de l'IA. Suleyman a exprimé des inquiétudes concernant des entreprises comme Anthropic, suggérant que leur interprétation du bien-être des modèles pourrait entraîner des conséquences dangereuses. Il a soulevé des questions critiques sur l'efficacité de l'alignement dans la sécurité de l'IA, se demandant si les méthodes actuelles sont adéquates ou fondamentalement défaillantes. Suleyman a mis en garde contre les avancées rapides des capacités de l'IA, avertissant qu'en l'absence d'un bon contrôle et d'un alignement, ces technologies pourraient représenter des risques significatifs.