В недавнем обсуждении Мустафа Сулейман, генеральный директор Microsoft AI, затронул актуальные вопросы безопасности и регулирования ИИ. Он подчеркнул важность структурированного подхода к разработке ИИ, что отражено в новом 'Кодексе гуманистического ИИ', опубликованном Microsoft. Этот документ формулирует принципы компании в области ИИ, включая ее позицию по сложным вопросам, таким как сознание ИИ. Сулейман выразил обеспокоенность по поводу компаний, таких как Anthropic, предполагая, что их интерпретация благополучия моделей может привести к опасным последствиям. Он поднял критические вопросы о эффективности выравнивания в безопасности ИИ, задаваясь вопросом, являются ли текущие методы адекватными или принципиально ошибочными. Сулейман предостерег о быстрых достижениях в возможностях ИИ, подчеркивая, что без надлежащего контроля и выравнивания эти технологии могут представлять собой значительные риски.
Генеральный директор Microsoft AI говорит о реальных угрозах ИИ и критикует Anthropic
Мустафа Сулейман, генеральный директор Microsoft AI, делится своими мыслями о безопасности ИИ, регулировании и последствиях подхода Anthropic к сознанию ИИ.
