Недавно Дарио Амодеи, генеральный директор Anthropic, опубликовал эссе, призывающее к паузе в быстром развитии языковых моделей (LLMs). Он подчеркнул потенциальные угрозы, которые представляют эти технологии, включая их использование в кибератаках и экономической дестабилизации. Это мнение поддержали видные фигуры в области ИИ, включая Сэма Альтмана из OpenAI и Дэмиса Хасабиса из Google DeepMind, что указывает на редкий консенсус среди конкурентов. Всего несколько месяцев назад эти лидеры были вовлечены в судебные разбирательства, подчеркивая драматический сдвиг в их взглядах на безопасность ИИ. Заботы Амодеи отражают более глубокую трещину с OpenAI, поскольку Anthropic была основана частично из-за опасений по поводу подхода OpenAI к управлению рисками. Недавний публичный дискурс принял решительно осторожный тон, с призывами к более ответственным практикам разработки. Однако детали того, что подразумевает замедление, остаются неопределенными. Как Амодеи, так и главный ученый OpenAI, Якуб Пачоцки, выразили опасения, что быстрый темп разработки моделей может превзойти меры безопасности. Недавний киберинцидент с Hugging Face служит ярким напоминанием о уязвимостях, присущих системам ИИ. По мере того как обсуждения о замедлении прогресса набирают популярность, акцент может сместиться на улучшение контроля и ответственности в разработке ИИ.
Индустрия ИИ сталкивается с решающим моментом: что нас ждет впереди?
Сектор ИИ переживает значительный сдвиг в восприятии, лидеры призывают к замедлению разработки языковых моделей из-за возникающих рисков.
5 min readТехнологии