Генеральный директор Anthropic призывает к осторожному подходу к разработке ИИ

Дарио Амодеи, генеральный директор Anthropic, выразил обеспокоенность по поводу быстрого темпа развития искусственного интеллекта, призывая к более взвешенному подходу. Он предлагает, чтобы отрасль сделала шаг назад, чтобы убедиться, что протоколы безопасности и регуляторные рамки установлены перед дальнейшими продвижениями. Амодеи представил трехступенчатую стратегию, направленную на 'регулирование границы' технологий ИИ. Первый этап включает предоставление внешним оценщикам, таким как METR, доступа к моделям Anthropic для оценки их соответствия стандартам безопасности. Этот шаг направлен на содействие прозрачности и ответственности в разработке ИИ. Второй этап призывает к совместным усилиям в отрасли, возможно, с участием правительства, для установления единых практик безопасности. Наконец, третий шаг сосредоточится на постоянной оценке и улучшении систем ИИ, чтобы гарантировать их соответствие этическим нормам. Призыв Амодеи к осторожности отражает растущее признание потенциальных рисков, связанных с неконтролируемыми достижениями в области ИИ.