Значительное количество контракторов, работающих на Meta, приняло участие в проекте, в рамках которого они притворялись подростками. Их целью было оценить, как конкурирующие чатботы, такие как Gemini и ChatGPT, реагируют на обсуждения критически важных тем, таких как самоубийство, сексуальность и употребление наркотиков. Эта инициатива была направлена на понимание возможностей и ограничений этих ИИ-систем в управлении потенциально опасными разговорами. Контракторы взаимодействовали с этими чатботами, задавая деликатные вопросы, чтобы вызвать ответы на эти темы. Результаты этих тестов могут повлиять на то, как разработчики ИИ подходят к вопросам безопасности и этики в дизайне чатботов, особенно для молодежной аудитории. Эта практика вызывает этические вопросы относительно методов, используемых в обучении ИИ, и последствий симуляции взаимодействий с несовершеннолетними.
Контракторы Meta Притворялись Подростками для Тестирования Чатботов
Контракторы Meta имитировали подростков для оценки реакций чатботов на чувствительные темы.
3 min readТехнологии