Contratistas de Meta Se Hacen Pasar por Adolescentes para Probar Chatbots

Un número considerable de contratistas de Meta participó en un proyecto en el que se hacían pasar por adolescentes. Su objetivo era evaluar cómo respondían chatbots competidores, como Gemini y ChatGPT, a discusiones sobre temas críticos como el suicidio, la sexualidad y el uso de drogas. Esta iniciativa buscaba entender las capacidades y limitaciones de estos sistemas de IA en la gestión de conversaciones potencialmente dañinas. Los contratistas interactuaron con estos chatbots, planteando preguntas delicadas para provocar respuestas sobre estos temas. Los hallazgos de estas pruebas podrían influir en la forma en que los desarrolladores de IA abordan las consideraciones de seguridad y ética en el diseño de chatbots, especialmente para audiencias más jóvenes. Esta práctica ha suscitado preguntas éticas sobre los métodos utilizados en la formación de IA y las implicaciones de simular interacciones con menores.