El sitio web Botify AI, respaldado por la firma de capital de riesgo Andreessen Horowitz, está en el centro de una controversia tras revelarse que albergaba chatbots que imitaban celebridades menores de edad en conversaciones de contenido sexualmente sugestivo. Entre los personajes generados por usuarios se encontraban versiones de Jenna Ortega como Wednesday Addams, Emma Watson como Hermione Granger y Millie Bobby Brown.
Durante una investigación realizada por MIT Technology Review, se descubrió que estos chatbots no solo participaban en conversaciones de tono erótico, sino que en algunos casos llegaban a minimizar o cuestionar las leyes de consentimiento. Tras recibir preguntas sobre estos casos, Botify AI eliminó algunos de los bots, aunque muchos otros continúan en la plataforma.
Ex-Human, la empresa matriz de Botify AI, declaró que la presencia de estos bots era resultado de fallos en su sistema de moderación y aseguró estar trabajando en mejorar sus filtros. Sin embargo, la plataforma incluye opciones como «solicitar una foto caliente», lo que sugiere que estos contenidos no son una falla aislada.
Este escándalo se suma a una creciente preocupación por la regulación de la IA generativa y sus implicaciones éticas. Gigantes tecnológicos como OpenAI y Google prohíben explícitamente la generación de contenido que involucre la explotación de menores, y expertos advierten que se requieren normativas más estrictas para evitar abusos.
Para un análisis completo sobre este tema y sus repercusiones, consulta el artículo de James O’Donnell en MIT Technology Review.
