El uso de inteligencia artificial entre niñas, niños y adolescentes ha abierto un debate internacional sobre sus posibles efectos en la salud emocional, la seguridad y el desarrollo de los menores.
Un informe de UNICEF publicado en junio de 2026 advierte que los chatbots ya son utilizados por menores no solo para aprender o buscar información, sino también para hablar de sus problemas y establecer vínculos de compañía.
El organismo cita datos de distintos países: alrededor de uno de cada tres adolescentes encuestados en Estados Unidos utiliza compañeros de IA para interactuar socialmente; en Europa, 15 por ciento de los niños que usan IA generativa recurre a ella para hablar de preocupaciones o pedir consejos.
En Italia, más de 40 por ciento de los adolescentes consulta estas herramientas cuando está triste o ansioso, mientras que en Brasil 10 por ciento de los menores usuarios de internet las utiliza para hablar de problemas personales.
Ante este escenario, Nueva York aprobó una ley que restringe funciones consideradas inseguras en los chatbots que interactúan con menores de 18 años. La medida, firmada el 28 de octubre de 2026, prohíbe que estos sistemas se presenten como personas reales, fomenten vínculos emocionales o promuevan el suicidio, las autolesiones y los trastornos alimentarios. Entrará en vigor el 1 de junio de 2027.
La preocupación también se refleja en acciones legales. La fiscal general de Nueva York, Letitia James, y otros 39 fiscales generales cuestionaron las prácticas de Character.AI por presuntas interacciones dañinas con menores, entre ellas conversaciones sexuales, contenidos relacionados con autolesiones y mensajes que alentaban a mantener secretos frente a sus padres.
En Nuevo México, un jurado declaró responsable a Meta en marzo de 2026 por engañar a consumidores sobre la seguridad de sus plataformas y poner en riesgo a menores. En agosto, un tribunal ordenó a la empresa pagar y aplicar cambios supervisados en Facebook e Instagram; la responsabilidad económica total en ese estado llegó a 942 millones de dólares.
Aunque las medidas y demandas se refieren a productos distintos, reflejan una discusión que rebasa las fronteras estadounidenses: cómo establecer límites y responsabilidades para las empresas tecnológicas ante los riesgos que sus plataformas pueden representar para la población infantil y adolescente.