La falsa neutralidad de las plataformas digitales

Por Ana Reza, investigadora de Early Institute 
Publicación original de El Sol de México

Los recientes fallos judiciales contra Meta y Google marcan un punto de quiebre: reconocen lo que durante años se ha intentado minimizar. El daño que generan las plataformas digitales en niñas, niños y adolescentes no es accidental, ni atribuible a descuidos individuales o a la falta de supervisión familiar.

Es el resultado de decisiones deliberadas de diseño. Sistemas de recomendación, reproducción automática, notificaciones constantes y métricas de validación social no son funciones neutras: están diseñadas para capturar atención a cualquier costo, incluso explotando procesos cognitivos en desarrollo y favoreciendo patrones de uso compulsivo.

Las empresas lo saben. Cuentan con datos, estudios internos y capacidad técnica suficiente para anticipar la dependencia que generan, y aun así sostienen modelos que priorizan la permanencia sobre el bienestar. En ese contexto, la afirmación de Mark Zuckerberg —“creo que hay un grupo de personas, potencialmente un número significativo, que mienten sobre su edad para usar nuestros servicios”— no es una excusa: es una admisión.

Si los controles fallan de forma sistemática, no es porque los usuarios sean demasiado astutos, sino porque los mecanismos son insuficientes o deliberadamente laxos. Trasladar la responsabilidad a niñas, niños y adolescentes no solo es inaceptable, es una forma de eludirla.

Seguir apelando al “uso responsable” de las familias es, en este escenario, una salida cómoda. No se puede exigir autocontrol en entornos diseñados para romperlo, ni cargar la protección en quienes no tienen ni la información ni las herramientas para enfrentar sistemas altamente sofisticados. La asimetría no es menor: es la base del modelo.

Por eso, la discusión no puede seguir girando en torno a recomendaciones blandas. Se requieren obligaciones exigibles: verificación de edad efectiva, configuraciones de seguridad por defecto para menores, límites a funciones que incentivan el uso compulsivo, transparencia real sobre algoritmos y supervisión externa. Nada de esto es técnicamente inviable; lo que ha faltado es voluntad —y regulación— para imponerlo.

A estas alturas, seguir hablando de neutralidad resulta insostenible. El diseño tecnológico produce efectos, y cuando esos efectos dañan de forma sistemática a la infancia, la inacción regulatoria deja de ser omisión para convertirse en complicidad. La pregunta ya no es si las plataformas deben asumir responsabilidad, sino cuánto tiempo más se les dejará evadirla.

Costo oculto de IA: violencia sexual

Por: Ana Reza Calvillo
Publicación original de:  El Sol de México

La inteligencia artificial ya no es una promesa futura: está integrada en la vida cotidiana. Produce textos, imágenes y videos con una facilidad que hasta hace poco parecía ciencia ficción. Sin embargo, mientras celebramos sus posibilidades, un riesgo antiguo se expande con una fuerza inédita: la violencia sexual contra niñas, niños y adolescentes.

Desde una perspectiva de derechos, este no es un problema técnico. Es un problema de protección, de prevención y de responsabilidad social que no admite neutralidad.

Las cifras son una primera señal de alarma. En los últimos dos años, la línea internacional de denuncias cibernéticas del National Center for Missing and Exploited Children (NCMEC) ha recibido más de 70 mil reportes de explotación sexual infantil vinculados al uso de inteligencia artificial. El propio centro advierte que estos casos no harán más que aumentar. No se trata de escenarios hipotéticos ni de riesgos futuros, es una situación que está ocurriendo ahora.

Uno de los frentes más graves es la generación de material de abuso sexual infantil mediante herramientas de inteligencia artificial. Hoy es posible crear imágenes sexualizadas de niñas y niños —incluidos desnudos o actos sexuales explícitos— sin que exista un hecho real previo. Aplicaciones de nudify transforman fotografías ordinarias en imágenes sexualizadas en cuestión de segundos. Basta muy poco para generar estas imágenes, pero el daño que causan es profundo y duradero.

Por eso la discusión no puede quedarse atrapada en si la imagen es “real” o “falsa”. La vulneración es real. Se violan derechos fundamentales: a la intimidad, a la imagen, a la integridad personal y a un desarrollo libre de violencia. El impacto psicológico y emocional no distingue entre lo generado y lo simulado; acompaña a la víctima durante años, a veces durante toda la vida.

La inteligencia artificial también ha redefinido los riesgos de agresión sexual en línea. La creación de cuentas de redes sociales falsas cada vez más verosímiles, el uso de fotos de perfil “confiables” y conversaciones automatizadas facilita el acercamiento de agresores con fines sexuales. Esto no solo vuelve más difícil la prevención, sino que traslada la carga de protección a niñas, niños, adolescentes y sus familias, obligándoles a identificar amenazas que se perfeccionan constantemente.

A esto se suma un fenómeno particularmente peligroso: la sextorsión mediada por inteligencia artificial. Los agresores crean imágenes sexuales sintéticas para chantajear; exigir más contenido, forzar conductas sexuales o extorsionar económicamente. El NCMEC ha documentado situaciones en las que, ante la negativa del niño, niña o adolescente a enviar una imagen íntima, el agresor genera una imagen explícita con IA para ejercer presión. Aquí, el daño no depende de lo que ocurrió, sino del poder de la amenaza y del miedo.

Y no siempre se trata de adultos desconocidos. La violencia entre pares también está mutando. En contextos escolares, compañeros pueden crear o difundir imágenes o videos falsos con fines de humillación, control o castigo social. La rapidez con la que estos contenidos circulan convierte el acoso en una forma de violencia persistente, difícil de contener y devastadora para quien la padece.

La inteligencia artificial permite producir y difundir violencia simbólica a gran escala, con bajo o ningún costo, alto anonimato y enormes dificultades para su detección. La sofisticación técnica no solo beneficia a la innovación; también fortalece a los agresores.

Existe además un riesgo más profundo, menos visible pero igualmente peligroso: la normalización de la sexualización infantil en entornos digitales. Concebir este tipo de contenido como simulación, experimento o avance tecnológico diluye límites éticos esenciales. Desde una perspectiva de derechos, esto es inaceptable. La infancia no puede convertirse en un terreno de prueba del desarrollo tecnológico.

El debate, entonces, no es si la inteligencia artificial debe avanzar, sino bajo qué reglas, con qué responsabilidades y con qué límites. El principio del interés superior de la niñez exige que la protección de sus derechos esté por encima de intereses comerciales, vacíos legales o esquemas de autorregulación que han demostrado ser insuficientes.

Aquí el papel del Estado es insustituible. En México, las autoridades deben actuar con claridad y sin demora. Se requieren marcos legales que reconozcan la generación y difusión de contenidos sexuales mediante inteligencia artificial como formas de violencia y explotación contra niñas, niños y adolescentes. Se necesitan capacidades reales para investigar y sancionar estos delitos, así como obligaciones claras para las plataformas tecnológicas.

Sin embargo, la respuesta no puede ser solo punitiva. Es indispensable fortalecer la prevención y la educación digital, dotar a escuelas y familias de herramientas para identificar riesgos, y garantizar rutas de denuncia y atención que sean accesibles, eficaces y centradas en las víctimas.

La pregunta de fondo no es tecnológica, es moral y política: ¿qué estamos dispuestos a tolerar como sociedad en nombre del progreso? Cada día que la regulación se posterga, que la responsabilidad se diluye y que la protección de la infancia se subordina a la velocidad de la innovación, se envía el mensaje de que el daño es un costo aceptable. La inteligencia artificial no es neutral, y tampoco lo es la inacción.

Si el desarrollo tecnológico avanza más rápido que nuestra capacidad de proteger a niñas, niños y adolescentes, entonces no estamos frente a un avance, sino frente a una renuncia a la responsabilidad colectiva.

Maltrato en el embarazo, ¡no es normal!

Por: Ana Reza Calvillo
Publicación original de:  El Heraldo de México

Año con año hay situaciones de maltrato y violencia hacia las mujeres embarazadas en los servicios médicos. Muchas mujeres que acuden a atender su embarazo, en vez de una atención segura y respetuosa, reciben gritos y regaños, palabras denigrantes, comentarios ofensivos.

Muchas de nosotras tenemos una amiga o hermana que ha estado embarazada y puede contarnos sobre médicos que la hicieron sentir como tonta, sobre cómo, en lugar de contestar sus dudas, le hacían caras, ignoraban sus inquietudes o no la tomaban en serio cuando ella expresaba molestias o dolor.

Estos tratos no están bien, las mujeres deberían sentirse protegidas por las instituciones médicas, no vulneradas ni atacadas. Por ello, desde Early Institute hemos elaborado la Guía para la protección de la mujer embarazada y sus hijos e hijas por nacer, donde madres y padres podrán informarse sobre los derechos de atención médica de calidad que tienen, protegidos por la ley, y encontrarán herramientas para prevenir, identificar y denunciar malos tratos y violencia en el sistema médico.

Crear y difundir instrumentos como esta guía es indispensable, porque hay un panorama de gran vulneración de derechos que no podemos pasar por alto. De acuerdo con la Encuesta Nacional sobre la Dinámica de las Relaciones en los Hogares, entre 2016 y 2021, 31% de las mujeres embarazadas sufrieron algún tipo de maltrato por parte del personal médico que las atendió. Estamos hablando de que una de cada tres mujeres embarazadas vive una situación adversa en los servicios de salud, lo cual es realmente indignante.

En México contamos con un marco normativo amplio que regula el trato de calidad que debe ofrecer el personal médico y protege los derechos de las mujeres y de sus hijos e hijas por nacer, por ejemplo, la Ley General de Salud y la Norma Oficial Mexicana para la atención de la mujer durante el embarazo, parto y puerperio, y de la persona recién nacida. Sin embargo, estas disposiciones quedan en letra muerta.

La realidad es que las mujeres están viviendo situaciones violentas en el sistema de salud y, lo peor de todo: comúnmente desconocen que no deberían soportar esos tratos. Es normal, nos decimos, ya me pasó en el primer parto, entonces va a ser igual en el segundo. Le confiamos “al sistema” nuestra salud y la de nuestro bebé, pensando que ellos son los expertos, que saben más, y así terminamos normalizando situaciones que nos vulneran, cuando no deberíamos permitirlas por ningún motivo.

Hay un gran desconocimiento sobre las condiciones mínimas de atención que podemos y debemos exigir. Las mujeres llegan a los centros de salud para dar seguimiento a sus embarazos sin saber los derechos básicos de atención médica que tienen, porque en los servicios médicos, que son justo el lugar donde debería dárseles información, no se les dice, por ejemplo, que tienen derecho por lo menos a cinco consultas prenatales para vigilar su embarazo, que en cada una de las consultas se les debe hacer un examen físico completo y que en caso de urgencia obstétrica tienen derecho a la atención totalmente gratuita en cualquier centro médico público, sin importar si están o no aseguradas.

En México, tristemente estamos acostumbradas a que en los servicios de salud públicos nos traten mal, solo porque son públicos, pero esto no es normal y no está bien. No está bien que nos regañen cuando hacemos preguntas, no está bien que se tarden en atendernos a propósito porque nos quejamos del dolor, no está bien que nos obliguen o amenacen para firmar papeles sin decirnos qué son, no está bien que nos practiquen una cesárea sin darnos una explicación previa y sin pedir nuestro permiso, no está bien que nos esterilicen durante el parto para que ya no podamos embarazarnos, no está bien que una de cada tres mujeres se enfrente con situaciones de este tipo mientras atiende su embarazo en un lugar que debería de velar por su salud y bienestar.

En un país que tiene instrumentos legales para defender a las mujeres, la falta de información está impidiendo que ellas alcen la voz ante los malos tratos que enfrentan. Por ello, desde la sociedad civil estamos poniendo a disposición de las mujeres y sus parejas la Guía para la protección de la mujer embarazada y sus hijos e hijas por nacer, para que conozcan sus derechos fundamentales, para que exijan que el personal médico les dé un trato de calidad antes y durante el embarazo, en el parto y el posparto.
En esta guía, que diseñamos de la mano con madres y padres que se enfrentaron con estas problemáticas, encontrarán herramientas para prevenir, identificar y denunciar malas prácticas médicas.

Como madres, como padres, pueden denunciar formal y jurídicamente cuando sus derechos son vulnerados. En esta guía les decimos dónde y cómo pueden denunciar, de acuerdo con la institución donde sucedió el maltrato, qué pasos deben seguir, en qué páginas de internet pueden encontrar más información o incluso levantar una denuncia desde ahí y a qué teléfonos pueden llamar para recibir acompañamiento y apoyo psicológico si lo necesitan.
Desde Early Institute hacemos este esfuerzo para que ustedes, madres y padres, nunca más se enfrenten a situaciones desagradables en el sistema de salud, que nunca más se queden callados con tal de que los atiendan. Por ello, los invitamos a descargar y compartir gratuitamente esta guía desde nuestra página oficial, staging.earlyinstitute.org/. Léanla, compártanla, háganla suya y alcemos juntos la voz. No permitamos que la violencia contra las mujeres embarazadas y sus bebés pase desapercibida.