México.- El avance de la inteligencia artificial ha transformado la seguridad digital, pero también ha facilitado nuevas formas de acoso y violencia en línea. En los últimos años, el uso de deepfakes y ataques automatizados ha crecido, afectando principalmente a mujeres a través de la suplantación de identidad y la manipulación de imágenes.
Un informe de Deeptrace Labs reveló que entre 2019 y 2021 la cantidad de deepfakes en internet aumentó un 330%, con el 96% de estos casos utilizados para generar contenido explícito sin consentimiento. La accesibilidad a software especializado y la reducción de costos en cómputo han facilitado la propagación de estas prácticas.
Al respecto, Layla Delgadillo, CEO de Silent4Business, destacó que uno de los principales riesgos es que cualquier usuario con conocimientos básicos puede crear y distribuir este tipo de contenido. Para enfrentar este desafío, se han desarrollado herramientas de análisis forense digital que permiten detectar alteraciones en imágenes y videos mediante el uso de metadatos y marcas de agua digitales.
Desde el ámbito regulatorio, algunas naciones han avanzado en normativas más estrictas para frenar la distribución de contenido manipulado. En México, la Ley Olimpia ha tipificado el acoso digital, aunque persisten vacíos legales frente a la rapidez con la que evolucionan estas amenazas.
Además de representar un riesgo, la inteligencia artificial también ha sido utilizada para combatir el acoso en línea. A través del análisis de lenguaje y procesamiento de imágenes, los sistemas de detección pueden identificar patrones de agresión en redes sociales. Silent4Business ha desarrollado 4YOU, un sistema que emplea IA para rastrear intentos de acoso y activar respuestas automatizadas en tiempo real.
La ciberseguridad sigue siendo un reto en constante evolución. La combinación de tecnología avanzada, regulación efectiva y educación digital será fundamental para enfrentar la violencia en línea y construir un entorno digital más seguro.
Redacción
Número de vistas 37
