arrow - Fotolia
Se teme mayor riesgo de contenidos abusivos generados por IA generativa
La preocupación por los riesgos que trae la IA generativa sigue en alza, con 88% de las personas preocupadas por su mal uso, resaltaron los resultados de la Encuesta Global de Seguridad en Línea de Microsoft, revelados dentro del marco del Día de Internet Seguro 2025.
Si bien ha habido un aumento global en los usuarios de inteligencia artificial (51 % la ha usado alguna vez, en comparación con el 39 % en 2023), las preocupaciones sobre la tecnología también han aumentado: el 88 % de las personas están preocupadas por la IA generativa, en comparación con el 83 % del año pasado. Además, las personas tienen dificultades para identificar el contenido generado por la IA, lo que puede amplificar los riesgos de contenido abusivo de la IA.
Estos son algunos hallazgos de la novena “Encuesta Global de Seguridad en Línea” de Microsoft, dados a conocer dentro del marco del Día de Internet Seguro, que este año se enfocó en comprender cómo las personas ven y usan la IA, y qué tan bien pueden identificar el contenido generado por IA.
Percepciones sobre la seguridad en línea en México
De acuerdo con la investigación, en México, el 71 % de los encuestados experimentaron algún riesgo en línea durante el último año, entre los cuales los principales incluyen desinformación (53 %), contenido violento (43 %) y discurso de odio (32 %).
Entre los adolescentes, aunque las preocupaciones sobre los riesgos en línea han disminuido en áreas clave como el ciberacoso y la explotación sexual infantil, siguen existiendo desafíos significativos. La mayoría de los adolescentes reaccionan bloqueando o eliminando a los perpetradores (86 %) y buscan apoyo (71 %), pero solo el 46 % de los padres se sienten muy preparados para discutir estos riesgos con sus hijos.
Por otro lado, el uso de la IA generativa ha aumentado en México, con 27 % de las personas usándola en los últimos tres meses, liderado por los millennials (54 %); sin embargo, a pesar del entusiasmo por las herramientas de traducción (48 %) y la eficiencia en el trabajo (43 %), las preocupaciones sobre la IA generativa son altas. Los riesgos más mencionados incluyen abuso sexual o en línea (69 %), generación de estafas (68 %) y deepfakes (67 %). La investigación encontró que 83 % de los niños han usado IA para crear deepfakes de sus compañeros, y el 82 % ha accedido a contenido inapropiado para su edad. Si bien los padres están preocupados por estos riesgos, la encuesta reveló que la mayoría no se sienten completamente preparados para abordarlos.
El contenido generado por IA es difícil de identificar
Al cuestionar a las personas sobre su capacidad para identificar contenido generado por IA por medio de imágenes (usando el cuestionario “Real or Not” (Real o No) de Microsoft), el fabricante encontró que 73 % admitió que detectar imágenes generadas por IA es difícil, y solo el 38 % de las imágenes se identificaron de manera correcta.
Con respecto a las preocupaciones relacionadas con IA que tienen los usuarios, las preocupaciones comunes sobre la IA generativa incluyen estafas (73 %), abuso sexual o en línea (73 %) y deepfakes (72 %).
La investigación también muestra que las personas de todo el mundo continúan expuestas a una variedad de riesgos en línea, con 66 % expuesto a al menos un riesgo durante el último año.
“A medida que la adopción de la IA generativa continúa creciendo, es crucial que tanto los padres como los adolescentes estén equipados con las herramientas y conocimientos necesarios para identificar y mitigar estos riesgos. La colaboración entre educadores, empresas tecnológicas y la comunidad en general es esencial para crear un entorno en línea más seguro y responsable. Al fomentar una mayor conciencia y comprensión de los desafíos que presenta la IA, podemos trabajar juntos para proteger a las generaciones futuras y garantizar que la tecnología se utilice de manera ética y beneficiosa para todos”, afirmaron desde Microsoft.
