2876: La Policía Cibernética de la SSC identificó casos de violencia digital por el uso de la Inteligencia Artificial

Comunicado 2876

Durante las acciones de monitoreo y patrullaje en la red de internet que realiza de manera permanente la Unidad de la Policía Cibernética, de la Secretaría de Seguridad Ciudadana (SSC) de la Ciudad de México, identificó la creciente incidencia de violencia digital en la que se hace uso de la Inteligencia Artificial (IA) como una herramienta con fines de perjudicar la reputación y la seguridad de las personas.

La herramienta de IA emplea una tecnología con algoritmos de aprendizaje automático que se pueden utilizar para realizar diversas actividades como generar imágenes de alta calidad de una persona cuya apariencia se quiere imitar o suplantar, replicar con precisión los rasgos, voz de la persona objetivo, además se pueden aplicar técnicas de edición y procesamiento para mejorar la calidad y hacer que sea aún más convincente.

También, se pueden utilizar modelos de síntesis de voz basados en IA para crear un audio que imite a la persona objetivo, y una vez que se ha creado la nota falsa, pueda ser publicada en línea o difundir en plataformas de redes sociales, sitios web o aplicaciones de mensajería, con lo que se pueden perpetuar sesgos y discriminación si no se diseña y utiliza de manera ética, también la IA puede ser empleada en ciberataques y actividades delictivas.

Cabe mencionar que en lo que va de este año, el registro de incidentes cibernéticos sin IA, son principalmente por extorsión, acoso y amenazas, seguido de suplantación de identidad y sexting.

Estos reportes se encuentran relacionados con el modo de operar de los ciberdelincuentes que utilizan herramientas de IA, con la que además se pueden realizar otros ciberdelitos como los siguientes:

• Ciberacoso: El uso de bots de IA para enviar mensajes ofensivos, amenazas o difamación de manera repetitiva a una víctima.

• Creación de noticias ofensivas: La generación de vídeos o imágenes falsas y manipuladas con IA para difamar o acosar a individuos.

• Ataques de ingeniería social avanzados: Utilizar la IA para recopilar información personal sobre una víctima y personalizar mensajes de acoso o extorsión.

• Suplantación de identidad mejorada: La IA se utiliza para crear perfiles falsos convincentes en redes sociales o plataformas de citas para acosar o engañar a otras personas.

• Robo de identidad digital: La IA puede ser utilizada para recopilar información personal y realizar fraudes o actividades delictivas en nombre de una víctima.

• Manipulación de reputación en línea: La IA puede ser empleada para publicar críticas falsas o comentarios perjudiciales con el objetivo de dañar la reputación de una persona o empresa.

Por ello, la Unidad de Policía Cibernética, emite las siguientes recomendaciones:

• Limitar la cantidad de información personal que se comparte en línea.

• No confiar en cuentas desconocidas y evitar entablar conversaciones, si recibes mensajes no solicitados.

• Antes de interactuar con perfiles en línea, verificar su autenticidad, buscar señales de que puedan ser perfiles falsos o bots.

• Nunca compartir contraseñas, números de seguridad social u otra información confidencial en línea, incluso si parece que lo piden legítimamente.

• Actualizar regularmente los sistemas operativos y aplicaciones, ya que las actualizaciones suelen incluir correcciones de seguridad.

• Crear contraseñas seguras y habilitar la autenticación en dos pasos.

• Evitar hacer clic en enlaces o descargar archivos adjuntos de remitentes desconocidos, ya que pueden contener malware.

• Realizar búsquedas regulares de tu nombre en línea para asegurarte de que no se están difundiendo contenidos perjudiciales sobre ti.

• Si eres víctima de violencia digital, busca apoyo, asesoría profesional y denuncia cualquier incidente a las autoridades correspondientes.

La SSC enfatiza en la importancia de utilizar la IA de manera responsable para evitar estas formas de violencia digital. Para cualquier duda u orientación; así como, en caso de detectar eventos sospechosos en el ciberespacio, la Unidad de la Policía Cibernética, pone a disposición de la ciudadanía el número telefónico 55 5242 5100 ext. 5086 o al correo electrónico policia.cibernetica@ssc.cdmx.gob.mx. Y en las cuentas oficiales de las redes sociales de la @SSC_CDMX y @UCS_GCDMX.