La IA cognitiva trae una nueva frontera de riesgo digital

1. La ingeniería social será más compleja y difícil de detectar

Los engaños digitales están entrando en una nueva etapa. Con el uso de grandes modelos de lenguaje, los ciberdelincuentes pueden crear correos, mensajes y páginas falsas mucho más creíbles, mejor redactados y adaptados al contexto de cada víctima. 

Con el avance de la IA cognitiva, este riesgo podría aumentar aún más. Los atacantes podrían combinar información de redes sociales, plataformas digitales y grandes bases de datos para diseñar fraudes mucho más personalizados.

Para las organizaciones, este tipo de ataques puede derivar en robo de datos, fraudes financieros o accesos no autorizados a sistemas internos. Según el más reciente informe global de Kaspersky Security Services, el phishing representa cerca del 15 % de las técnicas de ataque más utilizadas, es decir, aproximadamente uno de cada siete ataques. Por eso puede convertirse en la puerta de entrada para amenazas más avanzadas contra empresas, gobiernos y otras instituciones.

2. La manipulación cognitiva influirá en la opinión pública

El riesgo de la IA no se limita a los ataques contra una persona específica. También puede usarse para influir en comunidades enteras, amplificar ciertos mensajes, generar polarización o modificar la forma en que una audiencia percibe un tema. Actores maliciosos, grupos hacktivistas o amenazas avanzadas podrían aprovechar emociones, sesgos y patrones de comportamiento.

Este tipo de riesgo no es del todo nuevo. Las redes sociales ya han mostrado cómo los algoritmos pueden encerrar a los usuarios en cámaras de eco, reforzar opiniones previas y dar mayor visibilidad a contenidos diseñados para generar reacción. Para Kaspersky, esto representa un desafío que va más allá de la ciberseguridad tradicional. La manipulación cognitiva puede afectar la autonomía individual, la confianza pública, la calidad de la información y la capacidad de las personas para tomar decisiones libres e informadas.

3. El perfilamiento abrirá la puerta a abusos predictivos

La IA también está haciendo más fácil reunir y conectar información que antes estaba dispersa. A partir de datos de redes sociales, búsquedas, interacciones, comportamiento digital y otras fuentes, un sistema puede construir perfiles cada vez más detallados sobre una persona: qué le interesa, cómo actúa, con quién se relaciona y qué consume.

Este nivel de perfilamiento aumenta riesgos como el doxxing, el acoso digital y otros abusos facilitados por la tecnología. La información que antes estaba separada ahora puede cruzarse automáticamente, revelar datos sensibles y vincular identidades.

Los modelos predictivos también pueden hacer que una persona sea evaluada, clasificada o incluso atacada no por algo que hizo, sino por lo que un sistema cree que podría hacer. Por eso, el riesgo ya no es solo perder privacidad, sino perder el control sobre la propia identidad.

4. Las interfaces cerebro-computadora ampliarán los riesgos del IoT

Aunque todavía están en una etapa principalmente experimental, las interfaces cerebro-computadora ya se usan en algunos entornos para ayudar a pacientes a comunicarse mediante la interpretación de señales neuronales. Ahí aparece un nuevo riesgo: la conexión entre estas interfaces y la internet de las cosas. 

En la práctica, esto significa que una señal neuronal podría servir para enviar comandos a dispositivos conectados, como tecnologías de asistencia, equipos médicos o sistemas inteligentes del hogar.

Este tipo de integración puede traer beneficios importantes para la salud y la accesibilidad, pero también abre nuevos frentes de ciberseguridad. Si uno de estos sistemas llegara a ser comprometido, un atacante podría interceptar señales, manipular la respuesta de un dispositivo o provocar acciones no autorizadas.

"Aunque la IA cognitiva aún se encuentra en una etapa temprana, y está lejos de alcanzar una adopción masiva, su desarrollo avanza rápidamente", afirmó Noushin Shabab, investigadora principal de seguridad del GReAT de Kaspersky. "Se espera que los modelos avanzados de interacción entre humanos e IA se vuelvan mucho más comunes en las próximas décadas. A medida que crezca su adopción, también lo harán los riesgos asociados, por lo que debemos prepararnos desde ahora".

[Recuadro]

Para reducir estos riesgos, los expertos de Kaspersky recomiendan:

• Controlar el acceso a sitios y aplicaciones riesgosos. Herramientas de Web & Application Control ayudan a las empresas a reducir la exposición a páginas maliciosas, aplicaciones no autorizadas o recursos web que pueden ser usados en campañas de phishing y engaños creados con IA.
• Capacitar a los empleados para reconocer amenazas más creíbles, fortaleciendo sus habilidades para identificar phishing, manipulación digital e intentos de ingeniería social potenciados por IA.