La inteligencia artificial todavía no puede leer ni descifrar los pensamientos humanos con precisión, pero a medida que se va desarrollando será capaz de interpretar e interactuar de la cognición humana, lo que implica nuevos riesgos para la privacidad mental y la autonomía cognitiva. De todo ello, se habló en la Kaspersky HORIZONS, la conferencia anual de Kaspersky sobre el futuro de la ciberseguridad en Europa, que se celebró en Roma, el pasado 19 de mayo.
Los analistas del equipo Global Research and Analysis Team (GReAT) de Kaspersky identificaron cuatro riesgos de seguridad emergentes, que se intensificarán a medida que evolucionen los sistemas de IA cognitiva.
El primero está relacionado con la ingeniería social. Los Large Language Models (LLM) están transformando la ingeniería social en una amenaza más sofisticada. Lo ciberdelincuentes pueden generar correos electrónicos y páginas de phishing cada vez más creíbles. Y, además, a través de la IA cognitiva podrán crear fraudes personalizados, utilizando información conductual y perfiles psicológicos para aumentar sus tasas de éxito.
Otra amenaza es la ejecución con IA de campañas a gran escala para moldear la opinión pública. Kaspersky alerta de que grupos de hacktivistas o amenazas persistentes avanzadas (APT) podrían explotar sesgos cognitivos y estímulos emocionales sobre poblaciones enteras. Las redes sociales ya muestran cómo los sistemas algorítmicos pueden reforzar cámaras de eco y amplificar la polarización, mientras que campañas políticas y empresas utilizan técnicas de microsegmentación y comportamiento para influir en los usuarios. A medida que estas capacidades evolucionen, la diferencia entre predecir el comportamiento y moldearlo activamente será cada vez menos clara
Otro riesgo detectado por la compañía es el perfilado basado en IA que se está convirtiendo en una potente herramienta de abuso. La IA, mediante la agregación de datos procedentes de redes sociales, comportamiento digital y otras fuentes, puede construir perfiles psicológicos y de identidad extremadamente detallados de las personas. Esto puede amplificar los abusos tecnológicos y facilitar campañas de acoso a gran escala.
La cuarta amenaza emergente es la convergencia entre los interfaces cerebro y computadora con el IoT. Los sistemas comprometidos podrían permitir acciones no autorizadas a través de la interfaz neuronal del usuario, incluida la interceptación de señales, la manipulación de respuestas de dispositivos o la explotación del vínculo entre intención y ejecución.
Noushin Shabab, investigadora principal de seguridad en el equipo Global Research and Analysis Team de Kaspersky, explicó que “aunque la IA cognitiva todavía se encuentra en una fase temprana y lejos de una adopción masiva, su desarrollo avanza rápidamente. Se espera que los modelos avanzados de interacción entre humanos e IA se generalicen considerablemente en las próximas décadas. A medida que aumente su adopción, también lo harán los riesgos asociados, y debemos estar preparados para ello”.
