CENID impulsa un proyecto para detectar noticias falsas, lenguaje nocivo y contenido generado por IA en medios digitales

CENID, el Centro de Inteligencia Digital de la provincia de Alicante, impulsado por la Diputación de Alicante, la Universidad de Alicante y la Universidad Miguel Hernández de Elche, aborda diferentes desafíos clave, ajustados a las inquietudes actuales de la sociedad. Uno de ellos hace referencia a los medios digitales y las redes sociales, potenciando las interacciones a través del lenguaje. Todo ello nos lleva a un contexto que, en este momento, no está regulado ni protegido, y que permite la proliferación de la desinformación, el discurso de odio y el contenido generado por Inteligencia Artificial.

Ante este contexto, el proyecto, liderado por la directora del Departamento Lenguajes y Sistemas Informáticos de la UA, Estela Saquete, analiza distintas tecnologías y herramientas digitales, como el Procesamiento del Lenguaje Natural o técnicas de Deep Learning, con el objetivo de ayudar a las instituciones públicas a promover un entorno digital seguro.

Como resultado de estas investigaciones, el proyecto propone un modelo tecnológico basado en la creación de un dataset estructurado, que permitirá desarrollar modelos de lenguaje avanzados, optimizados para la detección de confiabilidad, violencia y contenido que provenga de IA.

Asimismo, se entrenará esta herramienta con modelos de lenguaje que se ajustarán progresivamente para mejorar su precisión en cada una de las áreas de análisis. Se diseñará e implementará una interfaz que integre los algoritmos y modelos del sistema, facilitando su aplicación en el entorno digital, con un enfoque inicial en la provincia de Alicante. Posteriormente, se llevará a cabo una evaluación tanto interna de cada módulo como una prueba experimental en una administración pública de la provincia de Alicante para validar su eficacia.

Para la ejecución del proyecto son varias las actividades planteadas y que se prevé llevar a cabo. En primer lugar, el trabajo empezará a partir de analizar y determinar cuáles son las amenazas que pueden afectar a los diferentes colectivos de la sociedad. El segundo paso será elaborar un informe donde se recojan los tipos de violencia sufridos por la ciudadanía y trabajadores de las administraciones. En paralelo, se realizará un estudio sobre la aplicación y mejora de la tecnología PLN para detectar y reducir esas amenazas.

A continuación, y como resultado de los estudios anteriormente mencionados, se diseñará un modelo que permita aplicar tecnologías de procesamiento del lenguaje para detectar amenazas en el consumo de información, en especial, dentro de la administración pública local. Por último, se presentará el proyecto en distintas convocatorias nacionales e internacionales, persiguiendo el objetivo de ampliar su visibilidad e impacto.

Esta iniciativa representa un avance significativo en la seguridad digital y la protección de la ciudadanía en un entorno cada vez más interconectado a través del uso de tecnologías avanzadas, desarrollando soluciones innovadoras para combatir la desinformación, prevenir riesgos y fortalecer la ciberseguridad. Con estos proyectos, CENID se consolida como un referente en la aplicación de herramientas tecnológicas para un entorno digital más seguro y confiable.