El objetivo principal de Capsul-IA es acercar la Inteligencia Artificial (IA) a aquellos sectores con una menor formación en esta tecnología de forma fácil y accesible, ofreciendo modelos entrenados y preparados para satisfacer demandas reales del sector empresarial español.
Entre los casos de uso contemplados encontramos el uso de modelos de lenguaje con documentos de carácter legal, y por otro lado el conteo de personas y generación de mapas de calor en comercios para hacer estudios de ocupación.
Para ambos casos de uso, el pilar fundamental para obtener modelos con buen rendimiento recae en los datos empleados para su entrenamiento; los cuales pueden contener información sensible. Por ello, una de las preocupaciones principales del proyecto es ofrecer las garantías necesarias de que la privacidad se garantiza en todo momento, fomentando así la confianza en este tipo de soluciones.
Respecto a casos de uso relativos a los documentos de carácter legal, una preocupación que pueden tener las organizaciones es qué ocurre con sus datos al subirlos a un modelo de lenguaje en la web. Este tipo de preocupaciones desaparece en el planteamiento del proyecto, al utilizar estos modelos de lenguaje en un entorno local. ¿Qué quiere decir esto? Que los datos y la información dados al modelo para generar sus respuestas nunca salen de la plataforma en posesión del usuario.
Además, estamos trabajando para aportar una capa de seguridad adicional dentro de la propia empresa empleando las capsulas, al incluir diferentes privilegios de acceso a los diferentes roles o equipos. Por ejemplo, en una organización, puede ser conveniente que, si bien la totalidad de los trabajadores tengan acceso al modelo y puedan hacer consultas, la propia organización podría optar por ocultar datos sensibles a ciertos grupos de la misma como empleados en formación o pruebas técnicas para evitar la filtración de información sensible.
Por otro lado, casos de uso relativos relacionados con la visión necesitan datos para generar los modelos de detección y en estos datos pueden mostrarse personas o, por otro lado, puede existir información sensible en los metadatos asociados. En nuestro compromiso por evitar cualquier tipo de filtración al modelo o uso malintencionado de cualquier información contenida en los datos, estos son preprocesados para anonimizarlos y que todavía sigan siendo útiles para entrenamiento. Un caso claro es el difuminado de caras. Con esta técnica podemos enseñarle al modelo qué es una persona y que aprenda a detectarla, pero no aprenda a distinguir caras concretas.
Desde Capsul-IA creemos en un uso de la tecnología y de la IA centrado en las personas, donde la innovación no esté reñida con la privacidad, la accesibilidad y el respeto por quienes la utilizan.
Adrián Martínez, Ingeniero de Aprendizaje Automático en SML
Agradecimientos:
Proyecto MIG-20232044, subvencionado por el CDTI – Centro de Desarrollo Tecnológico Industrial, apoyado por el Ministerio de Ciencia e Innovación, y aprobado en la convocatoria para el año 2023 del procedimiento de concesión de ayudas destinadas a “Misiones de Ciencia e Innovación” en el marco de la iniciativa TransMisiones 2023, en el ámbito del Programa Estatal para Catalizar la Innovación y el Liderazgo Empresarial del Plan Estatal de Investigación Científica y Técnica y de Innovación 2021-2023.
Proyecto PLEC2023-010240 financiado por MICIU/AEI/10.13039/501100011033:
