Olfeo et l’IA : au service de la classification des contenus

Dans le cadre de la « Semaine de l’Action pour l’IA » en France, qui se tenait du 6 au 11 février, il est essentiel de mettre en lumière le rôle fondamental de l’intelligence artificielle dans la cybersécurité. Loin d’être une simple tendance apparue avec ChatGPT, l’IA est depuis longtemps un levier d’optimisation et de performance dans la détection et la prévention des cyberattaques.

Chez Olfeo, nous avons intégré ces technologies avancées pour améliorer le classement et la catégorisation des domaines et des URLs, contribuant ainsi à une sécurité renforcée.

Une base de données unique

Avec plus de 20 millions de domaines et des centaines de millions d’URLs répertoriées, Olfeo se distingue comme le seul acteur français à proposer une base de sites web finement classifiée en fonction des usages et du cadre juridique français. Cette base de données constitue le centre névralgique de notre solution, garantissant une précision et une pertinence incomparables dans la classification des sites web, tout en limitant les faux positifs.

La qualité et l’exhaustivité de notre base sont essentielles pour assurer une cybersécurité efficace.

Jusqu’à il y a quelques années, le classement se faisait à la main, par des opérateurs humains, ce qui apportait une grande précision mais qui pouvait poser des problèmes de passage à l’échelle évidemment.

Avec l’apparition des modèles IA il y a une dizaine d’années, un premier niveau d’automatisation fut mis en place, mais toujours supervisé et confirmé par un opérateur humain: un pré-classement se basant sur une analyse sémantique et une inférence bayesienne pour en déduire des ensembles de probabilités de catégorie. Par exemple, un site pouvait figurer dans la catégorie « voyages » à 70% de probabilité, « photographie » à 20% ou « blog » à 10%. Charge à l’opérateur humain de valider la bonne suggestion. Cette approche permettait d’accélérer le processus de classement, tout en assurant une qualité irréprochable.

Cependant, face à l’explosion exponentielle du nombre de nouveaux domaines créés chaque mois, cette stratégie se devait d’être complétée par des technologies innovantes pour maintenir sa précision et son efficacité.

L’un des enjeux majeurs dans la classification des URLs réside dans l’identification des sites malveillants. Chaque mois, ce sont près de 70 millions de nouveaux domaines qui sont créés à travers le monde, dont environ 13 millions à des fins malicieuses. Mais se limiter aux seuls sites malveillants, c’est passer à côté des sites légitimes et de l’intérêt à pouvoir catégoriser finement ces sites. En effet, une catégorisation fine, même des sites légitimes, permet de comprendre l’usage d’internet par les collaborateurs, mais aussi d’appliquer des politiques d’accès et de sécurité. Un exemple serait la détection et la catégorisation des applications SaaS, aussi connu sous le nom de Shadow IT, qui permet de mieux gérer les risques opérationnels et de sécurité, liés à l’utilisation des applications SaaS.

L’apprentissage pour classer un grand volume de données

C’est pour cela que, pour passer au niveau supérieur en terme d’IA, Olfeo s’est associé à des experts venant de différents horizons, notamment dans le cadre d’un projet interdisciplinaire RAPID METIS.

Le projet METIS, disposant d’un budget d’1 million d’euros et co-financé par le dispositif RAPID (Régime d’Appui à l’Innovation Duale) et soutenu par l’Agence Innovation Défense du Ministère des Armées et la Direction Générale de l’Armement, est donc lancé en 2020. Il visait à implémenter des algorithmes d’IA et de Machine Learning pour améliorer les performances des outils de classification internes Olfeo. Le projet inclut une dimension principale d’innovation autour des méthodes de classification des données et de l’apprentissage (Machine Learning) pour identifier la catégorie à associer à une URL sur la base de l’analyse du contenu de la page web.

Effectué en collaboration avec l’Université de Reims Champagne-Ardenne et le laboratoire d’informatique de l’Université Grenoble Alpes sur une durée de 3 ans, le projet a combiné exploration de l’état de l’art dans l’analyse et le classement sémantique, la mise en place de processus automatisés de traitement, l’entrainement de différents modèles de Machine Learning avec les données existantes Olfeo et finalement le déploiement d’un modèle d’apprentissage profond (Deep Learning)  qui a permis d’optimiser le taux de reconnaissance des contenus (sur la base d’une variante du modèle BERT).

Le projet a donné entière satisfaction par rapport à l’objectif visé. La pertinence de la classification a pu être améliorée jusqu’à 30% sur certains catégories de contenus tout en maintenant la qualité de la base existante avec un taux de reconnaissance « juste » des URLs proche de 100%. Ces résultats ont permis l’intégration de l’algorithme de classification dans l’outil de pré-qualification Olfeo.

Suite à ce succès, Olfeo a continué la double approche combinant classification par des techniques de Machine Learning, tout en permettant à l’humain de garder la main sur le classement final. Avec l’augmentation de la précision de classification automatique, Olfeo prépare le terrain pour une validation automatique sur certains types de contenus dans un futur proche.

Classification à la volée des requêtes d’URL, rêve ou réalité future ?

Avec la qualité croissante et l’innovation constante des LLM (Deepseek, Mistral, OpenAI…), on peut légitimement se poser la question si à terme, il sera possible de catégoriser ou classer une demande à la volée, sans vérifier dans une base de données. Les avantages seraient intéressants, notamment la possibilité de ne plus à avoir à maintenant et faire vivre des bases d’URLs ou domaines. Ce, qui devant le grand nombre de domaines crées, peut être une solution efficace (peut être la seule qui peut passer à l’échelle ?)

Cette approche soulève néanmoins plusieurs limites : tout d’abord l’importance de la latence. Une classification « à la volée », nécessite une analyse et l’application d’un modèle de classification à chaque requête de l’utilisateur, ce qui implique nécessairement une durée plus longue de la requête. Pour le moment, même avec des modèles puissants, la latence est gênante.

L’autre limite est la qualité des résultats. Aussi puissants soient les modèles aujourd’hui, il n’est pas possible de garantir un résultat 100% correct. Pas sans l’intervention d’un opérateur humain. Or les faux positifs sont un point de difficulté pour les équipes IT, qui les oblige à enquêter et passer du temps à valider ou invalider le résultat.

Pour le moment, la meilleure approche consiste encore de faire intervenir un opérateur humain pour garder les bases de résultats aussi propres que possibles.

Conclusion

L’intégration de l’IA dans la cybersécurité n’est plus une simple option, mais une nécessité. Chez Olfeo, nous avons fait de l’intelligence artificielle un atout stratégique pour garantir une classification précise et efficace des sites web, tout en renforçant la sécurité des infrastructures numériques. En combinant expertise humaine et intelligence artificielle, nous restons à la pointe de l’innovation pour offrir à nos utilisateurs une protection optimale face aux menaces en constante évolution.

La « Semaine de l’Action pour l’IA » est une occasion idéale pour rappeler que l’IA est un levier de transformation majeur dans de nombreux secteurs, et que son rôle dans la cybersécurité ne cesse de croître. Olfeo s’engage pleinement dans cette dynamique pour continuer à proposer des solutions toujours plus performantes et adaptées aux enjeux de demain.