La prétopologie est une méthode innovante visant à rendre les systèmes d'intelligence artificielle plus compréhensibles. Selon Numerama, d'ici 2026-2027, l'AI Act imposera aux systèmes d'IA à haut risque d'être transparents et explicables. Face au défi des algorithmes opaques, la prétopologie offre une approche novatrice.
Ce qu'il faut retenir
- L'AI Act exigera des systèmes d'IA à haut risque d'être transparents et explicables d'ici 2026-2027
- La prétopologie propose une méthode pour rendre les systèmes d'IA plus compréhensibles
- PretopoMD, une implémentation open source de la prétopologie, est envisagée pour des études pilotes en santé, RH et maintenance
Les limites des boîtes noires
Les systèmes d'IA actuels, tels que le deep learning, agissent souvent comme des boîtes noires, rendant difficile la compréhension de leur fonctionnement interne. Cette opacité soulève des préoccupations dans des domaines cruciaux tels que la médecine et la justice, incitant les régulateurs à exiger des systèmes plus explicables.
L'impératif de transparence
L'AI Act européen, adopté en 2024, impose des normes strictes pour garantir la transparence et l'explicabilité des systèmes d'IA à haut risque. Des sanctions sévères sont prévues pour les contrevenants, soulignant l'importance de cette exigence pour des secteurs sensibles tels que la santé et les ressources humaines.
La solution : la prétopologie
La prétopologie propose une approche novatrice pour rendre les raisonnements sur des données mixtes plus explicites. En utilisant des règles logiques simples, elle permet de définir des 'voisinages' sans recourir à des mesures de distance artificielles, offrant ainsi une alternative à l'opacité des méthodes traditionnelles.
