Une IA puissante doit aussi être sûre.
Amich Tech s'appuie sur des années de recherche en sécurité de l'intelligence artificielle, menées à l'Université du Michigan et publiées dans les conférences les plus exigeantes du domaine. Cette recherche guide la façon dont nous construisons nos produits.
Ce que nous étudions
Attaques et défenses des modèles
Comment tromper un modèle d'apprentissage automatique avec des exemples adverses, et comment le rendre robuste face à ces attaques.
IA explicable et de confiance
Utiliser les explications d'un modèle pour diagnostiquer ses faiblesses et mesurer sa fiabilité.
Sécurité des agents IA
Des IA qui agissent dans vos applications : injections de consignes, contenus non fiables, validation humaine des actions.
Alignement et risques extrêmes
Faire en sorte que des IA de plus en plus capables poursuivent les objectifs que nous leur donnons, et prévenir les risques graves, jusqu'aux risques existentiels, que pourraient poser des systèmes plus puissants.
Présenté à l'une des conférences de sécurité les plus prestigieuses au monde.
À USENIX Security 2023, à Anaheim (Californie), Abderrahmen Amich a présenté DeResistor, avec ses co-auteurs de l'Université du Michigan et de SRI International. DeResistor utilise l'IA pour tenir tête à la censure d'Internet de façon récursive : à chaque fois que la censure s'adapte, l'outil apprend à la contourner de nouveau, sans se faire repérer.
Travaux publiés par notre fondateur
- ACSAC 2025DeepProv: Behavioral Characterization and Repair of Neural Networks via Inference Provenance Graph AnalysisFiras Ben Hmida, Abderrahmen Amich, Ata Kaboudi, Birhanu Eshete
- USENIX Security 2023DeResistor: Toward Detection-Resistant Probing for Evasion of Internet CensorshipAbderrahmen Amich, Birhanu Eshete, Vinod Yegneswaran, Nguyen Phong Hoang
- ACM 2022Adversarial Detection of Censorship MeasurementsAbderrahmen Amich, Birhanu Eshete, Vinod Yegneswaran
- ACM CODASPY 2022EG-Booster: Explanation-Guided Booster of ML Evasion AttacksAbderrahmen Amich, Birhanu Eshete
- ACSAC 2021Morphence: Moving Target Defense Against Adversarial ExamplesAbderrahmen Amich, Birhanu Eshete
- SecureComm 2021Explanation-Guided Diagnosis of Machine Learning Evasion AttacksAbderrahmen Amich, Birhanu Eshete
Collaborer avec nous ?
Universités, laboratoires, entreprises : parlons de sécurité de l'IA.
contact@amichtech.com