Microsoft a transformé son outil d'évaluation des risques de sécurité de l'IA, Counterfit, open-source, permettant à quiconque de commencer à utiliser l'outil gratuitement. Actuellement, les organisations peuvent utiliser Counterfit pour automatiser les évaluations des risques de sécurité, en s'assurant que la protection qu'elles utilisent est à la hauteur.
Microsoft a initialement développé Counterfit en tant qu'outil interne capable d'évaluer rapidement la sécurité des systèmes d'IA et d'apprentissage automatique. Il a commencé sa vie comme un ensemble de scripts avant de se transformer rapidement en une automatisation générique d'IA qu'un opérateur peut utiliser pour «attaquer plusieurs systèmes d'IA» à la fois.
Microsoft utilise désormais régulièrement Counterfit comme outil de base dans les opérations de l'équipe rouge de l'IA. Comme Counterfit est indépendant de l'environnement, du modèle et des données, l'outil peut fournir une évaluation précise sans impédance.
L'outil lui-même est conçu pour être utilisé par des professionnels de la sécurité. Counterfit utilise des flux de travail similaires à d'autres outils populaires de l'équipe rouge tels que Metasploit ou PowerShell Empyre, avec un support étendu pour les scripts, les algorithmes d'attaque préchargés, l'analyse des vulnérabilités, la journalisation avancée, etc., accessibles via la ligne de commande.
Microsoft a également beaucoup travaillé avec des professionnels de la sécurité et de grandes organisations pour mieux développer Counterfit. Sur le Blog sur la sécurité Microsoft, Matilda Rhode, chercheuse senior en cybersécurité chez Airbus, a déclaré:
L'IA est de plus en plus utilisée dans l'industrie; il est vital de se tourner vers l'avenir pour sécuriser cette technologie, en particulier pour comprendre où les attaques spatiales peuvent être réalisées dans l'espace problématique. La publication d'outils open-source d'une organisation telle que Microsoft pour les praticiens de la sécurité afin d'évaluer la sécurité des systèmes d'IA est à la fois la bienvenue et une indication claire que l'industrie prend ce problème sérieusement.
Vous pouvez trouver l'open-source Microsoft Counterfit sur leur GitHub officiel.
En rapport: Des emplois dont vous ne saviez jamais qu'ils étaient exécutés par l'IA
Pourquoi Counterfit est-il utile?
Même pour une entreprise de la taille de Microsoft, effectuer des évaluations de sécurité efficaces n'est pas facile, en particulier lorsque ces entreprises sont d'énormes leaders Fortune 500, des gouvernements, des organisations à but non lucratif, etc. Une étude précédente de Microsoft a révélé qu'un grand nombre d'entreprises étaient incapables de tester leurs systèmes d'IA avec précision.
Nous avons constaté que 25 entreprises sur 28 ont indiqué qu'elles ne disposent pas des bons outils pour sécuriser leurs systèmes d'IA et que les professionnels de la sécurité recherchent des conseils spécifiques dans ce domaine.
Counterfit facilite la réalisation de ces évaluations, en automatisant le processus d'analyse et de test.
En rapport: Façons d'utiliser la technologie de l'IA pour améliorer votre entreprise
En outre, une publication récente Étude Gartner a répertorié l'adoption de la sécurité de l'IA comme l'une des mesures de sécurité les plus importantes qu'une entreprise puisse prendre pour améliorer la protection. La même étude a noté que «D'ici 2024, les organisations qui mettent en œuvre des contrôles de gestion des risques dédiés à l'IA réussiront à éviter les résultats négatifs de l'IA deux fois plus souvent que celles qui ne le font pas.
En bref, Counterfit devenant un outil d'évaluation de la sécurité de l'IA open source devrait contribuer à rendre le monde un peu plus sûr.
Votre prochain abonnement antivirus doit-il inclure l'intelligence artificielle ou s'agit-il simplement d'un autre mot à la mode en matière de sécurité?
Lire la suite
- Sécurité
- Actualités techniques
- Open source
- La cyber-sécurité
Gavin est l'éditeur junior pour Windows and Technology Explained, un contributeur régulier au podcast Really Useful, et était l'éditeur du site soeur de MakeUseOf axé sur la cryptographie, Blocks Decoded. Il possède un BA (Hons) en écriture contemporaine avec des pratiques d'art numérique pillées dans les collines du Devon, ainsi que plus d'une décennie d'expérience en rédaction professionnelle. Il aime beaucoup de thé, de jeux de société et de football.
Abonnez-vous à notre newsletter
Rejoignez notre newsletter pour des conseils techniques, des critiques, des ebooks gratuits et des offres exclusives!
Un pas de plus…!
Veuillez confirmer votre adresse e-mail dans l'e-mail que nous venons de vous envoyer.
