Windows Love

Microsoft veröffentlicht ein offenes Framework zur Erkennung von Bedrohungen gegen ML-Systeme

  1. Home
  2. /
  3. Microsoft
  4. /
  5. Microsoft veröffentlicht ein offenes Framework zur Erkennung von Bedrohungen gegen ML-Systeme

Das maschinelle Lernen (ML) wird heute in verschiedenen Branchen eingesetzt, darunter Finanzen, Gesundheitswesen und Verteidigung. Da die Angriffe auf kommerzielle ML-Systeme zunehmen, ist die Sicherheit von ML-Systemen wirklich wichtig. Tatsächlich wurden in den letzten drei Jahren große Unternehmen wie Google, Amazon, Microsoft und Tesla mit ihren ML-Systemen ausgetrickst, umgangen oder in die Irre geführt. Um Sicherheitsanalysten in die Lage zu versetzen, Bedrohungen gegen ML-Systeme zu erkennen, darauf zu reagieren und sie zu beseitigen, hat Microsoft zusammen mit MITRE und Beiträgen von 11 Organisationen, darunter IBM, NVIDIA und Bosch, die Adversarial ML Threat Matrix veröffentlicht, ein branchenorientiertes offenes Framework für Sicherheitsanalysten.

Diese Bedrohungsmatrix entstand aus einer Partnerschaft mit 12 industriellen und akademischen Forschungsgruppen mit dem Ziel, Sicherheitsanalysten in die Lage zu versetzen, sich auf diese neuen und kommenden Bedrohungen zu orientieren. Das Framework ist mit einer kuratierten Reihe von Schwachstellen und feindlichen Verhaltensweisen ausgestattet, die von Microsoft und MITRE auf ihre Wirksamkeit gegen ML-Produktionssysteme geprüft wurden. Dieses Framework verwendet ATT&CK als Vorlage, da Sicherheitsanalysten bereits mit der Verwendung dieser Art von Matrix vertraut sind.

Die Adversarial ML Threat Matrix kann hier angesehen werden.

Gefällt dir der Artikel? Dann teile ihn mit deinen Freunden.

Avatar-Foto
Anna

Administrator/in

Administratorin und Webentwicklerin von Windows Love | Gamerin | Serien, YouTube und Musik Junkie

162 Beiträge

Neuste Beiträge

Kommentare

guest
0 Kommentare
Inline Feedbacks
Alle Kommentare anzeigen