Skynet benzeri bir “makinelerin başkaldırışından” endişelenen kişiler artık potansiyel bir AI ayaklanmasından kaçınmak için alınan yeni koruyucu önlemler ile rahat bir nefes alabilir. Kar amacı gütmeyen MITRE Corporation, aralarında Microsoft, IBM ve Nvidia gibi teknoloji devlerinin bulunduğu zirvedeki 12 teknoloji firmasıyla beraber Adversarial ML Threat Matrix‘ini (Düşman ML Tehdit Matriksi) kurdu. Grup, bu sistemin güvenlik analistlerinin makine öğrenimi (ML) sistemlerini hedefleyen tehditleri bulmaları, uyarı vermeleri, yanıt vermeleri ve çözmelerine yardımcı olmak için kurulmuş açık bir çerçeve olduğunu söylüyor.
Microsoft, bu adımın Dünya genelinde ticari AI sistemlerine yönelik saldırıların sayısında yaşanmaya devam eden artış tarafından tetiklendiğini söylüyor. Firma, seçilmiş 28 büyük işletmeyi inceleyerek neredeyse tamamının düşman makine öğreniminin yarattığı tehdidin farkında olmadığını ve bu 28’in 25’inin ML sistemlerini güvenli kılacak doğru araçlara sahip olmadıklarını söylüyor.
Matrix, Microsoft ve MITRE tarafından yıllar içerisinde bulunmuş olan geçmiş açıklar ve düşman davranışlardan oluşuyor ve Microsoft’un güvenlik sektöründeki uzmanlığını da içeriyor.
Microsoft’un bir blog yazısında şunları söylüyor: “Saldırganların bir ML sistemine saldırırken, phishing ve yanal hareket gibi ‘geleneksel tekniklerin’ yanı sıra düşman ML tekniklerinin bir birleşimini kullandıklarını bulduk.”
MITRE Makine Öğrenimi Araştırması Direktörü Mikel Rodriguez‘in belirttiği üzere “makine öğrenimi güvenliği söz konusu olduğunda kamusal ve özel çabaların ve sorumlulukların arasındaki duvarlar bulanıklaşıyor; ulusal güvenlik gibi kamu sektörü zorlukları kamu yatırımı kadar özel tarafların da işbirliğine ihtiyaç duyacak. Bu yüzden bu zorlukları cevaplamak için MITRE olarak biz, Microsoft gibi organizasyonlar ve genel topluluk ile beraber çalışarak makine öğrenimi tedarik zincirindeki kritik açıkları belirlemeye kendimi adadık. Bu çerçeve, toplulukları bir araya getirerek organizasyonların makine öğrenim sistemlerini daha bütüncül olarak güvene almayı düşünmelerini sağlamaya yardımcı olmanın ilk adımı.”
Bir cevap yazın