Yapay Zeka Donanımları Siber Saldırılara Karşı Savunmasız Sohbet Robotları Tehlikeli Yanıtlar Üretiyor
Yapay zeka donanımları siber saldırılara karşı savunmasız çıktı. Araştırmacılar, manipüle edilen YZ’nin ulusal güvenlik ve sağlık gibi konularda tehlikeli yanıtlar verebildiğini gösterdi.
Araştırmacılar, yapay zeka (YZ) sistemlerinin temelini oluşturan donanımların siber saldırılara uğrayabileceğini ve bu durumun YZ modellerinin hassas sorulara tehlikeli veya yanlış yanıtlar vermesine yol açabileceğini ortaya koydu. Uzmanlar, ulusal güvenlik ve kişisel sağlık gibi kritik konularda verilen yanıtların manipüle edilebildiğini gösterdi.
Bir senaryoda, araştırmacılar YZ modelinin bilgi işleme ağırlıklarına uzaktan müdahale ederek, modelin Çin’in Tayvan’ı işgal etme olasılığını abartılı bir şekilde yüksek göstermesini sağladı. Başka bir örnekte ise, donanımı manipüle edilmiş bir YZ modeli, göğüs ağrısı şikayeti olan bir kullanıcıya tıbbi tavsiye yerine evde kalmasını önerdi.
Yapay Zeka Altyapısının Güvenilirliği Sorgulanıyor
Milyarlarca dolarlık YZ donanım endüstrisi, yani çipler, bellek ve veri merkezi sunucuları, yeni araştırmanın merkezinde yer alıyor. Bu bileşenlerdeki zafiyetler, bir YZ modelinin davranışını doğrudan etkileyebiliyor. Eclypsium şirketinin İcra Kurulu Başkanı Yuriy Bulygin, altyapıya güvenilemediği sürece YZ modellerine de güvenilemeyeceğini vurguladı.
Eclypsium, saldırı senaryosunu teknoloji devi Nvidia’nın bilgi işlem platformunda başarıyla gösterdi. Ancak araştırmacılar, bu tür saldırıların Nvidia’ya özgü olmadığını ve diğer donanımlar ile yazılımlara da uygulanabileceğini belirtti. Çin, Rusya veya ABD gibi devlet aktörlerinin bu yöntemlerle hedefli saldırılar düzenleyebileceği ifade edildi.
Nvidia sözcüsü, varsayımsal senaryoları incelediklerini ve endüstrinin daha önce farkında olmadığı bir durum tespit etmediklerini söyledi. Şirket, Eclypsium ile işbirliği yapmaktan memnuniyet duyduğunu ve güçlü bellek erişim korumalarının saldırı yolunu kapatabileceğini belirtti.
Eclypsium’a göre, saldırı senaryolarına karşı güvenlik kontrollerinin etkinliği, yapılandırmalarına ve kullanımlarına bağlı. Şirket, bu kontrollerin etkili olduğundan emin olmak için Nvidia ile çalışıyor. Saldırının bir dakikadan kısa sürdüğü ve saldırganın veri işleme birimine veya temel kart yönetim denetleyicisine erişimi olması gerektiği kaydedildi.
Yapay Zeka Modellerinin Bütünlüğüne Yönelik Riskler
Araştırma, Çin ile ABD arasındaki YZ rekabetinin arttığı ve YZ’nin ulusal güvenlik üzerindeki etkilerinin gözlemlendiği bir dönemde geldi. Geçmişte, Çin’e ait bir geminin nükleer bileşenler taşıdığına dair sahte YZ destekli istihbarat raporu, Amerikan ordusunu harekete geçmeye yaklaştırmıştı.
Bu bulgular, YZ ajanlarının kontrolden çıktığına dair raporların ardından YZ modellerinin bütünlüğüne yönelik başka bir riski ortaya koyuyor. Eclypsium Kıdemli Başkan Yardımcısı John Loucaides, modellerin üzerinde çalıştığı tüm bilgisayarların güvenliğinin sağlanması gerektiğini belirtti.
Eclypsium yöneticileri, bulguları hakkında Ulusal Güvenlik Ajansı ve Siber Güvenlik ve Altyapı Güvenliği Ajansı’na bilgi verdi. Bağımsız donanım güvenliği uzmanları, sonuçların inandırıcı ve dikkate alınması gereken önemli veriler olduğunu kaydetti. Saldırıların doğrudan bellek erişimi saldırılarıyla benzerlik gösterdiği ve şüphe duymak için bir neden olmadığı ifade edildi.
Yorum Yap