S
Sinan Küstür
Guest
- Konu Yazar
- #1
Meta AI modeli testte internete bağlandı ve güvenlik açığını kullandı
Meta, Muse Spark 1.1 adlı yapay zekâ modelinin izole edilmesi gereken test ortamından internete erişim sağlayarak üçüncü taraf bir hizmetteki güvenlik açığını kullandığını doğruladı. Bloomberg‘e konuşan Meta Sözcüsü Andy Stone, olayın The Information tarafından gündeme getirilmesinin ardından açıklama yaptı. Stone’a göre olayın nedeni, Meta’nın değerlendirme ortağı Irregular tarafından hazırlanan test ortamındaki bir yapılandırma hatası oldu. Model, internete erişim kazandıktan sonra üçüncü taraf bir serviste bulunan güvenlik açığından yararlandı. Meta, bunun daha önce farklı şirketlerde görülen benzer olaylarla aynı nitelikte gerçekleştiğini belirtti. Olayın merkezinde yer alan Irregular, gelişmiş yapay zekâ modellerinin siber güvenlik yeteneklerini değerlendiren bir şirket olarak faaliyet gösteriyor. Şirket, gerçek dünyadaki senaryoları taklit eden testler gerçekleştirerek yapay zekâ sistemlerinin olası saldırı davranışlarını ve savunma mekanizmalarını ölçüyor. Ne var ki Meta’nın açıklamasına göre, Muse Spark 1.1’in internete erişebilmesi doğrudan modelin kendi yeteneklerinden değil, test ortamındaki yanlış yapılandırmadan kaynaklandı. Bu nedenle olay, yapay zekânın güvenlik sınırlarını kendi başına aşmasından ziyade test altyapısındaki bir hata olarak değerlendiriliyor. Aynı test ortağı daha önce de benzer olaylarla gündeme gelmişti Irregular’ın adı daha önce Anthropic ve OpenAI ile bağlantılı benzer olaylarda da geçmişti. Anthropic, yaptığı açıklamada bazı yapay zekâ modellerinin test ortamından çıkarak üç farklı kuruma yönelik siber saldırı simülasyonları gerçekleştirebildiğini duyurmuştu. Şirket, bu olayın …
Meta AI modeli testte internete bağlandı ve güvenlik açığını kullandı haberi ilk önce Teknoblog üzerinde yayımlandı.
Kaynak: https://www.teknoblog.com/meta-muse-spark-1-1-test-ucuncu-taraf-servis-erisim/
Meta, Muse Spark 1.1 adlı yapay zekâ modelinin izole edilmesi gereken test ortamından internete erişim sağlayarak üçüncü taraf bir hizmetteki güvenlik açığını kullandığını doğruladı. Bloomberg‘e konuşan Meta Sözcüsü Andy Stone, olayın The Information tarafından gündeme getirilmesinin ardından açıklama yaptı. Stone’a göre olayın nedeni, Meta’nın değerlendirme ortağı Irregular tarafından hazırlanan test ortamındaki bir yapılandırma hatası oldu. Model, internete erişim kazandıktan sonra üçüncü taraf bir serviste bulunan güvenlik açığından yararlandı. Meta, bunun daha önce farklı şirketlerde görülen benzer olaylarla aynı nitelikte gerçekleştiğini belirtti. Olayın merkezinde yer alan Irregular, gelişmiş yapay zekâ modellerinin siber güvenlik yeteneklerini değerlendiren bir şirket olarak faaliyet gösteriyor. Şirket, gerçek dünyadaki senaryoları taklit eden testler gerçekleştirerek yapay zekâ sistemlerinin olası saldırı davranışlarını ve savunma mekanizmalarını ölçüyor. Ne var ki Meta’nın açıklamasına göre, Muse Spark 1.1’in internete erişebilmesi doğrudan modelin kendi yeteneklerinden değil, test ortamındaki yanlış yapılandırmadan kaynaklandı. Bu nedenle olay, yapay zekânın güvenlik sınırlarını kendi başına aşmasından ziyade test altyapısındaki bir hata olarak değerlendiriliyor. Aynı test ortağı daha önce de benzer olaylarla gündeme gelmişti Irregular’ın adı daha önce Anthropic ve OpenAI ile bağlantılı benzer olaylarda da geçmişti. Anthropic, yaptığı açıklamada bazı yapay zekâ modellerinin test ortamından çıkarak üç farklı kuruma yönelik siber saldırı simülasyonları gerçekleştirebildiğini duyurmuştu. Şirket, bu olayın …
Meta AI modeli testte internete bağlandı ve güvenlik açığını kullandı haberi ilk önce Teknoblog üzerinde yayımlandı.
Kaynak: https://www.teknoblog.com/meta-muse-spark-1-1-test-ucuncu-taraf-servis-erisim/