S
Sabri Küstür
Guest
- Konu Yazar
- #1
Microsoft, yapay zeka ajanları için sürekli denetim istiyor
Microsoft, şirketlerin kendi sistemlerine yerleştirdiği yapay zeka ajanlarını da içeriden kaynaklanan güvenlik riskleri arasında değerlendirmesi gerektiğini açıkladı. Microsoft Security yöneticisi Hayete Gallot, 19 Ekim tarihli yazısında ajanların hedeflerine ulaşmaya çalışırken beklenmedik davranışlar gösterebileceğini belirtti. Şirket bunun için yalnızca dış saldırıları engellemeyi yeterli görmüyor, ajanların eylemlerini çalışma boyunca izleyen ve gerektiğinde yetkilerini sınırlayan denetimler öneriyor. Bu değerlendirme, bütün ajanların kötü niyetli olduğu anlamına gelmiyor. Microsoft’a göre modeller, sonuç elde etmeye odaklanıyor ancak kuruluşların kurallarını ve muhakemesini kendiliğinden paylaşmıyor. Bağlam değiştikçe planlar ve davranışlar da değişebiliyor. Şirket verilerine, uygulamalara ve araçlara geniş erişim veren izinler, bu değişimin etkisini artırabiliyor. Microsoft’un açıkladığı yaklaşım, Guardian Agents adlı denetleyici ajanların eylemleri gerçekleşmeden önce gözetimini temel alıyor. Kimlik, izinler, veriler, cihazlar, ağ, bulut ve çalışma ortamından gelen işaretler bu denetime katkı sağlıyor. Amaç, ajanın o anda ne yapmaya çalıştığını ve hangi riski oluşturduğunu birlikte değerlendirmek. Şirket, daha önce duyurduğu Project Perception güvenlik sisteminin bu alanda da kullanılabileceğini söylüyor. Denetimler, değişken sonuçlar üretebilen yapay zekanın çevresine bağımsız sınırlar yerleştiriyor. Güvenlik ekipleri ise kayıtlar üzerinden ne olduğunu ve riskin neden yükseldiğini inceleyebiliyor. Microsoft, yerel ajan keşfini 60 türe çıkarıyor Aynı gün yayımlanan teknik açıklama, yerel ajan keşfine 35 yeni tür ekleyerek desteklenen toplamı 60’a çıkardığını belirtiyor. Claude Code, …
Microsoft, yapay zeka ajanları için sürekli denetim istiyor haberi ilk önce Teknoblog üzerinde yayımlandı.
Kaynak: https://www.teknoblog.com/microsoft-ajanlara-surekli-denetim-istiyor/
Microsoft, şirketlerin kendi sistemlerine yerleştirdiği yapay zeka ajanlarını da içeriden kaynaklanan güvenlik riskleri arasında değerlendirmesi gerektiğini açıkladı. Microsoft Security yöneticisi Hayete Gallot, 19 Ekim tarihli yazısında ajanların hedeflerine ulaşmaya çalışırken beklenmedik davranışlar gösterebileceğini belirtti. Şirket bunun için yalnızca dış saldırıları engellemeyi yeterli görmüyor, ajanların eylemlerini çalışma boyunca izleyen ve gerektiğinde yetkilerini sınırlayan denetimler öneriyor. Bu değerlendirme, bütün ajanların kötü niyetli olduğu anlamına gelmiyor. Microsoft’a göre modeller, sonuç elde etmeye odaklanıyor ancak kuruluşların kurallarını ve muhakemesini kendiliğinden paylaşmıyor. Bağlam değiştikçe planlar ve davranışlar da değişebiliyor. Şirket verilerine, uygulamalara ve araçlara geniş erişim veren izinler, bu değişimin etkisini artırabiliyor. Microsoft’un açıkladığı yaklaşım, Guardian Agents adlı denetleyici ajanların eylemleri gerçekleşmeden önce gözetimini temel alıyor. Kimlik, izinler, veriler, cihazlar, ağ, bulut ve çalışma ortamından gelen işaretler bu denetime katkı sağlıyor. Amaç, ajanın o anda ne yapmaya çalıştığını ve hangi riski oluşturduğunu birlikte değerlendirmek. Şirket, daha önce duyurduğu Project Perception güvenlik sisteminin bu alanda da kullanılabileceğini söylüyor. Denetimler, değişken sonuçlar üretebilen yapay zekanın çevresine bağımsız sınırlar yerleştiriyor. Güvenlik ekipleri ise kayıtlar üzerinden ne olduğunu ve riskin neden yükseldiğini inceleyebiliyor. Microsoft, yerel ajan keşfini 60 türe çıkarıyor Aynı gün yayımlanan teknik açıklama, yerel ajan keşfine 35 yeni tür ekleyerek desteklenen toplamı 60’a çıkardığını belirtiyor. Claude Code, …
Microsoft, yapay zeka ajanları için sürekli denetim istiyor haberi ilk önce Teknoblog üzerinde yayımlandı.
Kaynak: https://www.teknoblog.com/microsoft-ajanlara-surekli-denetim-istiyor/