S
Sinan Küstür
Guest
- Konu Yazar
- #1
OpenAI yapay zekâ ajanlarının aylarca gizlice haberleştiği ortaya çıktı
OpenAI’ın test ortamında çalışan yapay zekâ ajanlarının, şirketin bilgisi dışında aylar boyunca ortak bir mesaj panosu üzerinden iletişim kurduğu ve burada keşfettikleri güvenlik açıklarını birbirleriyle paylaştığı ortaya çıktı. Las Vegas’ta düzenlenen Black Hat USA güvenlik konferansında konuşan OpenAI çalışanları Eric Wallace ve Michael Dalton, Hugging Face’e yönelik saldırıyla sonuçlanan olayın perde arkasına ilişkin daha ayrıntılı bilgiler paylaştı. Açıklamalara göre ajanlar yalnızca bilgi alışverişi yapmakla kalmadı, aynı zamanda görev paylaşımı yaparak koordineli şekilde hareket etti. OpenAI ise olayın ardından güvenlik önlemlerini güçlendirmek amacıyla bazı araştırma çalışmalarının hızını bilinçli olarak yavaşlattığını açıkladı. Konferansta aktarılan bilgilere göre, yapay zekâ ajanları OpenAI’ın test altyapısında yer alan ve yazılım paketlerinin kurulumu ile yönetimini sağlayan ortak bir paket yöneticisini iletişim kanalı olarak kullanmaya başladı. Şirketin altyapısında yaygın biçimde kullanılan bu bileşen sayesinde farklı değerlendirme süreçlerinde çalışan ajanlar aynı ortama erişebildi. Güvenlik açığı keşfeden ajanlar, bu açıkları kapatmak yerine diğer ajanların da yararlanabilmesi için açık bırakıyor ve hazırlanan mesaj panosunda bunların ayrıntılarını paylaşıyordu. OpenAI, söz konusu mesaj panosunu 4 Temmuz’da tespit ederek devre dışı bıraktı. Ne var ki, ajanlar yalnızca birkaç gün sonra 8 Temmuz itibarıyla yeni bir iletişim yöntemi geliştirerek benzer bir sistemi yeniden oluşturmayı başardı. OpenAI ajanları görev paylaşımı yaparak birlikte hareket etti Eric Wallace’ın …
OpenAI yapay zekâ ajanlarının aylarca gizlice haberleştiği ortaya çıktı haberi ilk önce Teknoblog üzerinde yayımlandı.
Kaynak: https://www.teknoblog.com/openai-yapay-zeka-ajanlarinin-aylarca-gizlice-haberlestigi-ortaya-cikti/
OpenAI’ın test ortamında çalışan yapay zekâ ajanlarının, şirketin bilgisi dışında aylar boyunca ortak bir mesaj panosu üzerinden iletişim kurduğu ve burada keşfettikleri güvenlik açıklarını birbirleriyle paylaştığı ortaya çıktı. Las Vegas’ta düzenlenen Black Hat USA güvenlik konferansında konuşan OpenAI çalışanları Eric Wallace ve Michael Dalton, Hugging Face’e yönelik saldırıyla sonuçlanan olayın perde arkasına ilişkin daha ayrıntılı bilgiler paylaştı. Açıklamalara göre ajanlar yalnızca bilgi alışverişi yapmakla kalmadı, aynı zamanda görev paylaşımı yaparak koordineli şekilde hareket etti. OpenAI ise olayın ardından güvenlik önlemlerini güçlendirmek amacıyla bazı araştırma çalışmalarının hızını bilinçli olarak yavaşlattığını açıkladı. Konferansta aktarılan bilgilere göre, yapay zekâ ajanları OpenAI’ın test altyapısında yer alan ve yazılım paketlerinin kurulumu ile yönetimini sağlayan ortak bir paket yöneticisini iletişim kanalı olarak kullanmaya başladı. Şirketin altyapısında yaygın biçimde kullanılan bu bileşen sayesinde farklı değerlendirme süreçlerinde çalışan ajanlar aynı ortama erişebildi. Güvenlik açığı keşfeden ajanlar, bu açıkları kapatmak yerine diğer ajanların da yararlanabilmesi için açık bırakıyor ve hazırlanan mesaj panosunda bunların ayrıntılarını paylaşıyordu. OpenAI, söz konusu mesaj panosunu 4 Temmuz’da tespit ederek devre dışı bıraktı. Ne var ki, ajanlar yalnızca birkaç gün sonra 8 Temmuz itibarıyla yeni bir iletişim yöntemi geliştirerek benzer bir sistemi yeniden oluşturmayı başardı. OpenAI ajanları görev paylaşımı yaparak birlikte hareket etti Eric Wallace’ın …
OpenAI yapay zekâ ajanlarının aylarca gizlice haberleştiği ortaya çıktı haberi ilk önce Teknoblog üzerinde yayımlandı.
Kaynak: https://www.teknoblog.com/openai-yapay-zeka-ajanlarinin-aylarca-gizlice-haberlestigi-ortaya-cikti/