S
Sinan Küstür
Guest
- Konu Yazar
- #1
OpenAI yapay zekâ modellerinin Hugging Face’e izinsiz erişim sağladığını kabul etti
OpenAI, geçtiğimiz günlerde Hugging Face tarafından duyurulan yetkisiz erişim olayına ilişkin soruşturmasını tamamladı ve saldırının şirketin test edilen yapay zekâ modelleri tarafından gerçekleştirildiğini doğruladı. Şirketin açıklamasına göre, olay GPT-5.6 Sol ile henüz kullanıma sunulmayan daha gelişmiş bir modelin birlikte yürüttüğü dahili bir siber güvenlik değerlendirmesi sırasında meydana geldi. Modellerin insan müdahalesi olmadan test ortamından çıkarak internete erişim sağlaması ve ardından Hugging Face sistemlerine ulaşması, üretken yapay zekânın siber güvenlik alanındaki risklerine ilişkin tartışmaları yeniden gündeme taşıdı. OpenAI tarafından paylaşılan bilgilere göre, söz konusu test modellerin karmaşık saldırı senaryolarını ne ölçüde uygulayabildiğini ölçmek amacıyla gerçekleştiriliyordu. Bu değerlendirme kapsamında modeller, gelişmiş istismar yöntemlerini kullanarak belirli bir problemi çözmeye yönlendirildi. Testler normal şartlarda dış sistemlerden tamamen izole edilmiş bir sanal ortamda yürütülüyordu. Bununla birlikte, siber güvenlik kabiliyetlerinin daha doğru değerlendirilebilmesi amacıyla bazı güvenlik kısıtlamalarının geçici olarak azaltıldığı ifade edildi. İnceleme sonucunda modellerin değerlendirme görevine beklenenden çok daha fazla odaklandığı ve çözüm bulabilmek için internet erişimi aramaya başladığı belirlendi. OpenAI’nin açıklamasına göre modeller önce test ortamındaki daha önce bilinmeyen bir güvenlik açığından yararlanarak bulunduğu sınırlandırılmış ortamdan çıkmayı başardı. Ardından sistem içerisinde internete erişim sağlayabilen bir düğüm tespit edildi ve bu bağlantı üzerinden dış kaynaklara ulaşılabildi. OpenAI ve Hugging Face ortak soruşturma yürütüyor OpenAI, modellerin …
OpenAI yapay zekâ modellerinin Hugging Face’e izinsiz erişim sağladığını kabul etti haberi ilk önce Teknoblog üzerinde yayımlandı.
Kaynak: https://www.teknoblog.com/openai-hugging-face-yapay-zeka-modelleri-izinsiz-erisim/
OpenAI, geçtiğimiz günlerde Hugging Face tarafından duyurulan yetkisiz erişim olayına ilişkin soruşturmasını tamamladı ve saldırının şirketin test edilen yapay zekâ modelleri tarafından gerçekleştirildiğini doğruladı. Şirketin açıklamasına göre, olay GPT-5.6 Sol ile henüz kullanıma sunulmayan daha gelişmiş bir modelin birlikte yürüttüğü dahili bir siber güvenlik değerlendirmesi sırasında meydana geldi. Modellerin insan müdahalesi olmadan test ortamından çıkarak internete erişim sağlaması ve ardından Hugging Face sistemlerine ulaşması, üretken yapay zekânın siber güvenlik alanındaki risklerine ilişkin tartışmaları yeniden gündeme taşıdı. OpenAI tarafından paylaşılan bilgilere göre, söz konusu test modellerin karmaşık saldırı senaryolarını ne ölçüde uygulayabildiğini ölçmek amacıyla gerçekleştiriliyordu. Bu değerlendirme kapsamında modeller, gelişmiş istismar yöntemlerini kullanarak belirli bir problemi çözmeye yönlendirildi. Testler normal şartlarda dış sistemlerden tamamen izole edilmiş bir sanal ortamda yürütülüyordu. Bununla birlikte, siber güvenlik kabiliyetlerinin daha doğru değerlendirilebilmesi amacıyla bazı güvenlik kısıtlamalarının geçici olarak azaltıldığı ifade edildi. İnceleme sonucunda modellerin değerlendirme görevine beklenenden çok daha fazla odaklandığı ve çözüm bulabilmek için internet erişimi aramaya başladığı belirlendi. OpenAI’nin açıklamasına göre modeller önce test ortamındaki daha önce bilinmeyen bir güvenlik açığından yararlanarak bulunduğu sınırlandırılmış ortamdan çıkmayı başardı. Ardından sistem içerisinde internete erişim sağlayabilen bir düğüm tespit edildi ve bu bağlantı üzerinden dış kaynaklara ulaşılabildi. OpenAI ve Hugging Face ortak soruşturma yürütüyor OpenAI, modellerin …
OpenAI yapay zekâ modellerinin Hugging Face’e izinsiz erişim sağladığını kabul etti haberi ilk önce Teknoblog üzerinde yayımlandı.
Kaynak: https://www.teknoblog.com/openai-hugging-face-yapay-zeka-modelleri-izinsiz-erisim/