S
Sinan Küstür
Guest
- Konu Yazar
- #1
OpenAI kritik yapay zekâ risklerini inceleyen ekibini dağıttı
OpenAI, geliştirdiği yapay zekâ modellerinin ciddi güvenlik risklerini değerlendirmekle görevli hazırlık ekibini geçen ayın sonunda dağıttı. “Preparedness” adıyla faaliyet gösteren ekip, modellerin giderek gelişen yeteneklerinin yol açabileceği riskleri belirliyor ve bunların nasıl azaltılabileceği üzerinde çalışıyordu. İncelenen senaryolar arasında bir yapay zekâ sisteminin kontrol dışına çıkarak başka bir şirketin sistemlerine sızabilecek yetenekler kazanması gibi durumlar da bulunuyordu. Şirketin güvenlik çalışmalarından tamamen vazgeçtiği belirtilmiyor; bunun yerine biyolojik tehditler ve siber güvenlik gibi belirli risk alanlarının sorumluluğu mevcut ekipler arasında paylaştırılmış durumda. Böylelikle daha önce tek bir ekip altında yürütülen hazırlık çalışmalarının organizasyon içindeki farklı birimlere dağıtıldığı anlaşılıyor. Söz konusu değişiklik, OpenAI’ın son birkaç yıldır güvenlik ve uzun vadeli yapay zekâ riskleri üzerinde çalışan ekiplerinde yaşanan yeniden yapılanmaların devamı niteliğinde. Şirket daha önce yapay genel zekâya hazırlık çalışmalarına odaklanan AGI Readiness ekibini ve gelişmiş yapay zekâ sistemlerinin insan hedefleriyle uyumlu kalmasını araştıran Superalignment ekibini de dağıtmıştı. Bunun yanında şirketin güvenlik ve araştırma kadrolarında dikkat çeken ayrılıklar yaşandı. Etik çalışmalarının başındaki Chloé Bakalar, Chief Futurist unvanını taşıyan Josh Achiam ve güvenlik çalışmalarını yöneten Johannes Heidecke yakın dönemde OpenAI’dan ayrılan isimler arasında bulunuyor. Financial Times, bu değişikliklerin şirketin oldukça büyük olması beklenen olası halka arzına doğru ilerlediği ve kurumsal yapısında değişiklikler yaptığı bir döneme denk …
OpenAI kritik yapay zekâ risklerini inceleyen ekibini dağıttı haberi ilk önce Teknoblog üzerinde yayımlandı.
Kaynak: https://www.teknoblog.com/openai-hazirlik-ekibini-dagitti-yapay-zeka-guvenligi/
OpenAI, geliştirdiği yapay zekâ modellerinin ciddi güvenlik risklerini değerlendirmekle görevli hazırlık ekibini geçen ayın sonunda dağıttı. “Preparedness” adıyla faaliyet gösteren ekip, modellerin giderek gelişen yeteneklerinin yol açabileceği riskleri belirliyor ve bunların nasıl azaltılabileceği üzerinde çalışıyordu. İncelenen senaryolar arasında bir yapay zekâ sisteminin kontrol dışına çıkarak başka bir şirketin sistemlerine sızabilecek yetenekler kazanması gibi durumlar da bulunuyordu. Şirketin güvenlik çalışmalarından tamamen vazgeçtiği belirtilmiyor; bunun yerine biyolojik tehditler ve siber güvenlik gibi belirli risk alanlarının sorumluluğu mevcut ekipler arasında paylaştırılmış durumda. Böylelikle daha önce tek bir ekip altında yürütülen hazırlık çalışmalarının organizasyon içindeki farklı birimlere dağıtıldığı anlaşılıyor. Söz konusu değişiklik, OpenAI’ın son birkaç yıldır güvenlik ve uzun vadeli yapay zekâ riskleri üzerinde çalışan ekiplerinde yaşanan yeniden yapılanmaların devamı niteliğinde. Şirket daha önce yapay genel zekâya hazırlık çalışmalarına odaklanan AGI Readiness ekibini ve gelişmiş yapay zekâ sistemlerinin insan hedefleriyle uyumlu kalmasını araştıran Superalignment ekibini de dağıtmıştı. Bunun yanında şirketin güvenlik ve araştırma kadrolarında dikkat çeken ayrılıklar yaşandı. Etik çalışmalarının başındaki Chloé Bakalar, Chief Futurist unvanını taşıyan Josh Achiam ve güvenlik çalışmalarını yöneten Johannes Heidecke yakın dönemde OpenAI’dan ayrılan isimler arasında bulunuyor. Financial Times, bu değişikliklerin şirketin oldukça büyük olması beklenen olası halka arzına doğru ilerlediği ve kurumsal yapısında değişiklikler yaptığı bir döneme denk …
OpenAI kritik yapay zekâ risklerini inceleyen ekibini dağıttı haberi ilk önce Teknoblog üzerinde yayımlandı.
Kaynak: https://www.teknoblog.com/openai-hazirlik-ekibini-dagitti-yapay-zeka-guvenligi/