S
Sinan Küstür
Guest
- Konu Yazar
- #1
Anthropic, AB’nin kuralları nedeniyle Claude metinlerine filigran ekliyor
Anthropic, Avrupa Birliği’nin yapay zekâ alanındaki yeni şeffaflık kurallarına uyum sağlamak amacıyla Claude tarafından oluşturulan metinlere filigran eklemeye başladığını açıklamıştı. Şirketin tercih ettiği yöntem, metnin üzerinde görülebilen bir işaret veya insanların okurken fark edebileceği özel bir biçimlendirme kullanmıyor. Bunun yanında metne sonradan tespit edilebilecek görünmez karakterler de yerleştirilmiyor. Bunun yerine Claude, metni oluştururken yaptığı sözcük seçimlerinin içine yalnızca uygun anahtara sahip sistemlerin çözebileceği istatistiksel bir desen yerleştiriyor. Böylelikle ortaya çıkan metnin normal biçimde okunması korunurken Claude’un üretim sürecine dahil olup olmadığı daha sonra teknik olarak incelenebiliyor. Büyük dil modelleri metin üretirken sıradaki sözcük veya daha doğru ifadeyle token için bağlama uygun çok sayıda olasılığı değerlendiriyor. Normal koşullarda model, olasılık dağılımı içindeki uygun seçeneklerden birini örnekleme yöntemiyle belirliyor ve metni bu işlem tekrarlanarak oluşturuyor. Anthropic’in filigran sistemi etkin olduğunda ise Claude’un seçenekler arasındaki tercihini belirlemek için rastgeleliğin yerine gizli bir anahtar devreye giriyor. Şirket, yöntemi anlatırken pi sayısının basamaklarının anahtar olarak kullanıldığı basitleştirilmiş bir örnek veriyor. Buna göre, anahtardaki rakamlar modelin olası sözcükler arasından hangi seçeneğe yönelmesi gerektiğini belirleyerek metin boyunca daha sonra çözülebilecek bir desen meydana getiriyor. Claude metinlerindeki filigran nasıl tespit edilecek? Anthropic’in kullandığı teknik, Google DeepMind tarafından geliştirilen ve ayrıntıları Nature dergisinde yayımlanan bir araştırmada açıklanan SynthID-Text yaklaşamasının …
Anthropic, AB’nin kuralları nedeniyle Claude metinlerine filigran ekliyor haberi ilk önce Teknoblog üzerinde yayımlandı.
Kaynak: https://www.teknoblog.com/anthropic-claude-yapay-zeka-metin-filigran/
Anthropic, Avrupa Birliği’nin yapay zekâ alanındaki yeni şeffaflık kurallarına uyum sağlamak amacıyla Claude tarafından oluşturulan metinlere filigran eklemeye başladığını açıklamıştı. Şirketin tercih ettiği yöntem, metnin üzerinde görülebilen bir işaret veya insanların okurken fark edebileceği özel bir biçimlendirme kullanmıyor. Bunun yanında metne sonradan tespit edilebilecek görünmez karakterler de yerleştirilmiyor. Bunun yerine Claude, metni oluştururken yaptığı sözcük seçimlerinin içine yalnızca uygun anahtara sahip sistemlerin çözebileceği istatistiksel bir desen yerleştiriyor. Böylelikle ortaya çıkan metnin normal biçimde okunması korunurken Claude’un üretim sürecine dahil olup olmadığı daha sonra teknik olarak incelenebiliyor. Büyük dil modelleri metin üretirken sıradaki sözcük veya daha doğru ifadeyle token için bağlama uygun çok sayıda olasılığı değerlendiriyor. Normal koşullarda model, olasılık dağılımı içindeki uygun seçeneklerden birini örnekleme yöntemiyle belirliyor ve metni bu işlem tekrarlanarak oluşturuyor. Anthropic’in filigran sistemi etkin olduğunda ise Claude’un seçenekler arasındaki tercihini belirlemek için rastgeleliğin yerine gizli bir anahtar devreye giriyor. Şirket, yöntemi anlatırken pi sayısının basamaklarının anahtar olarak kullanıldığı basitleştirilmiş bir örnek veriyor. Buna göre, anahtardaki rakamlar modelin olası sözcükler arasından hangi seçeneğe yönelmesi gerektiğini belirleyerek metin boyunca daha sonra çözülebilecek bir desen meydana getiriyor. Claude metinlerindeki filigran nasıl tespit edilecek? Anthropic’in kullandığı teknik, Google DeepMind tarafından geliştirilen ve ayrıntıları Nature dergisinde yayımlanan bir araştırmada açıklanan SynthID-Text yaklaşamasının …
Anthropic, AB’nin kuralları nedeniyle Claude metinlerine filigran ekliyor haberi ilk önce Teknoblog üzerinde yayımlandı.
Kaynak: https://www.teknoblog.com/anthropic-claude-yapay-zeka-metin-filigran/