Yapay zeka ve teknoloji dünyasında yankı uyandıran gelişmeler hız kesmeden devam ediyor. Son olarak Anthropic, popüler yapay zeka asistanı Claude tarafından oluşturulan metinlere filigran ekleme süreciyle ilgili merak edilenleri yanıtladı. Şirket tarafından yayınlanan kapsamlı blog yazısı; filigranlamanın nasıl çalışacağı, düzenlemeler karşısındaki dayanıklılığı ve kod üretimine etkileri gibi kritik konulara ışık tuttu.
Claude kullanıcıları, bu hamlenin arkasındaki temel nedenin AB Yapay Zeka Yasası’nın Şeffaflık Kodu olduğunu belirtiyor. Yapay zeka şirketlerinin, yapay zeka tarafından üretilen içerikleri tanımlayabilen sistemler kullanmasını zorunlu kılan bu yasal düzenleme, sektörde yeni bir dönemi başlatıyor. Ancak karar, kullanıcı cephesinde farklı tepkilerle karşılandı. Reddit gibi platformlarda bazı kullanıcılar bu durumu eleştirirken, Business Insider’ın raporuna göre X platformunda pek çok kişi Claude aboneliklerini iptal ettiğini dile getirdi.
Gelen tepkiler üzerine harekete geçen Anthropic, filigran kavramının detaylarını paylaştı. Şirket, ‘önemsiz seçimler’ yapılırken (örneğin hava durumunu tanımlamak için eş anlamlı kelimeler seçilirken) Claude’un yanıtlarında okuyucu tarafından algılanamayan ancak özel bir anahtarla tespit edilebilen bir desen oluşturulacağını açıkladı. Anthropic, filigranlama teknolojisinin Claude’un çalışma kalitesini hiçbir şekilde etkilemeyeceğini ve okuyucular için metnin tamamen normal görüneceğini vurguladı.
Teknik detaylara bakıldığında Anthropic’in, Google DeepMind ekibinin 2024 yılında geliştirdiği SynthID-Text yaklaşımını benimseyeceği ve bir filigran tespit API’si yayınlamayı planladığı belirtiliyor. Ayrıca bu yöntemin, metin içindeki belirli dilsel ipuçlarını arayan geleneksel yapay zeka tespit araçlarından temelde farklı olduğu ifade edildi.
Kullanıcıların en çok merak ettiği konulardan biri de filigranların metnin yeniden yazılmasıyla gizlenip gizlenemeyeceği oldu. Anthropic, hafif düzenlemelerin filigranı tamamen ortadan kaldırmayacağını, ancak her kelimenin değiştirildiği kapsamlı bir yeniden yazma işleminde filigranın silinebileceğini, fakat bu durumda da metnin artık yapay zeka üretimi olarak nitelendirilip nitelendirilemeyeceğinin tartışmalı olduğunu belirtti.
Kodlama süreçleri açısından ise Anthropic, yapay zekanın çalışan kod üretmek zorunda olması nedeniyle kodlarda daha az filigran bulunacağını, ancak kod içi yorumlar gibi alternatif seçimlerin olduğu alanlarda filigranlama yapılabileceğini kaydetti. Son olarak şirket, Claude’un filigranlı metin üreten tek chatbot olmayacağını, diğer büyük model geliştiricilerinin de benzer uygulama kurallarını imzaladığını ve kendi filigran sistemlerini hayata geçireceğini hatırlattı.
Yorumlar (0)