OpenAI, Meta ve Google çalışanlarının ardından sektörün önde gelen isimleri de yapay zeka geliştirme hızının yavaşlatılması gerektiği konusunda ortak bir noktada buluşmaya başladı.
Son olarak Anthropic CEO’su Dario Amodei, yapay zeka teknolojilerinin kontrolsüz büyümesini frenlemek ve güvenlik önlemlerini artırmak amacıyla üç maddelik kapsamlı bir eylem planı açıkladı.
Yayınladığı blog yazısında, özellikle yeni nesil yapay zeka sistemlerinin kendi kendilerini geliştirme sürecinde oynadığı role dikkat çeken Amodei, temel amaçlarının inovasyonu durdurmak olmadığını belirtti. Stratejik hedef; güvenlik çalışmalarının, teknolojinin devasa gelişme hızına yetişebilmesi için daha kontrollü ve sürdürülebilir bir yol haritası çizmek olarak öne çıkıyor.
Dario Amodei’nin Üç Temel Güvenlik Önerisi:
1. Bağımsız Üçüncü Taraf Denetimi: Yapay zeka şirketlerinin bünyesinde bağımsız değerlendiricilerin görev alması. Anthropic, METR gibi kuruluşların şirket içindeki güvenlik uygulamalarını denetlemesine ve süreçleri raporlamasına tam erişim taahhüt ediyor.
2. Ortak Güvenlik Standartları ve Demokratik Koordinasyon: Demokratik ülkelerdeki öncü yapay zeka firmalarının ortak standartlar belirlemesi. ABD hükümetinin antitröst engellerini aşmak için bu süreci kolaylaştırması talep ediliyor.
3. Küresel İş Birliği ve Sınırlandırmalar: ABD ve müttefiklerinin, başta biyolojik silah üretimi gibi tehlikeli kullanım alanlarını engellemek amacıyla Çin dahil küresel aktörlerle iş birliği yapması.
Sektör Liderlerinden Destek Yağdı
Geçtiğimiz günlerde OpenAI Baş Bilim İnsanı Jakub Pachocki’nin de benzer bir yavaşlama çağrısı yapmasının ardından, Amodei’nin önerilerine sektörün en tepesinden destek geldi. OpenAI CEO’su Sam Altman, öncü modellerin geliştirilme hızının kontrol edilmesi gerektiğini belirterek şirketinin bağımsız güvenlik değerlendiricileriyle çalışacağını duyurdu. SpaceX ve Tesla CEO’su Elon Musk da bu çağrıya destek veren isimler arasında yer aldı.
Yapay zeka etiği, güvenliği ve küresel koordinasyon başlıklarının önümüzdeki dönemde teknoloji dünyasının en sıcak gündem maddesi olmaya devam etmesi bekleniyor. YZ Hocası olarak gelişmeleri yakından takip etmeye ve sizlere aktarmaya devam edeceğiz.
Yorumlar (0)