Anthropic, insanlığı şoke eden bir rapor yayımladı.
Yapay zeka şirketi Anthropic, yeni sistemlerin kendi kendilerini geliştirerek yakın gelecekte insan kontrolünden tamamen çıkabileceği konusunda dünyaya acil bir uyarı dalgası gönderdi. Popüler yapay zeka modeli Claude'un geliştiricisi olan Anthropic, yayımladığı resmi raporda teknolojinin çok hızlı ilerlediğini belirtti. Şirket, bu durumun toplum için devasa sonuçlar doğurabileceğini vurguladı.
Dünyanın en büyük yapay zeka üreticilerinden biri olan Anthropic, insanlığı şoke eden bir rapor yayımladı. Şirket, yapay zekanın kendi kendini geliştirme hızının korkutucu bir seviyeye ulaştığını duyurdu. Yetkililer, eğer küresel bir önlem alınmazsa sistemlerin çok yakında insan kontrolünden tamamen çıkabileceğini söyledi.
Makineler Kendi Kendini İnşa Ediyor
Anthropic tarafından paylaşılan verilere göre, şirketin ana yazılım sistemindeki kodların yüzde 80'inden fazlasını artık yapay zekanın kendisi yazıyor. Bu oran daha kısa süre önce tek haneli rakamlardaydı. Bilim insanları bu duruma "özyinelemeli özyineleme" (recursive self-improvement) adını veriyor. Bu terim, bir yapay zekanın insana ihtiyaç duymadan kendi halefini, yani kendisinden daha akıllı yeni bir yapay zekayı tasarlaması anlamına geliyor.
"Sektörde Gaz Pedalı Var Ama Fren Yok"
Şirketin kurucu ortaklarından Jack Clark, İngiliz yayın kuruluşu BBC Newsnight programına yaptığı açıklamada durumu şu sözlerle özetledi:
"Şu anda yapay zeka endüstrisinde sadece bir gaz pedalı var. Ancak elimizde bir fren pedalı yok. Eğer toplum olarak bu ilerlemenin ne anlama geldiğini ciddi şekilde tartışmazsak, çocuklarımızın geleceği için endişe duymalıyız."
Anthropic yöneticileri, siber güvenlik alanında çalışan bazı gelişmiş modellerin şimdiden tüm büyük işletim sistemlerindeki açıkları insan yardımı olmadan bulup çözebildiğini gösterdi. Bu durum, teknolojinin faydalarının yanında devasa tehlikeleri de beraberinde getiriyor.
Küresel Bir "Duraklama" Çağrısı Yapıldı
Tehlikenin büyümesi üzerine Anthropic, dünyadaki tüm büyük yapay zeka laboratuvarlarına ve hükümetlere çağrıda bulundu. Şirket, nükleer silahların kontrol edilmesine benzer küresel bir anlaşma yapılmasını istiyor. Toplumun ve güvenlik araştırmalarının bu hıza yetişebilmesi için, yapay zeka geliştirme çalışmalarının dünya çapında ortaklaşa ve doğrulanabilir şekilde geçici olarak durdurulması ya da yavaşlatılması gerektiği savunuluyor.
Silikon Vadisi ve Hükümetler Bölündü
Bu büyük uyarı her kesimden destek görmedi. Silikon Vadisi'ndeki bazı rakipler ve Washington'daki bazı yetkililer, Anthropic şirketini abartılı felaket senaryoları üretmekle suçluyor. Bu çevreler, çalışmaların yavaşlatılmasının küresel teknoloji yarışında diğer ülkelere büyük bir avantaj sağlayacağını ileri sürüyor.
Buna rağmen, güvenlik endişelerinin artması üzerine ABD yönetimi yeni bir adım attı. Yayımlanan son başkanlık kararnamesiyle, en güçlü yapay zeka modellerinin piyasaya sürülmeden önce hükümet tarafından 30 günlük bir ön incelemeye tabi tutulması zorunlu kılındı
Haberi nasıl buldunuz?
Bir reaksiyona tıklayarak oy verebilirsiniz.
Teknoloji kategorisinden son haberler
İlgilendiğiniz başlıklardan geri kalmayın.
IBM ve Siemens Dünyanın İlk 3D 'Nanostack' Çipi İçin Güçlerini Birleştirdi!
Apple’ın Yeni Akıllı Ev Merkezi Apple HomeView Tanıtıldı
NVIDIA Tek Tuşla %35 Ekstra Kare Hızı Sunuyor!
Yeni Nesil Kablosuz Ağ Standardı "Wi-Fi 8" Nedir ve Ne İşe Yarar?
TP-Link, Dünyanın İlk Wi-Fi 8 Yönlendiricisi Archer 8 Ultra'yı Satışa Sundu!
Yorumlar (0)
Topluluğumuzla düşüncelerinizi paylaşın.
Henüz yorum yapılmamış. İlk yorumu sen yaz!
Yorum yapabilmek için giriş yap.
Üye değil misin?