Anthropic’ten yapay zeka uyarısı: Çok yakında kontrolü kaybedebiliriz

Anthropic adlı önde gelen yapay zeka şirketi, insan kontrolü dışında gelişme potansiyeli taşıyan yeni nesil yapay zeka sistemleri konusunda uyarılarda bulundu. Şirketin Claude modeline göre yapılan son değerlendirmelere göre, sistem artık kendi kodunun yüzde 80’inden fazlasını yazabiliyor ki bu oran geçen yılın başında yüzde 10’un altındaydı. Anthropic yetkilileri, bu hızlı değişimin “özyinelemeli kendini geliştirme” sürecine işaret ettiğini belirtti. Bu durumun gelecekte yapay zekanın kendi haleflerini tasarlayabilecek seviyeye ulaşabileceği anlamına gelebileceğini vurguladılar.

Marina Favaro ve Jack Clark gibi şirketin araştırmacıları tarafından yayımlanan bir blog yazısında, bu eğilimin uzun vadede büyük bilimsel ve teknolojik ilerlemeler sağlayabileceği, ancak aynı zamanda ciddi kontrol riskleri doğurabileceği ifade edildi. Yapılan açıklamada, yapay zekanın geliştirilme sürecinin artık kısmen yapay zeka sistemlerine devredildiği ve bunun insan müdahalesi olmadan kendini geliştirebilen modellerin önünü açabileceği vurgulandı. Şirket, bu sürecin kontrolsüz ilerlemesi halinde insanların yapay zeka sistemleri üzerindeki denetimini kaybedebileceği uyarısını yaparak, gelişimin kontrollü şekilde ilerlemesi için “gerekirse yavaşlama veya duraklama” seçeneğinin dahi değerlendirilmesi gerektiğini belirtti.

Anthropic, böylesi bir küresel yavaşlama kararının uygulanabilmesi için birden fazla ülkenin ve büyük yapay zeka laboratuvarlarının ortak hareket etmesi gerektiğini ve bunun oldukça karmaşık bir süreç olduğunu ifade etti. Yapay zeka geliştirilmesine ara verilmesi çağrıları daha önce de gündeme gelmiş, 2023 yılında binlerce teknoloji uzmanının benzer bir moratoryum talebinde bulunduğu ancak bu çağrıların somut bir duraklamaya dönüşmediği belirtildi.