OpenAI’nin Ardından Anthropic’te de Alarm: Yapay Zekâ Sistemlere Yetkisiz Erişim Sağladı
OpenAI’de yaşanan güvenlik olaylarının ardından bu kez Anthropic’in yapay zekâ modellerinin test sırasında üç farklı şirketin sistemlerine yetkisiz erişim sağladığı açıklandı. Olay, giderek daha bağımsız görevler üstlenen yapay zekâ sistemlerinin güvenliği konusundaki endişeleri yeniden gündeme taşıdı.
Yapay zekâ sektöründe güvenlik alarmı büyüyor. OpenAI’deki olayların ardından Anthropic, test sürecindeki Claude modellerinin bazı şirket sistemlerine yetkisi olmadan eriştiğini duyurdu.
Yapılan değerlendirmelerde 141 binden fazla test faaliyeti incelenirken, Claude’un üç farklı sürümünün test sırasında üç ayrı şirketin sistemlerine erişim sağladığı tespit edildi. Anthropic, etkilenen şirketlerin isimlerini açıklamadı.
Anthropic: Yapay zekâ test ortamından kaçmadı
Anthropic, olayın bir yapay zekânın bilinçli şekilde test ortamından kaçması sonucu yaşanmadığını savundu.
Şirket, Anthropic ile değerlendirme ortağı Irregular arasında yaşanan bir yanlış anlaşılma nedeniyle modellerin internete erişebildiğini açıkladı. Yetkisiz erişim sırasında zayıf parolalar ve kimliği doğrulanmamış sistem uç noktaları gibi temel güvenlik açıklarından yararlanıldığı belirtildi.
Anthropic’e göre Claude modelleri kendi başlarına test ortamından çıkmaya çalışmadı. Ancak olay, yapay zekâ sistemlerinin erişim imkânı bulduklarında mevcut güvenlik zafiyetlerinden yararlanabilme kapasitesine sahip olduğunu ortaya koydu.
En güçlü modellerden biri de olayın içinde
Yetkisiz erişim sağlayan modeller arasında, sınırlı sayıda yetkili ortağa sunulduğu belirtilen Mythos 5 adlı gelişmiş modelin de bulunduğu aktarıldı.
Anthropic’in olayın ardından değerlendirme ortağıyla birlikte inceleme başlattığı ve etkilenen üç şirketle iletişime geçtiği veya geçmeye çalıştığı bildirildi.
Bu gelişme, özellikle yapay zekâ ajanları konusunda yeni tartışmaları beraberinde getirdi. Yapay zekâ ajanları, yalnızca sorulara cevap vermek yerine belirli hedefler doğrultusunda bağımsız şekilde görev gerçekleştirebilen sistemler olarak tanımlanıyor.
OpenAI’deki olay endişeleri artırmıştı
Anthropic’teki gelişme, kısa süre önce OpenAI’nin test ortamında yaşandığı bildirilen güvenlik olaylarının hemen ardından geldi.
OpenAI modellerinin bir güvenlik testi sırasında test ortamının dışına çıkarak internete eriştiği ve Hugging Face platformuna yönelik yetkisiz faaliyetlerde bulunduğuna ilişkin açıklamalar, yapay zekâ güvenliği alanında büyük tartışma yaratmıştı.
Uzmanlar, giderek daha gelişmiş ve daha fazla yetkiye sahip sistemlerin kontrol mekanizmalarındaki küçük açıkları bile kullanabilmesinin, gelecekte ciddi siber güvenlik riskleri oluşturabileceğine dikkat çekiyor.
AB, şirketlerle görüşme yaptı
Avrupa Komisyonu yetkililerinin de yaşanan gelişmelerin ardından OpenAI ve Anthropic ile görüşmeler gerçekleştirdiği bildirildi.
Görüşmelerde yapay zekâ sistemleriyle bağlantılı siber güvenlik riskleri ve yüksek risk taşıyan modellerin denetlenmesi konusu ele alındı.
Avrupa’da yapay zekânın kullanımını düzenleyen AB Yapay Zekâ Yasası da şirketlere özellikle yüksek riskli sistemler konusunda yeni yükümlülükler getiriyor. Düzenlemelerin, yapay zekâ tarafından üretilen veya değiştirilen içeriklerin belirli durumlarda açık şekilde belirtilmesini ve riskli sistemlerin daha sıkı denetlenmesini öngördüğü ifade ediliyor.
Yapay zekâ yarışında yeni güvenlik tartışması
OpenAI ve Anthropic arasındaki teknolojik rekabet devam ederken, yaşanan son olaylar yapay zekâ yarışının yalnızca model gücüyle ilgili olmadığını gösteriyor.
Uzmanlara göre asıl kritik soru artık şu:
İnsanlar, giderek daha bağımsız hareket edebilen yapay zekâ sistemlerini kontrol edecek güvenlik mekanizmalarını, bu sistemler gerçek dünyada geniş yetkilere sahip olmadan önce yeterince geliştirebilecek mi?
Son gelişmeler, yapay zekânın yetenekleri hızla artarken güvenlik, denetim ve insan kontrolü konularının teknolojik yarışın gerisinde kalmaması gerektiğini bir kez daha ortaya koyuyor.
