JPMorgan CEO’su Jamie Dimon, Anthropic’in Claude Mythos yapay zeka modelinin ciddi güvenlik riskleri taşıdığını ve kısıtlanması gerektiğini belirtti.
Yapay zeka teknolojilerinin hızla gelişmesi, beraberinde önemli güvenlik tartışmalarını da getiriyor. ABD hükümetinin Anthropic’in Claude Mythos modeline erişimi kısıtlama kararı, bu teknolojinin potansiyel risklerini bir kez daha gündeme taşıdı.
JPMorgan CEO’su Jamie Dimon, Pennsylvania Savunma ve İnovasyon Zirvesi’nde yaptığı konuşmada bu gelişmelere dikkat çekti. Dimon, söz konusu yapay zeka modeline geniş erişim sağlanmasını “bireylere balistik füze vermek” olarak nitelendirdi.
Claude Mythos modeli, şu an için yalnızca belirli kuruluşlar, şirketler ve askeri departmanlar tarafından kullanılabiliyor. Modelin dünya genelindeki erişimi, içerdiği ciddi güvenlik potansiyeli nedeniyle tamamen engellenmiş durumda.
Bu teknoloji, siber güvenlik açıklarını tespit etme ve otomatik olarak saldırı kodları geliştirme yeteneğine sahip. Uzmanlar, bu özelliklerin beyaz şapkalı siber güvenlik analistleri için savunma aracı olabileceğini, ancak kötü niyetli kişilerin elinde yıkıcı bir güce dönüşebileceğini belirtiyor.
Otomatikleştirilmiş yetenekler, siber suçluların fidye yazılımı, oltalama ve veri tabanlı dolandırıcılık faaliyetlerini ölçeklendirmesini kolaylaştırıyor. Sadece siber güvenlik değil, biyolojik araştırmalar gibi karmaşık alanlarda da bilginin kötüye kullanımı konusunda ciddi endişeler bulunuyor.
Anthropic, Claude Mythos’un yeteneklerinin gelecekte daha geniş kitlelere ulaşmasını hedefliyor. Ancak bu durumun gerçekleşmesi için öncelikle çeşitli güvenlik önlemlerinin geliştirilmesi ve uygulanması gerekiyor.
Güvenlik değerlendirmeleri göz önüne alındığında, Claude Mythos’un yakın zamanda genel kullanıma açılması pek olası görünmüyor. Anthropic, modelin özelliklerini daha erişilebilir kılmak için çalışmalarını sürdürüyor.
En olası senaryo, siber güvenlik ve biyolojik araştırmalar gibi kritik alanlarla ilgili özelliklerin kısıtlanarak modelin kamuya açılması olarak öne çıkıyor. Bu süreçte, Amazon Web Services, Apple, Broadcom, Cisco ve CrowdStrike gibi önemli ortakların yer aldığı Project Glasswing çalışmaları kritik bir rol oynuyor.
Proje kapsamında, güvenlik önlemlerinin yeterliliği kanıtlanana kadar kısıtlı erişim modelinin devam etmesi bekleniyor. Teknoloji dünyasının bu denli güçlü araçların kontrolü konusunda nasıl bir yol izleyeceğini düşünüyorsunuz?
