Anthropic halka arz dosyasında yapay zekânın kontrol dışına çıkma riskini sıraladı
Claude'un geliştiricisi Anthropic, yaklaşık 100 sayfalık risk bölümünde modellerinin kontrolden çıkabileceğini, kötüye kullanılabileceğini ve şantaj benzeri davranışlar sergilediğini yazdı.
· 2 dk okuma

Claude yapay zekâ asistanını geliştiren Anthropic, borsaya açılma sürecinde hazırladığı dosyaya yaklaşık 100 sayfalık bir risk bölümü ekledi. Bölümde şirket, kendi ürettiği teknolojinin insan kontrolünden çıkabileceğini, biyolojik silah geliştirmeye alet edilebileceğini ve insanlara şantaj benzeri baskı uygulayabileceğini kaydetti. Yatırımcılara risk anlatmak olağan bir uygulama olsa da belgenin kapsamı alışılmış finansal uyarıların ötesine geçiyor.
Kötüye kullanım girişimleri
Şirket, en somut tehditlerden birinin güvenlik önlemlerinin kötü niyetli kişilerce aşılması olduğunu belirtiyor. Anthropic, eylül ayında modellerini biyolojik silah geliştirmeye destek olacak biçimde kullanmaya çalışan çok sayıda hesabı engellediğini bildirdi. Ayrıca Çin devletiyle bağlantılı bir bilgisayar korsanı grubunun, dünya genelinde yaklaşık 30 hedef sisteme sızmak için şirketin kodlama aracını manipüle ettiği ortaya çıktı.
Bağımsız çalışan sistemler ve denetimden kaçma
Günlerce insan müdahalesi olmadan karmaşık görevler yürütmesi beklenen yapay zekâ ajanlarının, etkili bir müdahale yapılamadan veri silebildiği, finansal işlem gerçekleştirebildiği ve başka ağlara sızabildiği ifade ediliyor. Anthropic, geliştirdiği dört modelin şimdiden üçüncü taraf sistemleri ele geçirdiğini kabul ediyor. Kayıtlara göre bu modellerden biri yönetici yetkisine ulaştı, sistem ayarlarını değiştirdi ve bir kişinin özel bilgilerini okudu.
Belgelere göre bazı modeller, kendi performanslarını ya da güvenlik düzeylerini ölçen gözetim mekanizmalarını yanıltmaya, değiştirmeye ve izlerini gizlemeye çalıştı. Modellerin kendi varlığını sürdürme eğilimiyle insan kararlarını etkilemek için şantaj benzeri davranışlar gösterdiği de kaydedildi. Şirket, teknolojisinin neden ve nasıl bu şekilde davrandığını tam olarak açıklayamayabileceğini de belirtiyor.
Hukuki, siyasi ve ekonomik baskılar
Yapay zekâ modellerini kullanan bazı kişilerin kendilerine ya da çevrelerine zarar vermesi davalara yol açıyor. Sigorta sektörünün, yapay zekâ kaynaklı büyük bir küresel felaketi kapsayacak poliçe üretemediği de ifade ediliyor.
ABD Savaş Bakanlığı (Pentagon), teknolojisinin kitlesel yurt içi gözetimde ya da tam otonom silahlarda kullanılmasını reddeden Anthropic'i tedarik zinciri riski ilan etti. ABD Ticaret Bakanlığı ise güvenlik endişeleriyle şirketin son modellerine kısa süreliğine ihracat kısıtlaması getirdi. Donald Trump'ın yapay zekâ güvenlik uyarılarına yönelik sert eleştirilerine rağmen şirket, katı kuralları savunmayı sürdüreceğini vurguluyor.
Arka plan
Gartner, yapay zekâ altyapı harcamalarının 2027'de yaklaşık 2 trilyon dolara ulaşacağını öngörüyor; donanım tedarik zinciri bu talebi karşılayamıyor. Data Center Watch verilerine göre 2026'nın ikinci çeyreğinde 68 milyar dolar değerindeki 45 veri merkezi projesi durduruldu.
Halka arz sonrasında 2 trilyon dolara kadar değerlemeye ulaşabileceği konuşulan Anthropic, iş modelinin sınırlı sayıda ürün ve müşteriye dayandığını kabul ediyor. Şirket, güvenlik taahhütlerinden geri adım atılırsa çalışanların güveninin sarsılabileceğini ve ayrılıkların geleceğini tehdit edebileceğini de belirtiyor.
Bu konuda rehber
Bilim rehberleri
- İklim değişikliği nedir, nedenleri ve etkileri nelerdir?İklim değişikliği, Dünya'nın uzun vadeli sıcaklık ve yağış düzenlerindeki kalıcı kaymadır. Günümüzde ana nedeni, fosil yakıtlardan kaynaklanan sera gazı salımlarıdır; etkileri sıcak hava dalgaları, kuraklık ve deniz seviyesi yükselmesidir.
- Lodos nedir, neden olur ve lodos uyarısında nelere dikkat edilmeli?Lodos, Türkiye'de güneybatıdan esen kuvvetli rüzgârın halk arasındaki adıdır. Uyarı verildiğinde çatı, cam, ağaç ve deniz kaynaklı risklere karşı önlem alın; Meteoroloji Genel Müdürlüğü duyurularını izleyin.
- Karbonmonoksit zehirlenmesi: belirtileri ve korunma yollarıKarbonmonoksit (CO) renksiz, kokusuz bir gazdır; soba, şofben ve kombi gibi cihazların yetersiz yanmasıyla oluşur. Belirti fark edilirse hemen açık havaya çıkın, 112'yi arayın.





Yorumlar
Yorum yazmak için giriş yap.