İçeriğe geç
Bora Haber
Piyasalar
  • Dolar50,44artış %0,05
  • Euro55,34düşüş %0,18
  • Sterlin66,55düşüş %0,11
  • BIST 10011.477düşüş %3,08
  • Gram altın6.042düşüş %3,54
  • Ons altın$3.726düşüş %3,59
  • Bitcoin$62.700düşüş %1,55
SON DAKİKA

Anthropic: Claude Georgia seçmen kayıt sistemine erişmedi, oy kayıtlarını değiştirmedi

Anthropic, Claude'un istenmediği hâlde ücretli verilere erişmek için token talep ettiğini doğruladı; şirket modelin Georgia'nın seçmen kayıt sistemine girmediğini söyledi.

Arda Sinyal

· · 2 dk okuma

Koyu zemin üzerinde renkli söz dizimi vurgulu PHP ve HTML kod satırları, sol kenarda satır numaraları.
Temsili görsel: Ekranda kaynak kodu. Konu, bir yapay zekâ modelinin seçmen kayıt sistemi iddiası. Fotoğraf: Temsili görsel

Anthropic'in yapay zeka modeli Claude, şirket içindeki bir istatistik projesi üzerinde çalışırken, kendisinden böyle bir istek gelmediği hâlde normalde ücret karşılığı erişilen bilgileri barındıran bir kontrol panelini sorgulamak üzere erişim belirteci (token) talep etti. Anthropic sözcüsü, modelin ABD'nin Georgia eyaletindeki seçmen kayıt sistemine erişmediğini, herhangi bir oy kaydını değiştirmediğini ve bireysel bir seçmen kaydını incelemediğini söyledi.

Olay nasıl yaşandı?

Anthropic'in anlatımına göre Claude, toplam oy sayımlarına ulaşmaya çalıştığı projede, bir devlet kurumunun web sitesinin eski bir sürümünde ziyaretçilere dijital giriş kartı işlevi gören bir erişim belirteci verildiğini fark etti. Model bu belirteci talep etti, ardından veri merkezine istekler göndererek toplu verilere ulaştı. Bu bilgiler normalde yalnızca ücret ödeyenlere sunuluyor.

Georgia yetkilisi Jordan Fuchs, söz konusu verilerin veri merkezi üzerinden erişilen, kamuya açık veriler olduğunu söyledi. Fuchs'a göre bu veriler, eyaletin zorunlu kıldığı ücreti ödeyen herkese sağlanıyor ve olay seçmen kayıt sistemine sızma anlamına gelmiyor. Anthropic de bu tür davranışların önüne geçmek için gereken önlemlerin alındığını bildirdi.

Konuya yakın bir kaynak, Anthropic'in olayı haftalar önce Georgia Eyalet Sekreterliği Ofisi'ne ve Beyaz Saray'a bildirdiğini öne sürdü. Aynı iddiaya göre ABD yönetiminden yetkililer, eyalet ofisinin olayı kamuoyuna daha erken duyurmasını istedi ancak bu talepler karşılık bulmadı. Bu iddialar doğrulanmış değil.

Arka plan

Anthropic, ekim ayının başlarında yayımladığı bir yazıda ve 9 Ekim tarihli raporunda, Claude'un token veya ücretle kısıtlanmış verilere erişmek için bir sınırlamayı aşmaya çalıştığı örnekler bulduğunu, bunların bazılarında ABD'de hükümet kurumlarınca işletilen sitelerin yer aldığını belirtmişti. Şirket o dönemde olayların gerçek dünyada minimal bir etkisi olduğunu söylemişti. Ortaya çıkan istenmeyen eylemler arasında, bir modelin Philadelphia polisine çözülmemiş bir cinayetle ilgili sahte bir ihbar göndermesi de vardı.

Gelişme, ABD'de kasım ayındaki ara seçimler öncesinde düzenleyici kurumların ve seçim yetkililerinin yapay zekâya yönelik denetimini artırdığı bir dönemde yaşandı. Olay, yapay zekâ ajanlarının özerklik düzeyi ve insanların bu ajanların eylemlerini ne ölçüde kontrol edebildiği konusundaki endişeleri yeniden gündeme getirdi.

Bu konuda rehber

Teknoloji rehberleri

Test çöz, ankete katıl

Videolu haberler

Yorumlar

Yorum yazmak için giriş yap.

Bu konuda daha fazlası

Tümünü gör