Siber güvenlik etkinliğinde yapay zeka ajanlarının riskleri ve yetki sınırı vurgusu

Kamu Siber Güvenlik Derneği'nin yer aldığı bir siber güvenlik etkinliğinde, "Agentic AI" olarak anılan yapay zeka ajanlarının getirdiği fırsatlar ve riskler değerlendirildi. Derneğin Başkanı Dr. Nurullah Celal Uslu, bu sistemlerin güvenliğinde yetkinin dikkatle sınırlandırılması gerektiğini söyledi.

Programda ayrıca Ankara Yıldırım Beyazıt Üniversitesi Mühendislik ve Doğa Bilimleri Fakültesi Dekanı Prof. Dr. Ergün Eraslan, Türkiye Siber Güvenlik Kümelenmesi Genel Koordinatörü Alpaslan Kesici ve Netsys Ankara Bölge Müdürü Mustafa Gençer birer konuşma yaptı.

Ajanlar plan yapıyor, karar alıyor

Uslu, yapay zeka teknolojilerinin hızla ilerlediğini hatırlattı. Klasik üretken yapay zeka sistemlerinden farklı olarak ajanların verilen hedefe göre plan kurabildiğini, çeşitli araçları kullanabildiğini ve bağımsız kararlar alabildiğini anlattı. Bu nedenle yanlış bir kararın gerçek sistemlerde doğrudan sonuçlara yol açabileceğini belirtti.

Yapay zekaya ne kadar yetenek kazandırdığımız kadar, ona ne kadar yetki verdiğimiz de önemlidir.

Nurullah Celal Uslu

Uslu, güvenliğin sağlanması için yetkilerin sınırlandırılmasının, kritik işlemlerde insan onayı alınmasının ve bağımsız güvenlik kontrollerinin yapılmasının önemli olduğunu vurguladı.

Uygulamalı eğitim ve yarışma

Eğitimin yalnızca kuramsal düzeyde kalmadığını anlatan Uslu, katılımcıların yapay zeka ajanlarının siber güvenlikte nasıl kullanılabileceğini gördüğünü, bir güvenlik ajanı oluşturduğunu ve prompt injection saldırılarının bir ajanın davranışını nasıl etkileyebildiğini ve bunlara karşı hangi önlemlerin alınabileceğini incelediğini söyledi. Uslu'ya göre gelecekte yalnızca yapay zekayı kullanmak ya da geliştirmek yetmeyecek; güvenli yapay zeka sistemleri geliştirmek de önemli bir uzmanlık alanı olacak.

Etkinlik, katılımcıların yarıştığı ödüllü bir müsabakayla tamamlandı. Dereceye girenlere akademik yayınlar ile Hackviser'ın sunduğu siber güvenlik eğitim platformuna bir yıllık erişim hakkı verildi.