Anthropic, biyolojik kötüye kullanım vakalarını açıkladı
Anthropic, yapay zeka modellerinin biyolojik kötüye kullanım amacıyla kullanılmasına ilişkin tespitlerini ve alınan önlemleri raporla açıkladı.
Yapay zeka şirketi Anthropic, geliştirdiği modellerin kötüye kullanılmasını belirlemek ve bu tür girişimlere karşı önlem almak amacıyla hazırladığı raporu yayımladı. Raporda, yapay zeka sistemleri açısından en ciddi tehditlerden birinin biyolojik kötüye kullanım olduğu belirtildi.
Şirket, yapay zekanın mevcut patojenleri daha tehlikeli hale getirme veya yeni patojenlerin geliştirilmesine yardımcı olabilecek seviyeye ulaşma ihtimaline yönelik endişelerin uzun süredir gündemde bulunduğuna dikkat çekti.
Raporda, Anthropic’e ait yapay zeka modellerinin biyolojik silah geliştirilmesini destekleyebilecek biçimde kullanılmaya çalışıldığı iki örneğe yer verildi. Bunlardan birinde, desteklenmeyen bir bölgede görev yapan bir araştırmacının Claude kullanarak kuş gribinin memelilere uyum sağlamasına yönelik deneyleri planlamaya çalıştığı aktarıldı. Diğer vakada ise devlet destekli bir araştırmacının toksinleri bilgisayar ortamında yeniden tasarladığı belirtildi.
Anthropic, söz konusu faaliyetleri tespit ettikten sonra ilgili kullanıcı hesaplarını engellediğini ve benzer girişimleri gelecekte daha etkili biçimde önlemek için çalışmalar yürüttüğünü açıkladı.
Raporda, örneklerde adı geçen kişilerin kötü niyetli olduğunun ileri sürülmediği, şirketin yalnızca ihtiyatlı davranarak önlem aldığı vurgulandı. Anthropic, vakaları kamuoyuyla paylaşarak yapay zeka sektöründe ortaya çıkan biyolojik riskler ve bu tehditlere karşı en etkili mücadele yöntemleri konusunda diyalog başlatmayı amaçladığını bildirdi.
Öte yandan Anthropic çalışanı Jacob Coxon, yapay zekanın gerçek güç ve kaynaklara erişebilecek insanüstü sistemlere dönüşebileceği görüşünü dile getirerek şirketten ayrıldığını duyurmuştu. Coxon’un bu açıklaması milyonlarca kez görüntülenmiş ve geniş yankı uyandırmıştı.
