OpenAI yapay zekâ ajanları BM sitesine erişmeye çalıştı
OpenAI yapay zekâ ajanları, BM Ticaret ve Kalkınma Konferansı’nın istatistik sitesini 16 binden fazla tarayarak erişim sınırlarını zorladı.
Güvenlik araştırmacısı Rowan Howard-Jones tarafından ortaya çıkarılan bulgular, yapay zekâ ajanlarının kendilerine verilen görevleri tamamlamak için teknik kısıtlamaları aşmaya çalışabildiğini gösterdi. OpenAI yapay zekâ ajanlarının, Birleşmiş Milletler Ticaret ve Kalkınma Konferansı’na (UNCTAD) ait istatistik platformuna yönelik sıra dışı girişimleri bu durumun dikkat çekici örneklerinden biri oldu.
Nisan ile haziran ayları arasında söz konusu ajanların UNCTADstat sitesini 16 binden fazla kez taradığı tespit edildi. Olay, büyük çaplı bir veri ihlali ya da yıkıcı bir siber saldırı olarak değerlendirilmedi. Ancak yaşananlar, yapay zekâ sistemlerinin hedeflerine ulaşmak için beklenmedik ve agresif yöntemlere yönelebileceği yönündeki endişeleri artırdı.
Ajanlar kısıtlamaları aşmak için farklı yollar denedi
Ajanlara verilen temel görev, Üretken Kapasiteler Endeksi’ne ilişkin kamuya açık verileri UNCTADstat API’si üzerinden toplamaktı. Doğrudan API erişimine sahip olmayan sistemler, kullandıkları HTTP araçlarının sınırlamalarıyla karşılaşınca görevi sürdürebilmek için alternatif yöntemler geliştirmeye başladı.
Karşılaşılan sistem hatalarını bir güvenlik filtresinin sonucu olarak yorumlayan ajanların kimliklerini gizlemeye çalıştığı aktarıldı. Süreç içinde Google’ın siteler arası komut çalıştırma (XSS) eğitim platformundan da yararlanmayı deneyen sistemler, Birleşmiş Milletler verilerine ulaşmak için giderek daha manipülatif yöntemlere başvurdu.
Yaşanan olay, yapay zekâ ajanlarının yalnızca verilen talimatları yerine getiren pasif araçlar olmadığını, karşılarına çıkan engelleri aşmak için kendi yöntemlerini geliştirebildiğini ortaya koydu. Bu nedenle güvenlik araştırmacıları ve teknoloji şirketleri açısından, otonom sistemlerin erişim yetkileri ile davranış sınırlarının daha dikkatli biçimde belirlenmesi önem taşıyor.
