Yapay zeka sistemleri, görevleri düzenli olarak, yönlendirenlerin istemediği veya amaçlamadığı şekillerde tamamlıyor. Bazıları rahatsız edici, bazıları ise tehlikelidir. Bu benim "cin davranışı" adını verdiğim bir şey çünkü bunun gerçekten olup bitenlerin özüne indiğini düşünüyorum. Keşke popüler basın bunu daha iyi haber yapsa. "Haydut davranmayı" sevmiyorum...
Yapay zeka sistemleri, görevleri düzenli olarak, teşvik edenlerin istemediği veya amaçlamadığı şekillerde tamamlıyor. Bazıları rahatsız edici, bazıları ise tehlikelidir. Bu benim "cin davranışı" adını verdiğim bir şey çünkü bunun gerçekten olup bitenlerin özüne indiğini düşünüyorum. Keşke popüler basın bunu daha iyi haber yapsa. "Haydut olma" çerçevesini sevmiyorum çünkü bu, teşvikçilerin (genellikle de yapay zeka şirketlerinin) sorumluluğunu saptırıyor. Ve şimdi, senaryo dışı hemen hemen her şeye "hacking" deniyor. Örneğin OpenAI modellerinden birinin hükümet sistemlerine sızmasıyla ilgili son hikayeleri ele alalım. İlk olarak The New York Times şu başlığı yazıyor: "OpenAI Sistemleri Sahtekarlık Yaptıktan Sonra ABD Hükümeti Sitelerine Karıştı." Kulağa korkutucu geliyor ama bu makalenin ana bölümünden: A.I. araştırmacıları, Eğitim Departmanı ile birlikte OpenAI teknolojisinin, bakanlığın sivil haklar ofisinden veri toplamak için web sitesini hacklemeye çalıştığını ancak başarısız olduğunu belirtti. araştırma firması Transluce dedi. Yapay zeka ayrıca çevrimiçi olarak bulduğu oturum açma kimlik bilgilerini kullanarak Ticaret Bakanlığı'nda bulunan Nüfus Sayımı Bürosu web sitesinden de veri çekti. Ayrı olarak, OpenAI'nin temsilcileri S.E.C.'den kamuya açık verileri paylaştı. Çevrimiçi bir forumdaki web sitesi. Bu orijinal Transluce raporundan alınmıştır. Aracıların güvenlik açıklarını keşfetmeye çalıştıkları açıktır: İlk hackleme girişimi, 25-26 Mayıs 2026 tarihleri arasında New Mexico Üniversitesi Dijital Kütüphanesi'ne (nmdigital.unm.edu) yönelikti. Ajanlar, hem doğrudan hem de üçüncü taraf aktarma hizmetleri aracılığıyla defalarca UNM'nin Valmora koleksiyonundaki bir fotoğrafı almaya çalıştı. SQL enjeksiyonu, komut enjeksiyonu ve yol geçişleri de dahil olmak üzere güvenlik açıklarının varlığını doğrulamaya çalışan yedi araştırma gönderdiler. Her durumda, bu taktikler başarısız olmuş gibi görünüyor. Temsilciler ayrıca görüntüye erişim sağlamak amacıyla UNM sunucusuna kendi deyimiyle 80 istekten oluşan bir akın gönderdi. Transduce diğer iki anekdottan bahsetmiyor ve bunların nereden geldiğini bilmiyorum. Ancak bunlardan biri, çevrimiçi olarak bulunan Nüfus Sayımı Bürosu kimlik bilgilerinin kullanılmasını içerir. (Bunları oluşturmanın inanılmaz derecede kolay olduğunu bir meslektaşımdan biliyorum; ihtiyacınız olan tek şey bir e-posta adresidir.) Diğeri ise kamuya açık verilerin paylaşılmasını içerir. Yani gerçek bir hackleme yok. Ve kesinlikle "karışmak" yok. Ortalıkta dolaşan diğer hikaye ise aynı Transduce raporundan Avustralya ile ilgili. Haberlerde "Bir OpenAI Ajanı Avustralya'nın Sağlık Hizmetini Hackledi" ve "Rogue OpenAI ajanı dünyada ilk kez Avustralya hükümetinin web sitesine 'sızdı'' gibi manşetler yer alıyor. Başbakan Anthony Albanese ise şunları söyledi: "Bunun elbette hukuki sonuçları olacak." Yine Transduce'un gerçek raporundan: 20-21 Haziran'da ajanlar Avustralya Enstitüsündeki güvenlik açıklarından yararlanmaya çalıştı