Indiana Üniversitesi araştırmacıları, X üzerinde kripto para dolandırıcılığı yürüten ve yapay zeka ile yönetilen devasa bir bot ağını deşifre etti. “fox8” adı verilen bu ağın, platformun algoritmasını kandırarak nasıl milyonlarca kullanıcıya ulaştığı ve yapay zekanın yaptığı basit bir teknik hata sonucu nasıl yakayı ele verdiği dijital dünyada büyük yankı uyandırdı.

Indiana Üniversitesi’ndeki araştırmacılar, X’te kripto para dolandırıcılıklarına karışan binden fazla bottan oluşan bir ağı gün yüzüne çıkardı. 2023’ün ortalarında, Elon Musk’ın Twitter’ı X olarak yeniden markalaştırdığı ancak akademisyenlere ücretsiz veri erişimini henüz sonlandırmadığı kritik dönemde, bir grup araştırmacı sosyal medyada yapay zeka tarafından üretilen içerikler paylaşan “sosyal bot” hesapların izini sürmeyi başardı. Sosyal botlar, sosyal medya platformlarında içerik üretip kullanıcılarla etkileşime giren yapay zeka yazılımları olarak tanımlanıyor.

Algoritmayı Kandıran Fox8 Botneti Nedir

Araştırmacılar, kripto para dolandırıcılıklarına karışan binden fazla bottan oluşan bu devasa ağı, sahte haber sitelerinden birinin adından esinlenerek “fox8” botneti olarak adlandırdı. Elde edilen bulgulara göre, Fox8 botları hem birbirleriyle hem de gerçek kullanıcı hesaplarıyla son derece gerçekçi görünen karşılıklı tartışmalar ve yeniden paylaşımlar yaparak sahte bir etkileşim döngüsü oluşturdu. Bu yöntemle X’in öneri algoritmasını manipüle etmeyi başaran botlar, içeriklerinin çok daha geniş kitlelere ulaşmasını sağladı ve kısa sürede yüksek takipçi sayılarına ulaştı. Araştırma ekibi, bu düzeydeki bir koordinasyonun önceki nesil sosyal botlarla kıyaslandığında eşi benzeri görülmemiş bir durum olduğunu ifade ediyor.

Yapay Zeka Hataları Bot Sürüsünü Nasıl Ele Verdi

Araştırma ekibi, söz konusu hesapları geliştiricilerin yaptığı oldukça basit ancak kritik hatalar sayesinde tespit edebildi. Botlar zaman zaman, OpenAI’ın içerik politikalarını ihlal eden istemlere yanıt verirken ChatGPT’nin tipik uyarı mesajlarını aynen paylaşıyordu. Yapay zeka modelleri, 2022 yılından bu yana çok daha sofistike bir sosyal ajan neslinin ortaya çıkmasına zemin hazırladı. Ekip tarafından geliştirilen Botometer gibi makine öğrenimi araçları bile, bu gelişmiş yapay zeka ajanlarını gerçek insan hesaplarından ayırt etmekte zorlandı. Hatta yapay zeka tarafından üretilmiş içerikleri tespit etmek üzere özel olarak eğitilmiş modellerin dahi bu süreçte başarısız olduğu görüldü.

Sosyal Medyada Kusursuz Fırtına Dönemi Mi Başlıyor

Araştırmacılar, fox8 ağının aslında buzdağının sadece görünen kısmı olduğunu değerlendiriyor. Daha yetkin geliştiricilerin bu tür ifşa edici hataları filtreleyebileceği ya da etik sınırlamaları kaldırılmış açık kaynak yapay zeka modellerini kullanabileceği uyarısı yapılıyor. Sosyal medya platformlarının içerik denetimini gevşetmesi ve etkileşim yaratan içeriklere, gerçek ya da yapay zeka üretimi olmasına bakmaksızın finansal teşvikler sunması, araştırmacılara göre bir “kusursuz fırtına” ortamı oluşturuyor. Bu durumun özellikle demokratik seçimlere yönelik yabancı ve yerli etki operasyonları açısından ciddi riskler barındırdığı vurgulanıyor.

Dijital Kamuoyu Algısı Tehlike Altında Mı

Araştırmayla ilgili önemli açıklamalarda bulunan ekip üyesi Filippo Menczer, mevcut teknolojinin kötü niyetli aktörlere birden fazla platformda faaliyet gösterebilen, otonom ve uyum sağlayabilen çok sayıda ajan konuşlandırma imkanı tanıdığını belirtiyor. Bu yeni nesil ajanlar, basit ve kalıplaşmış dezenformasyon kampanyalarından çok daha ölçeklenebilir ve sofistike operasyonlar yürütebiliyor. Tek tip spam içerikler yerine, büyük ölçekte çeşitli ve inandırıcı metinler üretilebiliyor. Bot sürüleri, kullanıcıların bireysel tercihlerine ve çevrim içi sohbet bağlamına göre özelleştirilmiş mesajlar göndererek, beğeni ve görüntülenme sayılarına anlık tepkiler veriyor. Bu dinamik yapı, çevrim içi kamuoyu algısının manipülasyonunu her zamankinden daha zor tespit edilir bir boyuta taşıyor.