Teknoloji Forumu

Facebook Bot Kullanarak Zararlı Davranışları Tespit Ediyor

Facebook oluşturduğu WES ( Web-enabled Simulation) simülasyonunda bot kullanarak zararlı davranışları tespit edecek. Facebook zararlı davranışların tespiti ve önlenebilmesi için geliştirdiği bir yöntem olan “botlar” üzerinde araştırmalarına devam ediyor. Bot, bilişim dünyasında sıklıkla kullanılan ve robot anlamına gelen bir terimdir.

Yapay zeka destekli botlar için bir anlamda Facebook’un paralel bir versiyonu oluşturulup simüle edilecek. Bu simülasyonda botlar, normal bir kullanıcı gibi hareket edip zararlı davranışları taklit edecek. Daha sonra simülasyonda sergilenen davranışlar, araştırmacılar ve yapay zeka uzmanları tarafından incelenip raporlanacak. Bu sayede Facebook üzerindeki kötü davranışların nasıl engellenebileceğine dair yeni yöntemler geliştirilebilecek. Kötü ya da zararlı davranışlar olarak nitelendirilen durumlar; dolandırıcılık, spam yaymak, silah ve uyuşturucu satımı ve taciz girişimleridir. Facebook’un sahip olduğu politikaların ve topluluk standartlarının ihlal edilip edilmediği ya da politikaların uygunluğu, WES (Web Destekli Simülasyon) adı verilen simülasyonda bot kullanımıyla tespit edilecek.

Botlar Gerçek Kullanıcılarla Etkileşime Giremeyecek

Facebook bot kullanarak zararlı davranışları tespit etmek amacıyla büyük bir araştırma ekibi kullanıyor. Araştırma, Facebook mühendisi olan Mark Harman ve AI departmanı tarafından yürütülüyor. Ekip, öncelikle bir grup “masum” olarak nitelendirilebilen botlar oluşturdu. Ardından, onlara kötü kullanıcı davranışları uygulanması için “kötü” botlar eğitti. Böylece ekip, kötü botları engellemek için türlü yolları deneyerek karşılığında uygulanabilecek yolları inceledi. Harman, “Facebook bu çalışmasına ‘web destekli simülasyon’ adını veriyor. Bu simülasyon, Facebook’un gerçek sürümüne dayanmaktadır ve bir davranışı simüle etmek makine öğreniminde sıklıkla kullanılan bir yöntemdir.” sözlerini kullandı. Ayrıca, “Web destekli simülasyon, gerçek bir altyapı kullanıldığı için çok daha gerçekçi bir simülasyondur. Fakat botlar, diğer botlar haricinde hiçbir şeyle etkileşime giremez.” diyerek botların gerçek kullanıcılarla etkileşime giremeyeceğini vurguladı.

facebook bot kullanarak kötü davranışları tespit edecek. robot resmi.

Hala araştırma aşamasında olan WES projesi, botların eylemleri sonucunda Facebook’un zayıflıklarını ortaya çıkarmayı hedefliyor. Harman verdiği demeçte “Şu anda odağımız platformda mevcut bulunan davranışları taklit etmesi için botları eğitmek. Ancak hem teoride hem de pratikte bu botlar daha önceden görmediğimiz şeyleri yapabilme kapasitesine sahip. Bu istediğimiz bir durum çünkü onları yetiştirmekten ziyade kötü davranışların önüne geçmek istiyoruz.” dedi. Bu sözlerinden sonra, araştırma ekibinin botlardan gerçekten de beklenmedik davranışlar gördüğünü ancak dolandırıcılara bu konuda bir ipucu vermemek için bu davranışların neler olduğunu paylaşmayacağını söyledi.

Bir analize göre, Facebook üzerinde tespit edilen hataların %25’inin sosyal hatalar olduğu ve bu hataların en az %10’unun WES yardımıyla tespit edilebileceği gözlemlendi. WES için yeni fikirlere açık olduğunu belirten Facebook, şimdiye kadar bu projenin gelişmesi için 85 başvuru aldı.

Teknoloji'den geri kalmamak için e-posta listemize abone olun!

Nev'i şahsına münhasır bir kalite kontrol elemanı


“Facebook Bot Kullanarak Zararlı Davranışları Tespit Ediyor” üzerine bir yorum

Yorum yapın