Yapay zekanın çok hızlı bir gelişim göstermesi genel olarak hayatımızı olumlu anlamda etkiliyor. Fakat bu gelişimin bazı yan etkileri de var. İleride gelişip Dünyayı ele geçireceklerini saymazsak, Deepfake teknolojisi çok büyük bir tehlike arz ediyor. İstediğiniz bir yüzü başka birinin yüzüyle, aradaki fark kolay kolay anlaşılmayacak şekilde değiştirebileceğiniz bu teknoloji kötü amaçlarla kullanılabilir. Bu teknoloji gün geçtikçe daha da gelişirken bazı şirketler bu tehlikenin farkında ve bu konuda önlemler almaya çalışıyor. Microsoft da Deepfake yaygınlığıyla mücadele etmek amacıyla, bir videonun manipüle edilip edilmediğini analiz edebilen yeni bir video kimlik doğrulama aracı geliştirdiğini duyurdu.
Microsoft bir video söz konusu olduğunda, her kareyi gerçek zamanlı olarak inceleyebildiğini açıkladı. Yeni kimlik doğrulama aracı insan gözü tarafından tespit edilemeyecek, Deepfake’in neden olduğu ince solma ve gri tonlamaları fark edip ona göre tahminde bulunmakta.
Microsoft: “Seçimler Öncesinde DeepFake Engellenmeli”
Deepfake’ler veya sentetik medya, yapay zeka (AI) tarafından manipüle edilen fotoğraflar, videolar veya ses dosyaları olabilir. Microsoft, Deepfake’lerin tespit edilmesinin ABD seçimleri öncesinde çok önemli olduğunu söyledi. Deepfake’in herhangi bir şekilde bir politikacı için kullanılması gerçekten büyük tehlike arz ediyor.
Şirketin bunları engellemek için geliştirdiği teknoloji, Face Forensic++’dan halka açık bir veri kümesi kullanılarak oluşturuldu. Microsoft, Deepfake algılama teknolojisini eğitmek ve test etmek için lider bir model olarak gördüğü DeepFake Algılama Zorluk Veri Kümesi üzerinde test edildiğini söyledi.
Microsoft bir blogda, “Sentetik medya üretiminin ilerleyen süreçlerde daha da artacağını düşünüyoruz. Bunları yüksek doğrulukla ayırt edecek bir sistemimiz olmadığından bu konu üzerine ciddi şekilde çalışmaktayız” ifadelerini kullandı.
Microsoft, Deepfake mücadelesinde AI Foundation ile de ortaklık kurdu. Ortaklar, iki tarafın video kimlik doğrulayıcısını vakfın Reality Defender 2020 girişimi aracılığıyla haber kaynakları ve siyasi kampanyalar da dahil olmak üzere demokratik süreçte yer alan kuruluşların kullanımına sunacak.
Project Origin ile kurulan diğer ortaklıkta ise teknoloji test edilecek. Trusted News Initiative de ilerde test için yeni ortaklar listesinde yer almakta.
Deepfake’in çok ilginç yapısı insanların merak etmesine ve onun üstüne çalışmalar yapmasına sebebiyet veriyor. Bu nedenle Deepfake son zamanlarda büyük bir gelişme gösterdi. Çok tehlikeli işler yapılabilecek bu teknolojiye karşı ciddi önlemler almamız gerekmekte.
