Bu yıl, yaklaşık iki milyar seçmen tercih ettikleri temsilcilere ve siyasi liderlere oy vermek üzere seçim merkezlerine gitmeye hazırlanıyor. ABD, İngiltere ve Hindistan gibi birçok ülkede (Avrupa Parlamentosu dahil) gerçekleşecek önemli seçimler, önümüzdeki birkaç yıl ve sonrasında jeopolitiğin siyasi manzarasını değiştirme potansiyeline sahip. Sahte görüntülerin, ses ve video kliplerin yaygınlaşmasıyla birlikte, gerçek insanlara benzeyen yapay zeka destekli dezenformasyonun olası etkileri giderek artan bir endişe kaynağı haline geliyor.Sahte haberler, 2016'da Beyaz Saray yarışı sırasında önemli bir rol oynayarak seçimle ilgili başlıkları domine etti. Ancak şu an, sekiz yıl sonra, daha büyük bir tehdit ortaya çıkıyor; uzmanları bile aldatmaya yeten dezenformasyon ve derin sahteciklerin bir kombinasyonu. Arjantin'deki seçimler öncesinde dolaşıma sokulan, ABD Başkanı Joe Biden'ın üzerinde oynanmış bir ses kaydı da dahil olmak üzere, yapay zeka tarafından üretilen seçim temalı içeriğin son örnekleri, daha geniş bir ölçekte ortaya çıkabilecek potansiyel tehditlerin habercisi olabilir.Yanlış bilgilendirme ve dezenformasyon, Dünya Ekonomik Forumu (WEF) tarafından önümüzdeki dönemin en önemli küresel riski olarak belirlenmiştir. Deepfake'lerle ilgili sorun, yapay zeka destekli teknolojinin artık ucuz, erişilebilir ve büyük ölçekte zarar verebilecek kadar güçlü hale gelmesi olarak tanımlanmaktadır. Bu durum, siber suçluların, kötü niyetli siyasi aktörlerin ve hacktivistlerin ikna edici dezenformasyon kampanyaları ve daha geçici, tek seferlik dolandırıcılıklar başlatma yeteneklerini artırmaktadır.
WEF raporuna göre, sentetik içerik, önümüzdeki iki yıl içinde bireyleri manipüle edecek, ekonomilere zarar verecek ve toplumları çeşitli şekillerde parçalayacak. Özellikle ChatGPT gibi araçların ve kolaylıkla erişilebilen üretken yapay zeka (GenAI), daha geniş bir katılımcı kitlesinin deepfake teknolojisi tarafından yönlendirilen dezenformasyon kampanyalarının oluşturulmasına katılmasını mümkün kılması, önemli bir zorluk olarak öne çıkıyor.Bir seçim sürecinde, deepfake teknolojisi, seçmenlerin belirli bir adaya olan güvenini sarsmak amacıyla kullanılabilir. Eğer bir siyasi parti ya da adayın destekçileri, sahte ses ya da videolarla etkili bir şekilde yönlendirilebilirse, bu durum rakip gruplar için avantaj sağlayabilir. Bu zorluk, temelde basit bir gerçeğe dayanmaktadır: İnsanlar, bilgiyi işlerken niceliğe ve anlaşılırlığa daha fazla değer verme eğilimindedir. Aynı mesajı içeren içerikleri daha sık gördükçe ve bunları anlamak daha kolay hale geldikçe, bu içeriklere inanma olasılığımız artar. Deepfake'lerin gerçek içerikten ayırt edilmesinin giderek zorlaştığı bir gerçekle birleştiğinde, bu durum potansiyel bir demokratik felaketin reçetesi olabilir.Hem Youtube hem de Facebook'un, yakın zamanda gerçekleşen bir seçimi etkilemeyi hedefleyen bazı deepfake'lere karşı yeterince hızlı yanıt vermediği ifade edilmektedir. Bu durum, sosyal medya şirketlerinin, seçim manipülasyonu girişimlerini önlemeyi amaçlayan yeni bir AB yasasına (Dijital Hizmetler Yasası) rağmen ortaya çıktı.OpenAI, DALL-E 3 tarafından üretilen görüntüler için Coalition for Content Provenance and Authenticity (C2PA) dijital kimlik bilgilerini uygulayacağını duyurdu. Meta ve Google tarafından da test edilen kriptografik filigran teknolojisi, sahte görüntü üretmeyi zorlaştırmak amacıyla tasarlanmıştır. Ancak, bu teknolojilerin henüz gelişim aşamasında olduğu ve dünya genelinde yaygın bir şekilde kullanılabilmesi için zaman alacağı gerçeği göz önünde bulundurulmalıdır. Özellikle WhatsApp grupları ya da robocall'lar gibi nispeten kapalı ağlarda yayıldığında, sahte ses ya da videoların hızlı bir şekilde takip edilmesi ve çürütülmesi zorlu bir görev olabilir, bu da endişelere neden oluyor.
WEF raporuna göre, sentetik içerik, önümüzdeki iki yıl içinde bireyleri manipüle edecek, ekonomilere zarar verecek ve toplumları çeşitli şekillerde parçalayacak. Özellikle ChatGPT gibi araçların ve kolaylıkla erişilebilen üretken yapay zeka (GenAI), daha geniş bir katılımcı kitlesinin deepfake teknolojisi tarafından yönlendirilen dezenformasyon kampanyalarının oluşturulmasına katılmasını mümkün kılması, önemli bir zorluk olarak öne çıkıyor.Bir seçim sürecinde, deepfake teknolojisi, seçmenlerin belirli bir adaya olan güvenini sarsmak amacıyla kullanılabilir. Eğer bir siyasi parti ya da adayın destekçileri, sahte ses ya da videolarla etkili bir şekilde yönlendirilebilirse, bu durum rakip gruplar için avantaj sağlayabilir. Bu zorluk, temelde basit bir gerçeğe dayanmaktadır: İnsanlar, bilgiyi işlerken niceliğe ve anlaşılırlığa daha fazla değer verme eğilimindedir. Aynı mesajı içeren içerikleri daha sık gördükçe ve bunları anlamak daha kolay hale geldikçe, bu içeriklere inanma olasılığımız artar. Deepfake'lerin gerçek içerikten ayırt edilmesinin giderek zorlaştığı bir gerçekle birleştiğinde, bu durum potansiyel bir demokratik felaketin reçetesi olabilir.Hem Youtube hem de Facebook'un, yakın zamanda gerçekleşen bir seçimi etkilemeyi hedefleyen bazı deepfake'lere karşı yeterince hızlı yanıt vermediği ifade edilmektedir. Bu durum, sosyal medya şirketlerinin, seçim manipülasyonu girişimlerini önlemeyi amaçlayan yeni bir AB yasasına (Dijital Hizmetler Yasası) rağmen ortaya çıktı.OpenAI, DALL-E 3 tarafından üretilen görüntüler için Coalition for Content Provenance and Authenticity (C2PA) dijital kimlik bilgilerini uygulayacağını duyurdu. Meta ve Google tarafından da test edilen kriptografik filigran teknolojisi, sahte görüntü üretmeyi zorlaştırmak amacıyla tasarlanmıştır. Ancak, bu teknolojilerin henüz gelişim aşamasında olduğu ve dünya genelinde yaygın bir şekilde kullanılabilmesi için zaman alacağı gerçeği göz önünde bulundurulmalıdır. Özellikle WhatsApp grupları ya da robocall'lar gibi nispeten kapalı ağlarda yayıldığında, sahte ses ya da videoların hızlı bir şekilde takip edilmesi ve çürütülmesi zorlu bir görev olabilir, bu da endişelere neden oluyor.