Yapay zeka ChatGPT sahte fotoğraf üretimini engelleyen adımı attı

ChatGPT'nin getirdiği filigran özelliği, görsel üretimde kullanılan yapay zeka tarafından oluşturulan fotoğraflara bir tür işaret ekleyerek, bu fotoğrafların gerçekliğini ayırt etmeyi kolaylaştırıyor. Özellikle stok fotoğraflarda sıkça karşılaşılan filigranlar, görsellerin taklit edilmesini önlemede etkili bir yöntem olarak biliniyor.

Son dönemde yaşanan Taylor Swift skandalı gibi olaylar, yapay zeka tarafından üretilen sahte fotoğrafların artan bir sorun haline gelmesine neden oldu. Bu bağlamda, ABD yönetimi bile yapay zeka görselleri için filigran zorunluluğu getiren bir yasa çıkarma konusunu değerlendiriyor.

OpenAI, filigran özelliği ile yapay zeka ChatGPT ile üretilen görsellerin üzerine özel bir işaret eklemek yerine, C2PA spesifikasyonlarını kullanarak meta verilerine gömme yöntemine gidiyor. Bu sertifikasyon sayesinde, ChatGPT ile üretilen her görselin ne zaman ve hangi araçla üretildiğine dair temel bilgiler sağlanacak. Ancak, bu bilgilere erişebilmek için görselleri okuyabilen sitelerin C2PA meta verilerini kullanması gerekiyor.

Yine de, bu filigran özelliği, görsel meta verilerini değiştirmek mümkün olduğundan, sahte görsellerin üreticileri tarafından sınırlı bir etkiliği bulunuyor. Bu nedenle, kullanıcıların şüpheli görseller için tersten arama yaparak gerçek kaynağa ulaşmaları öneriliyor.

OpenAI'nın bu adımı, yapay zeka konusunda öncü firmaların, özellikle Google, Microsoft gibi şirketlerin daha fazla güvenlik önlemi almasını teşvik etme potansiyeline sahip.