Meta’nın yeni AI deepfake taktik kitabı: Daha fazla etiket, daha az yayından kaldırma

Meta’nın yeni AI deepfake taktik kitabı: Daha fazla etiket, daha az yayından kaldırma

Meta, Gözetim Kurulunun eleştirilerinin ardından yapay zeka tarafından oluşturulan içerik ve manipüle edilmiş medyaya ilişkin kurallarında değişiklik yaptığını duyurdu. Şirket, önümüzdeki aydan itibaren, deepfake’lere “Yapay Zeka ile Yapılmış” rozeti uygulamak da dahil olmak üzere, bu tür daha geniş bir içerik yelpazesini etiketleyeceğini söyledi. İçerik, önemli bir konuda halkı yanıltma riskinin yüksek olduğu başka şekillerde değiştirildiğinde ek bağlamsal bilgiler gösterilebilir.

Bu hareket, sosyal ağ devinin yanıltıcı olma potansiyeline sahip daha fazla içerik parçasını etiketlemesine yol açabilir; bu, dünya çapında birçok seçimin gerçekleştiği bir yılda önemli. Bununla birlikte, derin sahtekarlıklar için Meta, yalnızca söz konusu içeriğin “endüstri standardı AI görüntü göstergelerine” sahip olduğu veya yükleyicinin, AI tarafından oluşturulan içeriği ifşa ettiği durumlarda etiketleri uygulayacaktır.

Bu sınırların dışına çıkan yapay zeka tarafından oluşturulan içerik, muhtemelen etiketlenmeden kaçacaktır.

Politika değişikliği muhtemelen Meta platformlarında daha fazla AI tarafından oluşturulan içerik ve manipüle edilmiş medyanın kalmasına yol açacaktır, çünkü “bu içeriği ele almanın daha iyi bir yolu” olarak “şeffaflık ve ek bağlam sağlamaya” odaklanan bir yaklaşımı tercih etmeye doğru kaymaktadır ( ifade özgürlüğüne ilişkin riskler göz önüne alındığında, manipüle edilmiş medyayı kaldırmak yerine).

Dolayısıyla, Facebook ve Instagram gibi Meta platformlarında yapay zeka tarafından oluşturulan veya başka şekilde manipüle edilen medya için taktik şu şekilde görünüyor: daha fazla etiket, daha az yayından kaldırma.

Meta, Temmuz ayında yalnızca mevcut manipüle edilmiş video politikasına dayanarak içeriği kaldırmayı bırakacağını söyledi ve Cuma günü yayınlanan bir blog yazısında şunları ekledi: “Bu zaman çizelgesi, daha küçük alt kümeyi kaldırmayı durdurmadan önce insanlara kendini ifşa etme sürecini anlamaları için zaman veriyor. Medyayı manipüle etti.”

Yaklaşım değişikliğinin, Meta’da içerik denetimi ve sistemik risk konusunda artan yasal taleplere yanıt vermesi amaçlanıyor olabilir. Avrupa Birliği Dijital Hizmetler Yasası. Geçtiğimiz Ağustos ayından bu yana AB hukuku, Meta’nın yasa dışı içeriği temizlemek, sistemik riskleri azaltmak ve ifade özgürlüğünü korumak arasındaki ince çizgide yürümesini gerektiren iki ana sosyal ağına bir dizi kural uyguladı. Blok da başvuruyor Seçimler öncesinde platformlar üzerinde ekstra baskı Bu Haziran ayında Avrupa Parlamentosu’na, teknoloji devlerinin teknik olarak mümkün olduğu durumlarda deepfake’lere filigran ekleme çağrısı da dahil.

Kasım ayında yapılacak ABD başkanlık seçimleri de büyük olasılıkla Meta’nın aklında yer alıyor.

Gözetim Kurulu eleştirisi

Teknoloji devinin finanse ettiği ancak mesafeli çalışmasına izin verdiği Meta’nın danışma kurulu, içerik denetleme kararlarının küçük bir yüzdesini gözden geçiriyor ancak aynı zamanda politika önerileri de sunabiliyor. Meta, Kurulun önerilerini kabul etmek zorunda değil ancak bu durumda yaklaşımını değiştirmeyi kabul etti.

İçinde Blog yazısı Meta’nın içerik politikası başkan yardımcısı Monika Bickert Cuma günü yayınlanan bir raporda şirket, Kurulun geri bildirimlerine dayanarak yapay zeka tarafından oluşturulan içerik ve manipüle edilmiş medyaya ilişkin politikalarını değiştirdiğini söyledi. “Gözetim Kurulu’nun, mevcut yaklaşımımızın çok dar olduğu yönündeki iddiasına katılıyoruz çünkü bu yaklaşım yalnızca bir kişinin söylemediği bir şeyi söylüyormuş gibi görünmesini sağlamak için yapay zeka tarafından oluşturulan veya değiştirilen videoları kapsıyor” diye yazdı.

Şubat ayındaGözetim Kurulu, Meta’yı yapay zeka tarafından oluşturulan içeriğe yönelik yaklaşımını yeniden düşünmeye çağırdı. Başkan Biden’ın torununa verdiği platonik öpücüğün cinsel dürtüsünü ima edecek şekilde düzenlenmiş, üzerinde oynanmış bir videosu vakasını ele alıyor.

iken Kurul, Meta’nın belirli içeriği dışarıda bırakma kararına katıldı ve manipüle edilmiş medyaya ilişkin politikasını “tutarsız” olarak nitelendirdi; örneğin, yalnızca AI aracılığıyla oluşturulan videolar için geçerli olup diğer sahte içeriklerin (daha temelde üzerinde oynanmış video veya ses gibi) paçavradan kurtarılmasını sağlar.

Meta, kritik geri bildirimleri dikkate almış görünüyor.

Bickert, “Son dört yılda, özellikle de geçen yılda, insanlar ses ve fotoğraf gibi yapay zeka tarafından oluşturulan başka türden gerçekçi içerikler geliştirdiler ve bu teknoloji hızla gelişiyor” diye yazdı. “Kurulun belirttiği gibi, bir kişinin yapmadığı bir şeyi yaptığını gösteren manipülasyonları ele almak da aynı derecede önemlidir.

“Kurul ayrıca, Topluluk Standartlarımızı ihlal etmeyen, manipüle edilmiş medyayı kaldırdığımızda ifade özgürlüğünün gereksiz yere kısıtlanması riskiyle karşı karşıya kaldığımızı da savundu. Bağlam içeren etiketler gibi manipüle edilmiş medyaya ‘daha az kısıtlayıcı’ bir yaklaşım önerdi.”

Bu senenin başlarındaMeta, sektördeki diğer kişilerle ortak teknik standartlar geliştirmek için çalıştığını duyurdu. AI içeriğini tanımlamavideo ve ses dahil. Artık sentetik medyanın etiketlenmesini genişletme çabasına dayanıyor.

Bickert, “Yapay zeka tarafından oluşturulan video, ses ve görüntüler üzerindeki ‘Yapay Zeka ile Üretildi’ etiketlerimiz, yapay zeka görüntülerine veya yapay zeka tarafından oluşturulan içeriği yüklediklerini açıklayan kişilerin sektör tarafından paylaşılan sinyallerini tespit etmemize dayanacak” dedi. şirketin kendi Meta AI özelliğini kullanarak oluşturulan fotogerçekçi görüntülere zaten ‘AI ile Hayal Edildi’ etiketlerini uyguladığını belirtiyor.

Bickert’e göre genişletilmiş politika, “Gözetim Kurulu’nun etiketlemeyi önerdiği manipüle edilmiş içeriğe ek olarak daha geniş bir içerik yelpazesini” kapsayacak.

“Dijital olarak oluşturulmuş veya değiştirilmiş görüntülerin, videoların veya seslerin, önemli bir konuda halkı maddi olarak yanıltma konusunda özellikle yüksek risk oluşturduğunu belirlersek, insanların daha fazla bilgi ve bağlama sahip olması için daha belirgin bir etiket ekleyebiliriz” diye yazdı. “Bu genel yaklaşım insanlara içerik hakkında daha fazla bilgi veriyor, böylece onu daha iyi değerlendirebiliyorlar ve böylece aynı içeriği başka bir yerde gördüklerinde bağlam sahibi oluyorlar.”

Meta, yapay zeka tabanlı ya da başka şekilde değiştirilmiş olsun, manipüle edilmiş içeriği kaldırmayacağını söyledi. meğer ki diğer politikaları (seçmen müdahalesi, zorbalık ve taciz, şiddet ve kışkırtma veya diğer Topluluk Standartları sorunları gibi) ihlal ediyorsa. Bunun yerine, yukarıda belirtildiği gibi, kamu yararının yüksek olduğu belirli senaryolarda “bilgilendirici etiketler ve bağlam” eklenebilir.

Meta’nın blog gönderisinde bir konu vurgulanıyor: 100’e yakın bağımsız teyitçiden oluşan ağ manipüle edilmiş içerikle ilgili risklerin belirlenmesine yardımcı olmak için çalıştığını söylüyor.

Bu harici kuruluşlar, Meta’ya göre yapay zeka tarafından oluşturulan yanlış ve yanıltıcı içeriği incelemeye devam edecek. İçeriği “Yanlış veya Değiştirilmiş” olarak derecelendirdiklerinde Meta, içeriğin erişimini azaltan algoritma değişiklikleri uygulayarak yanıt vereceğini söyledi; bu, Meta’nın ek bilgiler içeren bir yer paylaşımı etiketine ek olarak, İçeriklerin Akışlarda daha düşük görüneceği ve böylece daha az kişinin göreceği anlamına geliyor. üzerine düşen gözbebekleri.

Bu üçüncü taraf teyitçiler, üretken yapay zeka araçlarındaki patlamanın etkisiyle sentetik içerik çoğaldıkça artan bir iş yüküyle karşı karşıya kalacak gibi görünüyor. Ve bu politika değişikliğinin bir sonucu olarak bu tür şeylerin daha fazlası Meta platformlarında kalacak gibi görünüyor.

Yorum gönder