Gizlilik uzmanları, Google’ın çağrı tarama yapay zekasının varsayılan olarak sansürü artırabileceği konusunda uyarıyor

Gizlilik uzmanları, Google’ın çağrı tarama yapay zekasının varsayılan olarak sansürü artırabileceği konusunda uyarıyor

Google’ın bir özelliği dün I/O konferansında tanıtıldıFinansal dolandırıcılıklarla ilişkili konuşma kalıpları için sesli aramaları gerçek zamanlı olarak taramak üzere üretken yapay zeka teknolojisini kullanan , bu özelliğin uçurumun ince ucunu temsil ettiği konusunda uyarıda bulunan gizlilik ve güvenlik uzmanlarının kolektif bir ürpertisine neden oldu. İstemci tarafı taramanın mobil altyapıya dahil edilmesinin, merkezi sansür çağını başlatabileceği konusunda uyarıyorlar.

Google’ın, teknoloji devinin Android işletim sisteminin gelecekteki bir sürümüne yerleştirileceğini söylediği (dünyadaki akıllı telefonların yaklaşık dörtte üçünde çalışacağı tahmin edilen) çağrı dolandırıcılığı algılama özelliğinin demosu, Google tarafından desteklenmektedir. İkizler NanoTamamen cihaz üzerinde çalışması amaçlanan mevcut nesil yapay zeka modellerinin en küçüğü.

Bu aslında müşteri taraflı bir taramadır: Son yıllarda çocuklara yönelik cinsel istismar materyallerini (CSAM) ve hatta mesajlaşma platformlarındaki tımar faaliyetlerini tespit etme çabalarıyla ilgili olarak büyük tartışmalara yol açan yeni ortaya çıkan bir teknoloji.

Apple, CSAM için istemci tarafı taramayı dağıtma planından vazgeçti 2021’de büyük bir gizlilik tepkisinden sonra. Fakat, Politika yapıcılar baskıyı artırmaya devam etti platformlarında meydana gelen yasa dışı etkinlikleri tespit etmenin yollarını bulmak için teknoloji endüstrisinde. Bu nedenle, cihaz üzerinde tarama altyapısı oluşturmaya yönelik herhangi bir sektör hamlesi, ister devlet öncülüğünde ister belirli bir ticari gündemle ilgili olsun, varsayılan olarak her türlü içerik taramasının önünü açabilir.

Google’ın çağrı tarama demosuna yanıt verme X’te yayınlaABD merkezli şifreli mesajlaşma uygulaması Signal’ın başkanı Meredith Whittaker şu uyarıda bulundu: “Bu inanılmaz derecede tehlikeli. Merkezi, cihaz düzeyinde istemci tarafı taramasının yolunu açar.

“‘Dolandırıcılığı’ tespit etmekten, ‘yaygın olarak ilişkilendirilen kalıpları tespit etmeye’ giden kısa bir adımdır.[ith] üreme bakımı arama’ veya ‘yaygın olarak ilişkili[ith] LGBTQ kaynaklarının sağlanması’ veya ‘genelde teknoloji çalışanlarının ihbarlarıyla ilişkilendirilmesi’”

Johns Hopkins’te profesör olan kriptografi uzmanı Matthew Green de X’e götürdüm Alarmı yükseltmek için. “Gelecekte yapay zeka modelleri, yasa dışı davranışları tespit etmek ve raporlamak için mesajlarınız ve sesli aramalarınız üzerinde çıkarım yapacak” diye uyardı. “Verilerinizin servis sağlayıcılardan geçmesini sağlamak için taramanın yapıldığına dair sıfır bilgi kanıtını eklemeniz gerekecek. Bu, açık istemcileri engelleyecektir.”

Green, varsayılan sansürün bu distopik geleceğinin teknik olarak mümkün olmasına yalnızca birkaç yıl kaldığını öne sürdü. “Bu teknolojinin farkına varılacak kadar verimli olmasına çok az kaldı, ama yalnızca birkaç yıl. En fazla on yıl,” diye önerdi.

Avrupalı ​​gizlilik ve güvenlik uzmanları da hemen itirazda bulundu.

Google’ın demosuna tepki X’tePolonya merkezli bağımsız araştırmacı ve gizlilik ve güvenlik konularında danışman olan Lukasz Olejnik, şirketin dolandırıcılık önleme özelliğini memnuniyetle karşıladı ancak altyapının sosyal gözetim için yeniden tasarlanabileceği konusunda uyardı. “[T]Bu aynı zamanda çağrıları izlemek, oluşturmak, metin veya belge yazmak için teknik yeteneklerin zaten mevcut olduğu veya geliştirilmekte olduğu anlamına gelir; örneğin yasa dışı, zararlı, nefret dolu veya başka bir şekilde istenmeyen veya uygunsuz içeriğin (birinin standartlarına göre) aranması için.” o yazdı.

“Daha da ileri giderek böyle bir model örneğin bir uyarı görüntüleyebilir. Veya devam etme yeteneğini engelleyin,” diye vurgulayarak devam etti Olejnik. “Ya da bunu bir yere bildirin. Sosyal davranışın teknolojik modülasyonu veya benzeri. Bu, mahremiyetin yanı sıra bir dizi temel değer ve özgürlüklere yönelik de büyük bir tehdittir. Yetenekler zaten mevcut.”

Endişelerini daha da detaylandıran Olejnik, TechCrunch’a şunları söyledi: “Teknik ayrıntıları görmedim ancak Google, tespitin cihaz üzerinde yapılacağının garantisini veriyor. Bu, kullanıcı gizliliği açısından harikadır. Ancak gizlilikten çok daha fazlası söz konusu. Bu, yazılım ve işletim sistemlerine yerleşik AI/LLM’lerin çeşitli insan faaliyeti biçimlerini tespit etmek veya kontrol etmek için nasıl dönüştürülebileceğini vurgulamaktadır.

Bu, yazılım ve işletim sistemlerine yerleşik AI/LLM’lerin çeşitli insan faaliyeti biçimlerini tespit etmek veya kontrol etmek için nasıl dönüştürülebileceğini vurgulamaktadır.

Lukasz Olejnik

“Şu ana kadar şans eseri durum daha iyi. Ancak teknik yetenek mevcutsa ve yerleşikse, ileride ne olacak? Bu tür güçlü özellikler, toplumların davranışlarını belirli ölçekte veya seçici olarak kontrol etmek için yapay zekanın kullanılmasıyla ilgili gelecekteki potansiyel risklere işaret ediyor. Bu muhtemelen şimdiye kadar geliştirilen en tehlikeli bilgi teknolojisi yeteneklerinden biridir. Ve o noktaya yaklaşıyoruz. Bunu nasıl yöneteceğiz? Çok mu ileri gidiyoruz?”

UCL’de teknoloji hukuku alanında doçent olan Michael Veale, Google’ın konuşma tarayan yapay zekasından kaynaklanan işlev kaymasının tüyler ürpertici hayaletini de gündeme getirdi; bir tepki olarak uyarıda bulundu X’te yayınla “düzenleyicilerin ve yasa koyucuların kötüye kullanmak isteyeceği, bundan daha fazla amaç için cihaz üzerinde istemci tarafı taraması için altyapı oluşturduğunu” söyledi.

Avrupa’daki gizlilik uzmanlarının özel bir endişe nedeni var: Avrupa Birliği’nin tartışmalı bir mesaj tarama yasa teklifi masada 2022’den berihangi eleştirmenler – bloğun kendi Veri Koruma Sorumlusu dahil — warn, platformları varsayılan olarak özel mesajları taramaya zorlayacağından bölgedeki demokratik haklar açısından bir dönüm noktasını temsil ediyor.

Mevcut yasa teklifi teknolojiden bağımsız olduğunu iddia etse de, böyle bir yasanın, platformların hem bilinen hem de bilinmeyen CSAM ve ayrıca gerçek zamanlı olarak bakım faaliyetlerini de yakalayın.

Bu aydan daha erkenYüzlerce gizlilik ve güvenlik uzmanı, platformlar tarafından yasal bir düzene yanıt olarak uygulamaya konması muhtemel istemci tarafı tarama teknolojilerinin kanıtlanmamış ve derinden kusurlu olması nedeniyle planın günde milyonlarca hatalı pozitif sonuca yol açabileceği konusunda uyaran açık bir mektup kaleme aldı. ve saldırılara karşı savunmasızdır.

Konuşmaları tarayan yapay zekanın insanların mahremiyetini aşındırabileceği yönündeki endişelere yanıt vermek için Google ile temasa geçildi, ancak haberin yayınlandığı sırada Google yanıt vermedi.

Bir AI bülteni başlatıyoruz! Üye olmak Burada 5 Haziran’da gelen kutularınıza almaya başlamak için.

TechCrunch'ta Google I/O 2024 hakkında daha fazla bilgi edinin

Yorum gönder