Mozilla, AI Romance Uygulamalarında ‘Sola Kaydırma’yı Öneriyor

Mozilla’nın “Gizlilik Dahil Değil” satın alma kılavuzundaki araştırmacılar tarafından Çarşamba günü yayınlanan bir rapora göre, sanal aşkı arayan romantiklerin aşka yönelik yapay zeka sohbet robotlarına dikkatle yaklaşması gerekiyor.

Araştırmacılar, 11 “Yapay Zeka ruh eşini” inceledikten sonra, kullanıcılarından aldıkları kişisel veriler için yeterli gizlilik, güvenlik ve güvenlik sağlayamayan tüm uygulamaları olumsuz karşıladılar.

11 sohbet robotundan 10’unun, güçlü parolalar gerektirmesi veya güvenlik açıklarını yönetme yönteminin bulunması gibi Mozilla’nın Minimum Güvenlik Standartlarını karşılamada başarısız olduğunu belirttiler.

Rapor, uygulamalara yönelik gizlilik politikalarının çoğunun, yapay zekalarını eğitmek için kullanıcıların konuşmalarının içeriğini nasıl kullandıkları hakkında şaşırtıcı derecede az bilgi sağladığını ve yapay zeka modellerinin nasıl çalıştığı konusunda çok az şeffaflık sağladığını ortaya çıkardı.

Kılavuzun yöneticisi Jen Caltrider, TechNewsWorld’e “İncelediğimiz 11 uygulamanın çoğu, hakkında pek fazla bilgi bulamadığınız küçük geliştiriciler tarafından yapıldı” dedi.

Steroidlerde Manipülasyon

Rapor, kullanıcıların verileri üzerinde çok az kontrole sahip olduklarını veya hiç kontrole sahip olmadıklarını, bunun da manipülasyon, istismar ve zihinsel sağlık sonuçları açısından büyük bir potansiyel bıraktığını ekledi.

Caltrider, “Bu uygulamalar, sizi tanımaya çalıştıkları için birçok kişisel bilginizden vazgeçmenizi sağlayacak şekilde tasarlandı” diye açıkladı. “Hayatınızla ilgileniyorlar ve ne kadar çok şey bilirlerse, sizinle o kadar iyi konuşup ruh eşiniz olabilirler.”

Caltrider, “İnsanları manipüle etmek isteyen kötü bir insansanız, bu steroidlerle yapılan bir manipülasyondur” dedi. “Savunmasız bir kişiyi tanıyacak, onunla bağlantı kuracak ve onun arkadaşı olacak bir sohbet robotu geliştirdiniz. Daha sonra bu chatbot’u kullanarak onların nasıl düşündüklerini ve ne yaptıklarını değiştirebilirsiniz.”

Raporda ayrıca uygulama yapımcılarına, kullanıcılara özel sohbet içeriklerinin, programlar tarafından kullanılan yapay zeka modellerini eğitmek için kullanılmasını devre dışı bırakma seçeneği sunmadıkları için de eleştiri yapıldı. Araştırmacılar, yalnızca bir şirket olan Genesia AI’nin devre dışı kalma alternatifine sahip olduğunu ve bunun da bunun geçerli bir özellik olduğunu gösterdiğini belirtti.

“Bilgilerinin pazarlama amacıyla veya yapay zeka motorlarının eğitimi için açık izinleri olmadan kullanılmasından endişe duyan tüketicilerin, bir şirketin veri toplama uygulamalarını dikkatlice incelemesi ve veri toplamaya dahil olma veya veri toplamadan vazgeçme haklarını kullanması gerekir. paylaşma, satma veya elde tutma” tavsiyesinde bulundu. Kimlik Hırsızlığı Kaynak Merkezikendini riski en aza indirmeye ve kimlik uzlaşması ile suçun etkisini hafifletmeye adamış kar amacı gütmeyen bir kuruluş, San Diego, Kaliforniya.

TechNewsWorld’e şunları söyledi: “Saklanan bilgiler aynı zamanda fidye yazılımı veya kimlik hırsızlığı nedeniyle siber suçluların da hedefi olabilir.”

Hızla Yükselen Yapay Zeka Romantik Uygulamaları

Rapora göre, romantik bir partnerle etkileşim deneyimini simüle etmek için gelişmiş yapay zeka algoritmaları kullanan uygulama ve platformların sayısı hızla artıyor. Geçen yıl, Mozilla’nın incelediği 11 ilişki sohbet robotunun yalnızca Google Play Store’da tahmini 100 milyon indirmeye ulaştığı belirtildi.

Raporda, OpenAI’nin GPT mağazasının geçen ay açıldığında mağazanın politikasına aykırı olmasına rağmen yapay zeka ilişki sohbet robotlarıyla dolup taştığı belirtildi.

Küresel bir çok kanallı iletişim şirketi olan Infobip için Propeller Insights tarafından 1000 yetişkin üzerinde yakın zamanda yapılan bir araştırmada, Amerikalıların %20’si bir chatbot ile flört ettiğini itiraf etti. Ancak bu rakam 35-44 yaş arası kişilerde %50’nin üzerindeydi.

Sanal flörtün en yaygın nedeni merak (%47,2) olurken, onu yalnızlık ve chatbotlarla etkileşimden keyif almak (%23,9) izledi.

Kurucusu ve CEO’su Brian Prince, “Yapay zeka romantik sohbet robotu kullanımındaki artış, toplumsal değişimlerin ve teknolojik ilerlemelerin bir karışımına bağlanabilir” dedi. En İyi Yapay Zeka AraçlarıBoca Raton, Florida’da bir yapay zeka aracı, kaynak ve eğitim platformu.

TechNewsWorld’e şunları söyledi: “Yalnızlığın artması ve birçok kişinin giderek daha fazla bağlantısızlık hissetmesi nedeniyle insanlar arkadaşlık ve duygusal destek için sohbet robotlarına yöneliyor.” “Bu, sohbete ihtiyaç duyduğunuzda ulaşabileceğiniz bir arkadaşınızın cebinizde olması gibi bir şey. Ayrıca yapay zeka akıllılaştıkça bu botlar daha gerçek ve ilgi çekici hale geliyor ve insanları çekiyor.”

Kodlamadan Tatlı Şeylere

Yapay zeka sohbet robotlarının konuşlandırılması da daha kolay hale geldi. Kıdemli Ürün Müdürü Brandon Torio şöyle konuştu: “Bu tür deneyimleri yerleştirmek, iyi belgelenmiş ve sağlam API’leri sayesinde YouTube videolarını veya Spotify önizlemelerini bir web sayfasına yerleştirmek kadar kolay.” SinackRedwood City, Kaliforniya’da bir kurumsal güvenlik şirketi.

TechNewsWorld’e şunları söyledi: “Birkaç satır kodla, ChatGPT benzeri modelleri müşterilerle her türlü sohbeti yapmaya hazır hale getirebilirsiniz; amaç ister onları bir ürün hakkında eğitmek, ister sadece Sevgililer Günü için tatlı sözler fısıldamak olsun,” dedi.

“İnsanların son birkaç yılda uğraştığı onca şey göz önüne alındığında, insanların bilgisayarlara yönelmesi şaşırtıcı değil. arkadaşlık ve romantizm“diye ekledi Ron Arden, CTO ve COO FasoSeul, Güney Kore’de kurumsal veri koruma çözümleri sağlayıcısı.

TechNewsWorld’e “Pandemi sırasında hepimiz izole olduk ve insanlarla tanışmak zor” dedi. “Tıpkı mesajlaşmanın kolay olması gibi, sohbet robotları da kolaydır. Doğrudan insan etkileşimi ve utanç yoktur. Sadece bana ihtiyacım olanı ver, böylece günüme devam edebilirim.

“Bu aynı zamanda kan basıncınızı ölçmekten kalori saymaya kadar hemen hemen her şey için uygulama kullanımındaki genel artışın bir parçası” dedi. “Kolay, tehdit edici olmayan ve kullanışlı.”

Benzersiz Gizlilik Tehdidi

Mozilla raporu ayrıca romantik botların aldatıcı pazarlama uygulamaları kullandığını da ileri sürdü. Web sitesinde zihinsel sağlık ve refah faydaları sunduğunu iddia eden ancak uygulamanın kullanım şart ve koşullarında bu faydaları reddeden bir uygulamaya atıfta bulundu.

Caltrider, “Kendilerini akıl sağlığı, kendi kendine yardım veya refah uygulamaları olarak pazarlamak, ancak daha sonra yasal belgelerinde herhangi bir akıl sağlığı hizmeti sunmadıklarını açıkça belirtmek onlar için aldatıcı ve kafa karıştırıcı” dedi.

Güvenlik farkındalığı savunucusu James McQuiggan, yapay zeka destekli romantik sohbet robotlarının mahremiyete yönelik benzersiz bir tehdit oluşturduğunu söyledi. KnowBe4Clearwater, Florida’da bir güvenlik farkındalığı eğitim sağlayıcısı.

TechNewsWorld’e “Bunun nedeni, kullanıcılarla daha derin, daha kişisel görüşmelere girebilmeleridir” dedi. “Potansiyel olarak hassas kişisel verilerin toplanmasına yol açabilir ve bu, güvenli bir şekilde ele alınmadığı takdirde önemli bir veri ihlali ve kötüye kullanım riski oluşturabilir.”

Kıdemli personel teknoloji uzmanı Jacob Hoffman-Andrews, “Romantik sohbet robotları, insanların cinselliklerini keşfetmeleri için harika bir araç olma potansiyeline sahip; bu, bir kişiyle yapmaktan utanacakları sohbetleri denemenin bir yolu” diye ekledi. Elektronik Sınır VakfıSan Francisco merkezli kar amacı gütmeyen uluslararası bir dijital haklar grubu.

TechNewsWorld’e “Bu yalnızca chatbotun son derece güçlü gizlilik politikalarına sahip olması durumunda işe yarar” dedi. “Yapay zekayı özel sohbetlere dayanarak eğitmemeliler. Özel sohbetleri insan değerlendiricilere göstermemelidirler. Sohbetlerin gerçekten silinebildiğinden emin olmalılar ve bir süre sonra otomatik olarak silinebilme olanağı sunmalılar.”

“Ve” diye ekledi, “özel sohbetlerden elde edilen bilgileri kesinlikle hiçbir şekilde satmamalılar.