Sosyal medya kullanıcıları memleri kullanarak yarı pişmiş yapay zeka özellikleri için kırmızı takımlara dönüştü

Sosyal medya kullanıcıları memleri kullanarak yarı pişmiş yapay zeka özellikleri için kırmızı takımlara dönüştü

Google’ın yeni çalışanı, “Makasla koşmak, kalp atış hızınızı artırabilen, konsantrasyon ve odaklanma gerektiren bir kardiyo egzersizidir” diyor Yapay zeka arama özelliği. “Bazıları gözeneklerinizi de iyileştirebileceğini ve size güç verebileceğini söylüyor.”

Google’ın AI özelliği bu yanıtı adlı bir web sitesinden aldı. Küçük Yaşlı Kadın KomedisiAdından da anlaşılacağı üzere bir komedi blogudur. Ancak gaf o kadar saçma ki, Google’daki diğer açıkça yanlış olan AI genel bakışlarıyla birlikte sosyal medyada dolaşıyor. Etkili bir şekilde, günlük kullanıcılar artık bu ürünleri sosyal medyada kırmızı takım halinde kullanıyor.

Siber güvenlik alanında bazı şirketler, sanki kötü aktörlermiş gibi ürünlerini ihlal etmeye çalışan “kırmızı takımları” (etik hackerlar) işe alır. Kırmızı ekip bir güvenlik açığı bulursa şirket, ürün gönderilmeden önce bunu düzeltebilir. Google, bir yapay zeka ürününü Google Arama’da yayınlamadan önce kesinlikle bir çeşit kırmızı ekip çalışması gerçekleştirdi. tahmini günde trilyonlarca sorguyu işlemek için.

Google gibi kaynakları yüksek bir şirketin hala bariz kusurları olan ürünler göndermesi şaşırtıcı. Bu nedenle, özellikle yapay zekanın daha yaygın hale geldiği bir dönemde, yapay zeka ürünlerinin başarısızlıkları artık palyaço haline geldi. Bunu kötü yazımla gördük SohbetGPTvideo oluşturucuların anlayamaması insanlar spagettiyi nasıl yerlerVe Grok AI Google gibi hicivden anlamayan X hakkındaki haber özetleri. Ancak bu memler aslında yapay zekayı geliştiren ve test eden şirketler için yararlı geri bildirim işlevi görebilir.

Bu kusurların yüksek profilli doğasına rağmen, teknoloji şirketleri genellikle bunların etkilerini küçümsemektedir.

Google, TechCrunch’a e-postayla gönderdiği bir açıklamada “Gördüğümüz örnekler genellikle çok nadir sorgulardır ve çoğu insanın deneyimlerini temsil etmemektedir” dedi. “Bu yeni deneyimi başlatmadan önce kapsamlı testler gerçekleştirdik ve genel olarak sistemlerimizi geliştirmeye devam ederken bu izole örnekleri kullanacağız.”

Tüm kullanıcılar aynı yapay zeka sonuçlarını görmez ve özellikle kötü bir yapay zeka önerisi ortaya çıktığında sorun çoğunlukla düzeltilmiş olur. Daha yeni viral hale gelen bir vakada Google, pizza yapıyorsanız ancak peynir yapışmaz, “daha fazla yapışkanlık kazandırmak” için sosa yaklaşık sekizde bir bardak tutkal ekleyebilirsiniz. Anlaşıldığı üzere, yapay zeka bu cevabı on bir yaşındaki bir Reddit yorumu “f––smith” adlı bir kullanıcıdan.

İnanılmaz bir hata olmanın ötesinde, aynı zamanda AI içerik anlaşmalarının aşırı değerli olabileceğinin de sinyalini veriyor. Google’ın bir 60 milyon dolarlık sözleşme Örneğin yapay zeka modeli eğitimi için içeriğini lisanslamak üzere Reddit ile. Reddit de benzer bir anlaşma imzaladı OpenAI geçen hafta WordPress.org ve Tumblr’ın Automattic özellikleri söylenti Midjourney ve OpenAI’ye veri satmak için görüşmelerde bulunacak.

Google’ın takdirine göre, sosyal medyada dolaşan hataların çoğu, yapay zekayı tuzağa düşürmek için tasarlanmış alışılmadık aramalardan kaynaklanıyor. En azından kimsenin ciddi bir şekilde “makasla koşmanın sağlığa faydalarını” araştırmadığını umuyorum. Ancak bu berbat durumların bazıları daha ciddi. Bilim muhabiri Erin Ross X’te yayınlandı Google’ın çıngıraklı yılan ısırığı durumunda ne yapmanız gerektiği konusunda yanlış bilgiler verdiğini söyledi.

Ross’un 13.000’den fazla beğeni alan gönderisi, yapay zekanın yaraya turnike uygulanmasını, yaranın kesilmesini ve zehrin emilmesini önerdiğini gösteriyor. Göre ABD Orman Hizmetibunların hepsi yapman gereken şeyler Olumsuz ısırılırsan bunu yap. Bu arada Bluesky’de yazar T Kingfisher, Google’ın İkizler burcunu gösteren bir gönderiyi güçlendirdi zehirli mantarı yanlış tanımlamak yaygın bir beyaz düğme mantarı olarak – gönderinin ekran görüntüleri yaymak uyarıcı bir hikaye olarak diğer platformlara.

Kötü bir yapay zeka yanıtı viral hale geldiğinde, bunun sonucunda ortaya çıkan konuyla ilgili yeni içerik yapay zekanın kafasını daha da karıştırabilir. Çarşamba günü, New York Times muhabiri Aric Toler şunu paylaştı: X’te bir ekran görüntüsü Bu, bir köpeğin NHL’de oynayıp oynamadığını soran bir sorguyu gösterir. Yapay zekanın yanıtı evet oldu; bazı nedenlerden dolayı yapay zeka, Calgary Flames oyuncusu Martin Pospisil’i köpek olarak adlandırdı. Şimdi, aynı sorguyu yaptığınızda yapay zeka şuradan bir makale çıkarıyor: Günlük Nokta Google’ın yapay zekasının nasıl köpeklerin spor yaptığını düşünmeye devam ettiğini anlatıyor. Yapay zeka kendi hatalarıyla besleniyor ve onu daha da zehirliyor.

Bu büyük ölçekli yapay zeka modellerini internette eğitmenin doğasında olan sorun budur: Bazen internetteki insanlar yalan söyler. Ama tıpkı orada olduğu gibi köpeğin basketbol oynamasına karşı kural yokMaalesef büyük teknoloji şirketlerinin kötü yapay zeka ürünleri göndermesine karşı bir kural yok.

Diyor ki: çöp içeri, çöp dışarı.

Yorum gönder