Anthropic artık çocukların AI teknolojisini sınırlar dahilinde kullanmalarına izin veriyor

Anthropic artık çocukların AI teknolojisini sınırlar dahilinde kullanmalarına izin veriyor

Yapay zeka girişimi Anthropic, en azından belirli durumlarda reşit olmayanların üretken yapay zeka araçlarını kullanmasına izin verecek şekilde politikalarını değiştiriyor.

Bir şekilde duyuruldu postalamak Cuma günü şirketin resmi blogunda Anthropic, gençlerin ve gençlerin üçüncü taraf uygulamalarını kullanmasına izin vermeye başlayacak (ancak kendi uygulamasını değil) uygulamalarBu uygulamaların geliştiricileri belirli güvenlik özelliklerini uyguladığı ve kullanıcılara hangi Antropik teknolojileri kullandıklarını açıkladıkları sürece yapay zeka modelleri tarafından desteklenmektedir.

İçinde destek makalesiAnthropic, yaş doğrulama sistemleri, içerik denetimi ve filtreleme ile küçükler için “güvenli ve sorumlu” yapay zeka kullanımına ilişkin eğitim kaynakları gibi, küçüklere yönelik yapay zeka destekli uygulamalar üreten geliştiricilerin içermesi gereken çeşitli güvenlik önlemlerini listeliyor. Şirket ayrıca bunu söylüyor mayıs Küçükleri hedef alan geliştiricilerin uygulaması gereken bir “çocuk güvenliği sistemi uyarısı” gibi, yapay zeka ürün deneyimlerini küçüklere uyarlamayı amaçlayan “teknik önlemleri” kullanıma sunmak.

Anthropic, Anthropic’in yapay zeka modellerini kullanan geliştiricilerin aynı zamanda 13 yaşın altındaki çocukların gizliliğini koruyan ABD federal yasası olan Çocukların Çevrimiçi Gizliliğini Koruma Yasası (COPPA) gibi “geçerli” çocuk güvenliği ve veri gizliliği düzenlemelerine de uyması gerektiğini söylüyor. Anthropic, uygulamaları uyumluluk açısından “periyodik olarak” denetlemeyi, uyumluluk gerekliliğini sürekli olarak ihlal edenlerin hesaplarını askıya almayı veya sonlandırmayı ve geliştiricilerin, halka açık web sitelerinde veya belgelerde uyumlu olduklarını “açıkça belirtmelerini” zorunlu kılmayı planlıyor.

Anthropic, gönderisinde “Yapay zeka araçlarının genç kullanıcılara test hazırlığı veya özel ders desteği gibi önemli faydalar sağlayabileceği belirli kullanım durumları var” diye yazıyor. “Bunu göz önünde bulundurarak, güncellenen politikamız, belirli güvenlik özelliklerini uygulamayı kabul etmeleri ve kullanıcılarına ürünlerinin bir AI sisteminden yararlandığını açıklamaları halinde kuruluşların küçüklere yönelik ürünlerine API’mizi dahil etmelerine olanak tanıyor.”

Anthropic’in politikasındaki değişiklik, çocukların ve gençlerin yalnızca çeşitli konularda yardım için üretken yapay zeka araçlarına giderek daha fazla yönelmesiyle birlikte geliyor. okul işi ancak kişisel sorunlar ve rakip üretken yapay zeka sağlayıcıları (Google ve OpenAI dahil) çocuklara yönelik kullanım senaryolarını araştırıyor. Bu yıl OpenAI bir yeni takım çocuk güvenliğini incelemek ve duyuruldu Çocuk dostu yapay zeka yönergeleri üzerinde işbirliği yapmak için Common Sense Media ile bir ortaklık. Bu arada Google, sohbet robotu Bard’ı (yeniden Gemini olarak yeniden adlandırıldığından beri) belirli ülkelerde İngilizce olarak gençlerin kullanımına sundu.

Bir göre anket Demokrasi ve Teknoloji Merkezi’nden çocukların yüzde 29’u OpenAI’nin ChatGPT’si gibi üretken yapay zekayı kaygı ya da zihinsel sağlık sorunlarıyla başa çıkmak için, yüzde 22’si arkadaşlarıyla sorunları için ve yüzde 16’sı aile çatışmaları için kullandığını bildirdi.

Geçen yaz, okullar ve kolejler koştu İntihal ve yanlış bilgi korkusu nedeniyle üretken yapay zeka uygulamalarını, özellikle de ChatGPT’yi yasaklamak. O zamandan beri bazıları tersine çevrilmiş onların yasakları. Ancak herkes üretken yapay zekanın iyilik potansiyeline ikna olmuş değil. anketler Çocukların yarısından fazlasının (%53) kendi yaşlarındaki insanların üretken yapay zekayı olumsuz yönde kullandıklarını gördüklerini bildiren Birleşik Krallık Güvenli İnternet Merkezi gibi; örneğin inandırıcı yanlış bilgiler veya birini üzmek için kullanılan resimler (pornografik deepfake’ler dahil) oluşturmak.

Üretken yapay zekanın çocuklarda kullanımına ilişkin yönergelere yönelik çağrılar artıyor.

BM Eğitim, Bilim ve Kültür Örgütü (UNESCO) geçen yılın sonlarında itti Hükümetlerin, kullanıcılar için yaş sınırlarının uygulanması ve veri koruma ve kullanıcı mahremiyetine ilişkin korkuluklar da dahil olmak üzere üretken yapay zekanın eğitimde kullanımını düzenlemesi gerekiyor. UNESCO genel müdürü Audrey Azoulay bir basın açıklamasında, “Üretken yapay zeka insan gelişimi için muazzam bir fırsat olabilir, ancak aynı zamanda zarara ve önyargıya da neden olabilir” dedi. “Halkın katılımı ve hükümetlerin gerekli önlemleri ve düzenlemeleri olmadan eğitime entegre edilemez.”

Yorum gönder