Y Combinator’dan Garry Tan bazı yapay zeka düzenlemelerini destekliyor ancak yapay zeka tekellerine karşı uyarıyor

Y Combinator’dan Garry Tan bazı yapay zeka düzenlemelerini destekliyor ancak yapay zeka tekellerine karşı uyarıyor

Y Combinator’ın başkanı ve CEO’su Garry Tan, bu hafta Washington DC Ekonomi Kulübü’nde kalabalığa yapay zeka için “düzenlemenin muhtemelen gerekli olduğunu” söyledi.

Tan, bire bir röportaj kapsamında General Catalyst yönetim kurulu üyesi Teresa Carlson ile konuştu ve her şeyi tartıştı. Y Combinator’a nasıl girilir AI’ya, “teknolojide çalışmak için şu andan daha iyi bir zaman olmadığını” belirtti.

Tan, Ulusal Standartlar ve Teknoloji Enstitüsü’nün (NIST) bir GenAI risk azaltma çerçevesi oluşturma girişimini “genel olarak desteklediğini” söyledi ve şunları söyledi: Biden Yönetimi’nden EO muhtemelen doğru yoldadırlar.”

NIST’in çerçevesi bazı şeyler öneriyor GenAI’nin veri gizliliği ve telif hakkı gibi konuları düzenleyen mevcut yasalara uyması gerektiğini tanımlamak gibi; GenAI kullanımının son kullanıcılara açıklanması; GenAI’nin çocuklara yönelik cinsel istismar materyalleri oluşturmasını yasaklayan düzenlemeler oluşturmak vb. Biden’ın yönetim emri, yapay zeka şirketlerinin güvenlik verilerini hükümetle paylaşmasını zorunlu tutmaktan, küçük geliştiricilerin adil erişime sahip olmasını sağlamaya kadar çok çeşitli hükümleri kapsıyor.

Ancak birçok Valley VC’si gibi Tan da diğer düzenleyici çabalara karşı temkinliydi. Kaliforniya ve San Francisco yasama meclislerinden geçen AI ile ilgili yasa tasarılarını “çok endişe verici” olarak nitelendirdi.

Eyalet Senatörü Scott Wiener tarafından ortaya atılan ve başsavcıya, ürünleri zararlı olduğu takdirde yapay zeka şirketlerini dava etme olanağı tanıyan California yasa tasarısı heyecan yarattı. Politico’nun raporu.

“Şu anda genel olarak politika açısından büyük tartışma, bunun iyi bir versiyonunun gerçekte neye benzeyeceğidir?” dedi Tan. “İnsanlara şöyle bakabiliriz Ian HogarthBirleşik Krallık’ta düşünceli olmak. Aynı zamanda gücün yoğunlaşması fikrinin de farkındalar. Aynı zamanda, olası en kötü zararları azaltırken yeniliği nasıl desteklediğimizi de anlamaya çalışıyorlar.”

Hogarth, Birleşik Krallık tarafından yapay zeka modeli görev gücüne seçilen eski bir YC girişimcisi ve yapay zeka uzmanıdır.

Tan, “Beni korkutan şey, elimizde olmayan bir bilimkurgu endişesini gidermeye çalışmamızdır” dedi.

YC’nin sorumluluğu nasıl yönettiği konusunda Tan, eğer kuruluş bir startup’ın misyonunu ya da o ürünün toplum için ne yapacağını kabul etmiyorsa, “YC bunu finanse etmiyor” dedi. Medyada YC’ye başvuran bir şirketin haberlerini defalarca okuduğunu belirtti.

“Geri dönüp röportaj notlarına bakıyoruz ve bunun toplum için iyi olmadığını düşünüyoruz. Ve çok şükür, biz bunu finanse etmedik” dedi.

Yapay zeka liderleri ortalığı karıştırmaya devam ediyor

Tan’ın kılavuzu hala Y Combinator’a yer bırakıyor birçok yapay zeka girişimini hayata geçirdi kohort mezunları olarak. Meslektaşım Kyle Wiggers’ın bildirdiği gibi, YC’nin resmi başlangıç ​​dizinine göre, Kış 2024 kohortunda 86 yapay zeka girişimi vardı; bu, Kış 2023 grubunun neredeyse iki katı ve Kış 2021’deki sayının neredeyse üç katına yakındı.

Ve son zamanlardaki haberler, insanların sorumlu yapay zekayı tanımlayacak kişiler olarak yapay zeka ürünleri satan kişilere güvenip güvenemeyeceklerini merak etmelerine neden oluyor. Geçen hafta TechCrunch şunu bildirdi: OpenAI, AI sorumluluk ekibinden kurtuluyor.

Daha sonra fiyasko, şirketin demo sırasında aktris Scarlet Johansson’un sesine benzeyen bir ses kullanmasıyla ilgiliydi. yeni GPT-4o modeli. Görünüşe göre, sesini kullanması sorulduve onları geri çevirdi. OpenAI o zamandan beri Sky sesini kaldırdı ancak Johansson’a dayandığını inkar etti. Bu ve OpenAI’nin kazanılmış çalışan özsermayesini geri alma becerisiyle ilgili sorunlar, tartışılan birkaç konu arasındaydı. insanları açıkça sorgulamaya yöneltti Sam Altman’ın tereddütleri.

Bu arada Meta, yapay zekayı duyurduğunda kendi haberini yaptı. Sadece beyaz adamların yer aldığı bir yapay zeka danışma konseyinin oluşturulmasıbirçoğu bu sektörün yaratılmasında ve yenilenmesinde kilit rol oynayan kadınları ve farklı etnik kökenden insanları etkili bir şekilde dışarıda bıraktı.

Tan bu örneklerden hiçbirine değinmedi. Çoğu Silikon Vadisi risk sermayedarı gibi onun da gördüğü şey yeni, devasa ve kazançlı işletmeler için fırsatlardır.

Tan, “Yeni girişimleri bir fikir labirenti olarak düşünmeyi seviyoruz” dedi. “Büyük dil modelleri gibi yeni bir teknoloji ortaya çıktığında, tüm fikir labirenti sarsılıyor. ChatGPT’nin kendisi muhtemelen yakın zamanda piyasaya sürülen en hızlı başarıya ulaşan tüketici ürünlerinden biriydi. Bu da kurucular için iyi bir haber.”

Geleceğin yapay zekası

Tan ayrıca San Francisco’nun yapay zeka hareketinin merkezinde olduğunu söyledi. Örneğin, YC mezunları tarafından başlatılan Anthropic’in başlangıcı ve YC’nin bir yan ürünü olan OpenAI burada başladı.

Tan ayrıca Altman’ın izinden gitmeyeceğini söyleyerek şaka yaptı ve Altman’ın “benim işimi birkaç yıl önce aldığını, dolayısıyla bir yapay zeka laboratuvarı kurma planının olmadığını” belirtti.

YC’nin diğer başarı öykülerinden biri de yasal teknoloji girişimi Casetext’tir. Thomson Reuters’e satıldı Tan, Casetext’in dünyada üretken yapay zekaya erişim sağlayan ilk şirketlerden biri olduğuna ve daha sonra üretken yapay zekadan ilk çıkışlardan biri olduğuna inanıyordu.

Tan, yapay zekanın geleceğine bakarken, biyoterör ve siber saldırılarla ilgili risklerle ilgili olduğundan “açıkçası bu teknoloji konusunda akıllı olmamız gerektiğini” söyledi. Aynı zamanda “çok daha ölçülü bir yaklaşım” olması gerektiğini söyledi.

Ayrıca, muhtemelen “kazanan hepsini alır” modelinin olmayacağını, bunun yerine “tüketicinin özgürlük seçimi ve kurucuların bir milyar insana dokunan bir şey yaratabilmesi için inanılmaz bir bahçe” olacağını varsayıyor.

En azından onun gerçekleşmesini görmek istediği şey bu. Bu onun ve YC’nin çıkarına olacaktır; pek çok başarılı startup, yatırımcılara bol miktarda para kazandırıyor. Yani Tan’ı en çok korkutan şey kötü niyetli yapay zekalar değil, aralarından seçim yapılabilecek yapay zekaların azlığı.

“Aslında kendimizi sadece birkaç modelde büyük yoğunlaşmanın olduğu bu gerçekten tekelci durumda bulabiliriz. O zaman rant elde etmekten bahsediyorsun ve karşında benim yaşamak istemediğim bir dünya var.”

Yorum gönder