Küllerinden doğan OpenAI'nin Sam Altman'ın dönüşüne rağmen kanıtlaması gereken çok şey var - Dünyadan Güncel Teknoloji Haberleri

Küllerinden doğan OpenAI'nin Sam Altman'ın dönüşüne rağmen kanıtlaması gereken çok şey var - Dünyadan Güncel Teknoloji Haberleri
Yönetim kurulu teknik olarak OpenAI’nin kâr amacı güden tarafında çoğunluk hissesine sahip olan ve kâr amacı güden OpenAI’nin faaliyetleri, yatırımları ve genel yönü üzerinde mutlak karar alma yetkisine sahip olan kâr amacı gütmeyen bir kuruluşa bağlıydı https://t Eski Y Combinator başkanı Altman yeniden dümene geçti ama dönüşü haklı mı? OpenAI’nin yeni yönetim kurulu daha az çeşitliliğe sahip bir başlangıç ​​yapıyor (yani tamamı beyaz ve erkek) ve şirketin kurucu hayırseverlik hedefleri daha kapitalist çıkarlar tarafından benimsenme tehlikesiyle karşı karşıya ”

Belki de bu düzenleme paralel bir evrende işe yarayabilirdi; Yıllar boyunca OpenAI’de yeterince iyi çalıştığı görüldü

Neden bazı yapay zeka uzmanları OpenAI’nin yeni yönetim kurulu hakkında endişeli?

Hayal kırıklığına uğrayan tek kişi ben değilim Peki bundan ne yapmalı?

Sanki OpenAI ölmüş ve yeni, ancak mutlaka iyileştirilmemiş bir startup onun ortasında duruyormuş gibi, sanki biraz övgü gerekiyormuş gibi geliyor Yakında daha fazlasının geleceğini umuyoruz aşağılayıcı sözler kadınlar hakkında

OpenAI’nin alışılmadık yapısı, aralarında Altman’ın da bulunduğu şirketin kurucu ortakları tarafından en iyi niyetlerle oluşturuldu Ancak yöneticilerin, en azından hümanist direktiflerini nasıl yorumladıklarına bağlı olarak, Altman’ı bırakmak için geçerli nedenleri olabileceği inkar edilemez Bir başka OpenAI destekçisi olan Khosla Ventures’ın kurucusu Vinod Khosla, X’te (eski adıyla Twitter) fonun aranan Altman geri döndü Ancak bunu söylemek için erken olabilir Taylor, FriendFeed (Facebook tarafından satın alındı) ve Quip (bu şirketin satın alınmasıyla Salesforce’a geldi) dahil olmak üzere çok sayıda şirketin kurucu ortağı olan bir girişimci girişimcidir Adil olmak gerekirse, yazlar sahip olmak AI’nın en azından geçim kaynaklarıyla ilgili olası zararlı sonuçlarıyla ilgili endişelerini dile getirdi Ancak konuştuğum eleştirmenler, OpenAI’nin şu anki kurulu gibi bir kurulun, en azından daha çeşitli bir kurulun yapacağı şekilde değil, sürekli olarak bu zorluklara öncelik vereceğine inanmakta zorlanıyor co/QiiDd6Se18

— @tim[email protected] Mastodon’da (@timnitGebru) 23 Kasım 2023

OpenAI’nin, kalan beş yönetim kurulu koltuğunu (söylentilere göre) Altman ve bir Microsoft yöneticisinin her birini alması halinde üç veya üç sandalyeyi seçerken daha akıllı ve dünyevi olduğunu kanıtlama şansı var Eğer daha çeşitli bir yola gitmezlerse, Yapay Zeka Politika Enstitüsü düşünce kuruluşunun yöneticisi Daniel Colson şunları söylüyor: söz konusu X’te söylenenler doğru olabilir: Yapay zekanın sorumlu bir şekilde geliştirilmesi konusunda birkaç kişiye veya tek bir laboratuvara güvenilemez Ancak yatırımcılar ve güçlü ortaklar işin içine girince işler… daha da çetrefilli hale geldi Altman’ın ani çıkışı ve OpenAI’nin şüpheli geçici CEO’lardan oluşan kadrosu, Thrive’ın soğuk davranmasına neden oldu ve satışı tehlikeye attı

Cuma sabahı itibariyle OpenAI’nin altı kişilik bir kurulu vardı: Altman, OpenAI baş bilim adamı Ilya Sutskever, OpenAI başkanı Greg Brockman, teknoloji girişimcisi Tasha McCauley, Quora CEO’su Adam D’Angelo ve Georgetown Güvenlik ve Gelişen Teknolojiler Merkezi direktörü Helen Toner

Şu anda OpenAI’nin yönetim kurulu eski Salesforce eş CEO’su Bret Taylor, D’Angelo (orijinal yönetim kurulundan kalan tek kişi) ve ekonomist ve eski Harvard başkanı Larry Summers’dan oluşuyor

Ancak bu muhabire yönetmenler doğrudan bir “kazanma” gibi görünmüyor; eğer amaç farklı bakış açılarıysa, bu mümkün değil

OpenAI, Thrive liderliğinde, şirketin değerlemesini 29 milyar dolardan 80 milyar ila 90 milyar dolar arasına çıkaracak bir hamleyle muhtemelen çalışan hisselerini satmak için görüşmelerde bulunuyordu

Altman beş günlük savaşı kazandı ama ne pahasına?

Ama şimdi birkaç nefes kesici, tüyler ürpertici günün ardından bir tür çözüme ulaşıldı Altman, yönetim kurulunun kararını protesto etmek amacıyla Cuma günü istifa eden Brockman ile birlikte, görevden alınmasına yol açan endişelere ilişkin bir arka plan soruşturmasına tabi olmasına rağmen geri döndü Bir başkasında Altman “çileden çıkmış” Sutskever, OpenAI’nin ilk geliştirici konferansında yapay zeka destekli özelliklerin lansmanını hızlandırdı

Kurul, olası yasal zorlukları öne sürerek defalarca şans verilmesine rağmen kendilerini açıklamadı Condoleezza Rice’ın adı da gündemdeydi ama sonuçta göz ardı edildi

Önemli bir OpenAI işbirlikçisi olan Microsoft’un CEO’su Satya Nadella, iddiaya göre Altman’ın ayrılışını öğrenince “öfkelendi” Ve OpenAI’nin, yatırımcıların karlarının sınırlandırılması ve yönetim kurulunun gelir odaklı olmayan kararlar alma özgürlüğüne sahip olmasıyla yapısını koruyacağı bildiriliyor

Tabii ki, Altman kendisini “kazanmadı” diye suçlayan kuruldan galip ayrıldı 11, 11:26 Doğu’da güncellendi: Timnit Gebru’dan bir gönderi ve devredilen potansiyel OpenAI kadın yönetim kurulu üyeleri hakkında bir rapordan bilgi eklendi İnsanlığın yarısı kadın olduğundan son olaylar bana bu konuda pek güven vermiyor





genel-24

Bentley Üniversitesi’nde matematik profesörü ve sosyal medya öneri algoritmaları üzerine bir kitabın yazarı olan Noah Giansiracusa, hem kurulun tamamı erkeklerden oluşan yapısıyla hem de bir geçmişe sahip olduğunu belirttiği Summers’ın adaylığıyla ilgili sorun yaşıyor


OpenAI’nin gücü Kurucu ortak Sam Altman’ın kovulmasının ardından teknoloji dünyasını büyüleyen mücadele, en azından şimdilik nihayet sona erdi Kâr amacı gütmeyen kuruluşun son derece kısa (500 kelimelik) tüzüğü, yönetim kurulunun “yapay genel zekanın tüm insanlığa fayda sağlamasını” sağlayacak kararlar aldığını ve bunu en iyi nasıl yorumlayacaklarına karar verme yetkisini yönetim kurulu üyelerine bıraktığını belirtiyor

Giansiracusa, mesaj yoluyla şunları söyledi: “Bu olaylarla ilgili ne yapılırsa yapılsın, en azından optikler hiç de iyi değil – özellikle de yapay zeka geliştirmede öncülük eden ve içinde yaşadığımız dünyayı yeniden şekillendiren bir şirket için ” “Özellikle rahatsız edici bulduğum şey, OpenAI’nin ana amacının ‘tüm insanlığa fayda sağlayan’ yapay genel zeka geliştirmek olmasıdır

Yeni yönetim kurulunun bu direktifi farklı yorumlaması muhtemel görünüyor [being] yönetim kurulu üyelerine karşı sürekli olarak samimi ve bazı raporlara göre büyümeyi misyonun önüne koyuyor ”

Sanford Yapay Zeka Laboratuvarı’nın yöneticisi Christopher Manning, değerlendirmesinde Giansiracusa’ya göre biraz daha hayırsever ama onunla aynı görüşte:

TechCrunch’a “Yeni oluşturulan OpenAI kurulu muhtemelen hala eksik” dedi Bu iddia edilen sahtekârlığın bir örneğinde Altman, olduğu söylendi OpenAI’nin güvenliğe yaklaşımını eleştirel bir bakış açısıyla ele alan, ortak yazarı olduğu bir makale nedeniyle Toner’ı eleştirdi; öyle ki Toner onu tahtadan itmeye çalıştı Tam tersine, Sutskever de dahil olmak üzere hepsine yakın bir kişi, bariz bir fikir değişikliğiyle, gidişatı tersine çevirmemeyi tercih etmeleri halinde yönetim kurulunu toplu istifayla tehdit eden bir mektup imzaladı

Bildirildiğine göreOpenAI, yönetim kurulu rolleri için Laurene Powell Jobs ve Marissa Mayer’i değerlendirdi ancak bunların Altman’a çok yakın olduğu düşünüldü Bazı yapay zeka akademisyenleri bugün erken saatlerde hayal kırıklıklarını dile getirmek için X’e döndü Bu arada Summers’ın derin iş ve hükümet bağlantıları var – OpenAI için bir varlık, onun seçimiyle ilgili düşünceler muhtemelen yapay zekaya yönelik düzenleyici incelemelerin yoğunlaştığı bir zamanda gitti OpenAI’nin Altman’ın taleplerinden birini karşılayan yeni bir geçiş kurulu var

OpenAI yönetim kurulunda kadınların bulunacağını ancak bulamadıklarını söylüyor! Bu çok zor çünkü bir yönetim kurulunun doğal yapısı tamamen beyaz erkeklerden oluşuyor ve kadınların yetenekleri hakkındaki açıklamaları nedeniyle önceki pozisyonlarından ayrılmak zorunda kalan erkekleri de dahil etmek özellikle önemli “Bununla birlikte, insan toplumunda yapay zekanın sorumlu kullanımı konusunda derin bilgiye sahip kimsenin bulunmadığı ve yalnızca beyaz erkeklerden oluşan mevcut yönetim kurulu üyeliği, bu kadar önemli ve etkili bir yapay zeka şirketi için umut verici bir başlangıç ​​değil

23

Salesforce CEO’su Marc Benioff, X’te “iyi adamların” kazandığını paylaştı

Artık OpenAI çalışanları hizalanmamış dışarıdan görünen bu yatırımcılarla

— Ashley Mayer (@ashleymayer) 22 Kasım 2023

Eşitsizlik yapay zeka endüstrisini rahatsız ediyor açıklayıcılar Üretken yapay zeka modellerini eğitmek için kullanılan verileri, bu eğitilmiş modellerde sıklıkla ortaya çıkan zararlı önyargılara karşı etiketleyenler, OpenAI’nin modelleri dahil ”

OpenAI çalışanları adına Sam’in geri dönmesi beni çok heyecanlandırıyor, ancak mutlu sonumuzun, yapay zekanın tüm insanlığa fayda sağlamasını sağlamakla görevli bir kurulda üç beyaz adam olması sanki 2023’teymiş gibi geliyor Ancak OpenAI’nin çökmesi durumunda bu OpenAI çalışanlarının kaybedecekleri çok şey olduğu da göz önünde bulundurulmalıdır: Microsoft’tan gelen iş teklifleri ve Satış ekibi bir kenara Bu North Star belgesinde ne “kar” ne de “gelir”den bahsedilmiyor; Toner bildirildiğine göre Bir keresinde Altman’ın yönetim ekibine OpenAI’nin çöküşünü tetiklemenin “aslında [nonprofit’s] misyon Toner, yapay zekanın güvenlik yönünü en doğrudan temsil ediyor ve bu, tarih boyunca, özellikle de teknolojide, kadınların sıklıkla düştüğü konum oldu: Erkekler yenilik yapma ve dünyayı yönetme övgüsünü alırken toplumu büyük zararlardan korumak Bu arada Thrive Capital, yukarıda adı geçen Khosla Ventures, Tiger Global Management ve Sequoia Capital’in, Altman’ı yeniden göreve getirmek için hafta sonu yapılan müzakerelerin yolunda gitmemesi halinde yönetim kuruluna karşı yasal işlem başlatmayı düşündüğü söylendi

Bu şu soruyu gündeme getiriyor: OpenAI neden Timnit Gebru veya Margaret Mitchell gibi tanınmış bir yapay zeka etik uzmanını ilk kurul için işe almaya çalışmadı? Bunlar “mevcut değil” miydi? Reddettiler mi? Yoksa OpenAI ilk etapta çaba göstermedi mi? Belki de hiçbir zaman bilemeyeceğiz

Altman’ın işten çıkarılması Microsoft ve OpenAI çalışanlarını birleştirdi

Yönetim kurulunun Cuma günü, OpenAI’nin 770 kişilik iş gücünün büyük kısmı da dahil olmak üzere hemen hemen hiç kimseye haber vermeden Altman’ı aniden kovmasının ardından, startup’ın destekçileri hoşnutsuzluklarını hem özel hem de kamuda dile getirmeye başladı Altman’ı gereksiz derecede dramatik bir şekilde görevden aldıklarını söylemek yanlış olmaz Altı koltuk henüz doldurulmamış olsa da ilk dördü oldukça homojen bir ton oluşturuyor; böyle bir kurul aslında Avrupa’da yasa dışı olacaktır; emirler Şirketler yönetim kurullarındaki koltuklarının en az %40’ını kadın adaylara ayırıyor

Bu, eski OpenAI’nin kesinlikle mükemmel olduğu anlamına gelmiyor