Paylaş
0
OpenAI, yapay zekânın geleceğini şekillendirecek yeni yol haritasını resmen paylaştı. Sam Altman’ın kaleme aldığı yeni "İlkelerimiz" adlı yazı, şirketin sadece teknoloji geliştirmediğini; aynı zamanda bu teknolojinin dünyayı nasıl etkileyeceğine dair ciddi bir vizyon ortaya koyduğunu gösteriyor.
Ama işin ilginç tarafı şu: Bu yeni ilkeler, OpenAI’ın yıllar önce açıkladığı Charter’a göre oldukça farklı bir ton taşıyor. Yani ortada sadece bir güncelleme değil, aynı zamanda stratejik bir yön değişimi de var diyebiliriz.
İçerikten Görseller
Yapay zekâ herkesin mi olacak, yoksa birkaç şirketin mi?
OpenAI’ın yeni metninde en çok dikkat çeken konu, yapay zekânın demokratikleşmesi. Şirket açık açık, bu gücün birkaç dev şirketin elinde toplanmasının iyi bir senaryo olmadığını söylüyor.
Bunun yerine hedef, yapay zekâyı mümkün olduğunca fazla insanın kullanımına sunmak. Hatta sadece erişim değil, karar alma süreçlerinin bile daha demokratik olması gerektiği vurgulanıyor. Bu, teknoloji dünyasında pek sık görmediğimiz kadar net bir duruş.
AGI artık tek odak noktası değil
Eskiden OpenAI denince akla ilk gelen şeylerden biri AGI (yapay genel zekâ) hedefiydi. 2018’deki Charter’da bu kavram neredeyse her şeyin merkezindeydi.
Yeni prensiplerde ise AGI tamamen kaybolmuş değil ama eskiye kıyasla çok daha arka planda. Bunun yerine şirket, bugünün yapay zekâ sistemlerine, ürünlerine ve gerçek dünyadaki etkilerine daha fazla odaklanıyor. Yani “gelecek”ten çok “şimdi”ye oynayan bir OpenAI var karşımızda.
Rekabet konusunda daha gerçekçi bir OpenAI var
OpenAI’ın eski metinlerinde oldukça idealist bir yaklaşım vardı. Hatta gerekirse rakip bir şirket AGI’ye daha yakınsa destek olunabileceği bile söyleniyordu.
Yeni prensiplerde ise bu tarz net bir “geri çekilme” mesajı yok. Bu da bize şunu gösteriyor: OpenAI artık daha rekabetçi, daha gerçekçi ve piyasanın dinamiklerini daha fazla dikkate alan bir noktada.
Dev yatırımların arkasındaki gerçek neden ortaya çıktı
Şirketin son dönemde neden bu kadar büyük veri merkezi yatırımları yaptığı da bu metinle birlikte daha net anlaşılıyor. OpenAI’a göre evrensel refah hedefi için yapay zekânın ucuzlaması ve herkes tarafından erişilebilir olması şart.
Bunun yolu da daha fazla işlem gücü, daha fazla altyapı ve dünya geneline yayılmış veri merkezlerinden geçiyor. Yani bu dev yatırımlar aslında sadece teknoloji yarışı değil, aynı zamanda uzun vadeli bir stratejinin parçası.
OpenAI: “Her şeyi doğru yapamayabiliriz”
Belki de en dikkat çekici kısım, OpenAI’ın kendi sınırlarını kabul etmesi. Şirket, geleceğin çok belirsiz olduğunu ve her kararı doğru veremeyebileceklerini açıkça söylüyor.
Bu yüzden de yeni prensiplerin en önemli maddelerinden biri uyum sağlama. Yani OpenAI, gerektiğinde kendi kurallarını bile değiştirebileceğini kabul ediyor. Bu da teknoloji dünyasında nadir görülen bir şeffaflık örneği.
OpenAI'ın "Prensiplerimiz" adlı metninin tamamını aşağıdan okuyabilirsiniz:
Yapay zeka, toplumun pek çok yönünü önemli ölçüde iyileştirme potansiyeline sahiptir.
Bu teknoloji, kendisinden öncekiler gibi, insanlara daha fazla yetenek ve imkan sağlayacaktır; insanların yapay zeka ile yapabilecekleri, buharlı makineler veya elektrikle yapabildiklerini gölgede bırakacaktır. Şu anda hayal etmesi güç bir düzeyde yaygın bir refahın hüküm sürdüğü; bireysel potansiyelin, iradenin ve tatminin önemli ölçüde arttığı bir dünya tasavvur ediyoruz. Bilim kurgu filmlerinde sadece hayalini kurduğumuz pek çok şey gerçeğe dönüşebilir ve çoğu insan bugünkünden çok daha anlamlı hayatlar yaşayabilir.
Ancak bu sonuç garanti değildir. Gelecekteki güç, ya süper zekayı kullanan ve kontrol eden küçük bir grup şirketin elinde toplanacak ya da merkezi olmayan bir şekilde halkın elinde olacaktır. Biz ikincisinin çok daha iyi olduğuna inanıyoruz ve amacımız gerçek anlamda genel yapay zekayı mümkün olduğunca çok insanın kullanımına sunmaktır. Bugün olduğu gibi gelecek de tamamen kötü ya da tamamen iyi olmayacaktır; ancak şu an alacağımız kararlar iyiliği maksimize etmeye yardımcı olabilir.
Misyonumuz, YGP'nin (Yapay Genel Zeka) tüm insanlığa fayda sağlamasını temin etmektir. İşte çalışmalarımıza rehberlik eden ilkeler:
1. Demokratikleşme
Bu teknolojinin gücü az sayıda kişinin elinde toplama potansiyeline karşı direneceğiz. Bu, herkese yapay zekaya erişim sağlamanın yanı sıra, yapay zeka hakkındaki temel kararların sadece yapay zeka laboratuvarları tarafından değil, demokratik süreçlerle ve eşitlikçi ilkelerle alınmasını sağlamamız gerektiği anlamına gelir.
2. Güçlendirme
Yapay zekanın herkesi hedeflerine ulaşma, daha fazla öğrenme, daha mutlu ve tatmin olmuş hissetme ve hayallerinin peşinden gitme konularında güçlendirebileceğine; toplumun bir bütün olarak bundan faydalanacağına inanıyoruz. Buna ulaşmak, insanların önümüzdeki devasa potansiyeli keşfetmelerine izin vermeyi gerektirir ve bunu mümkün kılan ürünler geliştirmeliyiz. Kullanıcılar, hizmetlerimizle giderek daha değerli görevleri güvenilir bir şekilde yerine getirebilmelidir.
Dünya çeşitliliklerle doludur ve insanların farklı ihtiyaçları vardır. Kullanıcılarımıza ihtiyaç duydukları özerkliği vermek ve makul ölçüde elimizden gelen en geniş alanı tanımak istiyoruz. Kullanıcılarımıza hizmetlerimizi nasıl kullanacakları konusunda geniş bir serbestlik tanımak istesek ve yapay zekanın genel olarak büyük fayda sağlayacağına yürekten inansak da, bunu zararları minimize edecek şekilde inşa etme ve sunma sorumluluğumuz var. Bu, elbette felaket düzeyindeki zararları önlemeyi, aynı zamanda yerel zararları en aza indirmeyi ve potansiyel aşındırıcı toplumsal etkilerden kaçınmayı içerir. Bu durum, belirsizlik karşısında temkinli davranmayı ve daha fazla kanıt elde edildikçe kısıtlamaları esnetmeyi gerektirecektir.
3. Evrensel Refah
Herkesin mükemmel bir yaşama sahip olabileceği bir gelecek istiyoruz. Büyük işlem gücüne sahip, kullanımı kolay yapay zeka sistemlerini herkesin eline vererek, insanların değer yaratmanın yeni yollarını bulacağına ve özellikle yeni bilimsel keşiflerle herkes için yaşam kalitesini devasa oranda artıracağına inanıyoruz. Refahın tam olarak gerçekleşmesi ve geniş çapta paylaşılması için şunlara inanıyoruz:
- Hükümetlerimizin, herkesin önümüzdeki değer yaratma sürecine katılabilmesini sağlamak için yeni ekonomik modelleri değerlendirmesi gerekebilir.
- Devasa miktarda yapay zeka altyapısı inşa etmeli ve bu altyapının maliyetlerini ciddi oranda düşürecek yeni teknolojiler geliştirmeliyiz.
Tuhaf görünen pek çok adımımız (gelirimiz nispeten düşükken devasa miktarda işlem gücü satın almamız, maliyetleri düşürmek ve teknolojimizi kolaylaştırmak için dikey entegrasyona gitmemiz, dünyanın dört bir yanında veri merkezleri inşa etmek için bastırmamız ve çok daha fazlası) evrensel refah dolu bir geleceğe olan temel inancımızdan kaynaklanmaktadır.
4. Dayanıklılık
Yapay zeka yeni riskler getirecektir ve biz bunları çözmek için diğer şirketler, ekosistemler, hükümetler ve toplumla birlikte çalışacağız. Bu çalışmaları desteklemek için Vakfımızın kaynaklarından önemli ölçüde yararlanacağız. Hiçbir yapay zeka laboratuvarı iyi bir geleceği tek başına garanti edemez. Örneğin, yeni bir patojen oluşturmayı kolaylaştırabilecek son derece yetenekli modeller olabilir ve buna karşı patojenden bağımsız karşı önlemler geliştirmek için toplum çapında bir yaklaşıma ihtiyacımız var. Bir başka örnek olarak, modellerin siber güvenlik yetenekleri arttıkça, bu modelleri açık kaynaklı yazılımları ve kritik altyapıları güvence altına almak için hızla kullanmalı, aynı zamanda modelleri herkesin daha güvenli yazılımlar oluşturmasına yardımcı olacak şekilde eğitmeliyiz.
Bu, uzun süredir uyguladığımız kademeli yaygınlaştırma stratejimizin bir genişlemesidir; toplumun her bir yeni yapay zeka yetenek seviyesiyle mücadele etmesi, onu anlaması, entegre etmesi ve birlikte en iyi yolu bulması gerektiğine inanıyoruz. Bu bir vakumda yapılamaz; toplum ve teknoloji birlikte evrilir ve bu zaman gerektirir. Bunu tek güvenlik stratejimiz olarak görmüyoruz; aynı zamanda güvenli sistemler yapmaya ve teknik hizalama (alignment) konusundaki harika çalışmalarımıza devam etmeye ihtiyacımız var. Çalışmalarımızda daha fazla ilerlemeden önce; ciddi hizalama, güvenlik veya toplumsal sorunları yeterince çözdüğümüzden emin olmak için hükümetler, uluslararası kuruluşlar ve diğer YGP projeleriyle iş birliği yapmamız gereken dönemler olacağını öngörüyoruz.
5. Uyarlanabilirlik
Çok öngörülemez bir geleceğin zorluklarıyla başa çıkmanın tek yolunun, daha fazlasını öğrendikçe konumlarımızı güncellemeye hazır olmak olduğuna inanmaya devam ediyoruz. Ayrıca OpenAI'ın birkaç yıl öncesine göre dünyada çok daha büyük bir güç olduğunu kabul ediyoruz ve faaliyet ilkelerimiz değiştiğinde bunun ne zaman, nasıl ve neden olduğu konusunda şeffaf olacağız. Somut bir örnek olarak; evrensel refahın gerçekten önemli kalacağından oldukça emin olsak da, gelecekte daha fazla dayanıklılık için bir miktar güçlendirmeden (empowerment) ödün vermemiz gereken dönemler hayal edebiliyoruz.
Yapay zeka gelişimi pek çok sürprizi beraberinde getirdi ve daha fazlası da yolda. Teknoloji ilerledikçe, ortaya çıkan (emergent) davranışlarını tahmin etmek giderek zorlaşacaktır. Yetenekleri dikkatli bir şekilde ilerleterek, sistemleri kademeli olarak sunarak ve dünyayla olan etkileşimlerinden ders çıkararak bu belirsizliği kucaklıyoruz. Çok uzun zaman önce değil, toplum üzerindeki etkilerinden emin olamadığımız için GPT-2'nin ağırlıklarını (weights) paylaşma konusunda endişeliydik. Geriye dönüp baktığımızda bunun yersiz bir endişe olduğu açık, ancak bu bizi en önemli buluşlarımızdan biri olan kademeli yaygınlaştırma stratejisini keşfetmeye yöneltti.
Teknoloji gelişmeye devam ederken çok etkili bir aşamaya giriyoruz. Her kararımızda bizi eleştirmek son derece adildir; yaptığımız işin ağırlığı göz önüne alındığında çok büyük miktarda denetimi hak ediyoruz. Her şeyi doğru yapamayacağız ama hızla öğrenecek ve rotamızı düzelteceğiz.
Geleceği geçmişten daha iyi hale getirmek için üzerimize düşeni yapmaya kararlıyız; böylesine önemli bir işi üstlendiğimiz için kendimizi şanslı hissediyoruz.
