LONDRA, 16 Haziran (IPS) – Bir teknolojinin düzenlemesi, genellikle bir ürün veya hizmette kullanıldıktan veya daha kötüsü riskler ortaya çıktıktan sonra ortaya çıkar. Bu duyarlı yaklaşım, şu anda yapay zekada olduğu gibi, gerçek zarar zaten veriliyorsa üzücüdür. Varoluşsal risk ile yaklaşım, insan varlığının sonunu riske atacaktır.
Geçtiğimiz birkaç ay içinde, ChatGPT ve GPT4 gibi üretken yapay zeka (AI) sistemleri, hiçbir (resmi) düzenleyici kontrol olmadan kullanıma sunuldu. Bu, çok sayıda düzenlemeye ve güvenlik standardına uyması gereken yeni plastik ördek oyuncaklarının tam tersidir. Gerçek şu ki, düzenleme kaplumbağası hareket ederken yapay zeka tavşanı hızla ilerliyor ama çok geride. Bu artık değişmeli.
Dünyanın dört bir yanındaki AI uzmanlarını şok eden şey, GPT 3.5’ten GPT 4’e olan son ilerleme oldu. Birkaç ay içinde GPT’nin kapasitesi, örneğin American Baro sınavlarında 10. yüzde aralığında performans göstermekten, GPT-4 ile 90. yüzdelik dilim.
Neden önemli, diye sorabilirsiniz. İlerleme oranı önümüzdeki 3, 6 veya 12 ay için aynı oranda ileriye doğru tahmin edilseydi, bu hızla çok güçlü bir yapay zekaya yol açardı. Kontrol edilmezse, bu yapay zeka yalnızca çok fazla fayda sağlamakla kalmayıp aynı zamanda çok fazla zarar verme gücüne de sahip olabilir ve bir kez serbest bırakıldığında artık kontrol edilememe gibi ölümcül bir riskle karşı karşıya kalabilir.
Düzenleme ve kontrole ihtiyaç duyan veya ihtiyaç duyacak olan AI’nın çok çeşitli yönleri vardır. Yeni Büyük Dil Modellerinden (LLM’ler) oldukça farklı olarak, bugün dikkat merkezli sosyal medya modelleri, derin sahtekarlıklar, önyargının varlığı ve AI kontrollü gözetimin kötüye kullanılması gibi birçok örnek var.
Bunlar, işle ilişkimizde radikal bir değişikliğe ve ofis işleri de dahil olmak üzere, şimdiye kadar büyük ölçüde otomasyondan muaf olan belirli işlerin eskimesine yol açabilir. Sizi bir şey satın almaya veya belirli bir şekilde düşünmeye veya oy vermeye ikna etmeye çalışan uzman yapay etkileyicilerin de yakında gelmesi bekleniyor – bazılarına göre bu süreç çoktan başladı.
Kontrol olmadan, giderek daha zeki yapay zekaya doğru ilerleme, Yapay Genel Zekaya (AGI – çok çeşitli alanlarda bir insanın yeteneğine eşdeğerdir) ve Süper zekaya (çok üstün zeka) yol açacaktır. Gezegendeki en yüksek zeka konumumuzu kaybederken dünya, insanlığın gerileyişine ve muhtemelen ölümüne işaret edecek bir döneme girecekti.
Bu çok yakın zamandaki ilerleme hızı, “Yapay Zeka / Derin Öğrenmenin vaftiz babaları” olarak anılan Yoshua Bengio ve Geoffrey Hinton’un AGI geliştirmek için öngörülen zaman çerçevelerini tamamen yeniden değerlendirmelerine neden oldu. Son zamanlarda, hem tahminlerini radikal bir şekilde öne çıkardılar hem de şimdi AGI’ye sırasıyla 5 ila 50 ve 5 ila 20 yılda ulaşılacağını değerlendiriyorlar.
İnsanlık, bilerek yok olma riskini almamalıdır, bu da insanlığın Gelişmiş Yapay Zeka geliştirilmeden önce kontrolleri devreye sokması gerektiği anlamına gelir. Yapay zekaya insan tercihlerini uygulama hedefinin verildiği Stuart Russell’ın Yararlı Yapay Zekası gibi Gelişmiş Yapay Zekayı kontrol etmek için çözümler önerilmiştir. Bu tercihlere uyması gerekecek ve bunları tam olarak yorumlamamış olabileceğini takdir edeceği için alçakgönüllü davranacak ve kapatmaya hazır olacaktır.
Böyle bir sistemin geliştirilmesinin pratikte gerçekleştirilmesi oldukça zordur. Böyle bir çözümün zamanında bulunup bulunmayacağı, tavşanın en son ileri atılımından önce bile sorgulanabilirdi. Birinin zamanında hazır olup olmayacağı artık çok önemli – bu nedenle Geoffrey Hinton, tüm AI araştırma harcamalarının %50’sinin AI Güvenliği için yapılmasını tavsiye etti.
Bu kapsamlı ancak zorlayıcı çözümlerin dışında, riski azaltmak için yakın zamanda önerilen, Büyük Dil Modeli için hesaplama gücüne erişimin sınırlandırılmasından Uluslararası’ya eşdeğer bir yapay zeka ajansının oluşturulmasına kadar uzanan birkaç pragmatik fikir vardır. Viyana Atom Enerjisi Kurumu. Pratikte ihtiyaç duyulan şey, Yararlı Yapay Zeka gibi teknik çözümlerin, yapay zeka geliştirmeye ilişkin pragmatik çözümlerin ve uygun bir Yönetişim Çerçevesinin bir kombinasyonudur.
Yapay zeka sistemleri, günümüzün bilgisayar bulutlarındaki birçok yazılım hizmeti gibi, sınırları aşabilir. Birlikte çalışabilirlik önemli bir zorluk olacak ve yönetişime yönelik küresel bir yaklaşıma açıkça ihtiyaç duyulacak. Küresel meşruiyete sahip olmak için, bu tür girişimler uygun bir küresel organ tarafından yönetilen koordineli bir eylem planının parçası olmalıdır. Bu, BM Yapay Zeka Çerçeve Sözleşmesi’nin (UNFCAI) oluşturulmasıyla Birleşmiş Milletler olmalıdır.
Şu anda önümüzdeki on iki ay içinde ortaya çıkması beklenen bağlayıcı anlaşmalar, Avrupa Birliği’nden AB Yapay Zeka Yasası ve Avrupa Konseyi’nden bir Yapay Zeka Çerçeve Sözleşmesidir. Avrupa Konseyi’nin çalışmaları yapay zekanın insan hakları, demokrasi ve hukukun üstünlüğü üzerindeki etkisine odaklanmaktadır. Avrupa Konseyi Antlaşmalarına katılım, diğer ülkelerin imzacı olarak memnuniyetle karşılanmasıyla Avrupa Birliği’nden çok daha geniş olsa da, kapsamı tam anlamıyla küresel değildir.
BM’nin en önemli avantajı, Rusya ve Çin de dahil olmak üzere batıdan farklı değer kümelerine sahip tüm ülkeleri dahil etmeye çalışacak olmasıdır. Çin, dünyadaki en güçlü iki yapay zeka sektöründen birine sahip. Birçoğu, eninde sonunda bir BM rejiminin gerekli olacağını düşünüyor – ancak bu “nihayetinde” terimi, son olaylarla tamamen alt üst oldu. AGI’nin 5 yıl içinde ortaya çıkma olasılığı, bir rejimin o zamana kadar tam olarak işlemesi gerektiğini gösteriyor. G7’de daha çevik bir kurumsal ev bulunabilir, ancak bu küresel meşruiyetten, kapsayıcılıktan ve sivil toplumun katkısından yoksun olacaktır.
Bazı insanlar, Çin, Rusya ve diğer otoriter ülkelerle yapıcı bir şekilde ilişki kurarak onların insan hakları ve demokrasi yaklaşımlarını onayladığınızdan endişe duyuyor. Bu tür konularda politikalarda büyük farklılıklar olduğu açıktır, ancak Yapay Zeka gibi ciddi bir şeyin etkin yönetimi bu tür endişelerle tehlikeye atılmamalıdır.
Son yıllarda BM yapay zeka konusunda sınırlı ilerleme kaydetti. 2020’de Genel Sekreter, küresel yapay zeka işbirliği konusunda çok paydaşlı bir danışma organı kurulması çağrısında bulundu. Üç yıl sonra hala benzer bir danışma kurulu öneriyor. Bu gecikme son derece üzücü ve acilen düzeltilmesi gerekiyor. Bu nedenle, Genel Sekreter’in son birkaç gün içinde, AI’nın küresel yönetişimine ilişkin bir Anlaşma da dahil olmak üzere, AI yönetişimi ile ilgili güçlü son tekliflerine tanık olmak özellikle yüreklendirici.
AB komiseri Margrethe Vestager, ulusal, ardından benzer düşünen devletler ve ardından BM olmak üzere üç aşamalı bir süreç çağrısında bulundu. Soru, üçü için de yeterli zamanın olup olmadığıdır. BM Genel Sekreteri’nin bu sonbaharda Birleşik Krallık’ta Yapay Zeka Güvenliği konulu bir Zirve düzenlemek için önerilen Birleşik Krallık girişimini yakın zamanda onaylaması olumlu bir gelişmedir.
İnternet Yönetişim Forumu (IGF) 2005 yılında kurulmuştur ve çeşitli paydaş gruplarından insanları İnternet ile ilgili konuları tartışmak üzere eşit kişiler olarak bir araya getirmeye hizmet eder. Yapay zeka söz konusu olduğunda, politika oluşturma böyle bir forumdan, Çok Paydaşlı bir Yapay Zeka Yönetişim Forumundan (AIGF) yararlanabilir.
Bu, dünyanın dört bir yanından paydaşların izlenecek ilkeler, AI’nın acil AI Global Yönetişimi gerektiren yönleri ve her sorunu çözme yolları ile ilgili görüş alışverişinde bulunabilecekleri bir başlangıç forumu sağlayacaktır. Kritik olarak, AI’nın Küresel Yönetişimi için kesin bir zaman çizelgesine sahip net bir Yol Haritasına ihtiyaç vardır.
Bir AIGF, AI için yeni üst düzey danışma organının çalışmasını destekleyebilir ve her ikisi de, AI hakkında bir BM Çerçeve Sözleşmesinin kurulmasına yol açan yol haritasının geliştirilmesiyle görevlendirilebilir.
Son aylarda AI tavşan, kısa sürede uzun bir yol kat etme yeteneğini gösterdi. Kural kaplumbağası başlangıç çizgisinden ayrıldı ama yetişmesi gereken çok şey var. Yarışın uzunluğu henüz kısaltıldı, bu nedenle tavşanın son sürat koşusu ciddi bir endişe kaynağı. Ezop Masalı’nda, kaplumbağa yarışı kazanır çünkü kendine aşırı güvenen tavşan yol kenarında siesta yapmıştır. İnsanlık, AI’nın da aynı şeyi yapacağını varsaymamalıdır.
AB AI Yasasını ve Avrupa Konseyi’nin AI Çerçeve Sözleşmesini tamamlamak için uyumlu bir çaba gerekmektedir. Bu arada BM’de, paydaşların görüşlerini paylaşmak için acilen bir araya getirilmesi ve etkili, zamanında ve küresel bir AI yönetişim yapısı oluşturmak için devletlerle birlikte çalışması gerekiyor.
Yapay Zekanın yönetişimine ilişkin BM Anlaşması açıkça ifade edilmeli ve Yapay Zeka Güvenliği çağını başlatan etkili ve zamanında küresel yönetişim beklentisine en yüksek küresel öncelik verilmelidir. Bu sonbaharda Birleşik Krallık’ta yapılması önerilen Yapay Zeka Güvenliği zirvesi ilk kontrol noktasını sağlamalıdır.
Robert Whitfield One World Trust’ın Başkanı ve Dünya Federalist Hareketi’nin / Hükümet Politikası Enstitüsü’nün Yapay Zeka Üzerine Ulusötesi Çalışma Grubu’nun Başkanıdır.
IPS BM Bürosu
@IPSNewsUNBureau’yu takip edin
Instagram’da IPS News BM Bürosunu takip edin
© Inter Press Service (2023) — Tüm Hakları SaklıdırOrijinal kaynak: Inter Press Service