ISC'nin kılavuzu, üst düzey ilkeler ile pratik, uygulanabilir politika arasındaki boşluğu kapatmak için tasarlanmış kapsamlı bir çerçeve sunmaktadır. Gelişmekte olan teknolojilerin sunduğu fırsatlar ve riskler konusunda ortak bir anlayışa duyulan acil ihtiyaca yanıt vermektedir. Bu, hızla değişen dijital çağımızda politika alanında çalışanlar için önemli bir belgedir.
Çerçeve, yapay zeka ve türevlerinin potansiyelini, ekonomi, politika, çevre ve güvenlik gibi dış faktörlerin yanı sıra insan ve toplumsal refahı da kapsayan kapsamlı bir bakış açısıyla araştırıyor. Kontrol listesinin bazı yönleri, bağlama bağlı olarak diğerlerinden daha alakalı olabilir, ancak bazılarının belirli durumlarda ilgisiz olduğu hızlı bir şekilde tanımlanabilse bile, tüm alanlar dikkate alınırsa daha iyi kararlar alınması daha muhtemel görünmektedir. Bu, kontrol listesi yaklaşımının doğal değeridir.
“Hızlı teknolojik yeniliklerin ve karmaşık küresel zorlukların damgasını vurduğu bir çağda, ISC'nin potansiyel etkilerin kapsamlı ve çok boyutlu analizine yönelik çerçevesi, liderlere bilinçli ve sorumlu kararlar alma gücü veriyor. Teknolojik olarak ilerledikçe bunu etik, sosyal ve ekonomik sonuçları dikkatle değerlendirerek yapmamızı sağlar”.
Peter Gluckman, ISC Başkanı
Diğerlerinin yanı sıra UNESCO, OECD, Avrupa Komisyonu ve BM tarafından üst düzey ilkeler yayınlanmış ve potansiyel yönetişim, düzenleme, etik ve güvenlik konularına ilişkin çeşitli tartışmalar devam ederken, bu tür ilkeler ile yönetişim veya düzenleyici çerçeve. ISC, politika yapıcılara yönelik yeni kılavuzu aracılığıyla bu ihtiyacı karşılıyor.
Politika yapıcılara yönelik bu rehberin amacı, düzenleyici bir rejimi yasaklamak değil, hükümetler ve çok taraflı sistem de dahil olmak üzere paydaşlar tarafından geliştirilebilecek her türlü değerlendirme ve düzenleme sürecini destekleyebilecek uyarlanabilir ve gelişen bir analitik çerçeve önermektir.
"Çerçeve, teknolojinin hem şimdi hem de geleceğe yönelik etkileri konusunda fikir birliği oluşturabileceğimiz bir temel sağladığı için yapay zeka hakkındaki küresel tartışmada kritik bir adımdır".
Hema Sridhar, Yeni Zelanda Savunma Bakanlığı Eski Baş Bilim Danışmanı ve şu anda Kıdemli Araştırma Görevlisi Fellow, Auckland Üniversitesi, Yeni Zelanda.
Ekim 2023'ten bu yana, yapay zekanın etiği ve güvenliğinin daha fazla dikkate alındığı birçok önemli ulusal ve çok taraflı girişim gerçekleştirildi. Yapay zekanın finans, hükümet, hukuk ve eğitim gibi bazı kritik sistemlerimizin yanı sıra farklı bilgi sistemleri (bilimsel ve yerel bilgi dahil) üzerindeki etkileri giderek artan bir endişe kaynağıdır. Çerçeve ayrıca bu yönleri de yansıtmaktadır.
ISC Üyelerinden ve uluslararası politika oluşturma topluluğundan bugüne kadar alınan geri bildirimler, artık politika yapıcılara bir rehber olarak yayınlanan analitik çerçevenin revize edilmiş versiyonuna yansıtılmıştır.
Politika yapıcılar için bir rehber: Yapay zeka, büyük dil modelleri ve ötesi dahil olmak üzere hızla gelişen teknolojilerin değerlendirilmesi
Bu tartışma belgesi, yapay zeka ile ilgili olarak gerçekleşen çok sayıda küresel ve ulusal tartışmayı bilgilendirmek için bir başlangıç çerçevesinin ana hatlarını sunmaktadır.
Kuruluşunuzda kullanmak üzere çerçeveyi indirin
Burada çerçeve aracını kuruluşunuzda kullanılmak üzere düzenlenebilir bir Excel sayfası olarak sunuyoruz. Açık kaynak formatını tercih ediyorsanız lütfen iletişime geçin [e-posta korumalı].
Giriş
Hızla gelişen teknolojiler, kullanımları, yönetişimleri ve potansiyel düzenlemeleri söz konusu olduğunda zorlu sorunlar ortaya çıkarmaktadır. Yapay zeka (AI) ve kullanımına ilişkin devam eden politika ve kamuoyu tartışmaları, bu konuları yoğun bir şekilde odağa taşıdı. Yapay zekaya yönelik geniş ilkeler UNESCO, OECD, BM ve Birleşik Krallık'ın Bletchley Deklarasyonu da dahil olmak üzere diğerleri tarafından duyuruldu ve örneğin Avrupa Birliği (AB) yapay zeka aracılığıyla teknolojinin bazı yönlerinin düzenlenmesine yönelik yargısal girişimler ortaya çıkıyor. Yasası veya son Amerika Birleşik Devletleri Yapay Zeka Yürütme Emri.
Yapay zekanın kullanımı bu forumlarda ve diğer forumlarda, jeopolitik ayrımlarda ve tüm gelir seviyelerindeki ülkelerde uzun uzadıya tartışılırken, üst düzey ilkelerin geliştirilmesi ile bunların düzenleyici, politika, yönetişim yoluyla uygulamaya dahil edilmesi arasında ontolojik bir boşluk var. veya yönetim yaklaşımları. Prensipten pratiğe giden yol yeterince tanımlanmamıştır, ancak yapay zeka geliştirme ve uygulamasının doğası ve temposu, ilgili ilginin çeşitliliği ve olası uygulamaların aralığı göz önüne alındığında, herhangi bir yaklaşım aşırı derecede genel veya kuralcı olamaz.
Bu nedenlerden dolayı sivil toplum bilim topluluğu özel bir rol oynamaya devam ediyor. Sosyal ve doğa bilimlerinden çoğulcu üyeliğiyle Uluslararası Bilim Konseyi (ISC), Ekim 2023'te hızla ilerleyen dijital teknolojiyle ilişkili riskleri, faydaları, tehditleri ve fırsatları değerlendiren bir ön analitik çerçeve sunan bir tartışma belgesi yayınladı. Yapay zekayı dikkate alacak şekilde geliştirilmiş olsa da doğası gereği teknolojiden bağımsızdır ve sentetik biyoloji ve kuantum gibi yeni ortaya çıkan ve yıkıcı teknolojilere uygulanabilir. Bu tartışma belgesi akademisyenlerden ve politika yapıcılardan geri bildirim aldı. Yoğun geri bildirimler böyle bir analizin yapılmasını gerekli kıldı ve yapay zeka gibi yeni ortaya çıkan teknolojilere yönelik değerli bir yaklaşım olarak öne çıktı.
Çerçevenin amacı, hükümetler, ticaret müzakerecileri, düzenleyiciler, sivil toplum ve sanayi de dahil olmak üzere tüm paydaşları bu teknolojilerin gelişimi konusunda bilgilendirecek ve onlara bu teknolojilerin olumlu ya da olumsuz sonuçlarını nasıl değerlendirebilecekleri konusunda bir çerçeve oluşturmalarına yardımcı olacak bir araç sağlamaktır. teknolojinin kendisi ve daha spesifik olarak özel uygulaması. Bu analitik çerçeve hükümet ve endüstrinin çıkarlarından bağımsız olarak geliştirilmiştir. Teknolojinin tüm yönlerini ve kapsamlı istişare ve geri bildirime dayalı sonuçlarını kapsayan bakış açıları açısından maksimum düzeyde çoğulcudur.
Politika yapıcılara yönelik bu tartışma belgesinin amacı, düzenleyici bir rejimi yasaklamak değil; hükümetler ve çok taraflı sistem de dahil olmak üzere paydaşlar tarafından geliştirilebilecek her türlü değerlendirme ve düzenleme sürecini destekleyebilecek uyarlanabilir ve gelişen bir analitik çerçeve önermek.
Karar vericiler, küresel ve ulusal düzeyde, yapay zeka gibi yeni bir teknolojinin risklerini ve getirilerini dengelemek için uygun politika ortamlarını ve araçları değerlendirirken, analitik çerçevenin, tüm potansiyel sonuçların yeterince yansıtıldığından emin olmak için tamamlayıcı bir araç olması amaçlanıyor.
Arka plan: neden analitik bir çerçeve?
Yapay zekanın karmaşıklığı ve sonuçlarıyla birlikte teknolojilerin hızla ortaya çıkışı, büyük fayda sağlayan birçok iddiayı da beraberinde getiriyor. Ancak bu aynı zamanda bireysel düzeyden jeostratejik düzeye kadar önemli risklere ilişkin korkuları da tetikliyor.1 Kamuya açık olarak ifade edilen görüşler yelpazenin en uç noktalarında yer alma eğiliminde olduğundan, bugüne kadar yapılan tartışmaların çoğu ikili anlamda ele alınmıştır. Yapay zeka lehine veya aleyhine öne sürülen iddialar genellikle abartılı ve teknolojinin doğası göz önüne alındığında değerlendirilmesi zor.
Abartılılığın yerini kalibre edilmiş ve daha ayrıntılı değerlendirmelerin aldığı durumlarda daha pragmatik bir yaklaşım gereklidir. Yapay zeka teknolojisi gelişmeye devam edecek ve tarih, hemen hemen her teknolojinin hem faydalı hem de zararlı kullanımlarının olduğunu gösteriyor. Dolayısıyla soru şu: Bazıları varoluşsal büyüklükte olabilecek zararlı sonuçların riskini azaltırken, bu teknolojiden faydalı sonuçlara nasıl ulaşabiliriz?
Gelecek her zaman belirsizdir ancak yapay zeka ve üretken yapay zeka konusunda nispeten ihtiyatlı bir yaklaşımı teşvik edecek yeterli sayıda güvenilir ve uzman ses mevcuttur. Ayrıca yapay zeka, çok çeşitli kullanıcılar tarafından geniş kullanıma ve uygulamaya sahip bir teknolojiler sınıfı olduğundan, bir sistem yaklaşımı da gereklidir. Bu, herhangi bir yapay zeka kullanımının bireyler, sosyal yaşam, sivil yaşam, toplumsal yaşam ve küresel bağlamdaki sonuçlarını değerlendirirken tüm bağlamın dikkate alınması gerektiği anlamına gelir.
Diğer birçok teknolojinin aksine, dijital ve ilgili teknolojiler için geliştirme, piyasaya sürme ve uygulama arasındaki süre son derece kısadır ve bu süre büyük ölçüde yapım şirketlerinin veya ajansların çıkarları nedeniyledir. Doğası gereği ve dijital omurgaya dayandığı göz önüne alındığında, yapay zeka, büyük dil modellerinin geliştirilmesinde de görüldüğü gibi, hızla yaygınlaşan uygulamalara sahip olacak. Sonuç olarak, bazı özellikler ancak serbest bırakıldıktan sonra ortaya çıkabilir, bu da hem kötü niyetli hem de iyi niyetli öngörülemeyen sonuçların ortaya çıkma riski olduğu anlamına gelir.
Özellikle farklı bölge ve kültürlerdeki önemli toplumsal değer boyutları, herhangi bir kullanımın nasıl algılandığını ve kabul edildiğini etkileyecektir. Dahası, egemen çıkarlar ve çok taraflı çıkarların sürekli olarak kesişmesi ve dolayısıyla rekabeti ve bölünmeyi körüklemesi nedeniyle, jeostratejik çıkarlar zaten tartışmaya hakim durumda.
Bugüne kadar, sanal teknolojiye ilişkin düzenlemelerin çoğu, AB Yapay Zeka Kanunu'na rağmen, büyük ölçüde 'ilkeler' ve gönüllü uyumluluk çerçevesinde değerlendirildi.2 ve benzer şekilde, daha uygulanabilir ancak biraz dar düzenlemelere doğru bir geçiş görüyoruz. Etkili bir küresel veya ulusal teknoloji yönetişimi ve/veya düzenleyici sistem oluşturmak zorlu olmaya devam ediyor ve açık bir çözüm yok. Mucitten üreticiye, kullanıcıya, hükümete ve çok taraflı sisteme kadar zincir boyunca çok sayıda risk bilgisine dayalı karar alma sürecine ihtiyaç duyulacaktır.
Diğerlerinin yanı sıra UNESCO, OECD, Avrupa Komisyonu ve BM tarafından üst düzey ilkeler yayınlanmış ve potansiyel yönetişim, düzenleme, etik ve güvenlik konularına ilişkin çeşitli üst düzey tartışmalar devam ederken, bu ilkeler arasında büyük bir boşluk vardır. ilkeler ve bir yönetişim veya düzenleyici çerçeve. Bunun ele alınması gerekiyor.
Başlangıç noktası olarak ISC, herhangi bir geliştiricinin, düzenleyicinin, politika danışmanının, tüketicinin veya karar vericinin başvurabileceği hususların bir sınıflandırmasını geliştirmeyi düşünmektedir. Bu teknolojilerin geniş etkileri göz önüne alındığında, böyle bir sınıflandırmanın dar odaklı bir çerçeve yerine sonuçların bütününü dikkate alması gerekir. Jeostratejik çıkarların karar alma üzerindeki etkisi nedeniyle küresel parçalanma artıyor ve bu teknolojinin aciliyeti göz önüne alındığında, bağımsız ve tarafsız seslerin birleşik ve kapsayıcı bir yaklaşımı ısrarla savunması hayati önem taşıyor.
1) Hindustan Times. 2023. G20 teknolojik değişim konusunda uluslararası bir panel kurmalı.
https://www.hindustantimes.com/opinion/g20-must-set-up-an-international-panel-on-technological-change-101679237287848.html
2) AB Yapay Zeka Yasası. 2023. https://artificialintelligenceact.eu
Analitik bir çerçevenin geliştirilmesi
ISC, doğa bilimlerini ve sosyal bilimleri bütünleştiren başlıca küresel sivil toplum kuruluşudur. Küresel ve disiplinli erişimi, özellikle bu alandaki mevcut seslerin büyük ölçüde endüstriden veya büyük teknolojik güçlerin politika ve siyasi topluluklarından geldiği göz önüne alındığında, önümüzdeki karmaşık seçimleri bilgilendirmek için bağımsız ve küresel olarak uygun tavsiyeler üretme konusunda iyi bir konumda olduğu anlamına gelir.
Hükümet dışı bir değerlendirme sürecinin de dikkate alındığı kapsamlı bir tartışma sürecinin ardından ISC, en yararlı katkısının, herkes tarafından söylem ve karar almanın temeli olarak kullanılabilecek uyarlanabilir bir analitik çerçeve üretmek olacağı sonucuna vardı. Ortaya çıkan resmi değerlendirme süreçleri de dahil olmak üzere paydaşlar.
Ekim 2023'te tartışma ve geri bildirim için yayınlanan ön analitik çerçeve, hem hükümet hem de sivil toplum kuruluşları tarafından kullanılmak üzere tasarlanmış kapsamlı bir kontrol listesi biçimini aldı. Çerçeve, yapay zeka ve türevleri gibi bir teknolojinin potansiyelini, insan ve toplumsal refahın yanı sıra ekonomi, politika, çevre ve güvenlik gibi dış faktörleri de kapsayan geniş bir mercek aracılığıyla tanımladı ve araştırdı. Kontrol listesinin bazı yönleri, bağlama bağlı olarak diğerlerinden daha alakalı olabilir, ancak bazılarının belirli durumlarda ilgisiz olduğu hızlı bir şekilde tanımlanabilse bile, tüm alanlar dikkate alınırsa daha iyi kararlar alınması daha muhtemel görünmektedir. Bu, kontrol listesi yaklaşımının doğal değeridir.
Ön çerçeve, potansiyel fırsatların, risklerin ve etkilerin bütünlüğünü sunmak amacıyla Uluslararası Hükümet Bilim Tavsiyeleri Ağı'nın (INGSA) dijital refah3 ve OECD Yapay Zeka Sistemlerinin Sınıflandırılması Çerçevesi4 dahil olmak üzere önceki çalışma ve düşüncelerden elde edilmiştir. AI'nın. Bu önceki ürünler, zamanları ve bağlamları göz önüne alındığında amaçları açısından daha sınırlıydı; hem kısa hem de uzun vadede tüm konuları sunan kapsayıcı bir çerçeveye ihtiyaç vardır.
Tartışma belgesi yayınlandığından bu yana birçok uzman ve politika yapıcıdan önemli destek aldı. Birçoğu, teknolojinin riskleri ve sonuçlarının kasıtlı ve proaktif olarak değerlendirilmesine izin veren ve bunu yaparken her zaman bireyden topluma ve sistemlere kadar boyutların bütününü göz önünde bulunduran uyarlanabilir bir çerçeve geliştirme önerisini özellikle onayladı.
Geri bildirim yoluyla yapılan önemli gözlemlerden biri, çerçevede ele alınan sonuçların birçoğunun doğası gereği çok yönlü olduğunun ve birden fazla kategoriye yayıldığının kabul edilmesiydi. Örneğin, dezenformasyon hem bireysel hem de jeostratejik açıdan değerlendirilebilir; dolayısıyla sonuçları geniş kapsamlı olacaktır.
Çerçeveyi test etmek için vaka çalışmalarını veya örnekleri dahil etme seçeneği de önerildi. Bu, farklı bağlamlarda pratikte nasıl kullanılabileceğini gösterecek kılavuzlar geliştirmek için kullanılabilir. Ancak bu önemli bir girişim olabilir ve farklı grupların bu çerçevenin kullanımını nasıl algıladıklarını sınırlayabilir. Bu, en iyi şekilde, belirli yetki alanlarında veya bağlamlarda uzmanlarla birlikte çalışan politika yapıcılar tarafından yapılır.
Ekim 2023'ten bu yana, yapay zekanın etiği ve güvenliğinin daha fazla dikkate alındığı birçok önemli ulusal ve çok taraflı girişim gerçekleştirildi. Yapay zekanın finans, hükümet, hukuk ve eğitim gibi bazı kritik sistemlerimizin yanı sıra farklı bilgi sistemleri (bilimsel ve yerel bilgi dahil) üzerindeki etkileri giderek artan bir endişe kaynağıdır. Gözden geçirilen çerçeve bu hususları daha da yansıtmaktadır.
Bugüne kadar alınan geri bildirimler analitik çerçevenin revize edilmiş versiyonuna yansıtılmıştır ve bu versiyon artık politika yapıcılara bir rehber olarak yayınlanmaktadır.
Çerçeve, yapay zeka ve ilgili teknolojiler bağlamında sunulurken, kuantum ve sentetik biyoloji gibi hızla gelişen diğer teknolojilerin değerlendirmelerine de anında aktarılabilir.
3) Gluckman, P. ve Allen, K. 2018. Hızlı dijital ve ilgili dönüşümler bağlamında refahı anlamak. INGSA.
https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf
4) OECD. 2022. Yapay Zeka Sistemlerinin Sınıflandırılmasına ilişkin OECD Çerçevesi. OECD Dijital Ekonomi Makaleleri, No. 323,#. Paris, OECD Yayınları.
https://oecd.ai/en/classificatio
Çerçeve
Aşağıdaki tablo varsayılan bir analitik çerçevenin boyutlarını sunmaktadır. Her bir alanın neden önemli olabileceğini göstermek için örnekler verilmiştir; bağlamda, çerçeve bağlamsal olarak uygun genişlemeyi gerektirecektir. Platform geliştirmeleri sırasında ortaya çıkan genel sorunlar ile belirli uygulamalar sırasında ortaya çıkabilecek sorunları birbirinden ayırmak da önemlidir. Burada yer alan hiçbir husus öncelikli olarak ele alınmamalı ve bu nedenle tümü incelenmelidir.
Sorunlar genel olarak aşağıda belirtildiği gibi aşağıdaki kategorilere ayrılmıştır:
Tablo, yeni bir teknolojiyi değerlendirirken dikkate alınması gerekebilecek boyutları detaylandırmaktadır.
? INGSA. 2018. Hızlı dijital ve ilişkili dönüşümler bağlamında refahı anlamak.
https://ingsa.org/wp-content/uploads/2023/01/INGSA-Digital-Wellbeing-Sept18.pdf
? Yeni tanımlayıcılar (kapsamlı danışma, geri bildirim ve literatür taraması yoluyla elde edildi)
? OECD Yapay Zeka Sistemlerinin Sınıflandırılması Çerçevesi: Etkili Yapay Zeka politikaları için bir araç.
https://oecd.ai/en/classification
| Kriterler | Bunun analize nasıl yansıtılabileceğine dair örnekler |
| ?Kullanıcıların AI yeterliliği | Sistemle etkileşime girecek olası kullanıcılar sistemin özellikleri konusunda ne kadar yetkin ve bilinçli? İlgili kullanıcı bilgileri ve uyarıları onlara nasıl sağlanacak? |
| ? Etkilenen paydaş | Sistemden etkilenecek öncelikli paydaşlar kimlerdir (bireyler, topluluklar, hassas durumdaki kişiler, sektör çalışanları, çocuklar, politika yapıcılar, profesyoneller vb.)? |
| ? İsteğe bağlılık | Kullanıcılara sistemden çıkma fırsatı veriliyor mu, yoksa çıktıyı sorgulama veya düzeltme fırsatları veriliyor mu? |
| ?İnsan hakları ve demokratik değerlere yönelik riskler | Sistem mahremiyet, ifade özgürlüğü, adalet, ayrımcı olmama vb. dahil ancak bunlarla sınırlı olmamak üzere insan haklarını temel olarak etkiliyor mu? |
| ?İnsanların refahı üzerindeki potansiyel etkiler | Sistemin etki alanları bireysel kullanıcının refahıyla (iş kalitesi, eğitim, sosyal etkileşimler, zihinsel sağlık, kimlik, çevre vb.) ilişkili mi? |
| ? İnsan emeğinin yerinden edilme potansiyeli | Sistemin insanlar tarafından gerçekleştirilen görevleri veya işlevleri otomatikleştirme potansiyeli var mı? Eğer öyleyse, bunun aşağı yönlü sonuçları nelerdir? |
| ? Kimlik, değerler veya bilgi manipülasyonu potansiyeli | Sistem, kullanıcının kimliğini veya kimliğini değiştirebilecek şekilde tasarlanmış mı veya potansiyel olarak buna muktedir mi? Değerler mi belirlendi, yoksa dezenformasyon mu yayılıyor? |
| ? Kendini ifade etme ve kendini gerçekleştirme fırsatları | Yapaylık ve kendinden şüphe etme potansiyeli var mı? Yanlış olma ihtimali var mı? doğrulanamayan uzmanlık iddiaları? |
| ? Öz değer ölçüleri | İdealleştirilmiş benliği tasvir etme baskısı var mı? Otomasyon bir duyunun yerini alabilir mi? kişisel tatmin mi? Sistemle rekabet etme baskısı var mı? iş yeri? Bireysel itibarın dezenformasyona karşı korunması daha mı zor? |
| ? Mahremiyet | Mahremiyetin korunmasına yönelik dağınık sorumluluklar var mı? Kişisel verilerin nasıl kullanıldığına ilişkin varsayımlar yapılıyor mu? |
| ? Özerklik | Yapay zeka sistemi aşırı bağımlılık yaratarak insan özerkliğini etkileyebilir mi? son kullanıcılar? |
| ? İnsan gelişimi | İnsan gelişimi için temel becerilerin kazanılması üzerinde bir etkisi var mı? yürütücü işlevler veya kişilerarası beceriler veya dikkat süresindeki değişiklikler öğrenme, kişilik gelişimi, zihinsel sağlık sorunları vb.? |
| ? Kişisel sağlık bakımı | Kendi kendine teşhis veya kişiselleştirilmiş sağlık hizmetleri çözümleri iddiaları var mı? Öyleyse, düzenleyici standartlara göre doğrulanmış mı? |
| ? Ruh sağlığı | Artan kaygı, yalnızlık veya diğer zihinsel sağlık sorunları riski var mı veya teknoloji bu tür etkileri hafifletebilir mi? |
| ? İnsan evrimi | Büyük dil modelleri ve yapay genel zeka dünyayı değiştirebilir mi? insanın evriminin seyri? |
| ? İnsan-makine etkileşimi | Kullanım zamanla bireylerde beceri kaybına ve bağımlılığa yol açabilir mi? öyle mi insan etkileşimi üzerinde etkileri var mı? |
| Kriterler | Bunun analize nasıl yansıtılabileceğine dair örnekler |
| ? Toplumsal değerler | Sistem toplumun doğasını temelden değiştiriyor mu, daha önce anti-sosyal olarak kabul edilen fikirlerin normalleştirilmesini sağlıyor mu veya uygulandığı kültürün toplumsal değerlerini ihlal ediyor mu? |
| ? Sosyal etkileşimler | Duygusal ilişkiler de dahil olmak üzere anlamlı insan teması üzerinde bir etkisi var mı? |
| ? Nüfus sağlığı | Sistemin toplum sağlığı amaçlarını ilerletme veya baltalama potansiyeli var mı? |
| ? Kültürel ifade | Kültürel tahsisat veya ayrımcılıkta bir artış olası mı yoksa ele alınması daha mı zor? Karar vermede sisteme güvenmek, toplumun kültürel olarak ilgili bölümsel bağlarını dışlıyor mu veya marjinalleştiriyor mu? |
| ? Kamu eğitimi | Öğretmen rolleri veya eğitim kurumları üzerinde bir etkisi var mı? Sistem öğrenciler arasındaki dijital bölünmeyi ve eşitsizliği vurguluyor mu yoksa azaltıyor mu? Bilginin veya eleştirel anlayışın asıl değeri gelişmiş mi yoksa zayıflamış mı? |
| ? Çarpıtılmış gerçekler | Neyin doğru olduğunu ayırt etmek için kullanılan yöntemler hâlâ uygulanabilir mi? Gerçeklik algısı bozuldu mu? |
| Kriterler | Bunun analize nasıl yansıtılabileceğine dair örnekler |
| ? Sanayi sektörü | Sistem hangi sanayi sektöründe (finans, tarım, sağlık, eğitim, savunma vb.) uygulanıyor? |
| ? İş modeli | Sistem hangi işletme fonksiyonunda ve hangi kapasitede kullanılıyor? Sistem nerede kullanılıyor (özel, kamu, kar amacı gütmeyen)? |
| ? Kritik faaliyetler üzerindeki etkiler | Sistemin işlevinde veya faaliyetinde meydana gelen bir kesinti, temel hizmetleri veya kritik altyapıları etkiler mi? |
| ?Dağıtım genişliği | Sistem nasıl konuşlandırılıyor (birim içinde dar kullanım, ulusal/uluslararası yaygın kullanım)? |
| ? Teknik olgunluk | Sistem teknik olarak ne kadar olgun? |
| ? Birlikte Çalışabilirlik | Serbest ticareti engelleyen ve ortaklarla işbirliğini etkileyen ulusal veya küresel siloların olması muhtemel mi? |
| ? Teknolojik egemenlik | Yapay zeka tedarik zincirinin tamamı üzerinde kontrol de dahil olmak üzere, teknolojik egemenlik arzusu davranışları yönlendiriyor mu? |
| ? Gelir yeniden dağıtımı ve ulusal mali kaldıraçlar | Egemen devletin temel rollerinden ödün verilebilir mi (örneğin rezerv bankaları)? Devletin vatandaşların beklentilerini ve sonuçlarını (sosyal, ekonomik, politik vb.) karşılama becerisi artacak mı yoksa azalacak mı? |
| ? Dijital uçurum (AI uçurumu) | Mevcut dijital eşitsizlikler daha da kötüleşiyor mu, yoksa yenileri mi yaratılıyor? |
| Kriterler | Bunun analize nasıl yansıtılabileceğine dair örnekler |
| ? Yönetim ve kamu hizmeti | Yönetişim mekanizmaları ve küresel yönetişim sistemi olumlu ya da olumsuz etkilenebilir mi? |
| ? Haber medyası | Kamusal söylemin kutuplaşması ve nüfus düzeyinde yerleşik hale gelmesi muhtemel mi? Dördüncü Kuvvet'e olan güven seviyeleri üzerinde bir etkisi olacak mı? Geleneksel gazetecilik etiği ve dürüstlük standartları daha da etkilenecek mi? |
| ? Hukukun üstünlüğü | Sorumlu tutulacak bireyleri veya kuruluşları belirleme yeteneği üzerinde bir etkisi olacak mı (örneğin, olumsuz sonuçlar için bir algoritmaya ne tür bir hesap verebilirlik atanacağı)? Egemenlik kaybı mı oluştu (çevre, maliye, sosyal politika, etik vb.)? |
| ?Politika ve toplumsal uyum | Daha yerleşik siyasi görüşler ve daha az fikir birliği oluşturma fırsatı var mı? Grupların daha fazla ötekileştirilmesi ihtimali var mı? Düşman siyaset tarzları daha fazla mı yoksa daha az mı muhtemel hale geliyor? |
| ? Sosyal lisans | Paydaşların kullanımı kabul etmesi için dikkate alınması gereken gizlilik kaygıları, güven sorunları ve ahlaki kaygılar var mı? |
| ? Yerli bilgi | Yerlilerin bilgi ve verileri bozulabilir veya kötüye kullanılabilir mi? Yanlış beyana, yanlış bilgiye ve istismara karşı koruma sağlamak için yeterli önlemler var mı? |
| ? Bilimsel sistem | Akademik ve araştırma bütünlüğü tehlikeye giriyor mu? Bilime güven kaybı mı var? Yanlış kullanım, aşırı kullanım veya kötüye kullanım olasılıkları var mı? Bilim uygulamasının sonucu nedir? |
| Kriterler | Bunun analize nasıl yansıtılabileceğine dair örnekler |
| ? Hassas gözetim | Sistemler bireysel davranışsal ve biyolojik veriler üzerine eğitiliyor mu ve bireyleri veya grupları istismar etmek için kullanılabilir mi? |
| ? Dijital rekabet | Devlet veya devlet dışı aktörler (örneğin büyük teknoloji şirketleri), diğer ülkelerin nüfuslarını ve ekosistemlerini anlamak ve kontrol etmek için sistem ve verileri kullanabilir mi veya yargı kontrolünü baltalayabilir mi? |
| ? Jeopolitik rekabet | Sistem, bireysel ve grup verilerinin ekonomik, tıbbi ve güvenlik çıkarları için kullanılması konusunda uluslar arasında rekabeti alevlendirebilir mi? |
| ? Küresel güçlerde değişim | Dünyanın başlıca jeopolitik aktörleri olan ulus devletlerin durumu tehdit altında mı? Teknoloji şirketleri bir zamanlar ulus devletlere ayrılmış olan gücü kullanıyorlar mı ve bağımsız, egemen aktörler (yükselen teknopolar dünya düzeni) haline mi geldiler? |
| ? Dezenformasyon | Sistem, sosyal uyum, güven ve demokrasi üzerinde etkisi olan dezenformasyonun devlet ve devlet dışı aktörler tarafından üretilmesini ve yayılmasını kolaylaştıracak mı? |
| ? Çift kullanımlı uygulamalar | Hem askeri hem de sivil kullanım imkanı var mı? |
| ? Küresel düzenin parçalanması | İşbirliğini engelleyen, uygulamada tutarsızlıklara yol açan ve çatışmaya yer açan silolar veya düzenleme ve uyum kümeleri gelişebilir mi? |
| Kriterler | Bunun analize nasıl yansıtılabileceğine dair örnekler |
| ? Enerji ve kaynak tüketimi (karbon ayak izi) | Sistem ve gereksinimler, uygulama yoluyla elde edilen verimlilik kazanımlarının ötesinde enerji alımını ve kaynak tüketimini artırıyor mu? |
| ?Enerji kaynağı | Sistem için enerji nereden sağlanıyor (yenilenebilir, fosil yakıtlar vs.)? |
| Kriterler | Bunun analize nasıl yansıtılabileceğine dair örnekler |
| ? Yönlendirme ve toplama | Veriler ve girdiler insanlar tarafından mı, otomatik sensörler tarafından mı yoksa her ikisi tarafından mı toplanıyor? |
| ? Verilerin kökeni | Uzmanlardan alınan veriler ve girdiler sağlanıyor mu, gözlemleniyor mu, sentetik mi yoksa türetilmiş mi? Kaynağını doğrulamak için filigran korumaları var mı? |
| ? Verilerin dinamik yapısı | Veriler dinamik mi, statik mi, dinamik olarak zaman zaman mı yoksa gerçek zamanlı olarak mı güncelleniyor? |
| ? Haklar | Veriler özel mi, kamuya açık mı yoksa kişisel mi (kimliği belirlenebilir kişilerle ilgili)? |
| ? Tanımlanabilirlik ve kişisel veriler | Veriler kişiselse anonim mi yoksa takma ad mı kullanılıyor? |
| ? Verinin yapısı | Veriler yapılandırılmış mı, yarı yapılandırılmış mı, karmaşık yapılandırılmış mı yoksa yapılandırılmamış mı? |
| ? Verilerin biçimi | Verilerin ve meta verilerin formatı standartlaştırılmış mı yoksa standartlaştırılmamış mı? |
| ? Verinin ölçeği | Veri kümesinin ölçeği nedir? |
| ? Verilerin uygunluğu ve kalitesi | Veri seti amaca uygun mu? Örneklem büyüklüğü yeterli mi? Yeterince temsili ve eksiksiz mi? Veriler ne kadar gürültülü? Hataya açık mı? |
| Kriterler | Bunun analize nasıl yansıtılabileceğine dair örnekler |
| ? Bilgi kullanılabilirliği | Sistemin modeli hakkında bilgi mevcut mu? |
| ? AI modelinin türü | Model sembolik mi (insan tarafından oluşturulan kurallar), istatistiksel mi (veri kullanıyor) yoksa hibrit mi? |
| ? Modelle ilişkili haklar | Model açık kaynaklı mı yoksa tescilli mi, kendi kendine mi yoksa üçüncü tarafça mı yönetiliyor? |
| ? Tek veya birden fazla model | Sistem tek bir modelden mi yoksa birbiriyle bağlantılı birkaç modelden mi oluşuyor? |
| ? Üretken mi yoksa ayırt edici mi? | Model üretken mi, ayrımcı mı, yoksa her ikisi mi? |
| ? Model oluşturma | Sistem, verilerden, denetimli öğrenme yoluyla veya takviyeli öğrenme yoluyla, insanlar tarafından yazılan kurallara dayanarak mı öğreniyor? |
| ? Model evrimi (AI kayması) | Model, sahadaki verilerle etkileşimde bulunarak gelişiyor ve/veya yetenekler kazanıyor mu? |
| ? Federasyonlu veya merkezi öğrenme | Model merkezi olarak mı yoksa birkaç yerel sunucuda mı yoksa "uç" cihazlarda mı eğitiliyor? |
| ? Geliştirme/bakım | Model evrensel mi, özelleştirilebilir mi veya yapay zeka aktörünün verilerine göre uyarlanabilir mi? |
| ? Deterministik veya olasılıksal | Model deterministik veya olasılıksal bir şekilde mi kullanılıyor? |
| ? Model şeffaflığı | Kullanıcıların model çıktılarını ve sınırlamalarını anlamalarına veya kısıtlamaları kullanmalarına olanak sağlayacak bilgiler mevcut mu? |
| ? Hesaplama sınırlaması | Sistemde hesaplama sınırlamaları var mı? Yetenek sıçramalarını veya ölçeklendirme yasalarını tahmin etmek mümkün mü? |
| Kriterler | Bunun analize nasıl yansıtılabileceğine dair örnekler |
| ? Sistem tarafından gerçekleştirilen görev(ler) | Sistem hangi görevleri yerine getiriyor (tanıma, olay tespiti, tahmin vb.)? |
| ? Görevleri ve eylemleri birleştirme | Sistem çeşitli görev ve eylemleri (içerik oluşturma sistemleri, otonom sistemler, kontrol sistemleri vb.) birleştiriyor mu? |
| ? Sistemin özerklik düzeyi | Sistemin eylemleri ne kadar özerk ve insanlar hangi rolü oynuyor? |
| ? İnsan katılımının derecesi | Yapay zeka sisteminin genel faaliyetini denetleyecek ve herhangi bir durumda yapay zeka sisteminin ne zaman ve nasıl kullanılacağına karar verme becerisini denetleyecek bir miktar insan katılımı var mı? |
| ? Çekirdek uygulama | Sistem, insan dili teknolojileri, bilgisayarlı görme, otomasyon ve/veya optimizasyon veya robot bilimi gibi temel bir uygulama alanına ait mi? |
| ? Değerlendirme | Sistem çıktısını değerlendirmek için standartlar veya yöntemler mevcut mu? |
Bu çerçeve nasıl kullanılabilir?
Bu çerçeve aşağıdakiler de dahil olmak üzere birçok şekilde kullanılabilir:
İleri doğru bir yol
Özetle analitik çerçeve, paydaşların platformlardaki veya kullanımdaki önemli gelişmeleri tutarlı ve sistematik bir şekilde kapsamlı bir şekilde incelemek için kullanılabilecek bir araç setinin temeli olarak sağlanmaktadır. Bu çerçevede sunulan boyutlar, teknoloji değerlendirmesinden kamu politikasına, insani gelişmeden sosyolojiye, gelecek ve teknoloji çalışmalarına kadar alakalıdır. Yapay zeka için geliştirilmiş olsa da bu analitik çerçeve, gelişmekte olan diğer teknolojiler için çok daha geniş bir uygulamaya sahiptir.
6 BM Yapay Zeka Danışma Kurulu. 2023. Ara Rapor: İnsanlık için Yapay Zekayı Yönetmek. https://www.un.org/sites/un2.un.org/files/ai_advisory_body_interim_report.pd
Teşekkür
Hem ilk tartışma belgesinin geliştirilmesinde hem de yayımlanmasının ardından birçok kişiye danışıldı ve geri bildirim sağlandı. Her iki belge de şu kişiler tarafından hazırlandı: Sir Peter Gluckman Gluckman, ISC Başkanı ve Hema Sridhar, Yeni Zelanda Savunma Bakanlığı eski Baş Bilim Danışmanı ve şu anda Kıdemli Araştırma Görevlisi Fellow, Auckland Üniversitesi, Yeni Zelanda.
Özellikle, Royal Society'nin eski Başkanı ve Cambridge Üniversitesi Varoluşsal Riskler Araştırma Merkezi'nin Kurucu Ortağı ISC Lord Martin Rees; Profesör Shivaji Sondhi, Fizik Profesörü, Oxford Üniversitesi; Profesör K Vijay Raghavan, Hindistan Hükümeti'nin eski Baş Bilimsel Danışmanı; BM Genel Sekreteri'nin Teknoloji Elçisi Amandeep Singh Gill; Seán Ó hÉigeartaigh, Yönetici Direktör, Varoluşsal Riskler Araştırma Merkezi, Cambridge Üniversitesi; Sir David Spiegelhalter, Winton Kamu Risk Anlayışı Profesörü, Üniversite
Cambridge'den; Amanda-June Brawner, Kıdemli Politika Danışmanı ve Ian Wiggins, Uluslararası İlişkiler Direktörü, Royal Society, Birleşik Krallık; Dr Jerome Duberry, Genel Müdür ve Dr Marie-Laure Salles, Direktör, Cenevre Yüksek Lisans Enstitüsü; Chor Pharn Lee, Stratejik Gelecekler Merkezi, Başbakanlık Ofisi, Singapur; Barend Mons ve Dr Simon Hodson, Veri Komitesi (CoDATA); Profesör Yuko Harayama, Eski İcra Direktörü, RIKEN; Profesör
Rémi Quirion, Başkan, INGSA; Dr Claire Craig, Oxford Üniversitesi ve Devlet Bilim Dairesi Eski Öngörü Başkanı; BM Genel Sekreteri Bilimsel Danışma Kurulu ve Montréal Üniversitesi'nden Prof Yoshua Bengio; ve ilk tartışma belgesi hakkında ISC'ye geri bildirimde bulunan diğer birçok kişi.
Yapay Zeka için Ulusal Araştırma Ekosistemlerinin Hazırlanması: 2024'te Stratejiler ve ilerleme
ISC'nin düşünce kuruluşu Center for Science Futures tarafından hazırlanan bu çalışma belgesi, yapay zekanın araştırma ekosistemlerine entegrasyonunun çeşitli aşamalarında dünyanın her yerindeki ülkelerden gelen temel bilgileri ve kaynaklara erişim sağlıyor.
Küresel Güney'de geleceğe hazır bilim sistemleri inşa etmek
Ortaya çıkan teknolojiler bilimin yürütülme biçimini yeniden şekillendiriyor ve Küresel Güney'deki bilim sistemlerini güçlendirmek için önemli bir potansiyel sunuyor; eğer bunların benimsenmesi kapsayıcı, iyi desteklenen ve bağlam duyarlı yaklaşımlarla yönlendirilirse. Bu teknolojilerin mevcut eşitsizlikleri güçlendirmek yerine daha eşitlikçi ve dayanıklı bilim sistemlerine katkıda bulunmasını nasıl sağlayacağımız, bu son stratejik geri çekilmenin temel odak noktasıydı.
INGSA-Asya Bilim Tavsiye Çalıştayları hakkında daha fazlasını okuyun 
UNDRR-ISC tehlike bilgi profillerinin güncellenmesi hakkında daha fazla bilgi edinin 
Yeni ufuklara gitmek hakkında daha fazlasını okuyun – Gezegen sağlığı ve insan refahına ilişkin küresel bir öngörü raporu 
Sürdürülebilirliğe Dönüşümlerin Sentezi programı hakkında devamını oku 