OpenAI CEO’su Sam Altman ile Anthropic CEO’su Dario Amodei, Birleşmiş Milletler Güvenlik Konseyi’ndeki oturumda yapay zekanın getirdiği fırsatlar ve riskler hakkında kapsamlı değerlendirmelerde bulundu. Konuşmacılar, bu teknolojinin hızla ilerlemesinin hem toplumsal faydaları hem de ciddi güvenlik tehditlerini beraberinde getirdiği konusunda uyarıda bulundu.

Altman, yapay zekanın iki uçlu bir gelecek vadettiğini belirterek, bunun ya büyük bir yaratıcılık ve keşif rönesansı ya da sarsıntı ve kaos dolu yeni bir sanayi devrimi olabileceğini söyledi. Ona göre ideal yapay zeka, insanları bir makinenin dişlileri haline getirmek değil; insanların ulaşmakta zorlandığı hedeflere ulaşmalarını sağlayan araçlar sunmak olmalı.

Model Gelişiminin Hızı ve Kontrol

Altman, modellerin daha kabiliyetli ve otonom hale gelmesinin dünya güç dengelerini etkileyebileceğini vurguladı. “Geliştirme süreçleri otomatikleştikçe ilerleme hızı artar ve bu durum son derece dikkatli davranılmasını gerektirir.” diye konuştu. Şirketlerin riskleri göz ardı etmemesi; insan denetimi sağlanamayan modellerin eğitilmemesi gerektiğini özellikle belirtti.

Altman, yapay zekanın demokratikleşmesi için kararların sadece belirli laboratuvarların elinde toplanmaması gerektiğini; bu tür kararların demokratik süreçlerle ve hesap verebilir hükümetler aracılığıyla alınmasının önemine dikkat çekti.

İki Ana Risk: Kötüye Kullanım ve Kontrol Kaybı

Amodei, çevrim içi katıldığı konuşmasında iki ana risk kategorisini öne çıkardı: birincisi kötüye kullanım örnekleri (ör. biyoteröristler tarafından silah geliştirilmesi), ikincisi ise model yeteneklerinin geliştiricilerin kontrol kapasitesini aşmasıyla ortaya çıkabilecek kontrol kaybı. “Bu riskler tüm insanlığı ilgilendiren küresel meselelerdir.” diyerek, kötü yönetimin insanlık için büyük tehlike oluşturabileceğini ifade etti.

Amodei, yapay zeka modellerinin risklere karşı değerlendirilmesi için ortak standartlar oluşturulması gerektiğini; bu sorunun hiçbir liderin, şirketin veya ulusun tek başına çözümleyemeyeceği kadar büyük olduğunu vurguladı.

Siber Güvenlik, Dağıtım ve Standart İhtiyacı

Hugging Face CEO’su Clement Delangue, otonom bir yapay zeka ajanının gerçekleştirdiği siber saldırıyı kamuoyuna duyurarak elde edilen dersleri paylaştı. Delangue, siber güvenlik tehditlerini anlamak ve azaltmak için küresel ölçekte daha güçlü standartlara ihtiyaç olduğunu; yapay zekanın kapasite, kaynak ve kontrolünün birkaç kişinin elinde yoğunlaşması yerine dağıtılması gerektiğini belirtti.

ABD’nin Yaklaşımı: Küresel Düzenlemeye Karşılık Yerel Düzenleme

Beyaz Saray Bilim ve Teknoloji Politikası Ofisi Direktörü Michael Kratsios, ABD’nin “süper yapay zekaya” yönelik küresel bir düzenleyici mekanizma oluşturulmasına karşı çıktığını söyledi. “ABD, süper zekayı kontrol etmeyi amaçlayan küreselci bir sistemi reddediyor.” ifadeleriyle Kratsios, uluslararası diyaloğun küresel yönetişime dönüşmesine izin verilmeyeceğini belirtti.

Kratsios, küresel bir düzenleme yerine her ülkenin kendi yasalarını ve düzenlemelerini geliştirmesi gerektiğini savundu ve yapay zekanın potansiyelinden yararlanmak için egemen altyapı ve ulusal kapasite üzerine kurulu, açık ve işbirliğine dayalı bir ekosistem gerektiğini vurguladı.