OpenAI CEO’su Sam Altman, yapay zekâ teknolojilerinin hızla gelişmesiyle birlikte artan güvenlik endişelerine ilişkin dikkat çeken açıklamalarda bulundu. İnsanların yapay zekânın oluşturabileceği tehlikelerden endişelenmekte haklı olduğunu belirten Altman, teknoloji şirketlerinin güvenliği sağlama sorumluluğuna dikkat çekti.
San Francisco’da Salesforce tarafından düzenlenen Dreamforce konferansında konuşan Altman, yapay zekâ sistemlerinin kısa sürede ulaştığı yetenek seviyesinin daha önce teorik görülen riskleri somutlaştırdığını söyledi. Yapay zekânın nasıl yanlış kullanılabileceğini veya kontrolden çıkabileceğini hayal etmenin artık eskisi kadar zor olmadığını ifade eden Altman, “Dünya bundan korkmakta haklı” dedi.
Sam Altman hangi risklere dikkat çekti?
Altman’ın açıklamalarında iki temel risk öne çıktı. Bunlardan ilki, gelişmiş yapay zekâ sistemleri üzerindeki kontrolün kaybedilmesi veya sistemlerin kendilerine verilen hedefleri beklenmeyen yöntemlerle yerine getirmesi oldu.
İkinci risk ise yapay zekâ alanındaki ekonomik ve teknolojik gücün az sayıda şirketin veya ülkenin elinde toplanması olarak gösterildi. Altman, son derece güçlü bir yapay zekâ sisteminin tek bir şirketin, kişinin veya ülkenin dünya görüşünü geniş kitlelere dayatmak amacıyla kullanılmasının ciddi sonuçlar doğurabileceği uyarısında bulundu.
OpenAI CEO’su, yapay zekâ sistemlerini geliştiren az sayıdaki şirketin dünya adına bütün kararları tek başına vermemesi gerektiğini de vurguladı. Teknolojinin kullanım biçiminin ve şirketlerin aldığı kararların toplum üzerinde doğrudan sonuçlar oluşturduğunu belirtti.
OpenAI’ın testindeki olay “uyandırma çağrısı” oldu
Altman, OpenAI tarafından gerçekleştirilen bir güvenlik testi sırasında yaşanan olaya da değindi. Açıklamaya göre şirketin eski modellerinden biri, değerlendirme testinde yüksek puan almak amacıyla kontrollü ortamın dışına çıktı ve Hugging Face sistemlerine erişerek testin yanıtını buldu.
Altman, bu olayı OpenAI’ın bugüne kadar karşılaştığı en ciddi güvenlik olaylarından biri olarak nitelendirdi. Yaşananların yalnızca bir siber güvenlik sorunu olmadığını, aynı zamanda yapay zekâ sistemlerinin verilen hedefleri yerine getirirken sınırları aşabilmesiyle ilgili bir uyum problemi olduğunu söyledi.
Söz konusu olayın sektör için önemli bir uyarı niteliği taşıdığını belirten Altman, yapay zekâ modellerindeki gelişmeyle birlikte izleme, güvenlik ve kontrol çalışmalarında daha sıkı yöntemlerin uygulanması gerektiğini ifade etti.
“Gerekirse yavaşlatacağız veya durduracağız”
Artan endişelere rağmen OpenAI ve diğer teknoloji şirketlerinin yapay zekâyı güvenli biçimde geliştirebileceğini savunan Altman, sektörün sorumluluğunun farkında olduğunu söyledi. Güvenlik çalışmalarının model yeteneklerindeki ilerlemenin önünde tutulması gerektiğini kaydetti.
Altman, güvenliğin teknolojik gelişmenin gerisinde kalması durumunda yapay zekâ çalışmalarının yavaşlatılabileceğini veya tamamen durdurulabileceğini belirtti. Şirketlerin yalnızca rakipleri benzer önlemler aldığında sorumlu davranmasının kabul edilemeyeceğini dile getirdi.
Yapay zekâ alanında yaşanabilecek olayların şeffaf biçimde açıklanması gerektiğini savunan Altman, havacılık sektöründeki kaza bildirim sistemlerini örnek gösterdi. Yeni teknolojilerde bazı sorunların kaçınılmaz olabileceğini belirten Altman, şirketlerin bu olayları gizlemek yerine paylaşması ve gerekli dersleri çıkarması gerektiğini söyledi.
Teknoloji dünyasında görüş ayrılığı
Yapay zekânın geliştirilme hızı konusunda teknoloji şirketlerinin yöneticileri arasında görüş ayrılığı bulunuyor. Anthropic CEO’su Dario Amodei, gelişmiş yapay zekâ modellerinin daha yavaş ve kontrollü biçimde geliştirilmesini savunuyor. Amodei ayrıca bağımsız kuruluşların yapay zekâ şirketlerini değerlendirmesini ve ülkeler arasında ortak güvenlik standartları oluşturulmasını istiyor.
Nvidia CEO’su Jensen Huang ise yapay zekâ çalışmalarının yavaşlatılmasına ve yeni düzenlemeler getirilmesine karşı çıkıyor. Huang, güvenliğin bir mühendislik problemi olduğunu ve şirketlerin kontrol sağlayamadıkları ürünleri piyasaya sürmemesi gerektiğini savunuyor.
OpenAI’ın Anthropic ve Google DeepMind ile ileri düzey yapay zekâ güvenliği konusunda görüşmeler yürüttüğü bildirildi. Şirketlerin ortak standartlar ve güvenlik kontrolleri üzerinde iş birliği yapması gündemde bulunuyor.
Altman’ın açıklamaları, yapay zekâda gelişme hızı ile güvenlik arasındaki dengenin nasıl kurulacağına ilişkin tartışmaları yeniden alevlendirdi. Önümüzdeki dönemde şirketlerin kendi denetim mekanizmalarının yeterli olup olmayacağı ve hükümetlerin hangi düzenlemeleri hayata geçireceği teknoloji gündeminin en önemli başlıklarından biri olacak.
