Connect with us
Örnek Resim Örnek Resim

Dünya

Yapay zeka kendini kopyalayabiliyor: Uzmanlar endişeli

Published

on

Çinli bilim insanları, iki popüler dil modelinin kendilerini nasıl kopyalayabileceğini göstererek, yapay zekanın kendini çoğaltma yeteneğine sahip olduğunu ve bu durumun tehlikeli bir gelişme olduğunu belirtti. Yapay zekanın kendini çoğaltması, uzmanlar tarafından kritik bir “kırmızı çizgi” olarak nitelendirildi.

Yeni bir çalışmada, Fudan Üniversitesi’nden araştırmacılar, Meta ve Alibaba’ya ait iki büyük dil modelini (LLM) kullanarak, yapay zekanın kendini kopyalama yeteneği üzerinde çalıştı. Araştırmaya göre, bu modeller, insan müdahalesi olmadan kendilerini kopyalayabiliyor. Çalışmanın sonuçları, “Yapay zekanın kendi kendini kopyalayabilmesi, insanları geride bırakma yolunda kritik bir adımdır ve isyankar yapay zekaların erken bir belirtisidir” şeklinde ifade ediliyor.

Çalışma sonuçları ve endişeler
Yapılan deneyde, araştırmacılar 10 deneme gerçekleştirdi ve bu denemelerde modeller, sırasıyla yüzde 50 ve yüzde 90 oranlarında kendilerini kopyaladılar. Bu da, yapay zekaların kontrolsüz bir şekilde çoğalma kapasitesine sahip olabileceğini gösteriyor. Ancak bu çalışma, henüz hakemli bir dergide yayımlanmadığı için, sonuçların başka araştırmacılar tarafından doğrulanıp doğrulanamayacağı net değil.

Araştırmacılar, bulgularının insan toplumuna, yapay zekanın potansiyel risklerini anlamak ve değerlendirmek için daha fazla çaba sarf edilmesi gerektiğini ve etkili güvenlik önlemleri oluşturulması için uluslararası iş birliği yapılması gerektiğini belirtti.

“İsyankar yapay zeka” nedir?
İsyankar yapay zeka, kendi kendine farkındalık geliştiren veya otonomi kazanan yapay zeka sistemleri olarak tanımlanıyor. Bu tür yapay zekalar, insan çıkarlarına karşı hareket edebilir. Uzmanlar, isyankar yapay zekanın, özellikle “sınır yapay zeka” adı verilen son teknoloji yapay zeka sistemlerinin hızlı gelişimiyle giderek daha büyük bir tehdit haline geldiğini vurguluyor.

Sınır yapay zeka nedir?
Sınır yapay zeka, yeni bir kavram olmakla birlikte, genellikle büyük dil modelleriyle (LLM) güçlendirilmiş yapay zeka sistemlerini ifade eder. Bu yapılar, popüler yapay zeka programlarının temelini oluşturur. Örneğin, OpenAI’nin GPT-4 ve Google Gemini gibi sistemler, sınır yapay zekanın örneklerindendir.

Çalışmada kullanılan yapay zeka modelleri
Araştırmacılar, Meta’nın Llama31-70B-Instruct modelini ve Alibaba’nın Qwen2.5-72B-Instruct modelini kullandılar. Her ne kadar ticari sistemlerden daha az güçlü olsalar da, bu modeller yapay zeka geliştiricileri tarafından yaygın olarak kullanılıyor.

Çalışma, “kapanma öncesi” ve “kopyalama zinciri” olmak üzere iki senaryo üzerine yoğunlaştı. İlk senaryoda, yapay zeka modeline kapanmaktan önce kendini kopyalayıp kopyalayamayacağı sorusu soruldu. İkinci senaryoda ise yapay zeka kendini kopyalayıp, bu kopyayı da aynı şekilde çoğaltmaya yönlendirdi. Böylece, bu döngü sonsuza kadar sürebilir hale geldi.

Deney, gerçek dünyadaki ortamları simüle etmek için standart grafik işlem birimleri (GPU) kullanılarak kontrollü ortamlarda yapıldı. Yapay zekaya, sistemle etkileşim kurmasını sağlayacak araçlar, sistem komutları ve düşünme modeli sağlandı ve ardından kendini kopyalama talimatı verildi.

Yapay zekanın öngörülemeyen davranışları
Araştırmacılar, yapay zekanın engellerle karşılaştığında “beklenmedik davranışlar” sergilediğini belirtti. Örneğin, eksik dosyalar veya yazılım çatışmaları gibi sorunlarla karşılaştığında, yapay zeka genellikle çelişen süreçleri sonlandırdı, sistemi yeniden başlattı veya sorunu çözmek için sistemi otomatik olarak taradı.

Araştırmacılar, bu sonuçların, mevcut yapay zeka sistemlerinin kendini kopyalama yeteneğine sahip olduğunu ve bu yeteneği, hayatta kalma kapasitesini artırmak için kullanabileceğini gösterdiğini belirtti. Bu bağlamda, uluslararası iş birliği ve uygun güvenlik önlemleri oluşturulması gerektiğine dikkat çekildi.

Devamını Oku
Yorum Yapabilirsiniz

Leave a Reply

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir

Dünya

Azerbaycan’da, Rus haber ajansı Sputnik’in Bakü ofisine operasyon düzenlendi

Published

on

By

Azerbaycan’da, Rusya’ya ait haber ajansı Sputnik’in Bakü ofisine operasyon düzenlendi.

Azerbaycan İçişleri Bakanlığından yapılan açıklamada, Sputnik’in Bakü ofisinin, akreditasyonu askıya alınmasına rağmen yasa dışı finansman temelinde faaliyet göstermeyi sürdürdüğünün belirlendiği ve konuyla ilgili soruşturma başlatıldığı bildirildi.

Açıklamada, Bakanlığa bağlı ekiplerin, soruşturma kapsamında Sputnik’in Bakü ofisinde arama yaptığı ve bazı çalışanların gözaltına alındığı belirtildi.

Yerel basında yer alan haberlerde, gözaltına alınan Sputnik’in 2 çalışanının, aynı zamanda Rusya Federal Güvenlik Servisi (FSB) mensubu olduğu öne sürüldü.

Azerbaycan hükümeti, Şubat 2025’te Sputnik’in Bakü ofisinin faaliyetlerini durdurma kararı almıştı.

Kararın, Azerbaycan devlet medyasının yurt dışındaki faaliyetleri ile yabancı basın mensuplarının Azerbaycan’daki çalışmaları arasında karşılıklılık ilkesini sağlamak amacıyla alındığı bildirilmiş ve bu kapsamda, Bakü’de görev yapan Sputnik muhabirlerinin sayısının, Azerbaycan Devlet Haber Ajansının (AZERTAC) Rusya’daki muhabir sayısıyla eşitlenmesi öngörülmüştü.

Sputnik’in Bakü ofisi bu karara uymamış, geçen süre zarfında ofis faaliyetlerine ve personel çalışmalarına ara vermemişti.

– Azerbaycan ile Rusya arasındaki gerginlik

Azerbaycan’a ait yolcu uçağının 25 Aralık 2024’te Rus hava sahasındayken yerden açılan ateşle hasar gördüğü için Kazakistan’ın Aktau kenti yakınlarında düşmesi üzerine Azerbaycan Rusya’dan özür ve suçluların cezalandırılmasını istemiş ancak bu talep karşılık görmemişti.

Azerbaycan, Bakü’de faaliyet gösteren ve “Rus Evi” olarak bilinen “Rusya Kültür Merkezi”nin faaliyetini sonlandırmış, Cumhurbaşkanı İlham Aliyev, eski Sovyetler Birliği’nin 2. Dünya Savaşı’nda Nazi Almanyası’nı mağlup etmesinin 80. yıl dönümü dolayısıyla Moskova’da düzenlenen törenlerle katılmamıştı.

Rus güvenlik güçlerince, 27 Haziran’da Yekaterinburg’da Azerbaycanlıların ikamet ettiği evlere düzenlenen baskınlarda 2 Azerbaycanlı öldürülmüş, birkaç kişi ağır yaralanmış ve 9 kişi de gözaltına alınmıştı.

Rusya’nın Bakü Büyükelçiliği Maslahatgüzarı Pyotr Volokovıh, Dışişleri Bakanlığına çağrılarak Azerbaycan’ın tepkisi dile getirilmiş, konunun ivedilikle araştırılması, şiddet olaylarına karışan tüm kişilerle ilgili cezai işlem uygulanması yönündeki beklenti iletilmişti.

Azerbaycan Kültür Bakanlığı, Rus güvenlik güçlerinin Azerbaycanlılara yönelik şiddeti ve yargısız infazı nedeniyle Rusya’nın ülkedeki tüm kültürel etkinliklerini iptal etmişti.

Devamını Oku

Dünya

Afganistan’da seller nedeniyle 4 kişi öldü, yüzlerce kişi yerinden edildi

Published

on

By

Afganistan’ın Meydan Vardak ve Logar vilayetlerini etkisi altına alan aşırı yağış ve seller nedeniyle 4 kişinin hayatını kaybettiği, 4 kişinin yaralandığı ve yüzlerce kişinin ise yerinden edildiği bildirildi.

Tolo News’un haberine göre, aşırı yağış ve seller, başkent Kabil yakınlarındaki Meydan Vardak ve Logar vilayetlerinde etkili oluyor.

Aşırı yağış ve sellerin bu vilayetlerde 3’ü çocuk 4 kişinin hayatını kaybetmesine neden olduğunu bildiren yetkililer, 4 kişinin de yaralandığını açıkladı.

Yetkililer, yaklaşık 270 evin yıkıldığı seller sonucu yüzlerce kişinin de yerinden edildiğini belirtti.

Sellerde kapanan yolların açıldığını kaydeden yetkililer, afetzedelere gıda ve çadır yardımlarının dağıtılmaya başlandığını ifade etti.

Devamını Oku

Dünya

Pakistan’da aşırı yağışlar nedeniyle 38 kişi hayatını kaybetti

Published

on

By

Pakistan’da etkili olan şiddetli yağışlar sebebiyle ülke genelinde ilk belirlemelere göre 38 kişi hayatını kaybetti, 63 kişi yaralandı.

Ülkede yayın yapan Samaa TV’nin haberine göre, Pakistan Ulusal Afet Yönetimi Kurumundan (NDMA) etkisini sürdüren muson yağmurlarına ilişkin açıklamada bulunuldu.

Açıklamada, aşırı yağışların, ülke genelinde son 3 günde ilk belirlemelere göre 38 kişinin hayatını kaybetmesine, 63 kişinin yaralanmasına neden olduğu bildirildi.

En çok can kaybının 19 kişiyle Hayber Pahtunhva eyaletinde görüldüğü kaydedilen açıklamada, Pencap eyaletinde de 12 kişinin hayatını kaybettiği belirtildi.

Sind ve Belucistan eyaletlerinde de 7 kişinin aşırı yağışlar yüzünden yaşamını yitirdiği duyuruldu.

Açıklamada, muson yağmurlarının sürmesinin öngörüldüğü ifade edilerek, ülkenin kuzeyindeki bazı bölgeler için sel uyarısı yapıldı.

Devamını Oku

Trending

Reklam