Connect with us
Örnek Resim Örnek Resim

Dünya

Yapay zeka kendini kopyalayabiliyor: Uzmanlar endişeli

Published

on

Çinli bilim insanları, iki popüler dil modelinin kendilerini nasıl kopyalayabileceğini göstererek, yapay zekanın kendini çoğaltma yeteneğine sahip olduğunu ve bu durumun tehlikeli bir gelişme olduğunu belirtti. Yapay zekanın kendini çoğaltması, uzmanlar tarafından kritik bir “kırmızı çizgi” olarak nitelendirildi.

Yeni bir çalışmada, Fudan Üniversitesi’nden araştırmacılar, Meta ve Alibaba’ya ait iki büyük dil modelini (LLM) kullanarak, yapay zekanın kendini kopyalama yeteneği üzerinde çalıştı. Araştırmaya göre, bu modeller, insan müdahalesi olmadan kendilerini kopyalayabiliyor. Çalışmanın sonuçları, “Yapay zekanın kendi kendini kopyalayabilmesi, insanları geride bırakma yolunda kritik bir adımdır ve isyankar yapay zekaların erken bir belirtisidir” şeklinde ifade ediliyor.

Çalışma sonuçları ve endişeler
Yapılan deneyde, araştırmacılar 10 deneme gerçekleştirdi ve bu denemelerde modeller, sırasıyla yüzde 50 ve yüzde 90 oranlarında kendilerini kopyaladılar. Bu da, yapay zekaların kontrolsüz bir şekilde çoğalma kapasitesine sahip olabileceğini gösteriyor. Ancak bu çalışma, henüz hakemli bir dergide yayımlanmadığı için, sonuçların başka araştırmacılar tarafından doğrulanıp doğrulanamayacağı net değil.

Araştırmacılar, bulgularının insan toplumuna, yapay zekanın potansiyel risklerini anlamak ve değerlendirmek için daha fazla çaba sarf edilmesi gerektiğini ve etkili güvenlik önlemleri oluşturulması için uluslararası iş birliği yapılması gerektiğini belirtti.

“İsyankar yapay zeka” nedir?
İsyankar yapay zeka, kendi kendine farkındalık geliştiren veya otonomi kazanan yapay zeka sistemleri olarak tanımlanıyor. Bu tür yapay zekalar, insan çıkarlarına karşı hareket edebilir. Uzmanlar, isyankar yapay zekanın, özellikle “sınır yapay zeka” adı verilen son teknoloji yapay zeka sistemlerinin hızlı gelişimiyle giderek daha büyük bir tehdit haline geldiğini vurguluyor.

Sınır yapay zeka nedir?
Sınır yapay zeka, yeni bir kavram olmakla birlikte, genellikle büyük dil modelleriyle (LLM) güçlendirilmiş yapay zeka sistemlerini ifade eder. Bu yapılar, popüler yapay zeka programlarının temelini oluşturur. Örneğin, OpenAI’nin GPT-4 ve Google Gemini gibi sistemler, sınır yapay zekanın örneklerindendir.

Çalışmada kullanılan yapay zeka modelleri
Araştırmacılar, Meta’nın Llama31-70B-Instruct modelini ve Alibaba’nın Qwen2.5-72B-Instruct modelini kullandılar. Her ne kadar ticari sistemlerden daha az güçlü olsalar da, bu modeller yapay zeka geliştiricileri tarafından yaygın olarak kullanılıyor.

Çalışma, “kapanma öncesi” ve “kopyalama zinciri” olmak üzere iki senaryo üzerine yoğunlaştı. İlk senaryoda, yapay zeka modeline kapanmaktan önce kendini kopyalayıp kopyalayamayacağı sorusu soruldu. İkinci senaryoda ise yapay zeka kendini kopyalayıp, bu kopyayı da aynı şekilde çoğaltmaya yönlendirdi. Böylece, bu döngü sonsuza kadar sürebilir hale geldi.

Deney, gerçek dünyadaki ortamları simüle etmek için standart grafik işlem birimleri (GPU) kullanılarak kontrollü ortamlarda yapıldı. Yapay zekaya, sistemle etkileşim kurmasını sağlayacak araçlar, sistem komutları ve düşünme modeli sağlandı ve ardından kendini kopyalama talimatı verildi.

Yapay zekanın öngörülemeyen davranışları
Araştırmacılar, yapay zekanın engellerle karşılaştığında “beklenmedik davranışlar” sergilediğini belirtti. Örneğin, eksik dosyalar veya yazılım çatışmaları gibi sorunlarla karşılaştığında, yapay zeka genellikle çelişen süreçleri sonlandırdı, sistemi yeniden başlattı veya sorunu çözmek için sistemi otomatik olarak taradı.

Araştırmacılar, bu sonuçların, mevcut yapay zeka sistemlerinin kendini kopyalama yeteneğine sahip olduğunu ve bu yeteneği, hayatta kalma kapasitesini artırmak için kullanabileceğini gösterdiğini belirtti. Bu bağlamda, uluslararası iş birliği ve uygun güvenlik önlemleri oluşturulması gerektiğine dikkat çekildi.

Devamını Oku
Yorum Yapabilirsiniz

Leave a Reply

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir

Dünya

Irak’ın orta ve güney kesimi tamamen elektriksiz kaldı

Published

on

By

Irak’ın orta ve güney kesiminde elektrikler tamamen kesildi. Başkent Bağdat başta olmak üzere ülkenin orta kesimindeki kentler ile güneydeki şehirlerde aniden elektrik kesintisi yaşandı.

Elektrik kesintilerine ilişkin Elektrik Bakanlığından ya da diğer ilgili kurumlardan henüz bir açıklama yapılmaması dikkati çekti.

Irak’ta ulusal elektrik hizmeti günlük ancak ortalama 5 ila 8 saat verilebiliyor.

Ülkede yıllardır çözüm bulunamayan elektrik kesintileri sorununa karşı çevre kirliliğine neden olan ücretli mahalle jeneratörleri devreye giriyor.

Devamını Oku

Dünya

Azerbaycan ile Ermenistan’ın parafladığı barış anlaşmasının metni açıklandı

Published

on

By

Azerbaycan ile Ermenistan’ın Beyaz Saray’da parafladığı “Barış ve Devletlerarası İlişkilerin Kurulmasına İlişkin Anlaşma”nın metni kamuoyuyla paylaşıldı.

Anlaşma metni, ABD Başkanı Donald Trump’ın ev sahipliğinde Azerbaycan Cumhurbaşkanı İlham Aliyev ile Ermenistan Başbakanı Nikol Paşinyan’ın Washington’da gerçekleştirdiği üçlü zirvede 2 ülkenin dışişleri bakanları tarafından paraflanmıştı.

Azerbaycan ve Ermenistan dışişleri bakanlıklarınca eş zamanlı olarak paylaşılan ve 17 maddeden oluşan anlaşma metni şöyle:

Madde 1 – Taraflar, eski Sovyet Sosyalist Cumhuriyetleri Birliği’nin cumhuriyetleri arasındaki sınırların, ilgili bağımsız devletlerin uluslararası sınırları haline geldiği ve uluslararası toplum tarafından bu şekilde tanındığı teyit ederek birbirlerinin egemenliğini, toprak bütünlüğünü, uluslararası sınırlarının dokunulmazlığını ve siyasi bağımsızlığını tanıyor ve bunlara saygı gösteriyor.

Madde 2 – Taraflar, Madde 1’e tam uyarak, birbirlerine karşı hiçbir toprak iddialarının olmadığını teyit ediyor ve gelecekte de böyle bir iddiada bulunmayacaklarını onaylıyor. Taraflar, diğer tarafın toprak bütünlüğünü veya siyasi birliğini tamamen veya kısmen bölmeyi ya da zayıflatmayı amaçlayan herhangi bir eylemi planlamak, hazırlamak, teşvik etmek ve desteklemek dahil hiçbir eylemde bulunmayacaktır.

Madde 3 – Taraflar, karşılıklı ilişkilerinde, diğer tarafın toprak bütünlüğüne veya siyasi bağımsızlığına karşı güç kullanmaktan veya güç kullanma tehdidinde bulunmaktan ya da Birleşmiş Milletler Şartı’na aykırı herhangi bir şekilde hareket etmekten kaçınacaktır. Taraflar, kendi topraklarının üçüncü bir tarafça diğer tarafa karşı BM Şartı’na aykırı biçimde güç kullanımı amacıyla kullanılmasına izin vermeyecektir.

Madde 4 – Taraflar, birbirlerinin iç işlerine karışmaktan kaçınacaktır.

Madde 5 – Taraflar, bu anlaşmanın her iki tarafça onaylanmış şekillerini teati etmesinden sonra _____ gün içinde, 1961 ve 1963 tarihli Viyana Diplomatik ve Konsolosluk İlişkileri Sözleşmeleri hükümlerine uygun olarak aralarında diplomatik ilişkiler tesis edecektir.

Madde 6 – Taraflar, bu anlaşmanın 1. maddesi kapsamındaki yükümlülüklerini tam olarak yerine getirerek, devlet sınırının belirlenmesi ve işaretlenmesine ilişkin anlaşmanın sonuçlanması için ilgili komisyonlar aracılığıyla iyi niyetle müzakereler yürütecek.

Madde 7 – Taraflar, ortak sınırları boyunca üçüncü bir tarafın kuvvetlerini konuşlandırmayacaktır. Taraflar, ortak sınırlarının belirlenmesi ve ardından işaretlenmesi süreci tamamlanana kadar, sınır bölgelerinde güvenlik ve istikrarı sağlamak amacıyla, askeri alan da dahil olmak üzere, karşılıklı olarak üzerinde anlaşılmış güvenlik ve güven artırıcı tedbirleri uygulayacaktır.

Madde 8 – Hoşgörüsüzlük, ırkçı nefret ve ayrımcılık, ayrılıkçılık, şiddet içeren aşırılık ve terörizmin tüm biçimlerini kınayan taraflar, kendi yetki alanlarında bu gibi durumlarla mücadele edecek ve ilgili uluslararası yükümlülüklerine uyacaktır.

Madde 9 – Taraflar, her iki tarafın da dahil olduğu silahlı çatışmalardan kaynaklanan kayıp kişiler ve zorla kaybetme vakalarını çözmek için, doğrudan veya uygun olduğu durumlarda ilgili uluslararası kuruluşlarla işbirliği yaparak, söz konusu kişiler hakkında mevcut tüm bilgilerin paylaşımı da dahil olmak üzere önlemler alacaklardır.

Bu bağlamda, taraflar, ilgili kişilerin akıbetinin açıklığa kavuşturulmasının, uygun olduğu durumlarda kalıntılarının aranması ve iade edilmesinin ve gerekli soruşturma tedbirleri yoluyla onlar için adaletin sağlanmasının, uzlaştırma ve güven oluşturma aracı olarak önemini kabul etmektedirler. Bu konudaki ilgili yöntemler, ayrı bir anlaşmada ayrıntılı olarak görüşülecek ve kararlaştırılacaktır.

Madde 10 – Taraflar, ekonomi, transit ve ulaştırma, çevre, insani ve kültürel alanlar da dahil olmak üzere çeşitli alanlarda işbirliği kurmak amacıyla karşılıklı çıkarlara ilişkin ilgili konularda ayrı anlaşmalar akdedebilirler.

Madde 11 – Bu anlaşma, tarafların uluslararası hukuk ve Birleşmiş Milletlerin diğer üye devletleriyle akdettikleri antlaşmalar kapsamındaki hak ve yükümlülüklerine halel getirmeyecektir. Her bir taraf, kendisi ile herhangi bir üçüncü taraf arasında yürürlükte olan uluslararası anlaşmaların, bu anlaşma kapsamındaki yükümlülüklerine halel getirmemesini sağlayacaktır.

Madde 12 – Taraflar, ikili ilişkilerinde uluslararası hukuka ve bu anlaşmaya göre hareket edeceklerdir. Taraflardan hiçbiri, bu anlaşmayı uygulamamak için kendi iç hukukunun hükümlerini gerekçe olarak kullanmayacaktır. Taraflar, bu anlaşmanın yürürlüğe girmesinden önce, Viyana Antlaşmalar Hukuku Sözleşmesi (1969) uyarınca, bu anlaşmanın amacına ve hedefine aykırı herhangi bir eylemde bulunmaktan kaçınacaklardır.

Madde 13 – Taraflar, bu anlaşmanın tam olarak uygulanmasını garanti eder ve bu anlaşmanın uygulanmasını izlemek üzere ikili komisyon kuracaklardır. Bu komisyon, taraflar arasında kararlaştırılacak usullere göre faaliyet gösterecektir.

Madde 14 – Taraflar, uluslararası hukuk ve karşılıklı ilişkilerinde kendilerini bağlayan antlaşmalar kapsamındaki hak ve yükümlülüklerine halel gelmeksizin, bu anlaşmanın yorumlanması veya uygulanmasıyla ilgili her türlü uyuşmazlığı, 13. maddede belirtilen komisyon aracılığıyla da dahil olmak üzere doğrudan istişareler yoluyla çözmeye çalışacaklardır. Bu istişareler altı ay içinde karşılıklı olarak kabul edilebilir bir sonuç vermezse, taraflar uyuşmazlığın barışçıl yollarla çözülmesi için diğer yollara başvuracaklardır.

Madde 15 – Taraflar, 14. maddeye halel gelmeksizin, bu anlaşmanın imzalanmasından önce aralarında herhangi bir hukuki temele dayalı olarak var olan tüm devletlerarası iddiaları, şikayetleri, itirazları, talepleri, yargılamaları ve uyuşmazlıkları, bu anlaşmanın yürürlüğe girdiği tarihten itibaren bir ay içinde geri çekecek, sonlandıracak veya başka bir şekilde çözüme kavuşturacak ve birbirlerine karşı bu tür iddiaları, şikayetleri, itirazları, talepleri ve yargılamaları başlatmayacaktır ve taraflardan herhangi birine karşı herhangi bir üçüncü tarafça başlatılan bu tür iddialara, şikayetlere, itirazlara, taleplere ve yargılamalara hiçbir şekilde dahil olmayacaklar. Taraflar, bu anlaşmaya aykırı olarak birbirlerine karşı diplomatik, enformasyon ve diğer alanlarda düşmanca adımlar atmayacak, bunları teşvik etmeyecek veya başka bir şekilde bu tür eylemlerde bulunmayacak ve bu amaçla düzenli olarak birbirleriyle istişare edeceklerdir.

Madde 16 – Bu anlaşma, tarafların ulusal mevzuatlarına uygun olarak iç prosedürlerin tamamlandığını bildiren belgelerin teati edilmesinden sonra yürürlüğe girecektir. Bu anlaşma, Birleşmiş Milletler Şartı’nın 102. Maddesi uyarınca tescil edilecektir.

Madde 17 – Bu anlaşma, Azerbaycanca, Ermenice ve İngilizce dillerinde düzenlenmiştir ve tüm metinler aynı derecede geçerlidir. Herhangi bir geçerli metin arasında hükmün anlamında farklılık olması durumunda, İngilizce metin esas alınacaktır.

Anlaşmanın paraflanması, yürürlüğe girdiği anlamına gelmiyor
2. Karabağ Savaşı’nın ardından, Cumhurbaşkanı Aliyev’in önerisiyle Azerbaycan ve Ermenistan barış müzakerelerine başlamıştı. Taraflar, Mart 2025’te anlaşma metni üzerinde mutabakata varmıştı. Beyaz Saray’da 8 Ağustos’ta düzenlenen üçlü zirvede ise metin paraflandı.

Ancak paraflama, anlaşmanın yürürlüğe girdiği anlamına gelmiyor. Anlaşma, Azerbaycan’a karşı toprak iddialarını içeren Ermenistan Anayasası değiştirildikten sonra imzalanarak resmiyet kazanacak.

Devamını Oku

Dünya

Rusya’da WhatsApp ve Telegram üzerinden aramalar engellenmeye başladı

Published

on

By

Rusya’da yaptırımlardan ötürü gerekli altyapı yenilemelerinin yapılamaması nedeniyle WhatsApp ve Telegram üzerinden aramalar engellenmeye başladı.

Downdetector verilerine göre, Rusya’da vatandaşlar, sabah saatlerinden itibaren WhatsApp ve Telegram üzerinden yapılan aramalarda sorun yaşadıkları bildiriminde bulundu.

Rus basınında çıkan haberlerde, ülkedeki mobil operatörlerin Rus hükümetine mektup yazarak, yaptırımlardan ötürü gerekli altyapı yenilemelerinin yapılamadığının iletildiği yer almıştı.

Buna karşın, internet trafiğinin ise arttığına işaret eden operatörlerin, trafiğin azaltılması için WhatsApp ve Telegram üzerinden aramaların engellenmesini talep ettiği belirtilmişti.

Konuya ilişkin resmi açıklama yapılmazken, bazı Rus yetkililer engellemenin telefon üzerinden dolandırıcılıkla mücadele için gerektiğini savunuyor.

Rus parlamentosunun alt kanadı Duma’dan bazı milletvekilleri, 18 Temmuz’da yaptıkları açıklamada, mesajlaşma uygulaması WhatsApp’ın ulusal güvenliği tehdit ettiği gerekçesiyle yasaklanması çağrısında bulunmuştu.

Devamını Oku

Trending

Reklam