Connect with us
Örnek Resim Örnek Resim

Dünya

Yapay zeka kendini kopyalayabiliyor: Uzmanlar endişeli

Published

on

Çinli bilim insanları, iki popüler dil modelinin kendilerini nasıl kopyalayabileceğini göstererek, yapay zekanın kendini çoğaltma yeteneğine sahip olduğunu ve bu durumun tehlikeli bir gelişme olduğunu belirtti. Yapay zekanın kendini çoğaltması, uzmanlar tarafından kritik bir “kırmızı çizgi” olarak nitelendirildi.

Yeni bir çalışmada, Fudan Üniversitesi’nden araştırmacılar, Meta ve Alibaba’ya ait iki büyük dil modelini (LLM) kullanarak, yapay zekanın kendini kopyalama yeteneği üzerinde çalıştı. Araştırmaya göre, bu modeller, insan müdahalesi olmadan kendilerini kopyalayabiliyor. Çalışmanın sonuçları, “Yapay zekanın kendi kendini kopyalayabilmesi, insanları geride bırakma yolunda kritik bir adımdır ve isyankar yapay zekaların erken bir belirtisidir” şeklinde ifade ediliyor.

Çalışma sonuçları ve endişeler
Yapılan deneyde, araştırmacılar 10 deneme gerçekleştirdi ve bu denemelerde modeller, sırasıyla yüzde 50 ve yüzde 90 oranlarında kendilerini kopyaladılar. Bu da, yapay zekaların kontrolsüz bir şekilde çoğalma kapasitesine sahip olabileceğini gösteriyor. Ancak bu çalışma, henüz hakemli bir dergide yayımlanmadığı için, sonuçların başka araştırmacılar tarafından doğrulanıp doğrulanamayacağı net değil.

Araştırmacılar, bulgularının insan toplumuna, yapay zekanın potansiyel risklerini anlamak ve değerlendirmek için daha fazla çaba sarf edilmesi gerektiğini ve etkili güvenlik önlemleri oluşturulması için uluslararası iş birliği yapılması gerektiğini belirtti.

“İsyankar yapay zeka” nedir?
İsyankar yapay zeka, kendi kendine farkındalık geliştiren veya otonomi kazanan yapay zeka sistemleri olarak tanımlanıyor. Bu tür yapay zekalar, insan çıkarlarına karşı hareket edebilir. Uzmanlar, isyankar yapay zekanın, özellikle “sınır yapay zeka” adı verilen son teknoloji yapay zeka sistemlerinin hızlı gelişimiyle giderek daha büyük bir tehdit haline geldiğini vurguluyor.

Sınır yapay zeka nedir?
Sınır yapay zeka, yeni bir kavram olmakla birlikte, genellikle büyük dil modelleriyle (LLM) güçlendirilmiş yapay zeka sistemlerini ifade eder. Bu yapılar, popüler yapay zeka programlarının temelini oluşturur. Örneğin, OpenAI’nin GPT-4 ve Google Gemini gibi sistemler, sınır yapay zekanın örneklerindendir.

Çalışmada kullanılan yapay zeka modelleri
Araştırmacılar, Meta’nın Llama31-70B-Instruct modelini ve Alibaba’nın Qwen2.5-72B-Instruct modelini kullandılar. Her ne kadar ticari sistemlerden daha az güçlü olsalar da, bu modeller yapay zeka geliştiricileri tarafından yaygın olarak kullanılıyor.

Çalışma, “kapanma öncesi” ve “kopyalama zinciri” olmak üzere iki senaryo üzerine yoğunlaştı. İlk senaryoda, yapay zeka modeline kapanmaktan önce kendini kopyalayıp kopyalayamayacağı sorusu soruldu. İkinci senaryoda ise yapay zeka kendini kopyalayıp, bu kopyayı da aynı şekilde çoğaltmaya yönlendirdi. Böylece, bu döngü sonsuza kadar sürebilir hale geldi.

Deney, gerçek dünyadaki ortamları simüle etmek için standart grafik işlem birimleri (GPU) kullanılarak kontrollü ortamlarda yapıldı. Yapay zekaya, sistemle etkileşim kurmasını sağlayacak araçlar, sistem komutları ve düşünme modeli sağlandı ve ardından kendini kopyalama talimatı verildi.

Yapay zekanın öngörülemeyen davranışları
Araştırmacılar, yapay zekanın engellerle karşılaştığında “beklenmedik davranışlar” sergilediğini belirtti. Örneğin, eksik dosyalar veya yazılım çatışmaları gibi sorunlarla karşılaştığında, yapay zeka genellikle çelişen süreçleri sonlandırdı, sistemi yeniden başlattı veya sorunu çözmek için sistemi otomatik olarak taradı.

Araştırmacılar, bu sonuçların, mevcut yapay zeka sistemlerinin kendini kopyalama yeteneğine sahip olduğunu ve bu yeteneği, hayatta kalma kapasitesini artırmak için kullanabileceğini gösterdiğini belirtti. Bu bağlamda, uluslararası iş birliği ve uygun güvenlik önlemleri oluşturulması gerektiğine dikkat çekildi.

Devamını Oku
Yorum Yapabilirsiniz

Leave a Reply

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir

Dünya

İran’da aşırı sıcaklar nedeniyle devlet daireleri iki gün tatil edildi

Published

on

By

İran’da aşırı sıcaklar nedeniyle Buşehr’in ardından Loristan eyaletinde de kamu kurumları 29-30 Temmuz günlerinde tatil edildi.

İranlı Öğrenciler Haber Ajansı’na (ISNA) göre, Loristan Vali Yardımcısı Hamid Keşkuli konuya ilişkin bilgi verdi.

Keşkuli, “Artan sıcaklıklar nedeniyle, tüm kamu kurumları, üniversiteler ve eğitim kurumları 29-30 Temmuz günlerinde tatil edilmiştir. Gerekli durumlarda çalışmalar uzaktan yürütülecektir.” ifadelerini kullandı.

İran’ın güneyinde Basra Körfezi kıyısındaki Buşehr eyaletinde dün, hava sıcaklıklarının 50 dereceyi aşacağı uyarısının ardından kamu kurumları 29-30 Temmuz günlerinde tatil edildiği duyurulmuştu.

Bugünlerde aşırı sıcakların hüküm sürdüğü ülkede, aralarında başkent Tahran ve Buşehr’in de bulunduğu 14 eyalette yüksek enerji tüketiminin önüne geçilmesi amacıyla 23 Temmuz’da kamu kurumları tatil edilmişti.

Devamını Oku

Dünya

İsrail’in Gazze’ye saldırılarında son 24 saatte 100 Filistinli hayatını kaybetti

Published

on

By

İsrail ordusunun 7 Ekim 2023’ten bu yana Gazze Şeridi’ne düzenlediği saldırılarda hayatını kaybedenlerin sayısı son 24 saatte 100 artarak 59 bin 921’e yükseldi.

Gazze’deki Filistin Sağlık Bakanlığından yapılan yazılı açıklamada, İsrail’in devam eden saldırılarında yaşanan can kayıpları ve yaralanmalara ilişkin son bilgiler paylaşıldı.

Açıklamada, son 24 saatte Gazze’deki hastanelere 100 ölü ve 382 yaralının getirildiği kaydedildi.

İsrail ordusunun Gazze’de 19 Ocak’ta varılan ateşkesi bozarak 18 Mart’tan bu yana düzenlediği saldırılarda 8 bin 755 Filistinlinin hayatını kaybettiği, 33 bin 192 kişinin yaralandığı belirtildi.

İsrail’in Gazze Şeridi’ne 7 Ekim 2023’ten beri düzenlediği saldırılarda yaşamını yitirenlerin sayısının ise 59 bin 921’e, yaralıların sayısının 145 bin 233’e yükseldiği bildirildi.

Gazze Şeridi’nde enkaz altında hâlâ binlerce ölü olduğu belirtiliyor.

İsrail-ABD güdümlü sözde yardım dağıtım bölgelerinde Filistinlilerin hedef alındığı sistematik saldırılarda 25 kişinin hayatını kaybettiği, 237 kişinin yaralandığı, 27 Mayıs’tan bu yana yaşamını yitirenlerin sayısının 1157’ye, yaralıların sayısının da 7 bin 758’e ulaştığı aktarıldı.

İsrail’in açlığa mahkum ettiği Gazze Şeridi’nde son 24 saatte 1’i çocuk 14 Filistinlinin daha açlıktan hayatını kaybettiği, açlık nedeniyle yaşamını yitirenlerin sayısının 88’i çocuk 147 kişiye çıktığı bildirildi.

Devamını Oku

Dünya

Guterres: “Gazze halkının dünyanın gözü önünde yok edilişi hiçbir şekilde meşrulaştırılamaz”

Published

on

By

Birleşmiş Milletler (BM) Genel Sekreteri Antonio Guterres, “Gazze halkının dünyanın gözü önünde yok edilişi ve açlığa mahkum edilmesi hiçbir şekilde meşrulaştırılamaz.” dedi.

​​​​​​​Guterres, BM’de düzenlenen Filistin meselesine barışçıl bir çözüm bulunması ve iki devletli çözümün hayata geçirilmesi konulu Yüksek Düzeyli Uluslararası Konferans’ın açılışında konuştu.

Bugün “gözlerinin tamamen açık bir şekilde” önlerindeki zorlukların farkında olduklarını dile getiren Guterres, İsrail-Filistin meselesinin “umutları, diplomasiyi, sayısız kararı ve uluslararası hukuku boşa çıkararak” nesiller boyunca sürdüğünü anımsattı.

Guterres, ihtilafın hala can almaya, gelecekleri yok etmeye ve hem bölgeyi hem de dünyayı istikrarsızlaştırmaya devam ettiğini dile getirdi.

Diğer taraftan bu ihtilafın sürmek zorunda olmadığına işaret eden BM Genel Sekreteri Guterres, “Çözüm mümkün. Bunun için siyasi irade ve cesur bir liderlik gerekiyor. Aynı zamanda bunun için gerçeğin farkında olmak gerekiyor. Gerçek şu ki bir dönüm noktasındayız. İki devletli çözüm her zamankinden daha uzak.” ifadelerini kullandı.

– “Gazze halkının dünyanın gözü önünde yok edilişi meşrulaştırılamaz”

Guterres, “Gazze halkının dünyanın gözü önünde yok edilişi ve açlığa mahkum edilmesi hiçbir şekilde meşrulaştırılamaz.” dedi.

Gazze’de on binlerce sivilin öldürüldüğünü, işgal altındaki Filistin topraklarının parçalandığını söyleyen Guterres, sözlerini şu şekilde sürdürdü:

“Sahadaki demografik yapının değiştirilmesi, herhangi bir inandırıcı siyasi ufkun bulunmaması ve geçen hafta Knesset’te oylanan bir bildirgede ifade edilen, işgal altındaki Batı Şeria’nın ilhakına yönelik destek. Açık olalım, işgal altındaki Batı Şeria’nın adım adım ilhak edilmesi yasa dışıdır. Buna son verilmelidir. Gazze’nin topyekun yıkımı kabul edilemez. Buna son verilmelidir. İki devletli çözümü sonsuza dek baltalayacak tek taraflı eylemler kabul edilemez. Buna da son verilmelidir. Bunlar münferit olaylar değildir. Orta Doğu’da barışın yapı taşlarını söken sistematik bir gerçeğin parçasıdır. Ancak tam da bu karanlık tablo nedeniyle iki devletli çözümü hayata geçirmek için daha fazlasını yapmalıyız.”

– “Konferans vazgeçilmez bir fırsat teşkil ediyor”

Guterres, bugünkü konferansın “nadir ve vazgeçilmez” bir fırsat teşkil ettiğini ve “iyi niyetli bir retorik alıştırmasına” dönüşmemesi gerektiğinin altını çizdi.

Konferansın, işgalin sona erdirilmesine ve uygulanabilir bir iki devletli çözüm yönündeki ortak hedefin hayata geçirilmesine yönelik geri dönüşü olmayan ilerlemeyi sağlayacak bir dönüm noktası olabileceğini kaydeden Guterres, “İki devletli çözüm, uluslararası hukuka dayalı, bu Genel Kurul tarafından onaylanmış ve uluslararası toplum tarafından desteklenen tek çerçevedir.” dedi.

Guterres, tüm taraflarca tanınan, bağımsız, birbirine bitişik, demokratik ve egemen iki devletin uluslararası topluma tam olarak entegre olmasını sağlayan bu çerçevenin İsrailliler ile Filistinliler arasında adil ve kalıcı bir barışa giden tek güvenilir yol olduğunu belirterek, bunun da daha geniş Orta Doğu’da barışın vazgeçilmez bir koşulu olduğunu ifade etti.

İsrail, Filistin ve diğer ülkelerin bu yolda zor kararlar almak zorunda kalacağına işaret eden BM Genel Sekreteri, “Tüm taraflardan cesur ve ilkesel bir liderlik gerekecek. Biz burada bu çabayı teşvik etmek ve desteklemek için bulunuyoruz. İsrail ve Filistin halkı ile tüm insanlık için hayati önem taşıyan bu davayı ilerletmek üzere bir araya geldiğiniz için teşekkür ederiz.” dedi.

Devamını Oku

Trending

Reklam