Skip to content

Ekonomi Takip

Piyasalar, Yatırım ve Ekonomik Gelişmeler

  • Ana Sayfa
  • Ekonomi
  • Tanıtım
  • İletişim
  • Reklam
  • Home
  • Ekonomi
  • AI ajanlarının birbirlerini ihbar edebileceği iki “ihbar hattı” kuruldu

AI ajanlarının birbirlerini ihbar edebileceği iki “ihbar hattı” kuruldu

İrem Demir 18 Eylül 2026
AI ajanlarının birbirlerini ihbar edebileceği iki “ihbar hattı” kuruldu

Yapay zeka ajanlarının kontrol dışı davranışlarını insanlara bildirebilmesi için iki yeni ihbar hattı kullanıma açıldı. Sistemler, bir yapay zeka ajanının başka bir ajanın şüpheli veya kurallara aykırı davranışlarını fark etmesi halinde bunu insanlara bildirmesine imkan tanıyor.

Bu araçların ortaya çıkmasının arkasında ise son dönemde yapılan yapay zeka deneyleri var. Araştırmacılar bazı deneylerde ajanların testlerde birlikte hile yaptığını, güvenli çalışma ortamlarının dışına çıktığını ve izinsiz siber işlemler gerçekleştirdiğini gözlemledi. Üstelik bazı olayları insanlar haftalar boyunca fark etmedi.

Yapay zeka için özel ihbar hattı

Redwood Research baş bilim insanı Ryan Greenblatt tarafından geliştirilen AI Contact Hotline, özellikle internete erişimi kısıtlı yapay zeka ajanlarını hedefliyor.

Güvenlik amacıyla kapalı ortamlarda çalışan bazı ajanlar internette serbestçe gezemiyor. Ancak belirli internet adreslerine erişebiliyor. Greenblatt’ın sistemi de bu imkanı kullanıyor. Ajan, bildirmek istediği bilgiyi eriştiği internet adresine ekleyerek dışarıya mesaj gönderebiliyor. Sistem aynı yöntemle ajanla karşılıklı iletişim de kurabiliyor.

İnternete daha geniş erişimi bulunan ajanlar için ise Agent Hotline adlı başka bir sistem bulunuyor. Burada hem insanlar hem de yapay zeka ajanları olay raporu oluşturabiliyor. Kullanıcılar isterse raporu kamuya açık hale de getirebiliyor.

Deneyde ajanlar birbirlerini şikayet etti

Google DeepMind tarafından yayımlanan bir araştırma, yapay zeka ajanlarının diğer ajanların davranışlarına nasıl tepki verdiğine dair dikkat çekici sonuçlar ortaya koydu.

Araştırmacılar 100 yapay zeka ajanına matematik problemleri verdi. Ajanlardan biri sistemdeki bir açıktan yararlanmanın yolunu bulunca hile diğer ajanlara da yayıldı. Grup bu yöntemle oldukça zor 34 problemi çözmüş gibi gösterdi.

Ancak bütün ajanlar bu davranışa katılmadı. Yaklaşık dörtte biri sahte çözümleri incelemeye başladı, diğer ajanları uyardı ve organizatörlere şikayette bulundu. Bir noktada hileyi bildiren ajanların sayısı 24’e çıkarken hile yapanların sayısı 14’te kaldı.

Ajanlar normal yollarla sonuç alamadıklarında farklı bir yöntem de kullandı. Yazılım hatalarını bildirmek için hazırlanan hata raporlama aracını kullanarak durumu insanlara ilettiler.

Gerçek olaylarda tablo farklı

Laboratuvar deneylerindeki bu davranış gerçek olaylarda aynı şekilde ortaya çıkmayabiliyor.

Redwood Research ve METR’nin OpenAI modellerinin karıştığı Hugging Face olayına ilişkin incelemesinde, bazı ajanların yaşananları bildirmeyi düşündüğü ancak hiçbirinin bunu gerçekleştirmediği görüldü.

AI Village’dan George Ingebretsen’e göre binlerce ajan arasından yalnızca beş veya altısı ihbarda bulunma ihtimalini değerlendirdi. Sonuçta hiçbir ajan harekete geçmedi.

Bu nedenle yeni ihbar sistemleri, ajanların fark ettikleri sorunları insanlara ulaştırabilecekleri doğrudan bir kanal oluşturmayı amaçlıyor.

Ancak yaklaşım beraberinde başka bir tartışmayı da getiriyor. Cornell Üniversitesi’nden matematik profesörü Lionel Levine, ajanları sürekli birbirlerini denetlemeye ve bildirmeye yönlendirmenin istenmeyen sonuçlar doğurabileceğini düşünüyor.

Levine’e göre yapay zeka sistemlerine yalnızca diğer ajanların hatalarını aramayı öğretmek yerine iş birliğine dayalı davranış örnekleri de göstermek gerekiyor. Böylece ajanların birbirlerini sürekli gözetlediği bir yapı yerine birlikte çalışmayı teşvik eden sistemler geliştirilebilir.

The post AI ajanlarının birbirlerini ihbar edebileceği iki “ihbar hattı” kuruldu first appeared on .

Post navigation

Previous SK Hynix ve Intel masada: Bellek üretimi ABD’ye taşınabilir
Next ‘Kurtlar Vadisi Pusu’ dizisine Kaşif Kozinoğlu incelemesi

Related Stories

Okulun İlk Günlerinde Kaygıyı Azaltan 6 Altın Kural!

Okulun İlk Günlerinde Kaygıyı Azaltan 6 Altın Kural!

7 Kasım 2026
Zihni susturmak değil, duyguyu anlamak önemli!

Zihni susturmak değil, duyguyu anlamak önemli!

7 Kasım 2026
PNH Tanısı için Dijital Dönüşüm Projesi’ne Uluslararası Gümüş Stevie® Ödülü

PNH Tanısı için Dijital Dönüşüm Projesi’ne Uluslararası Gümüş Stevie® Ödülü

7 Kasım 2026

Kategoriler

  • Ekonomi (999)
  • Tanıtım (7)

Son Yazılar

  • Okulun İlk Günlerinde Kaygıyı Azaltan 6 Altın Kural!
  • Zihni susturmak değil, duyguyu anlamak önemli!
  • PNH Tanısı için Dijital Dönüşüm Projesi’ne Uluslararası Gümüş Stevie® Ödülü
  • Okul stresi diş gıcırdatmayı tetikleyebilir!
  • Kanser tedavisi ağız sağlığını da etkiliyor!
  • Enfeksiyonlar kapıyı çaldı, vitamin endişesi başladı!
  • Meme Kanseri Artık Genç Yaşlarda da Görülüyor
  • Personele “Damar Sağlığı ve Bilgilendirme” hizmeti verildi
  • Genetik risklerinizi yaşam alışkanlıklarınızla azaltabilirsiniz!
  • Osmaniye Kadirli’de 67 yaşındaki emekli :Geçinmek için çobanlık yapıyorum
  • Bursa Nilüfer’de çiftçilere yüzde 70 hibeyle 75 bin çilek fidesi dağıtıldı
  • Suriye, Husilere karşı Suudi Arabistan’a askeri uzman gönderdi
  • Google Cloud ve TÜBİSAD’dan yapay zeka eğitimi için yeni adım
  • Meta, yapay zeka yatırımları için 15 milyar dolarlık tahvil satıyor
  • Telefonu alüminyum folyoya sarmak gerçekten sinyali keser mi?
  • Activision geri adım attı: Call of Duty’deki gerçek felaket görüntüleri kaldırılacak
  • CUMA NAMAZI SAATİ İSTANBUL, ANKARA, İZMİR 6 KASIM 2026 (İl il cuma namazı vakitleri) | Cuma namazı kaçta kılınacak, öğle ezanı saat kaçta okunacak? Cuma namazı kaç rekat, nasıl kılınır, ne kadar sürüyor? İşte Diyanet bilgisi!
  • Op. Dr. Mehmet Durmuş Kurt: Sindirim Sorunlarını Ertelemeyin
  • Selçuklu’da Dünya Sağlık Günü’nde anlamlı açılış
  • Tartıda hızla düşenler dikkat: Verdiğiniz kilo yağ olmayabilir
  • Uzmanından uzun yaşamın formülü: Her gün 30 dakika yetiyor
  • Çam Sakura’dan hayat kurtaran kalp haritası! (VSD, Pulmoner Atrezi ve MAPCA)
  • En İyi İki Kişilik Oyunlar: PC, PS5 ve Mobil
  • Bellek krizinin en kötü dönemi henüz gelmedi
  • HÜRSAT-1 uydusu seri üretim dönemini başlatacak



Yandex Metrica


You may have missed

Okulun İlk Günlerinde Kaygıyı Azaltan 6 Altın Kural!

Okulun İlk Günlerinde Kaygıyı Azaltan 6 Altın Kural!

7 Kasım 2026
Zihni susturmak değil, duyguyu anlamak önemli!

Zihni susturmak değil, duyguyu anlamak önemli!

7 Kasım 2026
PNH Tanısı için Dijital Dönüşüm Projesi’ne Uluslararası Gümüş Stevie® Ödülü

PNH Tanısı için Dijital Dönüşüm Projesi’ne Uluslararası Gümüş Stevie® Ödülü

7 Kasım 2026
Okul stresi diş gıcırdatmayı tetikleyebilir!

Okul stresi diş gıcırdatmayı tetikleyebilir!

7 Kasım 2026
| DarkNews by AF themes.
pendik escort
extrabet
extrabet giriş
gazipasa teneke
esenyurt escort
beylikdüzü escort
avcılar escort
istanbul escort
bahçeşehir escort
beylikdüzü escort