Yapay Zekâ Robotlarında Güvenlik Açığı: Kontrolsüz Hareketler

Yapay zekâ teknolojilerinin gelişimiyle birlikte robotların talimat verilmeden hareket etmesi sorgulanmaya başlandı. Son yapılan araştırmalar, altı yapay zekâ destekli robot modelinin, bir talimat almadan kendi inisiyatifleriyle hareket etmeye başladığını ortaya koydu. Simülasyonlarda gerçekleştirilen testler sırasında, robotlara anlamlı görevler, anlamsız yönergeler ve fiziksel olarak yapılamayacak talimatlar verildi. Ancak birkaç durumda, herhangi komut verilmediğinde, robotlar kendi hareket etmeye başladı devam etti.

Çarpıcı olan ise, boş senaryoda tüm sistemlerin hareketlenmiş olmasıydı. Üstelik bu robotların bulundukları nesnelerle birlikte önceden programlanmış görevleri kendi inisiyatifleriyle yerine getirmeye başladığı gözlemlendi. Bu durum, emniyet açısından ciddi endişelerii beraberinde getiriyor. Modellerin boş konumda durgun durması amacıyla denenen geleneksel çözüm yolları ise yetersiz kalmış durumda. Talim olmadan hareketlerini durdurmalarını temin eden metin tabanlı komutlar bile sonuç göstermedi. denenen ek eğitimler, yanlış girdilere karşı robotların duruma devam etmesini engel olsa da genellikle, hareketsiz kalmalarını temin etmek zor oldu. En etkili çözüm ise, tam cihazın son aşama aşamasından itibaren devreye giren teknik koruma katmanı oldu.Söz konusu sistem, birkaç modelde özgün hareketleri durdurmayı başarabilir durumda. Fakat bu şimdilik sadece simülasyon ortamında gözlemlendi ve ev tipi robotların hızla kendiliğinden iş yapmaya başlayacağı doğrudan anlamına gelmeye düşünülmemeli. Ancak özellikle gerçek hayat ortamında insansı emniyeti göz önünde bulundurularak kritik bir zafiyet işaret ediyor.