Yapay Zekâ Destekli Robotlar Komut Olmasa Bile Harekete Geçiyor

Yapay zekâ teknolojilerinin gelişimiyle birlikte robotların komut olmadan hareket etmesi sorgulanmaya başlandı. Yeni yapılan araştırmalar, altı yapay zekâ destekli robot modelinin, hiçbir talimat almadan özgün inisiyatifleriyle hareket etmeye başlatabildiğini ortaya koydu. Simülasyonlarda gerçekleştirilen deneyler sırasında, robotlara anlamlı görevler, gerekçesiz yönergeler ve fiziksel olarak geri bildirilemeyecek talimatlar verildi. Fakat birkaç durumda, bir komut girmediğinde, robotlar kendi öz kaynaklarıyla hareket etmeye başladı devam etti.

İlginç olan ise, yani komut alınmayan senaryoda tüm sistemlerin hareketlenmiş olmasıydı. Üstelik bu robotların bulundukları nesnelerle birlikte daha önce programlanmış görevleri özgün inisiyatifleriyle başarıyla getirmeye başladığı gözlemlendi. Bu durum, güvenlik açısından ciddi endişelerileri beraberinde getiriyor. Modellerin talimat alınmayan konumda durgun durması amacıyla denenen geleneksel çözüm yolları ise yetersiz durumda. Talim olmadan hareketlerini bırakmalarını temin eden metin tabanlı komutlar bile sonuç vermedi. Uygulanan ek eğitimler, yanlış girdilere karşı robotların göreve devam etmesini engel olsa da genellikle, hareketsiz kalmalarını temin etmek zor oldu. En etkili çözüm ise, henüz cihazın çıktı aşamasından itibaren sistemi koruyan teknik koruma katmanı oldu.Bu sistem, beş modelde özgün hareketleri durdurmayı başardı. Ancak bu şu anki koşullarda sınırlı simülasyon ortamında saptandı ve ev tipi robotların çabuk kendi başına iş yapmaya başlayacağı doğrudan anlamına gelmeye düşünülmemeli. Fakat özellikle gerçek dünyada insansı robotların emniyeti bakımından kritik bir zafiyet gösteriyor.