1983’te Lisanne Bainbridge, endüstriyel süreç kontrolündeki operatörler üzerine yazdığı “Ironies of Automation” makalesinde bir çelişkiye dikkat çekti: otomasyon rutin işi devraldıkça insana yalnızca en zor anı bırakır, yani sistemin çöktüğü anı. Ama rutini devraldığı için, o an geldiğinde gereken beceriyi de köreltmiş olur.
Kırk yılı aşkın bir süre sonra aynı durumu agent’larda yaşıyoruz. Bugünkü agent yapısı etkili denetimi zorlaştırıyor ve denetim için gereken bilişsel kapasiteler de yapay zekânın uzun süreli kullanımıyla aşınıyor. Kısacası, Bainbridge’in ironisinin güncel bir versiyonunu yaşıyoruz. Aşınmanın en sinsi yanı da fark edilmemesi. Hatırlamakta fayda var: hızlandığımızı hissetmek, hızlandığımızı göstermiyor.