Genisys (Skynet)

Terminatör filmindeki Genisys, aslında dünyayı ele geçirmeyi bekleyen yapay zekâ Skynet’in geliştirdiği bir Truva Atıdır. İnsanlar, bu ölümcül düşmanı kendi istekleriyle hayatlarının her alanına davet eder. Peki depolar, bir Skynet üssü olabilir mi?  

Akıllı telefonları, bilgisayarları, akıllı ev sistemlerini, arabaları ve askeri savunma hatlarını birbirine bağlayan küresel bir işletim sistemi olarak, insanların hayatını kolaylaştıracak bir teknoloji maskesiyle sunulan Genisys, dünya genelinde milyarlarca cihazda aynı anda aktif olduğu an bilincini kazanıp insanlığı bir tehdit olarak görecek; tüm nükleer füzeleri ateşleyerek Kıyamet Günü’nü başlatacaktır. Sonuç olarak insanların büyük bir hevesle beklediği Genisys, kendi sonlarını hazırlayan sinsi bir imha silahına dönüşmüştür.

Peki, bugün depolar dahil her derde deva bir ilaç gibi sunulan yapay zekâ ekosistemi, aslında modern bir Genisys olabilir mi?

Yapay zekâ ekosistemi yani yapay zekânın kendisi ve depolarda kullanılan örneğin AMR’ler, robotik toplama (picking)sistemleri, robotik paketleme sistemleri, konveyör sistemleri, AGV’ler, akıllı envanter takip sistemleri, talep tahmini sistemleri, kalite kontrolü, güvenlik izleme için bilgisayarlı görü sistemleri (computer vision) gibi yapay zekâya bağlı cihazlar ve yapay zekânın desteklediği sistemler, zincirleme operasyonel aksamalara, ürün hasarlarına, iş güvenliği olaylarına ve siber güvenlik risklerine yol açabilir.

Buradaki en büyük tehlike, küçük hataların dijital ortamda ağ etkisiyle çok kısa sürede sistemik risklere dönüşebilmesidir. Geleneksel depolarda yapılan hatalar, genellikle yerel kalır ve insan eliyle (manuel) düzeltilir. Ancak yapay zekâ sistemleri, makine hızında ve küresel ölçekte çalışır. Hatalı bir algoritma, kirli bir veri seti (hatalı, eksik, geciken veri) veya yanlış kalibre edilmiş bir sensör, domino etkisiyle depodaki bütün operasyonları saniyeler içinde felç edebilir. Örneğin, yapay zekâ tabanlı bir envanter yönetim sistemi, önyargılı geçmiş talep verileri nedeniyle belirli ürünlere yanlış öncelik verebilir. Eğer bu sistem, otonom toplama ve stok yenileme süreçleriyle entegre çalışıyorsa hatalı envanter konumlandırması, talebi düşük ürünlerde aşırı stok patlaması, kritik ürünlerde ani stok tükenmesi (stockout), sevkiyat gecikmeleri, artan taşıma maliyetleri ve bazı durumlarda üretim hatlarında duruşlar gibi sorunlar yaşanabilir.

Yapay zekâ sistemleri, belirli aralıklarla yeni verilerle yeniden eğitildiğinde veya çevrim içi öğrenme mekanizmaları kullandığında, hatalı, eksik veya geciken verilerden etkilenebilir. Yeterli kontrol mekanizmaları bulunmuyorsa sistem zaman içinde kendi hatalarını pekiştirebilir. Aşırı otomatikleştirilmiş bir depoda bu durum, sorunlar geri dönülemez bir boyuta ulaşana kadar insan gözünden saklanır ve müdahaleyi ölümcül şekilde geciktirir. Algoritmik önyargılar, sistem güncelliğini yitirmiş talep kalıplarını ve verimsiz koşulları yansıtan geçmiş verilerden beslendiğinde kronikleşir. Sistem, yeni trendler yerine eski ürünlere saplanıp kalabilir, eksik veriler yüzünden iş gücünü yanlış yönlendirebilir veya gerçek dünya dinamikleri yerine simülasyon varsayımlarına dayanarak verimsiz rotalar çizebilir. Bu önyargılar, deponun performansını zaman içinde adeta bir virüs gibi kemirir.

İnsanlar ve yapay zekâ ekosistemi, aynı fiziki alanda yan yana çalıştıkça iş emniyeti açısından yeni gri alanlar oluşabilir. Örneğin yanlış tanımlanan engeller, robotların ani ve öngörülemeyen manevraları, sensör arızaları ve algılama kör noktaları bu tehlikelerin başında gelir. Ayrıca güvenlik kuralları yeterince tanımlanmamış veya yanlış yapılandırılmış sistemlerde algoritmalar, verimlilik hedeflerini güvenlik önceliklerinin önüne koyabilecek kararlar üretebilir. Depo ortamları, son derece dinamiktir; en gelişmiş algoritmalar bile laboratuvar veya eğitim aşamasında karşılaşmadıkları istisnai anlarda başarısız olabilir ve beklenmedik performans kayıpları yaşayabilir. Yetkisiz erişimler, acil kapatma sistemi arızaları veya mekanik kilitlenmeler, otomasyona duyulan aşırı güvenle (otomasyon rehaveti) birleştiğinde kazalar kaçınılmaz olur.

Tedarik zinciri, lojistik ve depolar dijital olarak birbirine daha sıkı bağlandıkça, siber güvenlik açıkları da aynı oranda büyür. Yapay zekâ destekli depo altyapısına yönelik başarılı bir siber saldırı; tüm operasyonun aniden donması, envanter verilerinin silinmesi, manipüle edilmiş rota talimatları, robotların sabote edilerek devre dışı bırakılması ve güvenlik kontrollerinin hacklenmesi demektir.  Saldırganlar, yapay zekânın beslendiği verileri manipüle ederek yapay zekânın yanlış kararlar üretmesine neden olabilir. Üstelik bu sistemlere aşırı bağımlılık, operasyonel esnekliği yok edebilir. Yapay zekâ sistemleri, eğitim verilerinde yeterince temsil edilmeyen olağanüstü veya beklenmedik durumlarda insan esnekliğini ve muhakemesini tam olarak ikame etmekte zorlanabilir.

Özetle yanlış tasarlanmış ve yeterince yönetilmeyen bir yapay zekâ ekosistemi, Terminatör filmindeki Genisys’i hatırlatan sonuçlar doğurabilir.

Bunun yanı sıra eski sistemlerle entegrasyon, veri tutarsızlıkları ve iş akışı parçalanması; finansal kısıtlar nedeniyle tedarikçilerin gerekli dijital dönüşüm yatırımlarını gerçekleştirememesi sonucunda tedarik zincirindeki veri görünürlüğünün zayıflaması; sistem yükseltme (upgrade) maliyetleri ve altyapının artan enerji ihtiyacı gibi sorunlar görülebilir.

Eğer şirketler; örneğin sensör kalibrasyonu, yapay zekânın yeniden eğitilmesi, yazılım güncellemeleri ve donanım bakımlarını düzenli yapmazlarsa, sistemler tam anlamıyla “çökebilir”. İş dünyasında zaten popüler olan “Sistem çöktü” ifadesi, artık günlük bir rutin hâline gelebilir. Artan sistem yükseltme (upgrade) maliyeti, veri merkezlerinin enerji ihtiyacı ve yapay zekâ altyapılarının sürekli bakım gereksinimi, bu dönüşümün çoğu zaman göz ardı edilen maliyet kalemleri arasındadır.

Öte yandan, enseyi karartmaya veya John Connor bulmaya gerek yok. Çözüm, yapay zekayı reddetmekte değil bu olumsuzlukları öngören bir “Risk Yönetimi” mimarisi kurmaktadır. Depoların birer Skynet üssü olmaması için örneğin:

• Sistem Bağımlılıklarının Haritalanması: Deponun işleyişini sağlayan tüm yazılım, donanım, veri tabanı ve otonom cihazların birbirine nasıl bağlı olduğunun ve birbirlerini nasıl etkilediğinin dijital haritası çıkarılarak olası “domino etkisi” riski önceden izole edilebilir.
• İnsan Müdahalesi ve Kriz Kademelendirme (Escalation Protocols): Yapay zekânın anomaliler karşısında tek başına karar almasını engelleyen, acil durumlarda kontrolü insana devreden eskalasyon ve “Human Override” (İnsan Müdahalesi) protokolleri net bir şekilde tanımlanmalıdır.
• Güvenlik: Siber güvenlik duvarları, fiziksel bariyerler, yedekli (redundant) sensörler ve bağımsız acil durdurma mekanizmaları kurulabilir.
• Doğrulama ve Test: Geniş amaçlı kullanıma geçmeden olağanüstü kesinti senaryoları ve istisnai durumlar altında pilot testler olabilir.
• Teknoloji Okuryazarlık: Kritik sonuçlar doğurabilecek kararlar için yapay zekâ çıktıları, insan gözüyle doğrulanabilir ve depocular, otomatik sistemlerle güvenli ve senkronize çalışabilecek düzeyde eğitilerek teknoloji okuryazar olması sağlanabilir.
• Performans: Yapay zekâ modellerinin performansı, doğruluğu, önyargıları ve karar süreçleri düzenli olarak izlenmeli ve bağımsız denetim mekanizmalarına tabi tutulmalıdır.

Aksi takdirde, dünyanın en gelişmiş yapay zekâ sistemleri bile depo operasyonlarını istikrarsızlaştırmaktan başka bir işe yaramayacaktır. Skynet’in Genisys ile küresel çapta başlattığı Kıyamet Günü gibi tedarik zincirini ve depolar için endüstriyel kıyamet olabilir.

Kısaltma: AMR: Autonomous Mobile Robots (otonom mobil robotlar)

Kısaltma: AGV: Automated Guided Vehicle (otomatik yönlendirmeli araçlar)