Müşterileri adına bilet arayan ve satın alma işlemleri yapan yapay zeka asistanları, United Airlines’ın getirdiği erişim engeliyle karşılaştı. Havayolu şirketi, yetkilendirilmemiş üçüncü taraf kişisel yapay zeka araçlarını dijital hizmetlerinden uzak tutmak için rezervasyon, biletleme ve dağıtım politikalarını güncellediğini açıkladı. Kısıtlama, şirketin kendi platformlarının yanı sıra seyahat acenteleri ve toplama hizmetleri üzerinden sağlanan dolaylı erişimi de kapsıyor.
United’ın gerekçeleri arasında hassas verilerin açığa çıkması, müşterinin istemediği satın almaların gerçekleşmesi ve federal havacılık düzenlemelerinin ihlal edilmesi bulunuyor. Şirket, hesap bilgilerinin kişisel yapay zeka asistanlarıyla paylaşılmasının güvenlik riski yarattığını belirtiyor. Bu araçların gerçekleştirdiği işlemler, hesap ayarlarını değiştirebiliyor veya MileagePlus millerinin kullanılmasına yol açabiliyor.
Havacılığa özgü yükümlülükler de kararda etkili. United, otomatik işlemlerin ABD Federal Havacılık İdaresi ile ABD Ulaştırma Bakanlığı kurallarıyla çelişebileceğine dikkat çekiyor. Örneğin uçuşa giriş sırasında, bagajda patlayıcı gibi yasaklı maddeler bulunmadığına ilişkin beyanın bir insan tarafından onaylanması gerekiyor.
Botun yaptığı işlem nasıl ayırt edilecek?
Şirketler açısından temel sorunlardan biri, yapay zeka asistanlarının müşterinin hesap bilgileriyle oturum açması. Böyle bir durumda sistemde görünen işlem, insan tarafından yapılmış bir işlemden kolayca ayırt edilemiyor. Analistler, botlara ayrı kimlik bilgilerinin verilmesini bu belirsizliği gidermenin en doğrudan yolu olarak değerlendiriyor.
Walmart’ın duyurduğu Agent Profiles programı da bu ayrımı hedefliyor. Açıklanan modele göre müşteriler, hesapları içinde her yapay zeka ajanına özel bir profil üzerinden yetki verebilecek. Böylece ajanın yaptığı alışverişler, müşterinin diğer satın almalarından ayrı görülebilecek. Walmart, mevcut düzende bu işlemlerin aynı hesap altında herhangi bir ayrım olmadan toplandığını belirtiyor.
Target ise kullanım koşullarını değiştirerek yalnızca sınırlı sayıda onaylı araca erişim tanıdı. Listede Target’ın kendi alışveriş asistanının yanı sıra OAI, Google ve Microsoft bulunuyor. Şirket, onaylı araçlar listesini değiştirme hakkını saklı tutarken diğer ajanların siteye giriş yapmasını, veri toplamasını veya API üzerinden etkileşim kurmasını yasaklıyor. Onaylı araçların yetkisiz araçlarla birlikte kullanılması da yazılı izne bağlı.
Standart eksikliği teknik yükü artırıyor
Sektör gözlemcilerine göre sorun yalnızca güvenlikten ibaret değil. Büyük yapay zeka sağlayıcıları ve girişimler tarafından geliştirilen çok sayıda botun farklı yöntemlerle çalışması, bilgi teknolojileri ekipleri için giderek büyüyen bir destek yükü oluşturuyor. Her aracın oturum açma biçimi, müşteri onayını yorumlama yöntemi ve işlem kaydı farklı olabiliyor.
Dickson Research baş analisti Frank Dickson, şirketlerin asıl kaygısının sorumluluğun kime ait olduğunun belirlenmemesi olduğunu düşünüyor. Hangi adımları insanın, hangilerini ajanın gerçekleştirebileceği ve bunların nasıl kaydedileceği netleştiğinde hukuki değerlendirme de kolaylaşıyor. Dickson’a göre sürekli fiyat sorgulayan botlar sistemlere maliyet getirirken bu trafik daha fazla koltuk satışı anlamına gelmiyor.
Dickson ayrıca United’ın özellikle yetkisiz araçları hedeflemesinin, şirketin kontrol ettiği kanallar üzerinden onaylı ajanlara alan bıraktığını belirtiyor. Bu yaklaşım, müşteri ilişkisini kimin yöneteceği sorusuyla da bağlantılı. Havayollarının müşterileri üçüncü taraf seyahat sitelerinden kendi kanallarına çekme çabası, başka bir şirketin sohbet botuna erişim verirken de etkili oluyor.
Digital 520 baş danışmanı Noah Kenney ise ajanların görevlerinin gerektirdiğinden daha geniş sistem ve bilgi erişimine sahip olmasını önemli bir hata olarak görüyor. Bir araca yalnızca belirli bir sistemi kullanmasını söylemek ile başka sistemlere erişmesini teknik olarak engellemek arasında temel bir fark bulunduğunu vurguluyor.
Acceligence CEO’su Justin Greis’e göre yaygın engeller, ajanların farklı hizmetlerde görev tamamlamasını zorlaştırarak değerini azaltabilir. Greis, müşterilerin de bir ajan üzerinden yetkilendirdikleri işlemlerin kendileri için yükümlülük doğurabileceğini anlaması gerektiğini belirtiyor. United ise kişisel asistanların hizmetleriyle etkileşimini değerlendirmeyi sürdüreceğini açıklayarak yaklaşımını yeniden gözden geçirmeye açık olduğunu gösteriyor.
