Lavender: İsrail'in yapay zeka destekli hedefleme sistemi ve Gazze'deki sivil kayıplar
Amjad Al-Sheikh o gün Şucaiyye'deki evinde değildi. Yakındaki bir marketteydi. Önce beş büyük patlama duydu. Patlamaların şiddeti marketin camlarını kırdı. Al-Sheikh koşarak ailesinin yaşadığı sokağa gitti. Ama ortada sokak kalmamıştı. Evler de yoktu.
Anlattığına göre birkaç dakika önce insanların yaşadığı mahalle, artık beton yığınlarından ve dev çukurlardan oluşuyordu. Her tarafta bağırışlar, duman ve enkaz vardı. İnsanlar elleriyle betonları kaldırmaya çalışıyordu.
Amjad da kazmaya başladı. Ailesini arıyordu. Eşi ve küçük kızı mucize eseri hayatta kaldı. Üzerlerine devrilen bir dolap onları enkazdan korumuştu. Ama Amjad'ın 11 yakını o saldırıda öldürüldü. Kardeşleri, kız kardeşleri ve onların küçük çocukları.
Nisan 2024'te +972 Magazine ve Local Call tarafından yayımlanan kapsamlı bir araştırma, İsrail'in Gazze'deki binaları hedef almasının arkasında yapay zeka ile çalışan ve tamamen otomatik kararlar veren büyük bir sistem kurduğunu ortaya çıkardı. Araştırma, Gazze savaşında görev yapmış altı İsrailli istihbarat görevlisinin ifadelerine dayanıyor ve İsrailli gazeteci Yuval Abraham tarafından gerçekleştirildi.
Lavender sistemi nasıl çalışıyor
Araştırmanın merkezinde İsrail ordusunun kullandığı ve "Lavender" adı verilen yapay zeka destekli hedefleme sistemi bulunuyor. Resmi olarak Lavender sistemi, Hamas ve Filistin İslami Cihadı'nın askeri kanatlarındaki tüm şüpheli militanları, düşük rütbeliler de dahil olmak üzere, potansiyel bombalama hedefleri olarak işaretlemek üzere tasarlanmış bir yapay zeka sistemi.
İsrailli kaynaklar, savaşın ilk haftalarında ordunun neredeyse tamamen Lavender sistemine güvendiğini ve bu sistemin 37 bin kadar Filistinliyi şüpheli militan olarak ve evlerini olası hava saldırıları için hedef olarak belirlediğini söylüyorlar. İsrail'in eski Genelkurmay Başkanı Aviv Kochavi'ye göre, yapay zeka kullanımından önce İsrail Savunma Kuvvetleri yılda yaklaşık 50 hedef belirliyordu. Bu rakam, yeni sistemle birlikte on binlere çıktı.
Sistem Gazze'de yaşayan insanların büyük bölümüne ilişkin çok geniş bir veri havuzunu analiz ediyor ve kişilerin Hamas ya da Filistin İslami Cihadı'nın askeri yapılanmalarıyla bağlantılı olma ihtimalini değerlendiriyordu. Bir kişinin Hamas ile bağlantılı olma ihtimali belirli bir puana ulaştığında o kişi potansiyel hedef haline gelebiliyordu.
Lavender, bilinen Hamas ve İslami Cihad mensuplarının davranış ve iletişim özellikleri üzerinden eğitilen bir makine öğrenmesi sistemi olarak inşa edildi. Sistem daha sonra Gazze nüfusu içerisindeki diğer insanların bu kişilere ne ölçüde benzediğini hesaplıyordu. Göstergelerin çerçevesi o kadar geniş tutulmuştu ki bilinen bir Hamas mensubuyla aynı WhatsApp grubunda bulunmak, sık telefon değiştirmek, adres değiştirmek veya belirli kişilerle telefon bağlantısı kurmak kişinin hedef olması için yeterli olan puanını yükseltebiliyordu.
İsrail bu türden yapay zeka sistemlerini ilk kez kullanmıyor. 2021'de "Habsora" (İncil) adlı başka bir yapay zeka sistemi daha önceden açıklanmıştı. Habsora, Lavender'dan farklı olarak bireyleri değil, potansiyel saldırılar için binaları ve yapıları işaretlemeye yönelik tasarlanmıştı.
Hata payı ve doğruluk sorunu
Araştırmadaki en önemli ayrıntılardan biri sistemin doğruluk oranı. Kaynaklara göre savaşın ilk haftalarında Lavender'ın ürettiği birkaç yüz hedef manuel olarak incelendi ve sistemin yaklaşık yüzde 90 oranında doğru sonuç verdiği sonucuna varıldı. Bunun ardından Lavender'ın sonuçlarının büyük ölçüde doğrudan kullanılmasına izin verildi.
Yüzde 90 doğruluk, yüzde 10 hata anlamına geliyor. Bu oran on binlerce insan üzerinde uygulandığında potansiyel olarak binlerce yanlış kişinin hedef listesine girmesi demek. Üstelik 37 bin kişinin hepsi de silahlı Hamas mensubu kişiler değil. Gazze'de seçim kazanmış Hamas ile herhangi bir teması, sempatisi, ilişkisi olan herkes bu listeye ekleniyor.
Hatayı yalnızca hedeflenen kişiyle sınırlı olarak görmemek gerekiyor. Zira araştırmaya göre bu kişiler çoğunlukla evlerinde, aileleriyle birlikteyken vuruluyordu. Dolayısıyla işaretlenen tek bir kişi nedeniyle eşi, çocukları, kardeşleri veya aynı binada yaşayan diğer siviller de hayatını kaybediyordu.
BM verilerine göre savaşın sadece ilk ayında hayatını kaybeden 6 bin 120 kişi yalnızca 1 bin 340 aileye mensuptu. Birçok aile evlerinde toplu biçimde hayatını kaybetmişti. BM uzmanları, 7 Ekim 2023'ten sonraki ilk altı haftada meydana gelen 15 binden fazla ölümün, neredeyse tüm sivil ölümlerin yarısının, yapay zeka sistemlerinin hedef seçiminde büyük ölçüde kullanıldığı dönemde gerçekleştiğini belirtti.
Sivil kayıp izleme kuruluşu Airwars'ın araştırmasına göre, yalnızca Ekim 2023'te en az 5 bin 139 sivil, bunların arasında 1 bin 900 çocuk Gazze'de hayatını kaybetti. Bu rakam, Airwars'ın 2014'ten bu yana kayıt tutmaya başladığı tarihten itibaren tek bir ayda kaydedilen en yüksek sivil kayıp oranını temsil ediyor.
İnsan kontrolünün minimalize edilmesi
İsrail ordusu +972'ye verdiği resmi açıklamada yapay zekanın insan yerine hedef belirlemediğini, kullanılan sistemlerin istihbarat görevlilerine yardımcı olan araçlar olduğunu ve her hedef için bağımsız insan değerlendirmesi yapıldığını savunuyor.
Fakat araştırmada konuşan istihbarat görevlileri farklı bir tablo çiziyor. Kaynaklardan biri, Lavender tarafından seçilen düşük seviyeli hedefleri incelemek için askerlerin ortalama 20 saniye ayırdığını söylüyor. Bu kontrolün temel amacı da kişinin erkek olduğunun doğrulanması sadece. Çünkü Hamas ve İslami Cihad'ın askeri kanatlarında kadın savaşçı bulunmadığı varsayımıyla hareket ediyorlardı.
İsrailli kaynak, kendisinin insan olarak sisteme kattığı değerin neredeyse yalnızca bir "onay damgası" olmaktan ibaret olduğunu söylüyor. Dolayısıyla yapay zekanın belirlediği hedefi 20 saniye düşünüp sadece onay tuşuna basıp yok eden bir ölüm mekanizmasından bahsediyoruz.
Yapay zeka etiği konusunda uzmanlar, askeri yapay zeka sistemlerinde şeffaflık ve açıklanabilirliğin kritik önem taşıdığını vurguluyor. Ancak sinir ağları gibi makine öğrenmesi sistemleri, hesaplamalarının karmaşıklığı nedeniyle açıklanması özellikle zor sistemler olarak öne çıkıyor.
"Baba nerede?" takip sistemi
Yapay zekanın görevi hedef belirlemeyle bitmiyor. Lavender insanları hedef olarak işaretledikten sonra ikinci aşama gerçekleşiyordu. Araştırmaya göre İsrail ordusu bunun için de otomatik takip sistemleri kullandı ve bu sisteme "Baba nerede?" ismini koydu.
Sistem hedef olarak belirlenen kişilerin hareketlerini izliyor ve kişinin aile evine girdiğini tespit ettiğinde hedefleme görevlilerine bildirim gönderiyordu. Kaynakların anlattığına göre yüzlerce veya binlerce isim aynı anda sisteme yüklenebiliyor ve bu kişilerin evlerine dönmeleri beklenebiliyordu.
Bu uygulama sivil ölümler açısından kritik öneme sahip. Çünkü hedeflerin askeri faaliyet yürütürken vurulması yerine aile evlerinde vurulması, saldırı sırasında eşlerin, çocukların ve diğer aile üyelerinin de yok edilmesi anlamına geliyordu.
Araştırmada konuşan bir kaynak sistemin çalışma mantığını şöyle açıklıyor: Yüzlerce hedef sisteme giriliyor ve hangisinin eve dönüp vurulabilir hale geleceği bekleniyordu. Bu yöntem, neden Gazze'de çok sayıda ailenin aynı saldırıda tamamen yok olduğunu açıklıyor.
İstihbarat kaynakları +972 Magazine'e, Lavender tarafından işaretlenen düşük rütbeli hedeflerin hassas mühimmat yerine yalnızca güdümsüz "akılsız bombalar" ile vurulduğunu, bunun daha pahalı silahları saklamak için yapıldığını söyledi. BM uzmanları da aile evlerinin güdümsüz mühimmatla hedef alınmasına ilişkin endişelerini dile getirdi.
Sivil kayıp limitleri
Lavender araştırmasının en ağır bölümlerinden biri sivil kayıp sınırlarıyla ilgili. Kaynaklardan birine göre savaşın ilk haftalarında düşük seviyeli bir Hamas mensubunu öldürmek için 20'ye kadar sivilin ölümüne izin verilebiliyordu. Üst düzey komutanlarda ise bu sayı çok daha yüksek olabiliyor. Kaynaklara göre bazı saldırılarda tek bir üst düzey komutanı öldürmek için 100'den fazla sivilin ölebileceği kabul edilebilir seviye olarak değerlendiriliyor.
Bu nokta uluslararası insancıl hukuk açısından son derece önemli. Cenevre Sözleşmeleri'ne Ek I Nolu Protokol'ün 51(5)(b) maddesinde kodlanan orantılılık ilkesi, beklenen sivil zararın öngörülen somut ve doğrudan askeri avantaja göre aşırı olduğu durumlarda saldırıları yasaklıyor. Savaş hukukunda bir hedef askeri nitelikte olsa bile saldırının beklenen askeri avantajıyla sivillere verilecek zarar arasında orantılılık değerlendirmesi yapılması gerekir.
Fakat araştırmadaki kaynakların anlattığı sistemde insan hedeflere ilişkin belirli sivil kayıp rakamlarının önceden genel olarak kabul edildiği belirtiliyor.
Uluslararası tepkiler ve gelecek
Ekim 2023'te BM Genel Sekreteri António Guterres ve Uluslararası Kızılhaç Komitesi Başkanı, otonom silah sistemlerine ilişkin 2026'ya kadar uluslararası kurallar çağrısında bulundu. Açıklamada "hayat ve ölüm kararlarında insan kontrolünün korunması gerektiği" ve "makineler tarafından insanların otonom olarak hedef alınmasının aşılmaması gereken ahlaki bir çizgi olduğu" vurgulandı.
Lavender araştırmasının asıl önemi yalnızca Gazze'de ne olduğunu açıklamasıyla sınırlı değil. Bu sistem gelecekte savaşların nasıl yürütülebileceğine dair ciddi bir örnek oluşturuyor.
