Öngörücü Kolluk Uygulamaları (Predictive Policing) ve İnsan Hakları

“Öngörücü Kolluk Uygulaması” Nedir?

Öngörücü kolluk uygulamaları (predictive policing), şüpheli davranışların ya da suç işleme niyetinin analitik yöntemlerle tahmin edilerek suç işlenmesi riskinin öngörülmesini ifade eder[1]. Bu araçların kullanılmasıyla tespit edilen suç riskine istinaden suçun faili, mağduru, işlenme zamanı ve yeri tahmin edilmeye çalışılır[2]. Böylelikle kolluğun müdahalesini gerektiren muhtemel durumlar tespit edilip, suçun engellenmesi amaçlanır. Kolluğun “tehlikeyi önleme” görevi ve suçun işlenmesinden önce tedbir alınan yeni nesil önleyici polislik hizmetleri[3] kapsamında değerlendirilebilecek öngörücü kolluk uygulamaları, suçun önlenmesi ve suçun olumsuz sonuçlarının telafi edilmesinde kolluk kuvvetleri için oldukça cazip bir yöntem olarak ortaya çıkmaktadır. Bu yaklaşım karşısında Hitachi, IBM, Microsoft ve Palantir gibi çeşitli teknoloji firmaları, ürettikleri ticari öngörücü kolluk araçlarını güvenlik güçlerinin kullanımına sunmaktadır[4].

Öngörücü kolluk uygulamaları, halihazırda birçok ülkede kullanılmakta ve giderek yaygınlaşmaktadır. İlk örneklerden biri, Los Angeles polisi tarafından kullanılan, polisin “erken müdahalesini” sağlamak için konum verilerine göre belirlenen suç işlenmesi muhtemel “kritik” bölgeleri belirleyip herhangi bir suç işlenmemiş olsa dahi, güvenlik güçlerini bu bölgelere yönlendiren PredPol ve LASER yazılımlarıdır[5]. Şikago polisinin kullandığı yazılım ise suçun işlenme riskini tahmin etmenin yanı sıra, suça karışma ihtimali yüksek olan kişilere ilişkin liste oluşturabilmektedir[6]. Öngörücü kolluk uygulamaları Avrupa’da da yaygınlaşmaktadır. Özellikle Birleşik Krallığın birçok şehrindeki emniyet teşkilatları, Amerikan teknoloji firmalarının Predpol ve (Palantir tarafından üretilen) Gotham gibi öngörücü kolluk uygulamalarını kullanmaktadır[7]. Almanya’nın çeşitli şehirlerinde kullanılan PRECOBS yazılımı, belirli bölgelerde ve belirli zaman aralıklarında hırsızlık suçunun işlenme olasılığını hesaplamaktadır[8]. Amsterdam polisinin kullandığı “Suç Öngörme Sistemi” zamansal ve mekânsal bir tahmin sistemi kullanarak, belirli suçların işlenme riskinin olduğu muhtemel bölgeleri ve zamanları tahmin etmektedir[9]. Avrupa’da özellikle “terörle mücadele” kapsamında, terör saldırısı riskini tahmin etmek için geliştirilmiş araçlar, kolluk faaliyetlerine entegre edilmektedir[10].  Örnek olarak Fransa’nın Nice şehri valiliği, Temmuz 2016’daki terör saldırılarından sonra Nice polisi tarafından kullanılacak bir öngörücü kolluk uygulaması geliştirilmesi için Thales adlı bir savunma teknolojileri firmasıyla anlaşmıştır[11].

 

Öngörücü Kolluk Uygulamalarının Sorunları

Öngörücü kolluk uygulamalarının, döngüsel bir ilişki içinde olan dört temel bileşeni vardır:

  1. Suç kayıtlarının ve ilgili diğer verilerin toplanması,
  2. Verileri analiz edecek ve tahminler oluşturacak algoritmanın kodlanması,
  3. Algoritmanın ürettiği tahminlere dayanarak kolluğun hukuki ve fiili işlemler yapması,
  4. Kolluk faaliyetleri neticesinde elde edilen yeni verilerin öngörücü kolluk aracının algoritmasını geliştirmek üzere kullanılması.

Görüldüğü üzere öngörücü kolluk uygulamaları, verilerin toplanması ve çeşitli biçimlerde işlenmesine dayanmaktadır. Nitekim bu uygulamaların ortaya çıkışı, kapsamlı veri tabanlarının/kümelerinin oluşturulabilmesi ve büyük veri teknolojilerinin ortaya çıkmasıyla yakından ilgilidir. Algoritmik araçlar, büyük miktarda veriyi analiz edip birbiriyle ilişkilendirerek çıkarımlarda ve tahminlerde bulunabilir. Özellikle birden fazla veri kümesi birleştirildiğinde öngörücü kolluk uygulamalarının algoritmaları, zaman, yer ve konum verileriyle bireyleri eşleştirebilir. Bu nedenle öngörücü kolluk uygulamalarında kullanılan verilerin niteliği ve doğruluğu, hayati önemdedir.

Öngörücü kolluk uygulamalarının algoritmalarının geliştirilmesinde kullanılan veriler, adli kayıtlar, polis ve istihbarat veri tabanları, otomatik araç plakası tanıma sistemleri[12], kapalı devre güvenlik kameraları görüntüleri[13], şehir/mahalle altyapı bilgileri[14], sosyal ağların analizi ve nüfus-gelir seviyesi istatistikleri[15] gibi çeşitli kayıtlardan elde edilebilmektedir. Bu bağlamda öncelikli sorun, doğrudan suça ya da ceza muhakemesi süreçlerine ilişkin olmayan ve özellikle sosyo-ekonomik bakımdan dezavantajlı kesimlerin aleyhine sonuç doğurabilecek verilerin kullanılmasıdır. Zira çoğu zaman toplumsal eşitsizlikleri yansıtan bu veriler, algoritmanın “önyargılı” ya da “yanlı” sonuçlar üretmesine ve dolayısıyla, haksız ve ayrımcı uygulamalara sebebiyet verebilecektir.

Adli kayıtların ve polis veri tabanlarının kullanılması özelinde ise “kirli veri” (dirty data) sorunu söz konusudur. Teknik anlamda bu terim, veri madenciliğinde kullanılan verinin “eksik ve yanlış” olmasını ifade etmekler beraber, öngörücü kolluk uygulamaları için kullanılan adli ve kolluk verilerinin herhangi bir biçimde gerçeği yansıtmayan kayıtlara ya da hukuka aykırı olarak yapılmış işlemlerin kayıtlarına dayanması sorununu da kapsamaktadır[16]. Öngörücü kolluk uygulamalarının geliştirilmesinde bu tür verilerin kullanılması hem algoritmaların tahminlerini isabetsiz kılacak hem de hukuka aykırı ya da keyfi kolluk işlemlerinden mağdur kesimler üzerinde orantısız bir etki doğurabilecektir.

Öngörücü kolluk uygulamalarının algoritmalarıyla ilgili başka bir temel sorun ise, şeffaflık eksikliğidir. Esasında algoritmik karar alma süreçlerinde genel olarak mevcut olan bu sorun, algoritmanın adeta bir “kara kutu” olduğunu ve ürettiği sonuçların açıklanamamasını ifade eder. Yapay zekâ ve makine öğrenmesi teknolojilerinin özellikle kamu hizmetinde kullanımının yaygınlaşmasıyla, algoritmik sürecin “açıklanabilir” olması önem kazanmaktadır . Bu özellik, makul şüpheye dayanması gereken kolluk işlemlerinde öngörücü kolluk uygulamalarının kullanılabilmesinde de önem arz etmektedir.

Öngörücü kolluk uygulamasının algoritmasının ürettiği tahminler kadar, bu tahminlerin kolluk tarafından alınan tedbirlerde kullanılması da önemlidir. Zira bu uygulamanın kullanımında kolluk, arama, yakalama ve gözaltı gibi işlemlerini, kısmen de olsa, algoritmanın sunduğu tahminlere dayandırmaktadır. Dolayısıyla, öngörücü kolluk uygulamasının bu iki bileşeni birbirini desteklemekte ve geliştirmektedir. Nitekim öngörücü kolluk uygulamasının insan hakları bakımından doğurduğu birçok mesele de bu ilişkiden kaynaklanmaktadır. Bu bağlamda ön plana çıkan bir sorun “geri bildirim/besleme döngüsü”dür (feedback loop). Öngörücü kolluk uygulamalarının algoritmalarını geliştirmek için kullanılan suç verileri, geçmişteki kolluk faaliyetlerine ve ceza muhakemesi işlemlerine dayanmaktadır. Kolluk kuvvetleri öngörücü kolluk uygulamalarını kullanıp işlem yaptıkça, algoritmayı “besleyecek” yeni veriler sağlarlar. Algoritmalar kolluk kuvvetlerini suç işlenmesi muhtemel “kritik” bölgelere yönlendirdikçe, bu bölgeler daha fazla denetlenecek ve dolayısıyla bu bölgelere ilişkin daha çok suç verisi oluşturulacaktır[17]. Dolayısıyla kolluğun geçmiş faaliyetlerindeki eğilimleri nedeniyle daha çok denetlenen gruplar, öngörücü kolluk uygulamalarından giderek daha çok ve orantısız olarak etkilenecektir[18].

Avrupa İnsan Hakları Hukuku Kapsamında Öngörücü Kolluk Faaliyetleri

Teknolojinin insan hakları üzerindeki etkisi, Avrupa İnsan Hakları Mahkemesi’nin (AİHM, Mahkeme) önündeki en önemli ve dinamik meselelerden biridir. Avrupa İnsan Hakları Sözleşmesi’ni (AİHS, Sözleşme) “yaşayan bir belge” olarak ve Sözleşme’deki hakları “evrimci” biçimde yorumlayan Mahkeme, gelişen teknolojiler karşısında insan haklarının korunması için birçok ilke ve ölçüt geliştirmiştir. AİHM henüz öngörücü kolluk uygulamaları gibi algoritmik karar alma mekanizmalarına ilişkin bir başvuruyu incelemiş olmasa da, bu teknolojilerin etkilediği haklara ilişkin kapsamlı içtihadına dayanarak öngörücü kolluk araçlarının AİHS’ye uygunluğunun değerlendirilmesi mümkündür. Öngörücü kolluk uygulamalarının insan haklarına üç temel etkisi olduğu söylenebilir: kişisel verilerin korunması ve gözetleme bağlamında özel yaşama müdahale, kolluk işlemlerinde “makul şüphe” ölçütünün sağlanması ve  ayrımcılık. Bu doğrultuda, özel yaşama saygı hakkı (AİHS m. 8), özgürlük ve güvenlik hakkı (AİHS m. 5) ve ayrımcılık yasağının (AİHS m. 14) ihlali söz konusu olabilir.

İlk olarak, öngörücü kolluk uygulamalarının sistematik olarak toplanmış ve sınıflanmış büyük miktardaki verilerin işlenmesine dayanması, AİHS m. 8’de düzenlenen özel yaşama saygı hakkına bir müdahale teşkil etmektedir. AİHM, bu müdahalenin AİHS’ye uygunluğunu denetlerken, 1) öngörücü kolluk faaliyetinin kanuni bir dayanağı olup olmadığını (kanunilik), 2) AİHS m. 8/2’de belirtilen meşru amaçlardan birine hizmet edip etmediğini ve 3) bu müdahalenin demokratik toplumda gerekliliğini (orantılılık – çatışan menfaatler arasında adil denge) inceleyecektir.

Öncelikle, büyük veri analitiğine dayanan öngörücü kolluk uygulamalarının esasında bir gözetleme biçimi olduğu kabul edilmelidir. Bu teknoloji, hem mevcut gözetleme verilerinin kullanılmasını hem de öngörücü kolluk aracının algoritmasını geliştirmek için daha çok gözetleme yapılarak veri toplanmasını gerektirir. Zira algoritmanın üreteceği sonuçların isabetliliği, dayandığı verilerin kapsamlılığı ile doğru orantılıdır. Nitekim birçok polis teşkilatının kullandığı öngörücü araçlar, son derece hassas nitelikteki verileri de içeren çeşitli veri tabanlarından/kümelerinden beslenmektedir. Bu nedenle AİHM, hem öngörücü kolluk uygulamasının dayandığı hukuki düzenlemenin – ki çoğunlukla kanun olması gerekir – hem de bu uygulamanın pratikteki işleyişinin, olası kötüye kullanımlara karşı etkili ve yeterli güvenceleri içermesini arar[19]. Söz konusu güvencelerin belirlenmesinde AİHM’nin gizli gözetlemeye ilişkin geliştirdiği (ve derdest başvurularla geliştirmeye devam ettiği) içtihadı referans olacaktır[20].

Öngörücü kolluk uygulamalarının özel yaşama saygı hakkına diğer bir etkisi, kişisel verilerin işlenmesi bakımındandır. Öncelikle belirtilmelidir ki; öngörücü kolluk uygulamaları için veri tabanlarının/kümelerinin oluşturulması ve kullanılması, başlı başına özel yaşam saygı hakkına bir müdahaledir[21]. Bu müdahalenin demokratik toplumda gerekliliğinin belirlenmesinde ise, hem işlenen verilerin hem de işlenme süreçlerinin niteliği önem arz eder. Örnek olarak, kullanılan verilerin ırksal/etnik kökene ya da sürdürülmemiş ceza soruşturmalarına ilişkin olması gibi durumlarda öngörücü kolluk uygulamasının özel yaşama saygı hakkını ihlâl etmesi muhtemeldir[22]. Bu bağlamda hem kanunilik hem de demokratik toplumda gereklilik değerlendirmesinde belirleyici bir husus, kullanılan verilerin kaydedilme, saklanma, kullanılma ve verilere dayanan sonuçların elde edilme koşullarıdır[23].

Öngörücü kolluk uygulamalarının özgürlükten yoksun bırakan tedbirler bağlamında kullanılması ise AİHS’nin 5. maddesinde korunan özgürlük ve güvenlik hakkının ihlalini gündeme getirebilir. Zira öngörücü kolluk uygulamalarına dayanarak yapılan yakalama ve gözaltı işlemleri, bu işlemlerin hukuka uygunluğu için gereken “makul şüphe” ölçütünü sağlamayabilir. AİHS m. 5/1(c) uyarınca, bireyi özgürlüğünden yoksun bırakan bu işlemlerin yapılabilmesi için bireyin “suç işlemesine ya da suçu işledikten sonra kaçmasına engel olma zorunluluğu kanaatini doğuran makul şüphe”nin bulunması gerekmektedir. Buna göre, yakalanan ya da gözaltına alınan kişin bir suç işlediğine dair “objektif bir gözlemci”yi tatmin edecek somut olgular ya da bilgiler bulunmalıdır[24]. Dolayısıyla makul şüphenin birey nezdinde somutlaştırılması gerekirken öngörücü kolluk uygulamalarının algoritmaları, belirli grupların diğerlerine göre suç işlemeye daha yatkın olduğunu ve bu nedenle kolluk tarafından denetlenmelerinin daha gerekli olduğunu varsayan grup profillerine dayanır[25]. Grup profiline dayanan bir tahminin de kişiselleştirilmiş bir makul şüphe olduğunu ve dolayısıyla AİHS m. 5 kapsamında meşru bir işlem yapıldığını savunmak hayli güçtür.

Yukarıda ele alınan bu meseleler bağlamında öngörücü kolluk uygulamaları, ayrımcılık yasağını (AİHS m. 14) da gündeme getirmektedir. AİHS m. 14, Sözleşme’deki hakların kullanılmasında “cinsiyet, ırk, renk, dil, din, siyasal veya diğer kanaatler, ulusal veya toplumsal köken, ulusal bir azınlığa aidiyet, servet, doğum başta olmak üzere herhangi başka bir statüye dayalı” ayrımcılığın yapılmasını yasaklar. Öngörücü kolluk uygulamalarının algoritmaları ise belirli özelliklere göre yapılan profillemeye dayandığı için bu uygulamaların kullanılması, belirli grupların kolluk gözetlemesi ve müdahalesine daha çok maruz kalacağı anlamına gelmektedir. Dolayısıyla öngörücü kolluk uygulamaları algoritmalarının profillemesi kapsamında dayanılan özellikler, AİHS m. 14 anlamında ayrımcılık temeli olarak değerlendirilebilir.

Bu noktada AİHM, benzer durumdaki (öngörücü kolluk uygulamasına dayanarak özel yaşama saygı ya da özgürlük ve güvenlik hakkına müdahale edilen) kişilerle bir muamele farkı olup olmadığını, şayet varsa bu farkın meşruluğunu sorgulayacaktır. Doğrudan ayrımcılık incelemesi kapsamında AİHM, bu farklı muamelenin “belirlenebilir bir özellik ya da statü”ye dayanmasını aramaktadır[26]. Ancak algoritmaların hem geliştirilmesi hem de tahmin üretme süreçlerindeki karmaşıklık ve opaklık, bu incelemeyi adeta imkansız hale getirecektir. Öte yandan, öngörücü kolluk uygulamalarının özellikle kolluk faaliyetlerinde etnik/ırksal profilleme mağduru gruplar gibi dezavantajlı kesimler üzerinde orantısız etkiler doğurabileceği göz önünde bulundurulduğunda, Mahkeme’nin dolaylı ayrımcılık doktrini kapsamında bir değerlendirme yapması da söz konusu olabilir[27]. Bu bağlamda devletlerin, kolluk faaliyetlerinde “ayrımcılığın bir rol oynayıp oynamadığını araştırmak için gerekli tüm adımları atma” yönünde bir pozitif yükümlülüğü de vardır[28].

Son olarak belirtilmelidir ki; AİHM’nin özellikle yeni gelişen teknolojiler söz konusu olduğunda AİHS’yi yorumlarken başvurduğu temel hukuk kaynakları arasında Avrupa Konseyi ve Avrupa Birliği belgeleri vardır. Dolayısıyla iki örgütün organlarının veri koruma hukuku, büyük veri, yapay zekâ, algoritmik-otomatik karar verme gibi konulardaki uluslararası sözleşmeleri, aldıkları kararlar ve yayınladıkları raporlar önem arz edecektir[29].


* İstanbul Üniversitesi Hukuk Fakültesi Genel Kamu Hukuku Anabilim Dalı. eren.sozuer@istanbul.edu.tr

[1] Walter L. Perry v.d., Predictive Policing: The Role of Crime Forecasting In Law Enforcement Operations, Rand Safety and Justice Program, 2013, s. 1.

[2] Perry v.d., a.g.e., s. 2.

[3] Feridun Yenisey, Kolluk Hukuku, 2. bs., Beta, İstanbul, 2015, s. 8 vd.

[4] Örnek olarak bkz. https://www.hitachi.eu/tr-tr/sosyal-inovasyon-hikayeleri/teknoloji/teknoloji-suca-karsi-savasta-gizli-silahimiz; https://www.theverge.com/2018/2/27/17054740/palantir-predictive-policing-tool-new-orleans-nopd.

[5]https://www.theatlantic.com/politics/archive/2019/09/do-algorithms-have-place-policing/596851/; https://www.latimes.com/local/lanow/la-me-laser-lapd-crime-data-program-20190412-story.html

[6] https://www.chicagotribune.com/news/ct-xpm-2013-08-21-ct-met-heat-list-20130821-story.html

[7] https://www.libertyhumanrights.org.uk/wp-content/uploads/2020/02/LIB-11-Predictive-Policing-Report-WEB.pdf

[8] Dominik Gerstner, “Predictive Policing in the Context of Residential Burglary: An Empirical Illustration on the Basis of a Pilot Project in Baden-Württemberg, Germany”, European Journal for Security Research, C. 3, 2018, s.119.

[9] Serena Oosterloo, Gerwin van Schie, “The Politics and Biases of the “Crime Anticipation System” of the Dutch Police”,Proceedings of the International Workshop on Bias in Information, Algorithms, and Systems, 2018, s. 3.

[10] Access Now, “Mapping Regulatory Proposals for Artificial Intelligence in EU”, https://www.accessnow.org/cms/assets/‌uploads/2018/11/‌mapping_regulatory_proposals_for_AI_in_EU.pdf

[11]https://www.laquadrature.net/en/smartcity_policing_like_wildfire

[12] Algorithm Watch, “Automating Society 2020 Report”, s. 40-41, https://automatingsociety.algorithmwatch.org/wp-content/uploads/2020/10/Automating-Society-Report-2020.pdf.

[13] European Commission for the Efficiency of Justice “European ethical Charter on the use of Artificial Intelligence in judicial systems and their environment”, Aralık 2018, s. 50.

[14]  Kai Seidensticker, Felix Bode & Florian Stoffel, “Predictive Policing in Germany”, University of Konstanz Working Paper, 2018, s.3.

 [15] Oosterloo, van Schie, a.g.m., s. 3.

[16] Rashida Richardson, Jason M. Schultz, Kate Crawford, “Dirty Data, Bad Predictions: How Civil Rights Violations Impact Police Data, Predictive Policing Systems, and Justice”, NYU Law Review, C. 94, 2019, s. 195.

[17] Danielle Ensign v.d, “Runaway Feedback Loops in Predictive Policing”, Proceedings of Machine Learning Research, C. 81, 2018, s. 1.

[18] Kristian Lum, William Isaac, “To Predict and Serve?”, Significance Magazine, C. 5, 2016, s. 14-15.

[19] Örnek olarak bkz. AİHM, Weber ve Saravia v. Almanya.

[20] Örnek olarak bkz. AİHM, Big Brother Watch ve Diğerleri v. Birleşik Krallık (başvuru Büyük Daire önünde derdesttir).

[21] AİHM, Brunet v. Fransa.

[22] AİHM, S. ve Marper v. Birleşik Krallık.

[23] AİHM, S. ve Marper v. Birleşik Krallık.

[24] AİHM, Fox, Campbell ve Hartley v. Birleşik Krallık.

[25] Sabine Gless, “Predictive Policing – In Defense of ‘True Positives’”, Ed.Emre Bayamlıoğlu v.d., Being Profiled: Cogitas Ergo Sum 10 Years of Profiling the European Citizen, 2018, s. 76, 80.

[26] AİHM, Biao v. Danimarka.

[27] AİHM, Gillan ve Quinton v. Birleşik Krallık.

[28] AİHM, Nachova ve Diğerleri v. Bulgaristan

[29] Yumuşak hukuk kurallarına örnek olarak bkz. AK Parlamenterler Meclisi, “Preventing discrimination caused by the use of artificial intelligence”, https://pace.coe.int/en/files/28715/html; AK 108 sayılı Sözleşme Danışma Komitesi, “Artificial Intelligence and Law Enforcement Impact on Fundamental Rights”, https://rm.coe.int/CoERMPublicCommonSearchServices/DisplayDCTMContent?documentId=09000016806ebe7a; AK Bakanlar Komitesi, “Algoritmik Sistemlerin İnsan Haklarına Etkileri”, https://search.coe.int/cm/pages/result_details.aspx?objectid=09000016809e1154; AB Parlamentosu LIBE Komitesi, “Artificial Intelligence and Law Enforcement – Impact on Fundamental Rights”, https://www.europarl.europa.eu/RegData/etudes/STUD/2020/656295/IPOL_STU(2020)656295_EN.pdf.