Veri Etiği: Sadece kurallara uymak yetmez, artık cesur olma zamanı

Jamie Barnard, Pedro Pina / Mart 2021

Jamie Barnard, Unilever'ın küresel pazarlama ve medya genel danışmanı, Dünya Reklamverenler Federasyonu (WFA) Veri Etiği Kurulu başkanı. Başkanlık görevinde şu raporun oluşturulmasına liderlik etti: Data Ethics: The Rise of Morality in Technology (Veri Etiği: Teknolojide Ahlakın Yükselişi). Barnard, günümüzde yöneticilerin içinde bulunduğumuz dijital toplumda veri etiği hakkında nasıl düşünmesi gerektiğini tartışmak amacıyla Google'dan Pedro Pina (Global Müşteri ve Ajans Çözümleri başkan yardımcısı) ile konuştu.

An illustrated gif of a woman with long hair standing next to a wall that looks like a bar graph. In her shadow, cast on the tallest two bars, she appears to wear a fluttering superhero cape.

Pedro Pina, Google: Dijital gizlilik ve veri düzenlemeleriyle ilgili konularda, markaların "cesur" olması gerektiğini, şu anda "dikkatli olup kurallara uyduktan sonra geri çekilmenin" zamanı olmadığını söylemiştiniz. Ancak birçok insan bu konuda tam da böyle düşünüyor. GDPR ve diğer düzenlemelere uymak çok önemli. Sizce insanlar bu konuda nasıl düşünmeli?

Jamie Barnard, Unilever: Öncü şirketler kurallara uymakla kalmak istemiyor. Bunun ötesine geçmeyi planlıyorlar. Kurallara uymak esastır. Bir yandan kullanıcıların temel insan hakları korunur, diğer yandan ise şirketlerin yasalar uyarınca oluşabilecek cezaları alması önlenir. Ancak kamuoyunun gözünde büyük bir değer görmez. İnsanlar bir şirketin veri uygulamalarının etik olmadığını düşünüyorsa, yasalara uyması şirketin itibarını korumayacaktır. İşte, bu nedenle markaların etik kuralları belirlemesi ve bu kurallara uygun davranması gerekiyor.

Kullanıcıların güvendiği bazı inanılmaz şirketler var çünkü bu şirketler etik ve dürüst davranışlar sergiliyor. Bazen ayrıntılar önemlidir.

İyi bir örnek: Birkaç yıl önce bir sosyal medya uygulaması indirdim. Kaydolduğumda, kişilerime erişim istenen bir pop-up çıktı. Normalde, tehlike çanları çalardı. Ancak niyet apaçık şekilde gösteriliyordu. İletişim kişileriyle ilgili bilgilerin şifreleneceği ve yalnızca uygulamayı kullanan mevcut arkadaşlarımı bağlamak için kullanılacağı belirtilmişti. Daha sonra verilerim kalıcı olarak silinecekti. İhtiyacım olan güvence verilmişti. Uygulamanın gizliliğe saygısı ile açık ve şeffaf yaklaşımını asla unutmadım.

Etik prensiplere bağlılık göstermek cesurca bir harekettir ve nihai olarak güven oluşturur.

"Etik prensiplere bağlılık göstermek cesurca bir harekettir ve nihai olarak güven oluşturur."

Pina: Gizlilik, genellikle harekete geçirici bir konu olarak görülmez. Önemlidir, ancak heyecan verici olduğu düşünülmez. İş arkadaşlarınızı ve geniş düzeyde şirket dünyasını, veri etiğini çığır açıcı olarak görmeleri için nasıl motive edersiniz?

Barnard: Heyecan, veriye dayalı inovasyon ile kullanıcıların gizlilik beklentileri arasındaki gerilimi kontrol etmekte yatıyor. Heyecan, kullanıcıların güvenliği, gizliliği ve iyiliğine bağlılığınızdan ödün vermeden yapılabilecekler için teknik sınırları zorlamakta yatıyor.

İlerleyici yaklaşımla hareket etmek ve hiç kimsenin yapmadığı bir şeyi değerlerinizden ödün vermeden yapmak istiyorsanız kendi çıtanızı yükseltiyorsunuz demektir. Gizliliği temel hak olarak kabul ettiğinizde bu, sizin için tamamen korunmaya değer hale gelir.

Yapay zeka (AI) ile ilgili bir örnek verelim. Bir şirket çok iyi amaçlarla AI sistemi tasarlayabilir. Sistem başlangıçta mükemmel bir şekilde çalışabilir. Ancak altı ay sonra mühendisler sistemin verdiği kararların istenmeyen sonuçlara yol açtığını görebilir. Böyle karmaşık zorlukları tespit edip çözmek heyecan vericidir. Birçok insan, zeka sistemlerinde ahlak ve etiği yeniden düzenlemeyi ilgi çekici buluyor. Haz, bu zorluktan geliyor.

Pina: Google olarak, Privacy Sandbox üzerinde sektörde gerçekleştirdiğimiz öncü çalışma ile kullanıcılara verileri üzerinde daha fazla kontrol vermekten heyecan duyuyoruz. Yönetici ve liderleri bu alanda gerekli değişiklikleri uygulamaktan alıkoyan temel güçlükler neler? Bu etik sorunlara nasıl çözüm bulabilirler?

Barnard: Sağlıklı bir sistem kurmak için etik ikilemler sorun haline gelmeden bu ikilemlerle ilgili müdahalelerde bulunmamız gerekiyor. Bu durumu göz önüne alarak düşünmemiz gereken üç nokta var:

İlk olarak, sahip olduğumuz kör noktaları kabul etmemiz gerekiyor. Etik risklerin yeterince farkında olmadığımızda gözden kaçırdığımız şeyler olur. Bu riskleri belirleyip gidermek için kendimizi eğitmemiz gerekiyor.

Örneğin bir mühendis, tıklama oranlarını optimize etmek için bir sistem oluşturursa algoritmanın kararlarıyla çeşitlilik olumsuz yönde etkilenmeye ve bazı kullanıcılar hariç tutulmaya başladığında bu durumu fark etmeyebilir. Etkin bir şekilde buna dikkat ederseniz müdahale gerçekleştirebilir ve daha kapsayıcı bir yolla başarınızı ölçmeye başlayabilirsiniz. Etik davranış ortak bir sorumluluktur, tasarım aşamasında başlar. Yönetici gözünden, ekiplerinizin etik risklere karşı tetikte olmasını sağlamak için eğitim düzenlemek yararlı olur.

Bununla birlikte, bu yaklaşımı sergileyebilmek için verilerin uçtan uca akışı tamamen görünür olmalı. Veri akışının bir kısmı bilinmediğinde risk tespiti yapmak ve denetim yapısının işleyişini sürdürmek zor hale gelebilir. Genelde, belirli bir veri akışının bilinmemesinin nedeni akışın şirket dışında başlaması veya bitmesidir. Bu nedenle, ortak değerler ve etik prensiplere sahip olduğunuz, şeffaf şirketlerle birlikte çalışmak son derece önemli.

"Sağlıklı bir sistem kurmak için etik ikilemler sorun haline gelmeden bu ikilemlerle ilgili müdahalede bulunmamız gerekiyor."

İkinci güçlük sorumluluktur. Bazı durumlarda, tek bir kişi ya da ekip, eski bir sistem veya süreçten kaynaklanan bir etik sorun olduğunu belirleyebilir. İdeal bir senaryoda, sorun işaretlenir ve çözülür. Ancak uzun süredir işleyen sistemleri açmak elbette zor olabilir. İnsanlar ortaya çıkmasına neden olmadıkları bir soruna çözüm bulma sorumluluğu taşımadıklarını düşünebilir. Bu nedenle, toplu olarak sorumluluk alınması ve sorunlarla yüzleşip problemlere çözüm bulmanın herkesin ortak sorumluluğu olduğunu bildirmek gerekiyor.

Üçüncü güçlük ise psikolojik güvenlik eksikliği. İşletme yöneticileri olarak çalışma arkadaşlarımızın potansiyel etik sorunlar gördüğünde üzerine eğilmesini ve sesini çıkarmasını istiyoruz. Ancak birçok arkadaşımız, özellikle de baskı altında olup beklentileri karşılaması gereken genç çalışanlar düşündüklerini dile getirmek istemeyebilir. Kendileri için olumsuz etki yaratabileceğinden, zorluk çıkarmak veya süreçleri yavaşlatmak istemeyebilirler. Yöneticiler, bu insanların herhangi bir korku ya da endişe duymadan hissettiklerini dile getirebilme güvenini sağlamalı. Aksi halde, sorunlar öylece kalır ve zamanla daha kötü hale gelir.

Pina: WFA raporunuz dünyada markalar için veri etiği hakkındaki ilk kılavuz oldu. Sizi bu raporu yazmaya götüren nedir? Raporu yazdığınızdan beri düşünceniz nasıl değişti?

Barnard: WFA raporu, WFA Veri Etiği Kurulunun bir ürünü. Sorumlu reklamverenler olarak şeffaflığı artırmaya ve güven oluşturmaya çalışıyorduk. Sorun, veri kullanımının son derece karmaşık ve bu karmaşıklığı çözme yükünün tüketiciye verilmiş olmasıydı ve hâlâ çözüme kavuşmuş değil. Gizlilik Uyarısı, sorun için kullanıcı dostu bir çözüm değil.

Veri Etiği Kurulu çareyi etikte buldu. Sektör olarak etik değerlere sahip olursak kullanıcıların endişelerini giderebilir, güvenlerini kazanabilir ve itibarımızı artırabiliriz.

WFA raporu, gizlilikten risk etkeni olarak bahsetmeyi bırakıp gizliliği ve veri etiğini sağlıklı bir dijital topluma ulaşmak için olumlu bir adım olarak görmemiz gerektiğini sektöre anlatmak amacıyla hazırlandı.

"Gizlilikten risk etkeni olarak bahsetmeyi bırakıp gizliliği ve veri etiğini sağlıklı bir dijital topluma ulaşmak için olumlu bir adım olarak görmemiz gerekiyor."

Benim için veri etiğinin en mutlu edici yanı, çeşitlilik ve kapsayıcılığı artırmak için sunabileceği katkı. Olumlu müdahaleler önyargıları ortadan kaldırabilir, göz ardı edilenlere kucak açılmasını sağlayabilir ve farklılıklarımızın zenginlik olduğunu gösterebilir. Dijital dünyanın, tam olarak bu noktaları gerçekleştirmesi gerekiyor.

Pina: Bu rapor Unilever'de gizliliğe ve veri etiğine gösterdiğiniz yaklaşımı değiştirdi mi? Bu konular kurul düzeyine çıktı mı? Üst düzey yöneticilerin tartıştığı meseleler haline geldi mi?

Barnard: WFA Veri Etiği Kurulu 2019 baharında harekete geçti ve rapor ortak düşüncemizi yansıtıyor. Amaç, markaların bizim öğrendiğimiz her şeyden yararlanmasına yardımcı olmaktı.

Unilever olarak, makine öğrenimi ve AI'da etikle ilgili en iyi uygulamalar birincil odağımız oldu. Ancak, bununla sınırlı kalmadık ve veri etiğinin kapsamını hızla genişlettik.

Yönetici düzeyinde çok fazla destek verildi ve kolayca başarı elde edildi. Artık etik prensipleri uygulamaya geçirmeye odaklanmış durumdayız. Etik prensiplerin uygulamaya konulmasının, risk yönetimine yarar sağlamanın yanı sıra insanların kısa sürede akıllıca ve güvenle karar almasına yardımcı olacağına inanıyoruz. Yalnızca dikkatli olmanın veya kurallara uymanın yeterli olmadığını belirttiğimde bunları kastediyorum. Aynı zamanda, değerlerden ödün vermeden daha fazla yol almak ve girişken olmak gerekiyor.

Veri etiğinin bu kadar çok insanın hayaI gücünde ve kararlarında yer alması inanılmaz. Sağlıklı bir dijital dünya ve güzel bir gelecek için bu durum bana umut veriyor.

"Yalnızca dikkatli olmak veya kurallara uymak yeterli değil. Aynı zamanda, değerlerden ödün vermeden daha fazla yol almak ve girişken olmak gerekiyor."

Pina: İnsanları WFA raporundan alacakları tek bir nokta varsa sizce bu ne olmalı?

Barnard: Aslında iki nokta var, ama bunlar birbiriyle yakından ilişkili.

İlk olarak, etik konusunu sportmenlik ile bağdaştırabiliriz. İyi bir spor ortamında vicdan olur. Sporcular, sonucunda fedakarlık da olsa doğru olanı yapar. Dürüstlük, doğruluk ve adil oyuna bağlılıklarıyla, kolaya kaçanlardan çok daha fazla çalışırlar, ancak başarıları da fazla olur.

"Etik konusunu sportmenlik ile bağdaştırabiliriz."

İkincisi, aynı temadan devam edersek, güven oluşturmak takım sporudur. Veri toplama ve kullanımını güvenli, etik ve şeffaf şekilde gerçekleştirmek hepimizin sorumluluğu. Veri etiğinin sektör genelinde benimsenmesi için kararlı olunmalı, birlikte çalışılmalı, teknoloji platformları, yayıncılar, geliştiriciler, teknoloji sağlayıcıları ve reklamverenler sorumlu liderlik göstermeli. Hep birlikte çalışırsak hepimiz kazanırız.

Google, kullanıcıları korumak için kötü amaçlı reklamları nasıl durduruyor?