(Ethics of Connected and Automated Vehicles)
Yazan: Şaban İbrahim Göksal
Giriş
Otonom araçlar, yapay zeka ve derin öğrenme algoritmalarıyla desteklenen otomatik kontrol sistem donanımları sayesinde insan faktörüne ihtiyaç duymadan yolu, trafik durumunu ve çevre şartlarını algılayarak gidebilen otomobillerdir. Avrupa Komisyonu 2020 yılı eylül ayında yayınladığı Ethics of CAVs adlı çalışmada üç bölümde yazılım geliştiricileri, araç üretici ve kullanıcıların; otonom araçların yazılımlarını geliştirirken, üretirken ve kullanırken dikkat etmesi gereken noktaları öneri alt başlıkları altında ele almıştır. İlgili çalışmanın ilk bölümünde sürüş güvenliğine, risk ve ikilemlere, ikinci bölümünde data ve algoritma etiğine; güvenliğine, adaletine ve açıklanabilirliğine, son olarak üçüncü bölümde ise sorumluluğa yer verilmişdir. Avrupa Komisyonun Ethics of CAVs aslı çalışmasına paralel bir şekilde otonom araçlar ve etik konusunu değerlendireceğim.
Rota Güvenliği, Risk ve İkilemler
Elimizdeki bilimsel çalışmalar gösteriyor ki öngörülebilir gelecekte otonom araçlar hayatlarımıza girse bile kazalar son bulmayacak. Ne kadar otonom sistemler bir insana göre daha güvenli bir şekilde aracı kullanacak olsa da çalışmalar gösteriyor ki kazalar son bulmayacak ve bu durumda sorumluluk kime ait olacak? Riski nasıl dağıtıp rota güvenliğini maksimum seviyeye çıkarabiliriz, otonom araç yol alırken algoritmanın yaşayacağı ikilemlerde ne yapılabilir?
“Kişiler üzerinde oluşabilecek fiziksel hasarların önüne geçmek veya minimize etmek”
Avrupa Komisyonu raporu hazırlanırken bölümlerde tartışılan konuların alt başlıkları önerilerden oluşturulmuştur. Bu bölümde tartışılan en önemli konu otonom araç yolculuk anında ikilemde kalırsa eğer ne yapacak sorusu ve buna çözüm olarak yazılım geliştiricilerinin ve araç üreticilerinin ortak bir şekilde yapacağı çalışmalarla otonom sistemler üzerinde politikaların belirlenmesi gerektiği bu politikaların ise rota güvenliğini ve düşük riski öne çıkarması gerektiği belirtilmiştir. Otonom sistemlerin yolculuk anında ikilem yaşaması durumunda kendi ve dışardaki yolcunun fiziksel anlamda zarar görmemesi görecekse de hepsi için en az zararlı ihtimali uygulaması gerektiği belirtilmiştir.
“Tehlikeli kullanımın engelleyebilmek için güvenli tasarım”
Yazılım geliştiricileri ve araç üreticilerinin tehlikeli kullanımın önüne geçilebilmesi için otonom sistemin kullanıcı güvenliği merkezinde, güvenliği sağlayacak sezgilerle donatması gerektiği belirtilmiştir. Kulanım aşamasında kullanıcıların kaçınılmaz bir şekilde tehlikeli kullanım yollarına sapacağını fakat otonom sistemin algoritması sezgileriyle tehlikeli kullanım biçimini engelleyip güvenli sürüş moduna geçmesi gerektiği belirtilmiştir. Ayrıca algoritmanın sezgilerinin geliştirebilmesi için kullanıcı deneyimlerinden şeffaf bir biçimde data setleri oluşturulması gerektiği ve bu setlerle algoritmalarda derin öğrenme yöntemi ile sezgiler geliştirilmesi belirtilmiştir.
“Otonom sistemlerin güvenli bir şekilde seyahat etmesi için yeni trafik kuralları”
Sistemlerin geliştiricileri ve politika yapıcılar otonom araçların seyahatini güvenli kılmak için mevcut kuralları güncelleştirmeli ve yeni kurallar üzerinde çalışmalıdır. Oluşturulmuş bu kurallara geliştirici ve üreticiler boyun eğmeli çünkü şuan ki kurallar otonom sistemlerin güvenli bir şekilde seyahatine imkan sağlamıyor. Bu konuda politika yapıcılar ve geliştiriciler beraber çalışmalıdır.
“Seyir esnasında oluşabilecek eşitsizlikler”
Otonom araçlar ve diğer seyahat eden araçlar arasında bazı zamanlar eşitsizlik doğabilir. Bu durumda otonom araçların diğer aracın lehine eşitsizliğe izin vermesi gerekebilir, bu olaya en iyi örnek, ambulanslar, itfaiyeler gibi acil durumlara müdahale için seyir eden araçlar. Otonom araçların yapacağı eşitsizliklerin önüne geçmek için acil durumlarda diğer araçlar lehine eşitsizlik yapma davranışını geliştiricilerin otonom araçların algoritmalarına kazandırmaları gerekiyor.
“İkilemleri etik prensiplerini paylaşarak ve riski dağıtarak yönetmek”
Yukarı ki paragraflarda da belirttiğim gibi otonom araçlar konusunda insanların zihinlerini kurcalayan soru otonom araçların ikilem yaşaması durumunda ne yapacağı konusu. Bu konu birçok etik dersinin de tartışma konusu. Yukarıda da belirttiğim gibi otonom sistem bu tarz bir ikilem yaşaması durumunda kişilerin hiç zarar görmeyeceği eğer böyle bir seçenek yoksa hepsinin en az zarar göreceği seçeneği seçmesi gerekiyor. Peki ya iki eşit seyir eden yerine seyir eden diğer kişinin otonom sistemden daha güçsüz olduğu senaryoda ne olacak, otonom aracın ikilemde kaldığı seyir edenlerden birinin ambulans olması veya bisikletli bir çocuk olması durumunda ne olacak? Bu durumda devreye etik prensipleri giriyor. Politika yapıcılar, geliştiriciler ve üreticiler etik prensiplerini belirleyecekler ve bütün sistem üreticisi ve geliştiricileri ile paylaşacaklar. Gerektiğinde bu prensipler güncellenip tekrardan geliştirilecek.
Data ve Algoritma Etiği: Güvenlik, Adalet ve Açıklanabilirlik
Otonom araçların geliştirilme ve üretilme süreçlerinde statik ve dinamik datalara ihtiyaçlar var. Bu data setleri sayesinde hatalar, oluşabilecek sorunlar düzeltiliyor ve sistem geliştiriliyor. Otonom aracın algoritmasına makine öğrenmesi bu data setleri sayesinde kazandırılabiliyor. Testler, iyileştirme faaliyetleri ve araştırmalar bu data setleri sayesinde yapılabiliyor. Bu data setlerinin toplanması ve muhafazası şeffaf bir şekilde gerçekleştirilmeli. Dataların güvenliği ve adaleti konusunda gerektiği zaman data sahiplerinin muhataplarına ulaştıklarında açıklanabilir şekilde faaliyetlerin şeffaf bir şekilde yürütülmesi gerekiyor.
“Data güvenliği ve şeffaflık”
Avrupa komisyonunun hazırlamış olduğu raporda dataların muhafazası, kullanımı ve bu faaliyetlerin şeffaflığı konusunda GDPR standartlarına uyulması gerektiği belirtilmiştir. Datalar toplanırken, kullanılırken data sahipleri ve diğer kişilerin bilgilendirilmesi gerektiği, her faaliyet aşamasını şeffaf bir şekilde yürütülmesi gerektiği belirtilmiştir. Ayrıca bu dataların muhafazası da yine GDPR standartlarına göre gerçekleştirilmelidir. Otonom sistemler geliştirilirken, üretilirken ve test faaliyetleri sırasında dataların üçüncü kişilerle paylaşılması sıkı şartlara bağlanması gerektiği ve bütün aşamalarının şeffaf olması gerektiği belirtilmiştir. Bu konuda yine politika yapıcıların bu kişisel verilerin güvenliğini sağlamak için mevcut kuralları güncellemesi ve gerekirse yeni kurallar belirlemesi gerektiği belirtilmiştir.
“Kişisel tercihlere olanak verilmelidir”
Dataları kullanılan kişilerin, her zaman belirlenecek politika ve prensipleri tercih etmeme hakkının var olması gerektiği bu konuda geliştiriciler, üreticiler, politika yapıcılar ve araştırmacıların kişilerin bu isteklerine göre alternatif yollar üzerinde çalışması gerektiğini, kişisel özgürlüklere zarar verilmemesi gerektiği ve kişilerin tercihlerine saygı duyulması gerektiği belirtilmiştir.
“Otonom araç kullanıcılarının ve verileri toplanan diğer kişilere karşı şeffaflık ve bu kişileri bilgilendirme”
Dataları toplanan kişilerin bilgilendirilmesi gerektiği, datalarını kullanırken her aşamada şeffaf olunması gerektiği belirtilmiştir. Ayrıca kişilerin datalarının kullanılması sonucunda doğabilecek sonuçlar konusunda da şeffaf olunmalı gerektiği belirtilmiştir. Kişilerin onayları olmadan datalarının kullanılmaması gerektiği de belirtilmiştir.
“ Otonom araç algoritmalarının denetlenmesi”
Algoritmaların geliştirme, test ve kullanım süreçlerinin ayrı ayrı şeffaf bir biçimde politika yapıcılar tarafından veya politika yapıcıların belirlediği bağımsız kuruluşlar tarafında denetlenmesi gerektiği belirtilmiştir. Algoritmalar makine öğrenmesi gerçekleştirirken veya çalışırken kullandıkları data setlerinin ayrımcılık barındırmaması çok önemli bu nedenle öğrenme ve çalışma faaliyeti gerçekleştirmeden önce data setlerinin denetlenmesi, faaliyet sonrası algoritmanın denetlenmesi gerektiği belirtilmiştir. Yine kullanım sürecinde geri dönütlere göre belirli periyodlarında algoritmaların denetlenmesi gerektiği belirtilmiştir.
“Algoritma kararlarının şeffaf olmasını sağlamak”
Geliştiriciler ve üreticiler otonom araçların kullanımı sırasında algoritmanın kararları konusunda eğer kullanıcıların talepleri olursa onların bu taleplerini şeffafça karşılamalıdır. Geliştiriciler ve üreticiler otonom araçları kullanıcı merkezli üretmeli ve geliştirmelidir. Kullanıcı merkezli geliştirilen ve üretilen bu araçların algoritmaları karar alırken kullanıcılarına karşı şeffaf olmalıdır.
Sorumluluk
Bir başka tartışma konusu ise sorumluluk. Otonom araç kaynaklı kazalar nedeniyle cana veya mala zarar geldiğinde sorumluluk kime ait olacak? Zarar gören kimi sorumlu tutup haklarını arayacak, otonom araç kullanıcısını mı, üreticisini mi yoksa yazılım geliştiricisini mi?
“Otonom araç üzerindeki sorumluluklar netleştirilmeli”
Prensipler belirlenirken aracın geliştirilmesi, üretilmesi ve test edilmesi aşamalarında her aktörün sorumluluklarının detaylıca belirlemesi gerekir. Aracın seri üretimi tamamlanıp kullanılmaya başlandıktan sonra sensoründe meydana gelen bir hata nedeniyle kaza oluşması durumunda sorumluluğun kime ait olacağı bu prensiplerle belirlenmelidir. Eğer yazılım kaynaklı bir sorunsa yazılım geliştiricisine başvurulmalı veya mekaniksek bir sorunsa üreticiye başvurulmalıdır.
“Ulaşılabilirlik garanti altına alınmalı”
Otonom araç nedeniyle oluşmuş bir sorunda ulaşılabilirlik çok önemlidir. Bu konuda sorun hangi üretim aşamasından kaynaklanıyor, yazılım mı, üretim mi ya da test mi bunun için aktörlere ulaşılması, hesap sorulması gerektiğinde bu seri bir şekilde gerçekleşmeli. Ulaşılabilirlik adaleti de tesis edici özelliğe sahip.
“Otonom sistemlerin davranışları sonrası bağlantı kurulması için adil bir sistemin kurulması”
Otonom sistemler, bazen algoritmalarında yapılan bir hata, bazen mekanik sistemlerinde yapılan bir hata veya test sürecinde atlanılan bir detay sonrası maddi ya da manevi anlamda bir zarara neden olabilir. Örnek verirsek eğer algoritmasının öğrenmesi gerçekleştirilirken yaşlılara karşı ayrımcılık yapacağı şekilde bir öğrenme gerçekleşmiş ve bu durum test sürecinde önemsenmemiş olsun. İşte bu gibi hatalar sonrası meydana gelecek davranışlarda ilgili hataya sebep olan aktör ile bağlantının kurulabilmesi için adil bir sistem oluşturulmalıdır.
“Otonom araçlar nedeniyle oluşmuş zararların giderilmesi için adil bir mekanizma oluşturulmalıdır”
Politika yapıcıların geliştirici, üretici ve araştırmacılarla birlikte oluşacak zararların tazmini konusunda adil bir şekilde işleyecek tazminat sistemi oluşturması gerekiyor. Otonom araçların faaliyetleri sonrası ortaya çıkacak zararların tazmini konusunda adil ve şeffaf çalışacak bir sigorta sistemi oluşturulmalıdır. Yine tazminatın tarafları, sorumluluk ve zarar gibi konuları adil ve şeffaf bir şekilde değerlendirilip kararın verileceği bir yargılama sistemi kurulmalıdır. Bunun için önce yasalaştırma çalışmaları yapılmalı, mevcut yasalardaki boşluklar doldurulmalı, güncel olmayan yasalar güncellenmeli ve eksikliklerin bulunduğu yerlerde yeni yasalar oluşturulmalıdır.
Sonuç
Bu yazı vasıtasıyla otonom araçların rota güvenliği, risk ve ikilem; data ve algoritma etiği ve sorumluluk konularını Avrupa Konseyinin ethics of CAVs adlı raporu paralelinde değerlendirdim. İlerleyen zamanlarda hayatlarımızın kaçınılmaz bir şekilde parçası olacak otonom araçlar, bu araçların karşımıza çıkaracağı sorunları ve bu sorunların nasıl çözüleceğini anlattım. Her yeni teknoloji gibi otonom araçlarda yanında sorunlarla geliyor önemli olan bu sorunlara odaklanıp bir an önce çözmek ve hayatlarımızı onun getirdiği refaha teslim etmek…
Benzer yazılarımızdan anında haberdar olmak için İkonion Blog'a abone olmayı unutmayın!
Kaynakça
1. Ethics of Connected and Automated Vehicles, Avrupa Konseyi, 2020 https://ec.europa.eu/info/sites/info/files/research_and_innovation/ethics_of_connected_and_automated_vehicles_report.pdf