Yapay Zekanın Hukuktaki Etik Etkileri: Avukat İçin Beş Soru

Gökçen Beyazoğlu LL.B.

Avukat, Chief Product Officer · Attornaid

Copy Link

Yapay zekanın hukuktaki etik etkileri, avukat açısından beş soruya indirgenebilir: müvekkil verisi araca girerken sır saklama yükümlülüğü ne gerektirir; aracı anlamadan kullanmak ve çıktıyı doğrulamamak hangi riski doğurur; eğitim verisinden gelen önyargı hukuki değerlendirmeyi nasıl etkiler; yapay zeka kullanımı müvekkile ve karşı tarafa ne zaman söylenir; hata olduğunda sorumluluk kimde kalır. Beşinci sorunun cevabı sabittir: sorumluluk avukatta kalır. Diğer dört soru bu sorumluluğun günlük işte nasıl taşınacağını belirler ve her birinin karşılığı yazılı bir büro kuralıdır.

Yapay zeka araçları hukuk bürolarına çoğunlukla bir yönetim kararıyla değil, tek tek avukatların denemesiyle girer. Etik tartışması ise genellikle soyut düzeyde kalır: adalet, şeffaflık ve hesap verebilirlik sıralanır, ancak bir avukatın pazartesi sabahı somut olarak ne yapacağı belirsizdir. Aşağıdaki beş soru bu boşluğu doldurmak için seçilmiştir. Her soru için kısa bir açıklama, büro pratiğinden bir örnek ve bir büro kuralı önerisi vardır; meslek kurallarına ve veri koruma mevzuatına atıflar genel düzeyde tutulmuştur.

Beş soru bir bakışta

Ortak nokta: Beş sorunun hiçbiri aracın niteliğiyle ilgili değildir; hepsi avukatın iş akışıyla ilgilidir. Araç değişse de sorular ve kurallar aynı kalır.

1. Gizlilik: müvekkil verisi araca girerken sır saklama ne gerektirir?

Sır saklama yükümlülüğü, bilginin kime ve hangi kanalla aktarıldığından bağımsız olarak geçerlidir. Bir sözleşme taslağının veya dilekçe metninin bir yapay zeka aracına yapıştırılması, teknik olarak üçüncü bir tarafa veri aktarımıdır. Sağlayıcı bu veriyi saklıyor, model eğitiminde kullanıyor veya yurt dışındaki sunucularda işliyorsa, meslek kurallarındaki sır saklama yükümlülüğünün yanına KVKK kapsamındaki işleme ve aktarım soruları da eklenir. Yükümlülük araç sağlayıcısına devredilemez; sağlayıcının sözleşmesinde ne yazarsa yazsın müvekkile karşı sorumlu olan avukattır.

Örnek: Bir avukat, müvekkilin iş sözleşmesindeki rekabet yasağı hükmünü özetletmek için metni çalışan adı, şirket unvanı ve ücret bilgisiyle birlikte herkese açık bir araca yapıştırır. Aracın kullanım şartlarında girilen verinin hizmeti geliştirmek için kullanılabileceği yazmaktadır. Özet doğru çıkar; ancak müvekkilin ticari bilgisi artık büronun denetiminde olmayan bir sistemdedir ve bu aktarım hiçbir yerde kayıtlı değildir.

• Sağlayıcının sözleşmesinde girilen verinin saklanıp saklanmadığı ve model eğitiminde kullanılıp kullanılmadığı kontrol edilir.
• Verinin işlendiği yer ve KVKK'ya göre yurt dışına aktarım koşullarının karşılanıp karşılanmadığı belirlenir.
• Müvekkille yapılan sözleşmede bu tür araç kullanımına ilişkin bir hüküm bulunup bulunmadığına bakılır.

Büro kuralı: Müvekkil verisi yalnızca büronun onaylı araç listesindeki araçlara girilir. Liste dışı bir araç kullanılacaksa isim, unvan, tutar ve dosya numarası gibi tanımlayıcılar metinden önceden çıkarılır.

2. Yetkinlik ve doğrulama: aracı anlamadan kullanmak hangi riski doğurur?

Meslek kuralları avukattan işini özenle ve yetkin biçimde yapmasını bekler. Yapay zeka söz konusu olduğunda yetkinlik, aracın nasıl çalıştığını kabaca bilmeyi de kapsar: aracın bir arama motoru değil bir metin üreticisi olduğunu, var olmayan bir kararı gerçek görünen bir künyeyle üretebileceğini ve yanlış cevabı doğru cevapla aynı kendinden emin dille verdiğini. Bunu bilmeyen avukat çıktıyı bir meslektaşın notu gibi okur ve doğrulama ihtiyacı duymaz. Risk aracın hata yapması değil, hatanın fark edilmeden dosyaya girmesidir.

Örnek: Bir dilekçeye araçtan alınan üç emsal karar eklenir. İkisi gerçektir. Üçüncüsünün esas ve karar numarası, dairesi ve tarihi vardır, ancak böyle bir karar yoktur. Dilekçe UYAP üzerinden gönderilir ve hatayı karşı taraf cevap dilekçesinde ortaya koyar. Bu noktada tartışma artık uyuşmazlığın esası değil, büronun özen yükümlülüğüdür.

Doğrulama üç adımdan oluşur: kararın resmî kaynakta gerçekten var olduğu görülür, künyenin tüm unsurlarının birbiriyle tutarlı olduğu kontrol edilir ve metnin iddiayı gerçekten destekleyip desteklemediği okunur. Üçüncü adım en sık atlanandır; gerçek bir karar, ona dayandırılan iddiayı söylemiyor olabilir.

Büro kuralı: Yapay zeka çıktısı içeren hiçbir belge doğrulanmadan imzaya veya UYAP'a gitmez. Doğrulayan kişi ve tarih dosya notuna işlenir; doğrulama kaydı olmayan belge taslak sayılır.

3. Önyargı ve adil sonuç: eğitim verisindeki yanlılık hukuki değerlendirmeyi nasıl etkiler?

Modeller geçmiş metinlerden öğrenir. Bu metinler bazı grupları, bazı iş kollarını veya bazı bölgeleri sistematik olarak farklı ele almışsa model bu farkı taşır ve yeniden üretir. Hukuki değerlendirmede bu durum taraflar hakkında örtük varsayımlar olarak ortaya çıkar: belirli bir bölgeden gelen tarafın daha riskli, belirli bir meslek grubunun daha az güvenilir sayılması gibi. Yanlılık fark edilmesi zor bir hatadır, çünkü çıktı tutarlı ve makul görünür; uydurma bir karar gibi tek bir kontrolle yakalanmaz.

Örnek: Bir büro, müvekkil şirketin tedarikçi sözleşmelerindeki uyuşmazlık riskini sıralamak için bir araç kullanır. Araç belirli bir bölgedeki tedarikçileri sürekli daha riskli puanlar. Sözleşme metinleri arasında bu farkı açıklayan bir hüküm yoktur; fark tedarikçi adreslerinden gelmektedir. Sıralama olduğu gibi müvekkile sunulsaydı, dayanağı olmayan bir değerlendirme hukuki görüş kılığında aktarılmış olacaktı.

Yanlılığı fark etmenin pratik yolu kontrol sorusudur: aynı değerlendirme, tarafın adı, cinsiyeti, ikametgâhı veya unvanı değiştirilerek tekrar istenir. Sonuç değişiyorsa değişimin kaynağı hukuki değil, verideki yanlılıktır. Kişi veya taraf hakkında değerlendirme üreten çıktılar, uzlaşma eğilimi veya güvenilirlik gibi, bu kontrolden geçmeden dosyaya girmez.

Büro kuralı: Kişi veya taraf hakkında değerlendirme içeren çıktılar tek başına karar dayanağı olarak kullanılmaz. Çıktı, değerlendirmenin dayandığı somut veriyi gösteremiyorsa ikinci bir avukat tarafından okunmadan müvekkile sunulmaz.

4. Şeffaflık ve bildirim: yapay zeka kullanımı kime, ne zaman söylenir?

Üç muhatap vardır: müvekkil, mahkeme ve karşı taraf. Müvekkile karşı şeffaflık vekâlet ilişkisinin parçasıdır; verinin işlenme biçimini, ücreti veya işin niteliğini etkileyen her kullanım bildirilir. Mahkemeye karşı yükümlülük dürüstlük yükümlülüğünün uzantısıdır: sorulduğunda doğru cevap vermek ve dayanağı olmayan bir atfı savunmamak. Karşı tarafa genel bir bildirim gerekmez; ancak bir belge veya delil yapay zeka ile üretilmiş ya da değiştirilmişse, bunun gizlenmesi dürüstlük yükümlülüğünü zedeler.

Bildirimin zamanı kullanımın türüne göre değişir. Yazım yardımı veya özetleme gibi işin sonucunu değiştirmeyen kullanımlar için vekâlet sözleşmesindeki genel bir hüküm yeterlidir. Müvekkil verisinin bir araca aktarıldığı, ücretin hesaplanma biçiminin bundan etkilendiği veya hukuki değerlendirmenin bir araç çıktısına dayandığı durumlarda ayrıca ve önceden bildirim gerekir.

Örnek: Saat ücretiyle çalışan bir büro, müvekkile on saatlik araştırma faturası keser. Araştırmanın büyük bölümü bir araçla iki saatte tamamlanmıştır. Müvekkil bunu sonradan başka bir kanaldan öğrenir. Ücretin haklı olup olmadığından bağımsız olarak, öğrenme biçimi güveni zedeler ve ilişkinin kalan kısmını belirler.

Büro kuralı: Vekâlet sözleşmesine yapay zeka kullanımına ilişkin genel bir bildirim hükmü eklenir. Müvekkil verisinin araca aktarıldığı ve ücretin etkilendiği her durum ayrıca ve işten önce bildirilir.

5. Sorumluluk: hata olduğunda kimde kalır?

Cevap kısadır: avukatta. Meslek kuralları ve vekâlet ilişkisi, işin hangi araçla yapıldığından bağımsız olarak avukatı sorumlu tutar. Aracın yanıldığı savunması, bir stajyerin yanıldığı savunmasından daha güçlü değildir; her ikisinde de denetim yükümlülüğü avukattadır. Sağlayıcı sözleşmesinde sorumluluk sınırlaması bulunması bu durumu değiştirmez. O sınırlama avukat ile sağlayıcı arasındaki ilişkiyi düzenler; müvekkil veya mahkeme karşısında ileri sürülemez.

Bunun pratik anlamı iş akışının tasarımıdır. Araç taslak üretir; avukat okur, karar verir ve imzalar. Dosyada hangi işin araçla yapıldığının izi tutulur, çünkü hata ortaya çıktığında nerede yapıldığının bilinmesi hem düzeltmeyi hem de baro veya mahkeme önünde açıklamayı kolaylaştırır.

• Aracın ürettiği her belge, avukatın imzasını taşıdığı anda avukatın belgesidir.
• Sağlayıcı sözleşmesindeki sorumluluk sınırlaması müvekkile karşı ileri sürülemez.
• Hata ortaya çıktığında ilk adım gizlemek değil, müvekkile ve gerekiyorsa mahkemeye bildirmektir.

Tasarım ilkesi: Sorumluluğun avukatta kalması iş akışının başlangıç noktasıdır. Araç ne kadar gelişmiş olursa olsun akış, bir avukatın okuyup imzaladığı noktada biter; bu nokta kaldırıldığında etik sorunların tamamı geri gelir.

Büro kuralı: Yapay zeka çıktısı taslak statüsündedir. Dosyaya giren her belgenin bir sorumlu avukatı vardır ve bu kişi aracın sağlayıcısı değildir.

Kontrol listesi

• Büronun onaylı araç listesi yazılı mı?
• Müvekkil verisi araca girmeden önce tanımlayıcılar çıkarılıyor mu?
• Her yapay zeka çıktısı birincil kaynaktan doğrulanıyor ve doğrulayan kaydediliyor mu?
• Kişi veya taraf hakkında değerlendirme içeren çıktılar ikinci bir avukat tarafından okunuyor mu?
• Vekâlet sözleşmesinde yapay zeka kullanımına ilişkin bildirim hükmü var mı?
• Müvekkil verisinin araca aktarıldığı durumlar ayrıca ve önceden bildiriliyor mu?
• Dosyada hangi işin araçla yapıldığının izi tutuluyor mu?
• Hata durumunda izlenecek bildirim adımı yazılı mı?

Sıkça sorulan sorular

Yapay zekanın hukuktaki etik etkileri nelerdir?

Avukat açısından beş başlıkta toplanır: müvekkil verisinin gizliliği ve sır saklama, aracı anlayarak kullanma ve çıktıyı doğrulama yükümlülüğü, eğitim verisinden gelen önyargının adil sonucu etkilemesi, müvekkile ve mahkemeye karşı şeffaflık, ve hata durumunda sorumluluğun avukatta kalması. Her başlığın karşılığı yazılı bir büro kuralıdır.

Müvekkil verisi yapay zeka aracına girilebilir mi?

Yalnızca sözleşmesinde verinin saklanmayacağı ve model eğitiminde kullanılmayacağı açıkça yazan, büronun onayladığı araçlara. Diğer araçlarda isim, unvan, tutar ve dosya numarası gibi tanımlayıcılar önceden çıkarılır. Sır saklama yükümlülüğü araç sağlayıcısına devredilemez; KVKK kapsamındaki işleme ve aktarım kuralları ayrıca geçerlidir.

Yapay zeka çıktısı neden doğrulanmalı?

Araç bir arama motoru değil metin üreticisidir; var olmayan bir kararı gerçek görünen bir künyeyle ve kendinden emin bir dille üretebilir. Doğrulama üç adımdır: kararın resmî kaynakta var olduğu görülür, künyenin tutarlı olduğu kontrol edilir ve metnin iddiayı gerçekten desteklediği okunur. Doğrulayan kişi ve tarih dosya notuna işlenir.

Yapay zekadaki önyargı hukuki değerlendirmeyi nasıl etkiler ve nasıl fark edilir?

Model geçmiş metinlerden öğrenir ve o metinlerdeki sistematik farkları taşır; bu, taraflar hakkında örtük varsayımlar olarak ortaya çıkar. Fark etmenin pratik yolu aynı değerlendirmeyi tarafın adı, cinsiyeti veya ikametgâhı değiştirilerek tekrar istemektir. Sonuç değişiyorsa çıktı karar dayanağı olarak kullanılmaz.

Müvekkile yapay zeka kullanımı ne zaman bildirilmeli?

Yazım yardımı veya özetleme gibi işin sonucunu değiştirmeyen kullanımlar için vekâlet sözleşmesindeki genel bir hüküm yeterlidir. Müvekkil verisinin bir araca aktarıldığı, ücretin bundan etkilendiği veya hukuki değerlendirmenin araç çıktısına dayandığı durumlarda ayrıca ve önceden bildirim gerekir. Mahkeme sorduğunda doğru cevap verilir.

Yapay zeka hata yaptığında sorumluluk kimdedir?

Avukattadır. Meslek kuralları ve vekâlet ilişkisi, işin hangi araçla yapıldığından bağımsız olarak avukatı sorumlu tutar; aracın yanıldığı savunması denetim yükümlülüğünü ortadan kaldırmaz. Sağlayıcı sözleşmesindeki sorumluluk sınırlaması avukat ile sağlayıcı arasındadır, müvekkile veya mahkemeye karşı ileri sürülemez.