Tahkimde Yapay Zekâ Kullanımı: SCC Rehberi Üzerine Değerlendirme

Ekim 2024’te Stockholm Ticaret Odası Tahkim Enstitüsü (SCC), tahkim yargılamalarında yapay zekâ kullanımına ilişkin kısa ve öz bir rehber yayımladı.

Bu rehber, SVAMC (Silicon Valley Arbitration and Mediation Center) ve İngiltere & Galler Yargı Teşkilatı tarafından yayımlanan benzer kılavuzlarla birlikte, yapay zekâya dair artan farkındalığı ve bu araçların doğru kullanımına yönelik düzenleme ihtiyacını ortaya koyuyor.

Uyuşmazlık çözümünde yapay zekâ kullanımı için rehberlik

SCC Tahkim Enstitüsü, Ekim 2024 tarihinde SCC Rehberi’ni yayımladı. Bu belge kısa ve genel nitelikli olup, tahkim sırasında yapay zekâ kullanılırken tarafların ve hakem heyetinin dikkate alması gereken meseleleri vurgulamayı amaçlıyor. SCC Rehberi, son bir yıl içerisinde Silicon Valley Arbitration and Mediation Center (SVAMC) tarafından yayımlanan Tahkimde Yapay Zekâ Kullanımına Dair Rehber ile İngiltere ve Galler Yargı Teşkilatı tarafından yayımlanan Yargı Mensupları için Yapay Zekâ Rehberi gibi benzer belgeleri takip ediyor.

Yapay zekânın hakemler (veya hâkimler) tarafından kullanımı, hukuk devleti açısından özellikle hassas meseleleri gündeme getirdiği için bu tür rehberlerin sayısının artması şaşırtıcı değil. Avrupa Birliği Yapay Zekâ Tüzüğü (EU AI Act), adaletin idaresinde kullanılmak üzere tasarlanan yapay zekâ sistemlerini "Yüksek Riskli Yapay Zekâ Sistemleri" olarak tanımlamıştır ve gerekçelerinde, bu araçların hâkimlerin karar verme gücünü desteklemesi gerektiği, ancak bu gücün yerine geçmemesi gerektiği belirtilmiştir: nihai kararlar insan odaklı kalmalıdır. Rehberlerde bu kaygılar da yansıtılmaktadır.

Rehberler kimleri hedef alıyor?

Rehberlerin hedef kitlesi birbirinden biraz farklıdır. SCC Rehberi esas olarak hakemlere hitap etmektedir; ancak gizlilik meselesinde tüm katılımcılara yöneliktir. Yargı Rehberi beklendiği üzere hâkimlere yöneliktir. SVAMC Rehberi ise taraflara, temsilcilerine ve hakemlere uygulanabilir ilkeler ortaya koyar.

SVAMC Rehberi ayrıca bir usul emrine eklenmek üzere tasarlanmış olup, bu amaçla bir model hüküm de içermektedir.

Biçim olarak SCC Rehberi oldukça üst düzeyde kaleme alınmış olup, yapay zekâ araçlarının işleyişi ve yaygın hataları hakkında belli bir arka plan bilgisine sahip olunmasını varsaymaktadır. SVAMC ve Yargı Rehberleri ise işleyiş, sınırlamalar ve riskler hakkında daha ayrıntılı bilgi sunar. Örneğin, Yargı Rehberi (sayfa 6) hâkimlere AI kullanılarak oluşturulmuş içerikleri tespit etmelerine yardımcı olacak çeşitli göstergeler sunar. SVAMC Rehberi, ilkelerin nasıl hayata geçirilebileceğine ilişkin ayrıntılı yorumlar ve öneriler içerir.

Her üç rehber de farklı yapay zekâ tanımları kullanmakta ve farklı yapay zekâ türlerinin potansiyel kullanım alanlarına az çok değinmektedir. Ancak tümü, esas olarak üretici yapay zekâ (generative AI) kullanımına odaklanmıştır. Bu doğrultuda, yapay zekâ kullanımına ilişkin başlıca riskler şu şekilde sıralanmıştır: (i) güvenlik ve gizlilik, (ii) önyargıların sürdürülmesi veya hatalı bilgi üretimi (nitelik ve bütünlük), (iii) insan karar verme süreçlerinin yapay zekâya devredilmesi.

Yapay zekâ kullanırken gizliliğe saygı

SCC Rehberi, hakemlerin yapay zekâ kullanırken girdikleri verilerin nasıl işlendiğini ve kullanıldığını anlamaları gerektiğini vurgular. Bazı araçların beklenmeyen gizlilik ihlallerine yol açabileceği kabul edilmektedir. Yapay zekâ araçlarının bilgi girdilerini saklaması (ve yeniden kullanması) ya da bu bilgilere ilişkin haklar elde etmesi riski, diğer rehberlerde de tanınmaktadır (SVAMC Rehberi, İlke 2; Yargı Rehberi, paragraf 2). Yargı Rehberi, kamu görevlileri ve yargının bütünlüğünü korumaya yönelik çok pratik ipuçları (örneğin, komut geçmişinin silinmesi) verir. Hiçbir rehber, kamuya açık yapay zekâ araçlarının kullanılmaması gerektiğini açıkça söylememektedir; ancak birçok kullanım durumu açısından bu, fiilen bir eşik niteliğinde olabilir.

Nitelik korunmalı, yargılamanın bütünlüğü gözetilmeli

Yapay zekâ, eğitildiği verilerdeki önyargıları sürdürebilir ve güvenilir olmayan bilgiler üretebilir. Bu nedenle SCC Rehberi, hakemlerin yapay zekâ çıktılarının uygun düzeyde gözden geçirilmesini ve doğrulanmasını sağlamaları gerektiğini, ayrıca etkili insan denetimi yapılmasını belirtir. Üç rehber de, yapay zekânın olanakları ve sınırlamaları hakkında bilinçli olunmasını teşvik eder ve kullanıcıların AI çıktılarından sorumlu olduğunu hatırlatır. Bu öneriler sağduyulu ve iyi uygulama örnekleridir.

SCC Rehberi ayrıca şeffaflık ve hesap verebilirliğin yargılamanın bütünlüğü açısından kilit unsurlar olduğunu belirtir ve hakemleri, tarafların dinlenilme hakkını temin etmek ve kendi yetki sınırlarını aşmamak adına, yapay zekâ kullanımını açıklamaya teşvik eder. SVAMC Rehberi, tüm katılımcıların yapay zekâ kullanımını açıklamasını teşvik eder (İlke 3), ancak bunu zorunlu kılmaz. Ayrıca, AI kullanım hatalarıyla ilgili olarak hakemlerin nasıl hareket edebileceğine dair öneriler sunar (örneğin, çıkarım yapılması).

Yargı Rehberi, hâkimlere isimlerine atfedilen her türlü içerikten şahsen sorumlu olduklarını hatırlatır (paragraf 6). Ancak, hâkimlerin bir karar oluştururken yaptıkları araştırmaları veya hazırlık çalışmalarını açıklamak zorunda olmadıkları belirtilir. Ayrıca, tarafların AI kullanarak içerik oluşturup oluşturmadıklarını anlamak için çeşitli göstergeler içerir ve eğitim verilerinde yer alan ABD hukukuna yönelik genel bir ağırlık bulunduğunu ifade eder.

Karar verme yetkisi devredilemez

Tahkime odaklanan rehberlerde, karar verme yetkisinin devredilmesinin aşılmaması gereken bir kırmızı çizgi olduğu açıktır. SCC Rehberi, hakemlerin karar verme ya da gerekçelendirme yetkilerini başka herhangi birine ya da araca devretmemeleri gerektiğini açıkça belirtir. SVAMC Rehberi, hakemlerin "kişisel yetkilerinin herhangi bir kısmını AI araçlarına devretmelerini" açıkça yasaklar ve AI araçlarının "bir hakemin rolündeki insanî muhakeme, takdir, sorumluluk ve hesap verebilirliğin yerine geçemeyeceğini" ifade eder (İlke 6). Bu mesele Yargı Rehberi’nde doğrudan ele alınmaz; zira bu durum zaten kendiliğinden açıktır. Ancak Yargı Rehberi, üretici yapay zekânın hukukî analiz ve araştırma amacıyla kullanılmasının önerilmediğini de belirtir.

Sonuç

Yapay zekânın uyuşmazlık çözümünde kullanılmasının henüz çok erken aşamalarındayız. Tahkimde, bu sürecin sorumluluğu büyük ölçüde kullanıcılar, tahkim kurumları ve sektörel kuruluşlara düşmektedir. Ortak amaç, verimlilik ve hesap verebilirlik arasında doğru dengeyi kurmak olmalıdır.

Yukarıda değinilen üç rehber, bu anlamda memnuniyetle karşılanan bir başlangıç noktasıdır. Tahkimde karşılaşılabilecek pratik sorunları ve tarafların tahkimlerine uygulanmasını isteyebilecekleri ilkeleri, ayrıca taraflar ya da hakemlerce yapılması gereken açıklamaları belirlemeye yardımcı olurlar.