00:00Selamlar, yapay zeka artık her yerde değil mi?
00:02Hayatımızın her köşesine inanılmaz bir hızla sızıyor.
00:05Peki ama bu sistemlerin kontrolden çıkmasını engelleyen güvenlik ağları aslında neler?
00:10İşte bugünkü analizimizde tam olarak bu konuyu masaya yatırıyoruz.
00:14Atsız Burucu'nun International Journal of Computer and Organization Trends dergisinde yayınlanan makalesine dayanarak
00:20yapay zeka denetim araçlarının o gizemli dünyasına dalacağız.
00:24Bu araçlar cidden işe yarıyor mu yoksa sadece kendimizi güvende hissetmek için mi varlar?
00:29Hadi vakit kaybetmeden başlayalım.
00:31Şimdi bugünkü yol haritamıza hızlıca bir göz atalım.
00:35Önce temelleri konuşacağız, sonra o meşhur kod seviyesindeki denetçilere bakacağız.
00:40Oradan küresel standartlara uzanıp bu sistemlerin zafiyetlerini yani kör noktalarını tartışacağız.
00:45En sonunda da işin asıl kalbine yani insan faktörüne geleceğiz.
00:50Evet, birinci bölümümüz yapay zeka denetimi nedir ve tabii ki o baş belası kara kutu problemi.
00:56Düşünün yapay zeka bazen öylesine karmaşık kararlar alıyor ki biz insanlar bu kararın tam olarak nasıl veya neden alındığını gerçekten
01:04anlayamıyoruz.
01:05İşte buna kara kutu diyoruz.
01:07Peki bu kara kutuyu nasıl aydınlatacağız?
01:09İşte burada devreye güvenlik ağlarımız yani denetim araçları giriyor.
01:13Bunlar basit yazılımlar değil, algoritmaların içindeki o sinsi önyargıları, gizlilik ihlallerini ve güvenlik açıklarını yakalamak için özel olarak tasarlanmış sistemler.
01:22Kısacası amaçları sistem bir çuval inciri berbat etmeden önce hataları bulmak.
01:28Gelelim ikinci bölüme teknik denetim yazılımları yani kaputun altındaki kod seviyesindeki o gizli kahramanlar.
01:35Şimdi burası gerçekten çok ilginç çünkü üç ana müfettişimizi yan yana görüyoruz.
01:41Bir tarafta Shep ve Lime var.
01:43Bunlar işin matematiksel şifre çözücüleri, oyun teorisini kullanarak bu karar neden alındığı sorusuna matematiksel bir cevap veriyorlar.
01:51Diğer tarafta IBM'in AI Fairness 360'ı duruyor.
01:55Tam bir önyargı avcısı.
01:57Veri setlerindeki o adaletsiz eğilimleri bulup onarıyor.
02:00Ve tabii Google'ın what if aracı.
02:02Bu resmen bir oyun alanı.
02:03Tek bir satır kod bile yazmadan peki şöyle olsaydı ne olurdu diye hipotezlerinizi görsel olarak test edebiliyorsunuz.
02:10Harika değil mi?
02:11Üçüncü bölümümüz küresel standartlar ve çerçeveler.
02:15Sadece koda bakmak yetmez, oyunun kurallarını da bilmemiz lazım.
02:19İlk karşımıza çıkan NIST yapay zeka risk yönetimi çerçevesi.
02:23Amerika Birleşik Devletleri Ulusal Standartlar ve Teknoloji Enstitüsü'nün hazırladığı bu metin aslında işin Amerikan altın standardı.
02:31Amacı çok net.
02:32Yapay zekayı güvenilir, şeffaf ve kontrol edilebilir tutmak.
02:37Atlantik'in diğer tarafına Avrupa'ya geçtiğimizde ise AB yapay zeka yasasını görüyoruz.
02:42Avrupa Birliği burada çok daha katı ve yapılandırılmış bir yol izliyor.
02:45Sistemleri risklerine göre dört net kategoriye ayırmışlar.
02:50Kabul edilemez, yüksek, sınırlı ve minimum.
02:53Yani satranç oynayan bir yapay zeka ile hastanede teşhis koyan bir yapay zeka aynı risk kefesine konmuyor.
03:00Son derece mantıklı.
03:01Dördüncü bölümümüz güçlü yönler ve zafiyetler.
03:04Her şey kağıt üzerinde kusursur görünüyor.
03:07Peki ya gerçek hayatta?
03:08Bu ankör noktaları neler?
03:10Aslında burada kıyasıya bir halat çekme yarışı var.
03:13Bir tarafta gücümüz, bu denetim araçları insan gözünün asla yakalayamayacağı o görünmez önyargıları istatistiksel olarak şıp diye bulabiliyor.
03:22Ama diğer tarafta çok ciddi zafiyetler var.
03:25Araçlarımız hızlı gelişen teknolojiye bazen ayak uyduramıyor, manipülatif saldırılarla kandırılabiliyor
03:31ve en kötüsü verinin ardındaki o insani ve sosyolojik bağlamı kesinlikle kavrayamıyorlar.
03:37İstatistiksel bir adaletsizliği bulmak neden bu kadar hayati biliyor musunuz?
03:41Kaynakta çok çarpıcı bir örnek var.
03:44İşe alım yapan bir yapay zeka algoritmasının sırf kadın oldukları için bazı harika adayları gizlice elediğini hayal edin.
03:51Bu matematiksel denetim araçları olmasaydı insan gözü binlerce özgeçmiş arasındaki bu sinsi kalıbı tamamen gözden kaçırabilirdi.
03:59İşte bu araçlar tam da o görünmez adaletsizliği ifşa ediyor.
04:03Fakat ayaklarımızın yere basması şart ciddi tehlikeler var.
04:07Birincisi, üretken yapay zeka ve büyük dil modelleri o kadar inanılmaz bir hızla evriliyor ki
04:13denetim araçları onların o meşhur uydurmalarını yani halüşinasyonlarını yakalamakta çok yetersiz kalıyor.
04:21İkincisi, kötü niyetli kişiler modelleri öyle bir manipüle ediyor ki
04:25sistem denetimden tertemiz raporu alıp geçiyor ama gerçek dünyada yanlı kararlar veriyor.
04:32Ve en önemlisi hiçbir kod parçası bir toplumun ahlaki değerlerini anlayamaz.
04:37Kültürel bağlam sıfır.
04:39Ve işte beşinci bölüm aslında tüm analizimizin kilit noktası.
04:43İnsan ve hukuk faktörü.
04:45Buradan çıkaracağımız en büyük en net ders şu.
04:49Yapay zeka kendi kendinin polisini oynayamaz.
04:51Mutlak güvenlik diye bir şey sadece kodlarla sağlanamaz.
04:55O yüzden sistemin merkezinde her zaman ama her zaman bağımsız bir insan denetçinin olması şart.
05:01Teknik araçlar harika birer asistan.
05:04Ama son sözü o hukuki ve etik yargıya sahip olan döngüdeki insan söylemeli.
05:09Ama işin biraz ürkütücü kısmı şu ki makale bizi çok net bir şekilde uyarıyor.
05:14Şu an dünyada bu işi dört dörtlük yapan tam akredite olmuş tek bir yapı bile yok.
05:19Akademik çalışmalarımız ve özellikle de hukuki çerçevelerimiz bu teknolojinin o devasa patlayıcı büyümesinin çok ama çok gerisinde kalmış durumda.
05:28Hukuk teknolojiyi adeta nefes nefese hep geriden takip ediyor.
05:33O yüzden bu incelememizi bitirirken aklınızda şu hayati sorunun yankılanmasını istiyorum.
05:38Yapay zeka her saniye bu kadar hızlı gelişmeye devam ederken bizim ağır işleyen hukukumuz ve insan denetim mekanizmalarımız ona nasıl
05:46yetişecek?
05:46Bu sorunun cevabı gerçekten de hepimizin geleceğini şekillendirecek.
05:50Bugün bana katıldığınız için çok teşekkürler.
05:53Bir sonraki incelememizde yepyeni bir konuyla görüşmek üzere.
05:56Merak etmeye ve öğrenmeye devam edin.
Yorumlar