p(doom) tartışması: Rakamlar politikaya rehber olabilir mi?

Yapay zekâ güvenliği tartışmalarında sıkça duyulan bir kavram var: p(doom). Yapay zekâ yüzünden insanlığın yok olma olasılığına verilen bu yüzdelik tahminler, son aylarda kamuoyu tartışmasını ve politika gündemini daha önce görülmemiş ölçüde etkiliyor. “AI as Normal Technology” (eski adıyla AI Snake Oil) bülteninin yazarları Arvind Narayanan ve Sayash Kapoor, 28 Eylül’de bu rakamların neden güvenilmez olduğunu anlatan iki yıllık yazılarını yeniden yayımladı.

Ne Değişti?

Yazarlara göre bugünkü varoluşsal risk tahminleri 2024’tekilerden daha sağlam değil. Değişen tek şey, bu rakamların artık politika yapıcıların masasına çok daha sık gelmesi. Bu yüzden eski analizlerini yeni bir girişle tekrar paylaştılar.

Narayanan ve Kapoor’un ana iddiası net: Yapay zekâ kaynaklı varoluşsal risk tahminleri politika için fazla güvenilmez ve hatta yanıltıcı. Tahmin yapanların kimseyi kandırmaya çalıştığını düşünmüyorlar. Ancak sonuçta ortaya çıkan etkinin yanıltıcı olduğunu savunuyorlar.

Neden Güvenilmez?

Yazarlar, bir olasılık tahmininin şüpheci birini ikna edebilmesi için üç yol olduğunu söylüyor. Üçünün de bu konuda işe yaramadığını anlatıyorlar:

• Geçmiş verilere dayalı tahmin: Sigortacılar trafik kazası riskini benzer sürücülerin geçmiş kazalarından hesaplar. İnsanlığın yapay zekâ yüzünden yok olması ise daha önce hiç yaşanmamış bir olay. Hayvan türlerinin yok oluşu ya da sanayi devrimi gibi benzetmeler, süper zekâ geliştirilip geliştirilemeyeceği hakkında bir şey söylemiyor.
• Kurama dayalı tahmin: Asteroit çarpması gibi fiziksel sistemlerde güvenilir modeller var. Yapay zekâ riski için böyle bir kuram yok.
• Öznel tahmin: Uzmanların kişisel sezgileri. Yazarlara göre bu yöntem belirsiz korkuları sayıların arkasına saklıyor.

Narayanan ve Kapoor bir benzetme yapıyor: İki kişi önümüzdeki on yılda uzaylıların dünyaya inme olasılığını yüzde 80 olarak açıklasa, kimse bunu kanıt görmeden ciddiye almaz. Yazarlara göre olasılıklar kendi başına otorite taşımıyor. Özellikle açık kaynak modelleri kısıtlamak gibi maliyetli kararlar söz konusuysa, devletin bu rakamları halka açıklayabilmesi gerekiyor.

Karşı Görüş Ne Diyor?

Yazarlar, karşı tarafın en güçlü argümanını da yazılarına almış. Varoluşsal riskler doğası gereği spekülatiftir ve somut kanıt ortaya çıktığında iş işten geçmiş olabilir. Güvenlik savunucuları bu yüzden belirsizliği sayılarla ifade etmenin, risk konusunda açık iletişim kurmanın bir yolu olduğunu düşünüyor. Yüzde 10 gibi bir rakam, sorunun toplum için öncelikli hâle gelmesi gerektiğini anlatmanın kısa bir yolu.

Narayanan ve Kapoor da tahmin yapmaya karşı değil. Narayanan, Tahmin Araştırmaları Enstitüsü’nün uzman paneline danışmanlık yapıyor ve bu çalışmayı çok değerli buluyor. İtirazları yalnızca bu tahminlerin kamu politikasında doğrulanmış bir yöntem gibi kullanılmasına. Amaçlarının güvenlik savunucularını olasılık dilinden vazgeçirmek olmadığını, rakamları duyan politika yapıcıların bunların nasıl üretildiğini bilmesini istediklerini yazıyorlar.

Yazarlar 1 Ekim’de devam yazısında, yapay zekâ güvenliğini yalnızca süper zekâ ve yok oluş riskine indirgemek yerine daha geniş bir “büyük çadır” güvenlik hareketi önerdi.

Kimi İlgilendiriyor?

Bu tartışma en çok düzenleyicileri, milletvekillerini ve teknoloji politikası üzerine çalışan kurumları ilgilendiriyor. Gazeteciler için de önemli bir uyarı içeriyor: Bir uzmanın verdiği yüzdelik risk tahmini, bir hava durumu tahmini ya da sigorta hesabıyla aynı güvenilirlikte değil. Açık kaynak yapay zekâ geliştiricileri de bu tartışmayı yakından izlemeli, çünkü kısıtlama önerilerinin gerekçesi çoğu zaman bu tür risk rakamları oluyor.