Enver KOÇAK
OpenAI, 30 Eylül 2026’da modellerinin korunan akıl yürütme kayıtlarını çıkarmaya yönelik koordineli bir damıtma saldırısı kampanyasını tespit edip durdurduğunu duyurdu. Şirkete göre ilk faaliyet temmuzun ilk haftasında başladı ve kampanya 28 Temmuz’a kadar tamamen bozuldu.
Düşmanca damıtma, bir modelin çıktılarının veya akıl yürütmesinin izinsiz ve sistematik biçimde başka bir modeli eğitmek ya da geliştirmek için kullanılması anlamına geliyor.
Ne Oldu?
OpenAI’ın açıklamasına göre saldırganlar şifrelemeyi kırmadı, bir veritabanına sızmadı ve saklanan kullanıcı sohbetlerine doğrudan erişmedi. Bunun yerine model etkileşimlerini manipüle ederek, normalde gizli kalan akıl yürütmenin görünür biçimde yeniden üretilmesini sağladılar. Yöntemlerden biri, bir sohbetteki şifreli akıl yürütmeyi kopyalayıp başka bir sohbette modelden bunu çözmesini ve yazıya dökmesini istemekti.
Faaliyet 1 Temmuz’da düşük hacimle başladı. 24 ve 25 Temmuz’da 4 binden fazla kullanıcıdan gelen 16 bin istekle zirve yaptı. Bu rakamlar başarılı değil, denenen çıkarma girişimlerini gösteriyor. Daha geniş incelemede 15 binden fazla kullanıcıdan oluşan ilişkili bir küme bulundu.
OpenAI, tüm operatörlerin tek bir aktöre ait olup olmadığının belirsiz olduğunu söylüyor. Ancak faaliyetin çekirdek kümesini Kimi modelinin geliştiricisi Moonshot AI ile bağlantılı kişilere bağlıyor.
Ne Değişti?
Şirket sahte hesapları kapattı veya kısıtladı, kayıt ve altyapı kontrollerini sıkılaştırdı ve ilişkili ağlar için izlemeyi genişletti. Başka bir kullanıcının şifreli akıl yürütmesine sahip birinin bunu yeniden oynatıp içeriğini geri almasına izin veren yol kapatıldı. Akış hâlindeki çıktılarda akıl yürütmeyi açığa çıkarabilecek içerikleri tespit edip bekleten kontroller de eklendi.
Bağımsız güvenlik araştırmacıları da sorumlu açıklama yoluyla benzer açıkları bildirdi ve OpenAI bu saldırı yollarının gerçek olduğunu doğruladı. Bulgular, sektörün ortak güvenlik platformu Frontier Model Forum ve ilgili devlet kanalları üzerinden diğer geliştiricilerle paylaşıldı.
OpenAI, işin bitmediğini de kabul ediyor. Şirket, öncü modeller geliştikçe ve aktörler bu yetenekleri daha ucuza taklit etmenin yollarını aradıkça damıtma girişimlerinin daha karmaşık hâle gelmesini bekliyor. Önümüzdeki dönemde araç savunmaları, sınıflandırıcı kapsamı ve modelin reddetme davranışı geliştirilecek, ilgili kontroller bulut ortaklarına da yayılacak. Şirket çalışmalarını üç başlıkta topluyor: çıkarmaya karşı daha güçlü teknik koruma, koordineli kampanyalara karşı daha iyi tespit ve yaptırım, sektör ile devlet arasında daha derin tehdit bilgisi paylaşımı.
Kimi İlgilendiriyor?
Bu olay öncelikle büyük model geliştiren şirketleri ilgilendiriyor. OpenAI, sorunun kendi modellerine özgü olmadığını, taşınabilir veya yeniden oynatılabilir akıl yürütme kayıtları sunan her sistemin benzer risklerle karşılaşabileceğini belirtiyor. Şirkete göre çalınan akıl yürütme, orijinal modeldeki güvenlik önlemleri korunmadan başka bir modeli eğitmek için kullanılabilir; bu da güvenlik ve ulusal güvenlik riski doğuruyor.
Sıradan ChatGPT kullanıcıları açısından ise açıklama önemli bir güvence içeriyor: Saldırganlar kullanıcı sohbetlerine erişmedi. Kurumsal müşteriler ve bulut ortakları üzerinden model sunan şirketler için ise aynı korumaların her dağıtım kanalında sağlanması gerektiği vurgulanıyor.
Türkiye’den Kullanıcılar İçin
Açıklamada Türkiye’ye dair bir bilgi bulunmuyor. Kendi modelini eğiten ya da başka modellerin çıktılarıyla veri seti hazırlayan Türk girişimleri için mesaj açık: Kullanım koşullarına aykırı toplu çıktı toplama, hesap kapatma ve daha ağır yaptırımlarla karşılaşabilir. Veri kaynaklarının lisansını kontrol etmek, bu dönemde her zamankinden daha önemli.
Kaynaklar
Bu yazı, yukarıdaki kaynaklardan yapay zekâ yardımıyla Türkçe olarak derlenmiş bir özettir. Ayrıntılar ve resmi bilgi için kaynaklara başvurun.
