"Eğitimden çıkma" neden yeterli değil
"Verilerinizle eğitim yapmıyoruz" özel yapay zeka pazarlamasının parolası hâline geldi. Bu gerçek bir koruma — ama tam olarak tek bir şeye karşı. İşte bu iddianın anatomisi: eğitimden çıkma seçeneğinin neyi kapsadığı, sessizce açık bıraktığı beş risk ve bunları gerçekte neyin kapattığı.
Hakkını verelim: eğitimden çıkma seçeneği önemli. Konuşmalarının, daha sonra başka insanlara hizmet veren bir modele dahil edilmeyeceği anlamına gelir. Sunulduğu her yerde etkinleştir. Şimdi anatomisine bakalım: eğitim, verilerine olabilecek altı şeyden sadece biri, ve eğitimden çıkma seçeneği sadece onu ele alıyor. Diğer beşi, verilerin nerede yaşadığının özellikleridir — ve hiçbir onay kutusu veriyi taşımaz.
Risk 1 — Saklama
Eğitimden çıktıktan sonra bile, geçmişin hâlâ sağlayıcının sunucularında, sağlayıcının saklama takvimine göre durur. Silinmesini isteyebilirsin; ama bunun gerçekleştiğini izleyemezsin. İnceleyemediğin bir sistemde "silindi" demek bir gerçek değil, bir nezakettir — mesele tam da bu doğrulama boşluğudur.
Risk 2 — Veri sızıntısı
Elinde tutmadığın veri de çalınabilir — sadece başka birinden, senin kontrol etmediğin bir zaman diliminde ve sana sonradan bildirilerek. Yapay zeka kullanımın ne kadar kişiselse, sağlayıcı tarafındaki bir sızıntı o kadar yayımlanmış bir günlük gibi okunur. Eğitimden çıkma burada hiçbir şeyi değiştirmez: arşiv var olmaya devam eder; risk de zaten onun var olmasıdır.
Risk 3 — Hesap kaybı
Bir işaretleme, bir ödeme aksaklığı, otomatik bir moderasyon hatası — ve yıllarca biriktirdiğin bağlam, artık erişemediğin bir girişin arkasında kalır. Yapay zeka geçmişin bir hesapta yaşıyorsa, hafızanın bir ev sahibi vardır.
Risk 4 — Yargı yetkisi
Verilerin, sunucuların bulunduğu yerin yasalarına ve onları işleten şirkete tebliğ edilen yasal işlemlere tabidir — hiç seçmediğin hususlar. Müşteri bilgilerini yapay zeka araçlarına giren serbest çalışanlar ve küçük işletmeler için bu, kolaylık kılığına girmiş bir uyumluluk sorunudur.
Risk 5 — Politika değişimi
Bugünkü gizlilik sayfası bir anlık görüntüdür, gelecekle yapılmış bir sözleşme değil. Ürünler yön değiştirir, şirketler satın alınır, varsayılanlar değişir. Etkinleştirdiğin eğitimden çıkma seçeneği, kurallarını başkasının yeniden yazdığı bir sistemin içindeki bir ayardır — ve yönettiği arşiv sadece büyümeye devam eder.
Altı soruluk test
Herhangi bir "özel yapay zeka asistanına" şunu sor: Verilerim eğitim için kullanılıyor mu? (eğitimden çıkmanın cevapladığı tek soru) — Geçmişim nerede birikiyor? — Silinmeyi doğrulayabilir miyim? — Hesabımı kaybedersem ne olur? — Hangi ülkenin yasaları geçerli? — Politikanın değişmesini ne engelliyor? Altısını da "sen, kendi sunucun, evet, hiçbir şey, senin, değişecek bir şey yok" diye cevaplayan bir ürün söz vermiyor. Mimariyi tarif ediyor.
Riskleri gerçekte ne kapatır
Onay kutusunu değil, birikimi taşı. Kendi sunucunda barındırılan bir ajan, arşivi, hafıza veritabanını ve dosyalarını kendi sunucunda tutar: saklama senin dosya sistemin olur, silme doğrulanabilir hâle gelir, kaybedecek bir hesap yoktur, yargı yetkisi makineyi koyduğun yerdir ve politika senin söylediğin her şeydir. Dürüst sınır, açıkça söylemek gerekirse: bireysel istekler işlenirken hâlâ model sağlayıcısına geçiş yapar — bu, ağırlıklarını barındıramayacağın öncü modelleri kullanmanın doğasında vardır. Kaybolan şey, birikerek büyüyen kısımdır: başkasının altyapısındaki kalıcı, büyüyen dosya.
Avelina AI, bu mimarinin ürün hâlidir: kendi VPS'inde bir ajan, evde hafıza ve geçmiş, arayüz olarak Telegram — ve eğitimden çıkma seçeneği büyük ölçüde önemsiz hâle gelir, çünkü hassas varlık, onu korumak için bir onay kutusuna ihtiyaç duyulacak bir yerde asla birikmez.
FAQ
Eğitimden çıkma seçeneği gerçekte ne yapar?
Verilerinin tek bir kullanımını durdurur — modeli geliştirme. Verinin kendisini taşımaz, silmez veya korumaz.
Peki eğitimden çıkılmış bulut yapay zeka özel mi?
Daha özel, ama özel değil: saklama, veri sızıntısı, hesap kaybı, yargı yetkisi ve politika değişimi hepsi devam eder.
Herhangi bir "özel yapay zeka" ürününe ne sormalıyım?
Yukarıdaki altı soruluk test. Eğitimden çıkma altısından sadece birine cevap verir.
Diğer beşini ne kapatır?
Mimari: birikimin kendi altyapında olması. Ayarlar bunu yapamaz; adresler yapabilir.
Kendi sunucunda barındırmanın gideremediği bir risk var mı?
İstek başına model sağlayıcısına geçiş ve kendi sunucunun temel bakımı. Kaybolan şey, birikerek büyüyen dosyadır.