Yapay Zekâ Sohbetleriniz Nerede Saklanıyor? Fireworks AI İhlali ve AI Tedarik Zinciri Riski
Yapay zekâ altyapı sağlayıcısı Fireworks AI'daki ihlalde, Notion AI kullanıcılarının sohbet kayıtları çalındı. Şirketinizin yapay zekâ özelliklerinin arkasında hangi tedarikçiler var ve verileriniz nerede tutuluyor?
Açık yapay zekâ modellerini çalıştırmak için kullanılan altyapı sağlayıcısı Fireworks AI'daki ihlalde, Notion AI kullanıcılarının sohbet kayıtları çalındı. Olay, şirketlerin kullandığı yapay zekâ özelliklerinin arkasında görünmeyen bir tedarikçi zinciri olduğunu ve verilerin bu zincirin her halkasında risk altında olabileceğini gösteriyor.
Ne Oldu?
TechCrunch'ın 12 Kasım tarihli haberine göre:
Fireworks AI, geliştiricilerin açık yapay zekâ modellerine erişip çalıştırdığı bir platform; on binlerce müşterisi var.
Bir saldırgan, Fireworks'ün bulut sağlayıcısını ihlal ederek bir geliştirme sistemine ve oradan bazı müşteri verilerine ulaştı. Fireworks'ün son bildirimine göre müşterilerin fatura bilgileri ve bazı veri setleri alındı. Bu, şirketi iki ay içinde etkileyen ikinci ihlal.
Etkilenen müşterilerden biri Notion. Notion, müşterilerinin yaklaşık %1'inin etkilendiğini; çalınan verilerin "Insights" özelliğini kullanan Notion AI müşterilerinin sohbet kayıtları olduğunu açıkladı. Kayıtlar, modele yazılan girdileri ve modelin çıktılarını içeriyor.
Notion, 3 Kasım'da Fireworks ile bağlantısını kesti ve bu tedarikçide saklanan verileri sildi.
Fireworks, saldırganların finansal motivasyonlu olduğunu ve model erişimini ele geçirerek yapay zekâ kullanım haklarını satmayı amaçladığını değerlendiriyor.
Aynı hafta blokzincir altyapı sağlayıcısı Chainstack de saldırganın üçüncü taraf bir bileşen üzerinden üretim ortamına ulaştığını ve müşteri hesap bilgileriyle parola hash'lerine eriştiğini duyurmuştu.
Yapay Zekâ Tedarik Zinciri: Görünmeyen Halkalar
Bir SaaS ürünündeki "yapay zekâ ile özetle" butonunun arkasında genellikle şu zincir vardır:
Halka | Örnek | Veriye dokunur mu? |
|---|---|---|
Kullandığınız uygulama | Not, CRM, destek yazılımı | Evet |
Model / çıkarım (inference) sağlayıcısı | Modeli çalıştıran altyapı platformu | Evet, istem ve yanıtlar |
Bulut sağlayıcısı | Sağlayıcının üzerinde çalıştığı altyapı | Dolaylı olarak |
Kayıt ve izleme araçları | Log, analiz, hata takibi | Çoğu zaman evet |
Kullanıcı yalnızca ilk halkayı görür. Oysa yapay zekâ özelliğine yazdığı her metin, sözleşme maddesi, müşteri bilgisi ya da iç yazışma, zincirin tamamında işlenebilir ve saklanabilir.
Şirketler İçin AI Tedarikçi Kontrol Listesi
Alt işleyenleri sorun: Kullandığınız SaaS ürünlerinin yapay zekâ özellikleri için hangi model sağlayıcılarını kullandığını öğrenin.
Saklama politikası: İstem ve yanıtlar sağlayıcıda saklanıyor mu, ne kadar süre? Model eğitimi için kullanılıyor mu?
Veri konumu: Veriler hangi ülkede işleniyor? Kişisel veri içeriyorsa KVKK'daki yurt dışı aktarım kurallarını değerlendirin.
Kullanım politikası: Çalışanlara hangi verilerin yapay zekâ araçlarına girilebileceğini açıkça anlatın.
Kapatma seçeneği: Hassas birimlerde yapay zekâ özelliklerini yönetici panelinden kapatabildiğinizden emin olun.
Kritik iş yükleri için kontrollü ortam: Hassas verilerle çalışan yapay zekâ uygulamalarını, kontrolünüzdeki altyapıda çalışan modellerle değerlendirmeyi düşünün.
Tedarikçi kaynaklı risklerin başka bir örneğini ConnectWise yazımızda ele almıştık.
Sık Sorulan Sorular
Yapay zekâ araçlarına yazdıklarım saklanıyor mu?
Sağlayıcıya ve hizmet koşullarına göre değişir. Bazı hizmetler istem ve yanıtları belirli süre saklar; kurumsal sözleşmelerde bu süreler ve kullanım amaçları ayrıca düzenlenebilir.
Notion AI kullanıyorum, etkilendim mi?
Notion, etkilenen müşterilerin yaklaşık %1 olduğunu ve "Insights" özelliğini kullananların sohbet kayıtlarının etkilendiğini açıkladı. Güncel bilgi için Notion'ın resmî bildirimlerini takip edin.
Yapay zekâ modelini kendi altyapımda çalıştırabilir miyim?
Evet. Açık modeller, yeterli GPU ve altyapıyla kurum içinde veya bir veri merkezinde çalıştırılabilir. Bu, verinin kontrolünü sizde tutar; ancak güç, soğutma ve operasyon planlaması gerektirir.
Olfe ile Kontrollü Yapay Zekâ Altyapısı
Olfe, İzmir Bornova'daki Tier III veri merkezinde yüksek performanslı fiziksel sunucular ve kabin barındırma ile yapay zekâ iş yüklerinizi yurt içinde, kendi kontrolünüzdeki altyapıda çalıştırmanıza olanak tanır. GPU sunucularınız için güç ve soğutma planlamasını birlikte yapmak üzere bizimle iletişime geçin. GPU altyapısının enerji tarafını bu yazımızda anlattık.
Sonuç
Fireworks AI ihlali, yapay zekâ özelliklerinin yeni bir veri akışı ve yeni bir tedarikçi zinciri demek olduğunu gösterdi. Yapay zekâya ne yazdığınız kadar, yazdıklarınızın kimde ve nerede durduğu da önemli.