Yapay Zeka Modeli ve Tedarik Zinciri Güvenliği
Hazır modeller, veri kümeleri ve bağımlılıklar bir tedarik zinciridir. Zehirlenmiş model, veri kaynağı saldırıları ve güvenli kullanım üzerine teknik rehber.
Bir yapay zeka uygulaması; hazır modeller, eğitim ve erişim verileri, adaptörler ve çok sayıda yazılım bağımlılığından oluşur. Bunların her biri bir tedarik zinciri halkasıdır ve güvenliği zincirin en zayıf halkası belirler. OWASP LLM↗ Uygulamaları İlk 10 listesi (2025), bunu LLM03 “Tedarik Zinciri” olarak ele alır: eğitim verisi, modeller ve dağıtım platformları gibi bileşenlerdeki zafiyetler. Risk, geleneksel yazılım bağımlılıklarının ötesine geçer; çünkü üçüncü taraf ön eğitimli modeller ve veriler kurcalama ya da zehirleme yoluyla manipüle edilebilir.
Başlıca riskler
| Risk | Açıklama |
|---|---|
| Üçüncü taraf paket zafiyetleri | Eski veya desteği biten bileşenler; geliştirme ve ince ayar ortamlarında ek risk. |
| Lisans riskleri | Yazılım ve veri kümesi lisansları kullanım, dağıtım ve ticarileştirmeyi kısıtlayabilir. |
| Eski veya bakımsız modeller | Güncellenmeyen modeller güvenlik sorunlarına yol açar. |
| Zafiyetli ön eğitimli modeller | Statik olarak incelenmesi zordur; zehirli veri ya da doğrudan kurcalama ile ön yargı, arka kapı↗ veya kötü amaçlı özellik taşıyabilir. |
| Zayıf model kaynağı güvencesi | Yayımlanmış modellerin kökeni güçlü biçimde kanıtlanmaz; tedarikçi hesabı ele geçirilebilir ya da taklit edilebilir. |
| Zafiyetli LoRA adaptörleri | Kötü amaçlı bir adaptör temel modeli tehlikeye atabilir. |
| İş birlikçi geliştirme ortamları | Paylaşılan model birleştirme ve dönüştürme hizmetleri incelemeyi atlatabilir. |
| Cihaz üstü riskler | Ele geçirilmiş üretim, işletim sistemi/firmware açıkları ve değiştirilmiş modelli uygulamalar. |
| Belirsiz şartlar ve gizlilik politikaları | Model işletmecisi uygulama verilerini eğitimde kullanabilir; hassas veri sızabilir. |
Veri kaynağı zehirleme (RAG dahil)
Model dış belgelerden bilgi çekiyorsa (RAG), bu kaynaklara sızdırılan kötü amaçlı içerik hem yanıtları bozabilir hem de dolaylı istem enjeksiyonuna kapı açabilir. Kaynakları doğrulanmış tutun, yazma ve erişim yetkisini sınırlayın, içerik değişikliklerini izleyin.
Önlemler
- Tedarikçileri ve veri kaynaklarını inceleyin: şartlarını ve gizlilik politikalarını okuyun, güvenlik duruşlarını düzenli denetleyin.
- Bileşenleri tarayın ve yamalayın, geliştirme ortamları dahil; destekli API ve modellere dayanın.
- Doğrulanabilir kaynak kullanın: model bütünlüğünü imza ve dosya özetiyle doğrulayın; harici kod için kod imzalama kullanın.
- Yapay zeka kırmızı takım↗ testi ve değerlendirme: üçüncü taraf modelleri kendi kullanım senaryonuza göre sınayın.
- İmzalı ve güncel SBOM↗ tutun; yapay zeka bileşenleri için AI BOM / ML SBOM yaklaşımlarını (ör. OWASP CycloneDX) değerlendirin.
- Lisans envanteri çıkarın ve düzenli denetleyin.
- İş birlikçi model geliştirme ortamlarını izleyin; tedarik edilen model ve verilerde anomali tespiti ve dayanıklılık testi yapın.
- Cihaz üstü modelleri bütünlük denetimiyle şifreleyin; üretici doğrulamasıyla değiştirilmiş uygulamaları engelleyin.
Bağımlılıklar ve sırlar
- API anahtarlarını koda veya istemlere gömmeyin; gizli yöneticisinde tutun.
- Üretim ile deneme ortamını ayırın.
Çekilen içeriğin modeli kandırması konusu için:
Modeli araçlara bağlarken yetki sınırlaması için:
Genel yazılım tedarik zinciri güvenliği için:
Kaynaklar ve son gözden geçirme
- OWASP Top 10 for LLM Applications 2025: LLM03 Supply Chain.
- NIST AI RMF 1.0 (Ocak 2023); NIST SP 800-218 (SSDF).
Son gözden geçirme: 21 Ekim 2026. Bu içerik bilgilendirme amaçlıdır.
