> ML_KUTUPHANE // NCNN_v1.0
NCNN
Tencent — ARM NEON assembly ile mobil platformlar için optimize edilmiş Tencent yüksek performanslı sinir ağı çıkarım çatısı.
client-edge-embeddedv20240410BSD-3-Clausequalified
Model Eğitimi (Training)
Bu kütüphane optimize edilmiş bir inference motorudur; model eğitimi için kullanılmaz.
Model Sunumu (Inference)
Inference Hızlandırıcıları:
CPUWASM
Hedef Ortamlar (Targets):mobile, edge
Kuantizasyon Formatları:INT8 (8-bit quantization via ncnn2table)
Neleri Sağlar (Ne Yapar)
- +Mobil yonga setlerinde en yüksek CPU performansı için el yapımı ARM NEON assembly optimizasyonları
- +Neredeyse tüm Android ve iOS akıllı telefonlarda desteklenen Vulkan GPU hızlandırması
- +Sıfır üçüncü taraf kütüphane bağımlılığı (ikili dosyada protobuf veya OpenCV gerekmez)
- +Uygulama mağazası indirme kısıtlamaları için ideal ultra kompakt ikili boyut (1MB'tan az kütüphane boyutu)
Neleri Sağlamaz (Ne Yapmaz)
- -Makine öğrenimi modellerini eğitme (kesinlikle bir ileri geçiş çıkarım motorudur)
- -.param/.bin formatına dönüştürmeden PyTorch dosyalarını doğrudan ayrıştırma
- -Bulut çok düğümlü LLM kümelerine hizmet verme
>Uygun İş Tipleri
- Android/iOS akıllı telefonlarda mobil uçta gerçek zamanlı yüz takibi ve artırılmış gerçeklik filtreleri
- Sıkı bellek limitlerine sahip gömülü Linux uç IoT cihazları (Raspberry Pi, Allwinner, Rockchip)
- Sıkı <10MB paket boyutu bütçelerine sahip uygulama mağazası uygulamaları
>Uygun Olmayan İş Tipleri
- NVIDIA GPU'larında bulut kurumsal veri merkezi sunucu çıkarımı (TensorRT veya vLLM kullanın)
- Sıfırdan model eğitimi
Veri Yerleşimi ve İkameti
%100 yerel olarak cep telefonunda veya gömülü cihaz işlemcisinde çalışır. Herhangi bir internet bağlantısı olmadan çalışır.
Güvenlik Değerlendirmesi
BSD-3-Clause lisansı. Sıfır bağımlılık, minimum mobil tedarik zinciri saldırı zafiyeti sağlar.
Operasyonel Metrikler ve Bilinen Kısıtlar
Olgunluk:mature
Öğrenme Eğrisi:moderate
Operasyon Yükü:moderate
Maliyet Seviyesi:free-oss
> Bilinen Kısıtlamalar:
- Modelleri onnx2ncnn CLI aracıyla dönüştürmeyi gerektirir; özel veya desteklenmeyen ONNX operatörleri özel C++ katmanları yazmayı gerektirir.
İlişkili Üretim Arıza Paternleri (Incidentpedia)
Bu kütüphaneyi üretimde kullanırken aşağıdaki arıza senaryolarına karşı fail-closed korumalar uygulayın:
> Birincil Kanıt ve Doğrulama Kaynakları
Tencent NCNN Documentationofficial-docs • 20240410
2026-09-25HIGH