İçeriğe geç

Yapay zekâ mühendisliği

Donanımınızda çalışan, donanımınızda ölçülen yapay zekâ

Makine öğrenmesi modellerini, ürününüzle sahaya çıkacak ya da tesisinizde kalacak donanım üzerinde eğitiyor, dağıtıyor ve entegre ediyoruz: NVIDIA Jetson Nano ve Xavier, masaüstü ve bulut NVIDIA GPU'ları, x86 ve gömülü Linux. Görüntü işleme, video ve sensör akışlarında canlı çıkarım, yerel dil modelleri, konuşma teknolojileri ve model eğitimi bu işin parçası. Her sayı hedef donanımda ölçülür.

İş günlerinde 48 saat içinde dönüş yapıyoruz (GMT+3).

Kimler için

  • Bir modeli cihazda ya da şirket içinde çalıştırması gereken ürün ve ML ekipleri
  • Hatta kalite kontrol ekleyen kalite ve otomasyon yöneticileri
  • Verisini genel buluta gönderemeyen ekipler

Sık duyduğumuz problemler

  • “Model kart üzerinde çok yavaş ya da yeterince doğru değil.”
  • “Kalite kontrol, üretim ışığı altında hataları kaçırıyor.”
  • “Kendi makinelerimizde çalışan, dışarı veri göndermeyen bir dil ya da konuşma modeline ihtiyacımız var.”

Kapsam

Cihaz üstü dağıtım

Eğitilmiş modeller TensorRT, ONNX Runtime ya da LiteRT ile çalıştırılır; gecikme, doğruluk ve güç tüketimi kart üzerinde raporlanır.

Görüntü işleme

Kalite kontrol ve otomasyon için nesne tespiti, sınıflandırma, segmentasyon ve OCR; gerektiğinde PLC'ye ret sinyali.

Canlı çıkarım

Video ve sensör akışlarında düşük gecikmeli modeller; kare süresi hedef donanımda ölçülür.

Yerel dil modelleri

Kendi donanımınızda çalışan dil modelleri, doküman tabanlı soru-cevap ve ajan akışları. Veriniz tesisinizden çıkmaz.

Konuşma teknolojileri

Cihazlarda ve yerel sunucularda konuşma tanıma, dikte ve metinden sese.

Model eğitimi

Veri hazırlama, eğitim ve ince ayar; ardından sahibi olduğunuz modelin dağıtımı.

Neler teslim edilir

  • Doğruluğu kontrol edilmiş runtime ve hassasiyet seçimi
  • Cihaz üzerinde gecikme, FPS, güç ve ısı raporu
  • Sensörden sonuca kamera ya da ses işleme hattı
  • Ekibinizin güncelleyebileceği dağıtım paketi

Çalışma modelleri

Yapay zekâ fizibilitesi

Siz karar vermeden önce aday modelleri ve donanımları ölçer.

Kapsamlı geliştirme

Veri hattından dağıtılmış modele kadar, kilometre taşlarıyla.

Performans denetimi

Çalışan ama çok yavaş ya da çok maliyetli bir model için.

Nasıl ölçüyoruz

  • Hedef cihazda çalıştırılan sabit bir değerlendirme seti.
  • Görüntü modelleri üretim ışığında test edilir; eğitim ve test setleri veri sızıntısına karşı kontrol edilir.
  • Teslimatta kullanılan, yapay zekânın ürettiği kod ya da metin bir mühendis tarafından incelenir ve donanımda test edilir.

Teknolojiler

  • NVIDIA Jetson
  • NVIDIA GPU'lar
  • CUDA
  • TensorRT
  • ONNX Runtime
  • LiteRT
  • PyTorch
  • TensorFlow
  • OpenCV
  • Python
  • C ve C++
  • Gömülü Linux
Hangi donanımı kullanmalıyız?

Kamera ya da ses yüküne, model boyutuna, gecikme ve güç hedeflerine bağlı. Fizibilite çalışması adayları ölçer; kimsenin tahmin yürütmesi gerekmez.

Büyük bir dil modelini kendi makinelerimizde çalıştırabilir misiniz?

Evet; donanımınızda bir fizibilite kontrolünden sonra, yerel bir model olarak. Veri tesisinizden çıkmaz.

INT8 kuantizasyon üretim için güvenli mi?

Yalnızca motor hedef cihazınızda derleniyor ve doğruluk anlaştığımız tolerans içinde kalıyorsa. Düşük hassasiyetleri cihazınızda test eder, testi geçeni kullanırız.

Gerçek donanımda çalışması gereken bir cihazınız, makineniz ya da modeliniz mi var?

Hedefi, hedef donanımı ve teslim tarihini gönderin. İş günlerinde 48 saat içinde dönüş yaparız. Doğru ekip biz değilsek bunu açıkça söyleriz.

Ekibinizin içinde çalışacak kıdemli bir mühendis mi lazım? Sözleşmeli, yarı zamanlı ve danışmanlık modelleri; en az üç ay.

Mühendis desteği alın