Her ajans buna, işe yaramayacak kadar geniş bir aralıkla yanıt verir; çünkü dürüst yanıt, henüz görmedikleri şeylere bağlıdır. Bu yüzden sayının ardındaki yapıyı açıklayalım: Yapay zekâ çalışmalarının yaygın dört biçimi neleri içeriyor, hangisini istiyorsunuz ve her birinin maliyetini neler artırıyor?
Aşağıdaki maliyetler para yerine mühendis-haftası cinsindendir. Ücretler pazara ve işi kimin yaptığına göre değişir; dolar üzerinden fiyat veren bir sayfa, okurların çoğu için okudukları gün yanlış olur. Karşılaştırdığınız gerçek ücretle çarpın. Bunlar, bu tür işler geliştirirken edindiğimiz deneyime dayanan tahminlerimizdir; sektör araştırması değildir.
Yapay zekâ çalışmalarının dört biçimi
Aldığımız taleplerin neredeyse tamamı bunlardan biri ya da birkaçının birleşimidir. Hangisini istediğinizi adlandırmak, gerçekçi bir maliyete ulaşmanın en önemli adımıdır ve bunu kimseyle konuşmadan önce yapabilirsiniz.
| Biçim | Ne yapar | İlk üretim sürümüne kadar |
|---|---|---|
| Kendi içeriğinizden yanıtlar | Çalışanlar veya müşteriler soru sorar; sistem belgelerinizden yanıt verir ve kaynak gösterir. | 4–8 mühendis-haftası |
| Veri çıkarma ve sınıflandırma | Faturaları, e-postaları, destek taleplerini veya formları yapılandırılmış alanlara ya da kategorilere dönüştürür. | 3–6 mühendis-haftası |
| Görev gerçekleştiren bir ajan | Yalnızca metin üretmekle kalmaz, sistemlerinizde işlem yapar. | 8–16 mühendis-haftası |
| Ürününüzün içindeki bir model | Üçüncü taraf API'si kullanmadan kullanıcının cihazında veya kendi sunucularınızda çalışır. | 10–20 mühendis-haftası |
Son iki biçimde aralıkların daha geniş olmasının nedeni aynı: İkisi de yapay zekâ dışındaki etkenlere bağlı. Bir ajanın geliştirilebilirliği, işlem yapacağı API'lerle sınırlıdır; cihaz üzerinde çalışan bir model ise desteklemeye karar verdiğiniz donanıma bağlıdır.
Fiyatı gerçekte belirleyen etkenler
Somut bir veri çıkarma iş akışı için şu hizmetimize göz atın: fatura verisi çıkarma kılavuzumuz ve faturaların işlenmesine yönelik özel otomasyon hizmetimiz: verilerin alınması, doğrulanması, çalışan incelemesi ve muhasebe sisteminize aktarılması.
Bunların hiçbiri model değildir. Model seçimi bir haftalık değerlendirme çalışması ve ardından bir yapılandırma dosyasındaki satırdan ibarettir. Bir teklif bunu temel mesele olarak ele alıyorsa, bu teklif hakkında size bir şeyler söyler.
- Verilerinizin durumu. En büyük değişken budur. Temiz, güncel ve iyi yapılandırılmış belgelerin tek bir yerde olması düşük maliyetli senaryodur. Birbiriyle çelişen dört kayıt sistemi, taranmış PDF'ler ve 2023'ten beri kimsenin güncellemediği bir wiki ise yüksek maliyetli senaryodur. Buradaki iş veriyle ilgilidir ve bu işi zaten yapmanız gerekecekti.
- Ne kadar doğru olması gerektiği. "Birinin kontrol edeceği bir taslak oluşturur" ile "gözetimsiz işlem yapar" arasında büyük fark vardır. İkincisi ölçüm, hata yönetimi ve güvenli biçimde yanılma yöntemi gerektirir; bütçe de burada harcanır.
- Kaç sisteme dokunduğu. Her entegrasyonun kendine ait kimlik doğrulaması, hız sınırları ve hata durumları vardır. İki sistem sıradan bir iştir. Altı sistem ise bambaşka bir projedir.
- Değerlendirmeyi üstlenecek biri olup olmadığı. Ekibinizden hiç kimse bir yanıtın iyi olup olmadığını söyleyemiyorsa, önce bu değerlendirme düzenini kurmamız gerekir. Bunu yapmak değerlidir ama ücretsiz değildir.
- Verilerin nereye gidebileceği. "Hiçbir şey altyapımızın dışına çıkamaz" geçerli bir kısıt ve tasarım gereksinimidir. Bu genellikle sizin barındırdığınız açık ağırlıklı modeller kullanmak anlamına gelir; kontrol karşılığında bazı yeteneklerden ödün verilir ve barındırma maliyeti size geçer.
İşletme maliyetinde unutulan kalemler
Geliştirme tahmini bütçe değildir. Lansmandan sonra üç maliyet devam eder ve plana genellikle yalnızca ilki eklenir.
- Kullanım. İstek başına ücret alınır ve hacimle artar. Pilot ölçekte ucuzdur; bu yüzden üretim ölçeğine geçildiğinde insanları şaşırtır. Bir mimariye karar vermeden önce pilot hacminizin 10 katı için maliyeti hesaplayın.
- Değerlendirme ve izleme. İçeriğiniz değiştikçe ve sağlayıcılar kullandığınız modelleri güncelledikçe kalite düşebilir. Bunu izleyecek bir şey gerekir.
- Sağlayıcı değişiklikleri. Modeller, sağlayıcının takvimine göre kullanımdan kaldırılır. Geçiş için yılda birkaç günlük çalışma planlayın ve geçişi zorlaştıran tasarımlardan kaçının.
Kavram kanıtı ne kadara mal olmalı ve neyi kanıtlamalı?
İki ila dört hafta. Daha uzun sürüyorsa bu bir kavram kanıtı değil, plansız bir projedir.
Önemli olan neye hizmet ettiğidir. Kavram kanıtı bir demo ile değil, bir kararla sonuçlanmalıdır. Bunu sağlamanın yolu, başlamadan önce başarı sayılacak ölçütü ve bu ölçüte ulaşılmazsa ne yapacağınızı yazılı hâle getirmektir. "Destek taleplerinin en az %85'ini doğru sınıflandırmalı; başaramazsa durdururuz" bir kavram kanıtıdır. "Yapay zekânın bizim için neler yapabileceğine bakalım" ise bir atölye çalışmasıdır.
Ayrıca sonrasında da ihtiyaç duyacağınız bir çıktı üretmelidir: doğru yanıtları içeren, küçük, gerçek ve etiketlenmiş bir örnek kümesi. Bu test kümesi geçerli model değişse de kullanılmaya devam eder ve bir sonraki kararı daha düşük maliyetli kılar.
Herhangi bir tedarikçiye sorulmaya değer sorular
- 1. Bu işin maliyetini tahmininizin iki katına çıkarabilecek şey nedir?
- 2. İşin yürüdüğünü sayısal olarak nasıl anlayacağız ve bunu kim ölçecek?
- 3. Pilot hacmimizin on katında aylık maliyet ne olur?
- 4. Seçtiğiniz model kullanımdan kaldırıldığında ne olur?
- 5. Verilerimiz nereye gidiyor ve neler saklanıyor?
- 6. Sistem yanıtı bilmediğinde ne yapıyor?
- 7. Sonunda kodun, promptların ve değerlendirme kümesinin sahibi kim olacak?
Altıncı soru en çok şeyi açığa çıkarır. Buna yanıtı olmayan bir sistem kendinden emin biçimde bir şeyler uydurur. Bu da projelerin, sistemi kullanması beklenen kişilerin güvenini kaybetmesine yol açar.
Ne zaman geliştirmemeli?
Geliştirmemenizi söyleyeceğimiz üç durum var; bunu erkenden söylemek ikimiz için de daha az maliyetlidir.
- Süreç hiçbir yerde yazılı değil. Kuralları açıklayabilen kimse yoksa proje yapay zekâyla değil, operasyonel süreçlerin düzenlenmesiyle başlar.
- Ayda yalnızca on kez gerçekleşiyor. Nadir gerçekleşen bir görevi otomatikleştirmek, otomasyonu sürdürme maliyetini genellikle karşılamaz.
- Mevcut bir ürün bu işi zaten yapıyor. Verileriniz sizi farklı kılmıyorsa satın alın. Sizin için bunu baştan geliştirmek yerine bunu söylemeyi tercih ederiz.
Çalışma şeklimiz
Ajans değil, küçük bir mühendis ekibiyiz: Kodu yazan kişilerle konuşursunuz, arada müşteri temsilcisi yoktur ve üstlendiğimiz işleri seçerek alırız. Yapay zekâ tarafında bu; LLM entegrasyonları, kendi içeriğinizde arama, ajanlar ve kendi barındırdığınız modellerin dağıtımını kapsar. Stüdyomuzun geri kalanında .NET, Python, TypeScript ve bulut çalışmaları da yapıyoruz.
Ayrıca Windows yazılımlarımızı da geliştirip kullanıma sunuyoruz. Bunlar arasında dil modelini tamamen kullanıcının bilgisayarında çalıştıran bir metin asistanıda var; bu nedenle cihaz üzerinde çalışma ve gizlilik kısıtlamaları bizim için teorik konular değil.
Ne geliştirmeye çalıştığınızı anlatın
Çözümü değil, sorunu anlatın: Bugün biri ne yapıyor, bunu ne sıklıkta yapıyor ve işler ters gittiğinde bunun maliyeti ne oluyor? Bir iş günü içinde kapsam ve maliyet bilgisiyle ya da neden geliştirmenizi önermediğimize dair bir açıklamayla yanıt alırsınız.