Každá agentura odpoví rozmezím tak širokým, že je k ničemu, protože poctivá odpověď závisí na věcech, které zatím nezná. Tady je tedy struktura skrytá za výslednou částkou: co obnášejí čtyři běžné typy práce s AI, o který z nich žádáte a co zvyšuje náklady.
Níže uvádíme náklady v člověkotýdnech, nikoli v penězích. Sazby se liší podle trhu i podle toho, kdo práci odvádí, a stránka s cenami v dolarech by byla pro většinu čtenářů v den, kdy si ji přečtou, zavádějící. Vynásobte uvedené hodnoty sazbou, se kterou skutečně počítáte. Jde o naše odhady na základě zkušeností s tvorbou podobných řešení, nikoli o průzkum odvětví.
Čtyři typy práce s AI
Téměř každá poptávka, kterou dostáváme, spadá do jednoho z těchto typů nebo kombinuje dva z nich. Pojmenovat, který typ potřebujete, je největší krok k reálnému odhadu — a můžete ho udělat ještě předtím, než s kýmkoli začnete jednat.
| Typ | Co dělá | Do první produkční verze |
|---|---|---|
| Odpovědi z vašeho vlastního obsahu | Zaměstnanci nebo zákazníci pokládají otázky a systém odpovídá na základě vašich dokumentů a uvádí citace. | 4–8 člověkotýdnů |
| Extrakce a klasifikace | Převádí faktury, e-maily, tikety nebo formuláře na strukturovaná pole či kategorie. | 3–6 člověkotýdnů |
| Agent, který vykonává úkol | Provádí akce napříč vašimi systémy, nejen vytváří text. | 8–16 člověkotýdnů |
| Model jako součást vašeho produktu | Funguje na zařízení uživatele nebo na vašich vlastních serverech, bez API třetí strany. | 10–20 člověkotýdnů |
Rozmezí u posledních dvou typů je širší ze stejného důvodu: oba závisejí na věcech mimo samotnou AI. Možnosti vytvořit agenta závisí na API, přes která musí provádět akce, a model pro provoz přímo na zařízení omezuje hardware, který jste se rozhodli podporovat.
Co skutečně ovlivňuje cenu
Konkrétní příklad automatizace extrakce najdete v naší službě extrakcí údajů z faktur a automatizovaného zpracování faktur na míru: příjem, ověřování, kontrola zaměstnanci a export do vašeho účetního systému.
Nic z toho není model. Výběr modelu znamená týden vyhodnocování a pak jeden řádek v konfiguračním souboru. Pokud ho nabídka označuje za hlavní otázku, něco to vypovídá o samotné nabídce.
- Stav vašich dat. Největší proměnná. Levnou variantou jsou čisté, aktuální a dobře strukturované dokumenty na jednom místě. Nákladnou variantou jsou čtyři systémy záznamů, které si odporují, naskenované PDF a wiki, kterou nikdo neaktualizoval od roku 2023 — jde o práci s daty, kterou byste potřebovali tak jako tak.
- Jak přesné řešení musí být. Je velký rozdíl mezi „připraví návrh, který člověk zkontroluje“ a „jedná bez dozoru“. Druhá varianta vyžaduje měření, ošetření selhání a způsob, jak bezpečně chybovat. Právě na to padne rozpočet.
- Kolika systémů se dotýká. Každá integrace má vlastní ověřování, limity počtu požadavků i chybové stavy. Dvě jsou běžná věc. Šest znamená jiný projekt.
- Zda se někdo bude věnovat vyhodnocování. Pokud nikdo z vašeho týmu nedokáže posoudit, zda byla odpověď dobrá, musíme nejprve vytvořit potřebné vybavení a procesy. Má to smysl, ale není to zadarmo.
- Kam smějí data putovat. Požadavek „nic nesmí opustit naši infrastrukturu“ je legitimní omezení a vstupní podmínka návrhu. Obvykle znamená, že budete hostovat modely s otevřenými vahami, čímž vyměníte část schopností za kontrolu a převezmete náklady na hosting.
Průběžné náklady, na které lidé zapomínají
Odhad nákladů na vytvoření řešení není rozpočet. Po spuštění pokračují tři druhy nákladů a v plánu je obvykle jen první z nich.
- Využití. Cena za požadavek roste s objemem. V pilotním provozu je nízká, a proto lidi při ostrém provozu překvapí. Než se rozhodnete pro architekturu, vyplatí se ji propočítat při desetinásobku objemu pilotního provozu.
- Vyhodnocování a monitorování. Kvalita se mění s tím, jak se mění váš obsah a jak poskytovatelé aktualizují modely. Někdo to musí sledovat.
- Změny na straně poskytovatele. Poskytovatelé ukončují podporu modelů podle vlastního harmonogramu. Počítejte každý rok s několika dny práce na přechodu na jiný model a vyhněte se návrhům, které takový přechod komplikují.
Kolik by měl proof of concept stát a co má prokázat
Dva až čtyři týdny. Pokud trvá déle, není to proof of concept, ale projekt bez plánu.
Důležité je, k čemu slouží. Proof of concept má skončit rozhodnutím, ne ukázkou. Zaručíte to tak, že ještě před začátkem stanovíte číslo, které bude znamenat úspěch, a určíte, co uděláte, pokud ho nedosáhnete. „Musí správně klasifikovat alespoň 85 % tiketů, jinak projekt zastavíme“ je proof of concept. „Podívejme se, co by pro nás AI mohla dělat“ je workshop.
Měl by také přinést něco, co budete potřebovat i později: malou, skutečnou a označenou sadu příkladů se správnými odpověďmi. Tato testovací sada přežije jakýkoli aktuální model a díky ní budou vaše další rozhodnutí levnější.
Na co se vyplatí zeptat každého dodavatele
- 1. Co by mohlo zdvojnásobit váš odhad nákladů?
- 2. Jak číselně poznáme, že řešení funguje, a kdo to bude měřit?
- 3. Kolik bude řešení stát měsíčně při desetinásobku objemu našeho pilotního provozu?
- 4. Co se stane, až skončí podpora zvoleného modelu?
- 5. Kam putují naše data a jak dlouho se uchovávají?
- 6. Co systém udělá, když odpověď nezná?
- 7. Komu na konci připadne kód, prompty a sada pro vyhodnocování?
Šestá otázka odhalí nejvíc. Systém, který na ni nemá odpověď, si něco sebejistě vymyslí — a takové projekty ztrácejí důvěru lidí, kteří je měli používat.
Kdy řešení nevytvářet
Tři případy, kdy bychom vám řekli, ať do toho nejdete. Říct to včas je levnější pro obě strany.
- Postup není nikde zdokumentovaný. Pokud nikdo nedokáže popsat pravidla, projekt musí začít prací na provozních postupech, ne na AI.
- Děje se to desetkrát za měsíc. Automatizace vzácného úkolu se jen málokdy vyplatí vzhledem k nákladům na její údržbu.
- Už to umí existující produkt. Pokud vás neodlišují vaše data, kupte si hotové řešení. Raději vám to řekneme, než abychom vám účtovali jeho opětovné vytvoření.
Jak pracujeme
Jsme malý tým inženýrů, ne agentura: jednáte přímo s lidmi, kteří píší kód, mezi vámi není account manager a pečlivě vybíráme, do čeho se pustíme. V oblasti AI to znamená integrace LLM, vyhledávání ve vašem vlastním obsahu, agenty a nasazování modelů, které hostujete sami — vedle práce s .NET, Pythonem, TypeScriptem a cloudem, které se věnuje zbytek studia.
Vydáváme také vlastní software pro Windows, včetně textového asistenta, který spouští jazykový model přímo v počítači uživatele, takže pro nás provoz přímo na zařízení a s omezeními na ochranu soukromí nejsou jen teorie.
Řekněte nám, co chcete vytvořit
Popište problém, ne řešení — co dnes někdo dělá, jak často a kolik stojí, když se to nepovede. Odpovíme do jednoho pracovního dne, navrhneme rozsah a cenu, nebo vysvětlíme, proč si myslíme, že byste to vytvářet neměli.