Záznam rozhodnutí 0004

0004 — Produkt neběží přes osobní předplatné AI

Stav: přijato · Datum: 2026-09

Kontext

Při vývoji je nejrychlejší cesta, jak dostat schopný model do prototypu, osobní předplatné chatovací služby, které si vývojář stejně platí — některé nástroje přes něj dokonce umějí posílat požadavky. Je lákavé vydat první verzi právě tak: žádné zvláštní účtování, žádné klíče ke správě a pevná měsíční cena.

Možnosti

1. Posílat provoz produktu přes osobní předplatné vývojáře.
2. Používat API poskytovatele za obchodních podmínek, s klíči pro každé prostředí.
3. Provozovat otevřený model na vlastním hardwaru.

Rozhodnutí

Možnost 2 pro generování odpovědí; embeddingy už běží lokálně (při indexaci data server neopouštějí).

Proč ne 1: - Podmínky. Spotřebitelské předplatné je licencované jednotlivci pro jeho vlastní potřebu. Obsluhovat přes něj požadavky jiných lidí je mimo tyto podmínky; produkt na tom postavený může být bez varování vypnut — a všimne si toho zákazník. - Data. Dokumenty zákazníka by tekly přes účet zřízený pro osobní použití, s jakýmkoli nastavením uchovávání a trénování, které ten účet zrovna má. To před bezpečnostní prověrkou zákazníka neobhájíte. - Provoz. Žádná cena za požadavek, žádné limity pod vaší kontrolou, žádné oddělení vývojového a produkčního provozu.

Proč zatím ne 3: dobrá volba pro zákazníky s přísnými požadavky na umístění dat, ale těžký problém se přesune do provozu GPU. Architektura drží model za jedinou funkcí (app/llm.py), takže zůstává výměnou, ne přepisem.

Cena

• Skutečná cena za volání, viditelná od prvního dne. To je výhoda: nutí to k mezipaměti a k pravidlu „bez dokladu model nevolat“ (rozhodnutí 0003).
• Testy model nikdy nevolají: vyhledávání, relevance, citace i oprávnění jsou čisté funkce testované bez něj, takže CI neplatí za žádná volání a zůstává deterministické. Vývoj proti živému modelu má vlastní klíč, oddělený od produkce.
• Správa klíčů pro každé prostředí (lokální, testovací, produkční), nikdy v repozitáři.