W29: Izmaksu drošinātāji un ētera sargi
Nedēļa, kurā divi resursu pārtēriņi vienā laikā — LLM izmaksas Vanilla Travel čatā un ElevenLabs kvota Radio Viens — piespieda uzlikt drošinātājus tur, kur agrāk nekādu limitu nebija.
- Vt-blog čatam pirmoreiz uzlikām LLM izdevumu drošinātāju — līdz šim atbilžu ģenerēšanai nebija nekāda izmaksu griesta
- Radio Viens ētera TTS atslēgu atdalījām no eksperimentiem, lai mūzikas iterācijas nekad vairs nevar nogāzt raidījumu
- biznesam.ai blogā turpinājās ikdienas AI briefingi, bet inženiertehniskais svars gulēja uz izmaksu disciplīnu visā ekosistēmā
- Katram ģeneratīvam resursam vajag priekšpārbaudi un griestu — ne promtu, bet cietu limitu, kas neļauj vienai iterācijai izsmelt kopīgo kvotu
- Viena atslēga diviem mērķiem ir bumba ar laika degli — ētera un eksperimentu ceļus atdala fiziski, ne ar labiem nodomiem
- Drošinātājs, kas neizdodoties bloķē, var būt bīstamāks par problēmu, kuru risina — izšķir, kad fail-closed un kad fail-open
- ElevenLabs mūzikas iterācijas izsmēla visu 140k kredītu kvotu, un nakts būve krita ar TTS kļūdu — kvotu pirms tam neviens nepārbaudīja
- Fail-closed drošinātājs pats nogalināja admin čatu (P0 regresija) — pareizā izvēle bija fail-open, kad neizdodas nolasīt izdevumu grāmatu
Ekosistēmas pārskats
Šī bija izmaksu disciplīnas nedēļa. Divi neatkarīgi resursu pārtēriņi — LLM izdevumi Vanilla Travel čatā un ElevenLabs kvota Radio Viens radiostacijā — nostājās vienā līnijā un piespieda uzdot vienu un to pašu jautājumu: kur mūsu ģeneratīvajām sistēmām ir izmaksu griesti? Atbilde nedēļas sākumā bija satraucoša — vietām nekādu. Nedēļa aizgāja, tos uzliekot.
Vanilla Travel
Galvenais darbs bija vt-blog čata izmaksu drošinātājs. Atklājās, ka atbilžu ģenerēšanai nebija nekāda izdevumu griesta (P0) — sistēma varēja tērēt bez robežas. Ieviesām LLM spend breaker ar admin-llm-budget observabilitāti, lai izdevumu grāmatu var reāli nolasīt. Ceļā gadījās sāpīga mācība: pirmā drošinātāja versija bija fail-closed, un, kad tas neizdevās nolasīt grāmatu, tas nogalināja Anitas admin čatu — pārtaisījām uz fail-open.
Paralēli sašaurinājām modeļu izmaksas: admin-review un content-qc pārcēlām uz ātro Flash modeli, testa sesijas kategoriski vairs nedabū Opus (CEO direktīva — pēdējie trīs Opus izsaukumi nost), un dienas LLM testu apjomu nogriezām no 19 uz 8 izsaukumiem. Čata pusē turpinājās uzvedības darbs — deterministisks season-lead runtime gate un deal-timing atbildes, kas vairs neved sarunu ar tūrisma sezonu, plus godīgums par galamērķiem ārpus portfeļa.
Vanilla Travel repozitorijā pati nedēļa aizgāja marketinga aģentu ikdienas ritmā — cmo-agent un paid-control dienas briefingi un fast-gate atskaites, bez lieliem koda commitiem.
biznesam.ai un Radio Viens
Radio Viens piedzīvoja nedēļas skaudrāko mācību. ElevenLabs mūzikas iterācijas 14.–16. jūlijā izsmēla visu 140k kredītu kvotu, un nakts būve krita ar TTS kļūdu — atlikums nulle. Sakne: mūzikas ģenerēšanu izmantoja kā “bezmaksas iterāciju rīku”, nepārbaudot kvotu pirms izsaukuma. Reakcija bija strukturāla — ētera TTS atslēgu (ELEVENLABS_RADIO_KEY) fiziski atdalījām no eksperimentu atslēgas, lai mūzikas eksperimenti nekad vairs nevar nogāzt raidījumu. Jauns likums: mūzikas iterācijas iet caur fiksētu abonementu, ElevenLabs tikai īpašiem gadījumiem ar aplēsi un kvotas čeku pirms izsaukuma.
Tajā pašā nedēļā radās otra ētera problēma: neapstiprināta dziesma bija nokļuvusi ēterā, jo trūka rotācijas sarga. Bloķējām ar do_not_air un pārģenerējām rundownus. biznesam.ai blogā turpinājās ikdienas AI briefingi.
Insights
- Katram ģeneratīvam resursam vajag griestu, ne cerību. Gan LLM izsaukumi, gan mūzikas kredīti — abi izsmelami. Priekšpārbaude un ciets limits ir vienīgais, kas neļauj vienai iterācijai aizvest visu kvotu.
- Viena atslēga diviem mērķiem agri vai vēlu sagrūst. Ētera un eksperimentu ceļus atdala fiziski. Labi nodomi (“neizmantošu ēterā”) nav arhitektūra.
- Drošinātājs var būt bīstamāks par problēmu. Fail-closed drošinātājs, kas neizdodoties bloķē visu, nogalināja admin čatu. Izšķir apzināti: kad drošāk bloķēt, kad drošāk laist cauri.
Kļūdas un mācības
Kvota, ko neviens nepārbaudīja. ElevenLabs mūzikas iterācijas apēda visu 140k kredītu kvotu, un nakts būve krita. Divkārša kļūda: iterēja bez kvotas čeka, un viena atslēga apkalpoja gan ēteru, gan eksperimentus bez nodalījuma. Abas saknes tagad slēgtas — atslēga atdalīta, iterācijas ar aplēsi un CEO OK.
Fail-closed, kas iekoda pats sev. Izmaksu drošinātāja pirmā versija, neizdodoties nolasīt izdevumu grāmatu, bloķēja visu — un nogāza Anitas admin čatu (P0 regresija). Pārtaisīts uz fail-open. Mācība: pirms uzliec drošinātāju, izlem, kas ir bīstamāk — palaist garām vai apstādināt visu.