Merknader for ingeniører som bygger rask, hard produksjonsprogramvare.
Filtrer etter disiplin. Begrens etter format. Gå rett til artiklene som passer til arbeidet.
En produksjonsorientert artikkel om hva man skal måle i LLM-systemer, fra ventetid og verktøykall til gjenfinningskvalitet, drift og brukersynlig pålitelighet.
En praktisk veiledning for å redusere LLM-forsinkelse og GPU-forbruk med batching, ruting, caching og observerbarhet som bevarer produktkvaliteten.
En teknisk guide for frakt av autonome KI-systemer med godkjenninger, tilbakeføringer, hastighetsgrenser og driftskontroll i stedet for demo-grade-optimisme.