]> git.giacomolli.uk - onechat/commit
Limit the probe calls at once and sort by start
authorAnderson A. Giacomolli <agiacomolli@gmail.com>
Fri, 6 Nov 2026 19:21:48 +0000 (16:21 -0300)
committerAnderson A. Giacomolli <agiacomolli@gmail.com>
Fri, 6 Nov 2026 19:21:48 +0000 (16:21 -0300)
commitfe39a670d7af062af089bdba4dd07c3f0aee4048
treecb31d00f4640670ad60c4dbe37fefbb5d7a45913
parentd1c01b959fb703e604e7cce4e49af411420c5300
Limit the probe calls at once and sort by start

onechat probe takes an optional BUILDS argument from 1 to 8, which
limits the builds that call the model at once in that run. A summarizer
with that many slots wraps the compactor, so maxBuilds in the core stays
8. A lower limit lowers the rate of calls on one cache key, which tests
whether the rate is the cause of the low cached share. The report adds
the calls per minute.

The probe reads the usage records in the order of the start of their
calls. The file holds them in the order of their end, so with calls at
once the quota stop compared the first record written with the last one,
not the earliest call with the latest, and the report showed the same
records as the first and the last call.

Issue: b14d537
README.rst
probe.go
probe_test.go