docs: план обрезан до порядка, отложенное переехало в беклог
- содержимое шагов не перечисляется: список работ жил в плане и в беклоге и расходился с каждой закрытой задачей - десять пунктов «Отложено» заведены задачами [idea]; два из них (ретеншен, алерт) уже были в беклоге — в плане лежал дубль - обоснование порядка расписано по шагам: это единственное, чего беклог структурно не вмещает
This commit is contained in:
+33
-94
@@ -1,121 +1,60 @@
|
||||
# План
|
||||
|
||||
Живой документ: шаги отмечаем по мере готовности, отложенное копится внизу.
|
||||
|
||||
Это **порядок и его обоснование**, а не список работ. Единицы работы живут в
|
||||
[беклоге](backlog/README.md) — одна задача, один файл, свой приоритет. План
|
||||
отвечает «почему в таком порядке», беклог — «что брать следующим».
|
||||
|
||||
Отсюда правило: **содержимое шага здесь не перечисляется.** Шаг — это название
|
||||
и статус; что именно в нём делается, знает задача. Иначе список работ живёт в
|
||||
двух местах и расходится с каждой закрытой задачей. Меняется этот файл, когда
|
||||
меняется порядок, а не когда закрывается задача.
|
||||
|
||||
## Ближайшая цель
|
||||
|
||||
Метрики разбираются и ложатся в часовые объекты: тела перестали быть
|
||||
недифференцированной кучей. Блокеры, накопившиеся из ревью, разобраны — их в
|
||||
беклоге ноль.
|
||||
|
||||
Дальше — **`reindex`**, и он сейчас срочнее остального остатка шага 3. После
|
||||
Дальше — **`reindex`**, и он сейчас срочнее остального остатка разбора. После
|
||||
миграции 00005 доставки числятся `pending`, а подобрать их некому: код
|
||||
пересборки не написан. Данные целы (тела в архиве, объекты в витрине), но
|
||||
учёт честно говорит «этим разбором не смотрели», и так будет, пока пересборки
|
||||
нет. Тем же кодом закрывается половина задачи «разнести ответ и свёртку».
|
||||
|
||||
Потом — остаток шага 3: тренировки и записи со своими `id` (это половина
|
||||
Потом — остаток разбора: тренировки и записи со своими `id` (это половина
|
||||
потока: `workouts` и `stateOfMind` принимаются и хранятся, но не разбираются),
|
||||
словарь категориальных значений.
|
||||
|
||||
Разведка закончена: правило вывода слоя, модель идентичности и формы точки
|
||||
проверены на живом потоке, выводы — в
|
||||
[local-research.md](local-research.md), 50 находок.
|
||||
проверены на живом потоке, выводы — в [local-research.md](local-research.md).
|
||||
|
||||
## Шаги
|
||||
|
||||
- [x] **1. Каркас.** `Taskfile.yml`, `.golangci.yml`, `CLAUDE.md`, TOML-конфиг
|
||||
с валидацией на старте, логгер, подкоманда `serve` с `/healthz`.
|
||||
- [x] **2. Приём без разбора.** `POST /api/v1/ingest`: лимит тела, gzip,
|
||||
запись тела в архив, строка в `delivery`. Разбора ещё нет.
|
||||
← **подключаем телефон по локальной сети**
|
||||
- [~] **3. Разбор и хранилище.** Метрики — сделано (`bucket`, `internal/hae`,
|
||||
`internal/canon`, `internal/fold`), вместе с частичным разбором: секции,
|
||||
которых разбор не покрывает, перечисляются, доставка получает статус
|
||||
`partial` и список непокрытых ключей. Остались тренировки и записи со
|
||||
своими `id`, `reindex` и словарь категориальных значений. Миграции,
|
||||
часовые объекты метрик
|
||||
(`bucket`, ключ `метрика + слой + час`) + `workout`/`record` по своим
|
||||
`id`. Вывод слоя из выравнивания меток; развод `sleep_analysis` на два
|
||||
имени (находка 38). Канонизация с округлением чисел и хеш содержимого
|
||||
как детектор изменений. Слияние точек: при столкновении выигрывает
|
||||
**более полная** точка, а не последняя (находка 41). Три формата
|
||||
времени: локальное со смещением, RFC 3339 Z, Unix-эпоха внутри
|
||||
`heartbeatSeries` (находка 39). Словарь `(локаль, строка) → код
|
||||
HealthKit` для переведённых значений (находка 37). `healthlog reindex`.
|
||||
- [ ] **4. Каталог и род агрегации.** Род (`cumulative`/`instant`/`unknown`)
|
||||
**измеряется** сверкой слоёв между собой, а не размечается руками
|
||||
(находка 40). Каталог метрик со слоями, диапазонами и родом.
|
||||
- [ ] **5. Read API.** Точки метрики из часовых объектов, выбор слоя,
|
||||
необязательная свёртка по сетке. Огрубление, когда сетка не задана;
|
||||
ошибка со списком доступных сеток, когда задана явно. Тренировки,
|
||||
записи.
|
||||
- [ ] **6. Самоописание.** Выведенные из данных схемы содержимого со
|
||||
статистикой + статичная схема контракта API.
|
||||
- [ ] **7. MCP.** Эндпоинт того же процесса, транспорт Streamable HTTP, токен
|
||||
чтения общий с Read API. Три инструмента: каталог, значения за период,
|
||||
значения с разбивкой.
|
||||
- [ ] **8. `healthlog import`.** Родной экспорт Apple Health: разбор
|
||||
`экспорт.xml` в слой `sample`, маршруты GPX, ЭКГ из CSV. Заливка полной
|
||||
истории кусками по годам.
|
||||
- [ ] **9. Устаревание нижнего слоя.** Пометка данных HAE старше проверенного
|
||||
экспорта. Проверка покрытия — непрерывность по дням и сходимость сумм с
|
||||
часовым слоем. Пометка ≠ удаление: удаление включаем только после того,
|
||||
как восстановление из экспорта отработает на живых данных хотя бы раз.
|
||||
- [ ] **10. Наблюдаемость.** `/stats`: последняя доставка, счётчики, тишина по
|
||||
потоку, список строк без кода в словаре.
|
||||
- [ ] **11. Деплой.** `Dockerfile`, сборка образа локально, доставка на
|
||||
rivendell, конфиг Caddy, поддомены приёма и чтения, токены.
|
||||
- [x] **1. Каркас.**
|
||||
- [x] **2. Приём без разбора.** ← **подключаем телефон по локальной сети**
|
||||
- [~] **3. Разбор и хранилище.** Метрики — сделано; тренировки и записи со
|
||||
своими `id`, `reindex` и словарь категориальных значений — нет.
|
||||
- [ ] **4. Каталог и род агрегации.**
|
||||
- [ ] **5. Read API.**
|
||||
- [ ] **6. Самоописание.**
|
||||
- [ ] **7. MCP.**
|
||||
- [ ] **8. `healthlog import`.**
|
||||
- [ ] **9. Устаревание нижнего слоя.**
|
||||
- [ ] **10. Наблюдаемость.**
|
||||
- [ ] **11. Деплой.**
|
||||
|
||||
Порядок неслучаен. Шаг 4 стоит перед Read API, потому что без измеренного рода
|
||||
свёртка на шаге 5 неотличима от угадывания. Шаг 8 стоит перед 9: пока импорт
|
||||
экспорта не написан, помечать что-либо устаревшим не на основании чего.
|
||||
Порядок неслучаен, и это единственное, чего нет в беклоге:
|
||||
|
||||
## Отложено
|
||||
- **Каталог и род агрегации — перед Read API.** Без измеренного рода свёртка в
|
||||
ответе неотличима от угадывания, а ошибиться здесь дорого: просуммировать
|
||||
нижний слой значит завысить втрое.
|
||||
- **`healthlog import` — перед устареванием нижнего слоя.** Пока импорт
|
||||
экспорта не написан, помечать что-либо устаревшим не на основании чего.
|
||||
- **Read API — перед MCP.** Адаптер собственной логики не несёт, он переводит
|
||||
вызовы в те же обработчики; переводить пока нечего.
|
||||
|
||||
- ~~Отсев идентичных тел доставок по `sha256`.~~ **Вычеркнуто:** находка 2
|
||||
показала, что порядок ключей в JSON нестабилен, поэтому два пакета с одними
|
||||
и теми же данными почти никогда не совпадают побайтно — хеш тела не
|
||||
сработает. Дедупликация возможна только по канонизированному содержимому,
|
||||
а это и делает хеш часового объекта. Отдельная механика не нужна.
|
||||
- ~~Вторая автоматизация без группировки.~~ **Сделано на телефоне:** метрики
|
||||
здоровья идут в трёх разрезах — несуммированном для несуммируемых метрик,
|
||||
минутном и часовом для всех.
|
||||
- ~~Пометка локализованных полей в схемах.~~ **Переросло в шаг 3:** одной
|
||||
пометки мало, нужен словарь кодов, иначе не сойтись с родным экспортом
|
||||
(находка 37).
|
||||
- **Ретеншен сырого архива** — удаление доставок старше последнего
|
||||
проверенного экспорта (не фиксированный срок: журнал не должен рваться).
|
||||
Пока архив не подчищается; включить после того, как разбор устоится.
|
||||
Предусловие снято: статус `partial` и список непокрытых секций готовы, и
|
||||
ретеншен обязан спрашивать статус, а не считать `parsed` разрешением.
|
||||
Вместе с ним действует правило — задача, которая начинает разбирать секцию,
|
||||
тем же изменением переводит `partial`-строки с этим ключом в `pending`.
|
||||
- **Порог `sealed`** — с какого возраста час считается запечатанным. Ставим по
|
||||
факту: сначала пишем `WARN` на изменение старых объектов и смотрим, какая
|
||||
глубина досчёта встречается в жизни (наблюдалось до 22 минут, находка 10).
|
||||
- **Месячный проход по ручным секциям.** Симптомы и лекарства заводятся задним
|
||||
числом на недели; количественным метрикам недельного прохода хватает.
|
||||
Заводить, когда эти секции появятся в потоке живьём.
|
||||
- **Алерт «данных нет N часов».** Тихо сломавшаяся автоматизация — главный
|
||||
эксплуатационный риск коллектора. В v1 факт виден в `/stats`; активное
|
||||
уведомление добавим после.
|
||||
- **Аннотации к схемам** — человеческие описания метрик поверх выведенных
|
||||
схем, либо рукописный каталог. Выбор зависит от того, насколько стабильным
|
||||
окажется формат; меняться он может только с обновлением Health Auto Export,
|
||||
а это отслеживается.
|
||||
- **Схема тренировок** — глубину вывода определим по факту, когда увидим,
|
||||
как приходят маршруты.
|
||||
- **Отказ от `heartbeatSeries`.** 93% объёма HRV (находка 39) ради данных,
|
||||
которых нет ни в одном планируемом запросе. Решать, когда станет ясна цена
|
||||
хранения нижнего слоя за год.
|
||||
- **Выгрузка в parquet** — отдельной командой, на случай тяжёлой аналитики
|
||||
снаружи. DuckDB читает и parquet, и файл SQLite напрямую, поэтому спешить
|
||||
некуда: дверь открыта без миграции.
|
||||
- **NDJSON-поток** для больших выборок из read API.
|
||||
- **Разворачивание маршрутов тренировок** в отдельную таблицу — если появится
|
||||
клиент, которому мало отдачи тренировки одним пакетом.
|
||||
## Отложенное
|
||||
|
||||
Отложенных идей в плане нет: их место — [беклог](backlog/README.md) с пометкой
|
||||
`[idea]`. Два дома для одной идеи расходятся, и тогда полного списка не даёт ни
|
||||
один; вопрос «что мы решили отложить» задаётся беклогу.
|
||||
|
||||
Reference in New Issue
Block a user