- Introduced a `Via` field in `ParseError` to indicate the proxy address used during requests, improving clarity on error contexts. - Updated `ProxyPool` to prioritize confirmed live proxies while available, ensuring more reliable proxy selection and reducing connection timeouts. - Implemented fallback logic to allow the use of unconfirmed proxies when no confirmed ones are available, preventing collection stalls. - Adjusted logging in `CollectLogEntryViewModel` to include proxy details, enhancing error visibility for users. - Added unit tests to verify new proxy selection logic and ensure correct behavior under various conditions. These changes improve the robustness of the proxy management system and enhance the overall user experience by providing clearer error messages and more efficient proxy usage.
7.9 KiB
7.9 KiB
Прокси-пул
Читать перед правкой Core/Proxies/** и Infrastructure/Proxies/**.
Добавить источник
- Реализовать
IProxySource(илиIMutableProxySource, если список редактируемый). - Зарегистрировать в
AddAvParserProxies(). Порядок регистрации = порядок слияния; свой список идёт последним, чтобы пользовательский адрес перебивал фидовый.
Инварианты
ProxyPoolпереиспользует существующиеProxyEntryпоEndpoint.Key— иначе перезагрузка списка стирала бы статистику, а публичные фиды переиздаются каждые несколько минут.- Выдаются только подтверждённо живые, пока такие есть. Сортировки «живые вперёд» не хватало: её видит только липкая стратегия, берущая голову списка, а round-robin и взвешенный выбор тянут из всего набора — то есть из пары тысяч непроверенных адресов, и почти каждый запрос платил полный connect-таймаут, чтобы это выяснить. Теперь «живых N» на странице и то, куда реально ходит сбор, — одно и то же число.
- Фолбэк на всё доступное, когда живых нет. Непроверенная ≠ мёртвая: на холодном пуле строгий фильтр не выдал бы ничего и сбор просто встал бы, не попробовав. Ответившая на этом пути прокси сама себя переводит в живые.
- Карантин остаётся отдельным механизмом от
Health.Health— «что видели в последний раз»; исключать навсегда всё когда-либо упавшее значит потерять прокси после первой осечки. Уже было багом, ловитA_failing_proxy_is_quarantined_and_comes_back_later. LiveCountсчитает толькоAliveи не в карантине. На нём висит гейт сбора, поэтому «доступна» (окно истекло) и «живая» намеренно расходятся: гейт не должен открываться от одного лишь истечения окна.- Проба не трогает
SuccessCount/FailureCount— они про реальные запросы, а свип по паре тысяч адресов перезаписал бы всё, на чём держится взвешенный выбор. Провал пробы даёт карантин черезRecordProbe(..., quarantineOnFailure:). - Лиза без вердикта нейтральна: отменённая операция — не вина прокси, иначе каждый Cancel карантинил бы здоровые адреса.
- Вердикт лизы — про транспорт, а не про ресурс. 404 и 429 — успех прокси; иначе пул карантинил бы рабочие адреса с частотой мёртвых ссылок, а на лимит отвечал бы сменой прокси, то есть обходом лимита.
- Прогрев обрывается по достижении цели, а не проходит список до конца:
WarmUpAsyncлинкует CTS и гасит остаток наMinimumLiveProxies. Порядок кандидатов —WarmUpOrder(), публичный ровно ради проверки без прогона проб. - Остаток дочищает
TopUpAsyncв фоне. Прогрев по построению оставляет тысячи адресов вUnknown— это читается как «проверка не запускалась», и, что хуже, сбор получает пул из десяти прокси вместо сотен рабочих. Фоновый проход запускаетProxyPoolLoaderпосле прогрева, с четвертьюProbeConcurrency: пользовательский свип — это всплеск, за которым смотрят, а этот идёт минутами и, возможно, параллельно с закачкой. TopUpAsyncтрогает толькоUnknown. Перепроверять мёртвых — это и есть свип; перепроверять живых значит посадить в карантин прокси, которой прямо сейчас пользуется прогон.TopUpAsyncне делает_strategy.Reset(), в отличие от свипа: сброс уронил бы липкий выбор посреди сбора, причём ради записей, которых в этом выборе и нет.Changedон поднимает раз вChangeIntervalпроб — иначе страница молчит несколько минут.- Фоновый проход не идёт при
ProxyHealthCheck.Lazy: «проверять в момент выдачи» — это ровно просьба не свипать. SaveStateAsyncсериализован семафором. Писателей теперь двое (фоновый проход по завершении и выход из приложения), а запись идёт через один и тот же временный файл с переименованием.RestoreStateне выставляетHealth = Alive— «работала вчера» живёт вWasAliveOnLastRunи влияет только на порядок прогрева. Иначе пул отрапортует живыми тех, с кем не разговаривал: прогрев сочтёт цель достигнутой, а гейт сбора откроется по данным недельной давности. ЛовитA_remembered_proxy_is_not_reported_live_until_it_answers_again.RestoreStateне восстанавливает карантин: окно — стенные часы, между запусками могли пройти сутки, и перенос сажал бы прокси за давно истёкшее.- Сохраняются только
HasEverAnswered=SuccessCount > 0 || IsBelievedAlive(«believed» — вердикт этой сессии, а без него прошлой). Прогрев обрывается рано, поэтому большинство запомненных заканчивают сессию непроверенными — строгоеHealth == Aliveстёрло бы накопленный список за пару запусков. SelectиNextзарезервированы для CA1716 — метод стратегии называетсяPick.
Статистика на «Обзоре»
DashboardViewModel держит сводку пула и обновляет её по событию IProxyPool.Changed с throttle
250 мс — событие приходит на каждый исход лизы и на каждую пробу. «Живых» на карточке — это
LiveCount, то же число, что читает гейт сбора; RefreshProxyStats() публичен, чтобы тесты не ждали
throttle.