using Application.Abstractions.Data;
using Application.Helpers;
using Domain.Entities.Stocks.ValueObject;
using Microsoft.EntityFrameworkCore;
using Microsoft.Extensions.DependencyInjection;
using Microsoft.Extensions.Logging;
using Microsoft.Extensions.Options;
using SharedKernel;
namespace Infrastructure.StockData;
///
/// SEIBro 수급 이벤트 수집 (Wave 2 ★P1) — 기본 07:00 KST(IssuerSync 06:30·Dividend 06:40 다음 슬롯), `Seibro:SupplySync` 게이트.
/// 다섯 단계가 하나의 주식(Stock) 카테고리 예산(SeibroQuota, Seibro:StockBudget)을 공유한다.
///
/// a) SecuritiesLending (getSlbDealingByIsin, per-ISIN×일): 당일(최신 영업일) 전 상장종목 대차를 최우선 배분(~2,700콜).
/// 잔여 예산으로만 3년 백필 = 시총상위 LendingBackfillTopN + 커뮤니티 활성종목(StockBoardStats.Posts>0) 대상 과거 날짜 rolling.
/// b) LockupEvent 예수 (getSafeDpDutyDepoStatus BIZ_TPCD:1, 월 윈도우 스윕): BEGIN_DT~EXPRY_DT(≤1개월) → 예수일(SafedpDt) window delete+insert.
/// ⚠️ 범위(BEGIN_DT+EXPRY_DT)와 BIZ_TPCD 둘 다 필수 — 단일일이거나 BIZ_TPCD 누락 시 SEIBro 가 003(서버오류) 반환(2026-07-10 라이브 확인). getStkListInfo 와 동일 월 윈도우 패턴.
/// 반환(BIZ_TPCD:2, OCCR_SEQ=2)은 현재 미수집 — LockupEvent UQ 에 반환일이 없어 다중 부분반환이 UQ 충돌. 저장하려면 스키마 변경(키에 반환일) 필요(후속).
/// c) StockIssuanceChange (getStkIncdecDetails, rolling per-회사번호): Stock.IssucoCustno non-null 중 미수집·stale 우선.
/// d) ListingChangeEvent (getStkListInfo, 월 윈도우 스윕): ALT_BEGIN_DT~ALT_EXPRY_DT 최대 1개월/콜 3년 → 적용일 window delete+insert.
/// e) UnlistedCirculation (getUnlistCirclInfo, 날짜 스윕): STD_DT 만 필수 = 그날 전체 비상장 유통 종목 반환(per-종목 불필요) → 전 캘린더일 스윕, StdDt 스탬핑.
///
/// 실패/0행 = 정상 빈결과. HTTP·파싱 오류 = 경고 + false(RetryDelay 후 재시도). quota 소진 = 정상 종료(true). ApiKey 미설정 시 skip.
/// ⚠️ 콜 수가 큼(대차 전종목 ~2,700/일) — 당일 대차를 최우선 배분하고, 백필류(대차 과거·보호예수·증감·유통변경·비상장)는 잔여 예산으로만 진행한다.
///
internal sealed class SeibroSupplySyncService(
IServiceScopeFactory scopeFactory,
IHttpClientFactory httpClientFactory,
SeibroQuota quota,
IOptions settings,
ILogger logger
) : DailyScheduledService(logger)
{
private static readonly StockMarket[] LendingMarkets = [StockMarket.KOSPI, StockMarket.KOSDAQ, StockMarket.KONEX];
// 마커 job 키 (리뷰 결함 #1) — 조용한 날/정상 0행 재조회·starvation 해소
private const string LockupJobKey = "supply-lockup"; // month-window sweep, 예수(BIZ_TPCD:1)/SafedpDt 축 (SweptDate, Date=windowBegin)
private const string ListingJobKey = "supply-listing"; // date-sweep, 월 윈도우 (SweptDate, Date=windowBegin)
private const string UnlistedJobKey = "supply-unlisted"; // date-sweep (SweptDate)
private const string IncdecJobKey = "stk-incdec"; // rolling (FetchMarker)
protected override string JobName => "SeibroSupplySync";
protected override TimeOnly TargetTime => ParseTime(settings.Value.Seibro.SupplySyncTime, new TimeOnly(7, 0));
protected override int MaxRetryCount => 2;
protected override TimeSpan RetryDelay => TimeSpan.FromHours(2);
protected override async Task RunOnceAsync(DateOnly todayKst, CancellationToken ct)
{
var cfg = settings.Value.Seibro;
using var scope = scopeFactory.CreateScope();
var collectorSettings = scope.ServiceProvider.GetRequiredService();
if (!await collectorSettings.IsEnabledAsync(CollectorFlag.SeibroSupply, ct))
{
return true;
}
cfg = cfg with { ApiKey = await collectorSettings.GetKeyAsync(CollectorKey.Seibro, ct) ?? cfg.ApiKey };
if (string.IsNullOrWhiteSpace(cfg.ApiKey))
{
Logger.LogWarning("[{Job}] Seibro:ApiKey 미설정 — 수집 skip", JobName);
return true;
}
var db = scope.ServiceProvider.GetRequiredService();
var client = httpClientFactory.CreateClient(SeibroHttp.ClientName);
var years = cfg.BackfillYears > 0 ? cfg.BackfillYears : 3;
var startDate = todayKst.AddYears(-years);
// SEIBro 대차/수급은 T+1 — 당일(todayKst)은 아직 미반영이라 직전 영업일을 "최신 데이터일"로 사용
var latestBizDay = await MarketCalendar.GetPreviousBusinessDayAsync(db, todayKst, ct);
// 단계별 독립 실행 — 한 단계의 SEIBro 오류(예: getSafeDpDutyDepoStatus 003)가 다른 단계를 막지 않도록 개별 try/catch.
// 반환 false = 예산 소진(전체 중단). 파싱/HTTP 오류 = 해당 단계만 skip(마커 미기록 → 다음 실행 재시도).
async Task Phase(string name, Func> body)
{
try
{
return await body(ct);
}
catch (Exception ex) when (ex is HttpRequestException or System.Xml.XmlException or FormatException)
{
Logger.LogWarning(ex, "[{Job}] {Phase} SEIBro 오류 — 단계 skip(다음 실행 재시도)", JobName, name);
return true;
}
}
// a) 당일 대차 최우선 → b) 보호예수 → c) 증감내역 → d) 유통변경 → e) 비상장 유통 → f) 대차 백필
if (!await Phase("당일대차", t => SweepTodayLendingAsync(db, client, cfg, latestBizDay, t))) { return true; }
if (!await Phase("보호예수", t => SweepLockupAsync(db, client, cfg, startDate, latestBizDay, t))) { return true; }
if (!await Phase("증감내역", t => RollIssuanceChangesAsync(db, client, cfg, t))) { return true; }
if (!await Phase("유통형태변경", t => SweepListingChangesAsync(db, client, cfg, startDate, latestBizDay, t))) { return true; }
if (!await Phase("비상장유통", t => SweepUnlistedAsync(db, client, cfg, startDate, latestBizDay, t))) { return true; }
// f) 대차 3년 백필 (void 반환) — 개별 try/catch
await Phase("대차백필", async t => { await BackfillLendingAsync(db, client, cfg, startDate, latestBizDay, t); return true; });
return true;
}
/// a) 당일 대차 — 전 상장종목(KOSPI/KOSDAQ/KONEX, ISIN 있음) 중 당일 미적재. 예산 소진 시 false.
private async Task SweepTodayLendingAsync(IAppDbContext db, HttpClient client, AppSettings.SeibroSection cfg, DateOnly day, CancellationToken ct)
{
var existing = await db.SecuritiesLending.AsNoTracking().Where(c => c.StdDt == day).Select(c => c.Isin).ToListAsync(ct);
var have = existing.ToHashSet();
var isins = await db.Stock.AsNoTracking()
.Where(c => c.IsActive && c.ISIN != null && LendingMarkets.Contains(c.Market))
.OrderByDescending(c => c.MarketCap)
.Select(c => c.ISIN!)
.ToListAsync(ct);
var targets = isins.Where(c => !have.Contains(c)).ToList();
var quotaExhausted = false;
var fetched = 0;
foreach (var isin in targets)
{
ct.ThrowIfCancellationRequested();
if (!quota.TryConsume(SeibroCategory.Stock, 1, cfg.StockBudget))
{
quotaExhausted = true;
break;
}
if (fetched > 0 && cfg.DelayMs > 0)
{
await Task.Delay(cfg.DelayMs, ct);
}
await FetchLendingAsync(db, client, cfg, isin, day, ct);
fetched++;
}
Logger.LogInformation("[{Job}] 당일 대차 스윕 — 기준일={Day}, 대상={Targets}, 수집={Fetched}", JobName, day, targets.Count, fetched);
return !quotaExhausted;
}
/// 대차 1콜 수집 후 upsert (Isin+StdDt 스탬핑).
private async Task FetchLendingAsync(IAppDbContext db, HttpClient client, AppSettings.SeibroSection cfg, string isin, DateOnly day, CancellationToken ct)
{
var xml = await SeibroHttp.GetStringWithRetryAsync(client, cfg.BaseUrl, cfg.ApiKey, "getSlbDealingByIsin", [new("ISIN", isin), new("STD_DT", day.ToString("yyyyMMdd"))], Logger, ct);
var rows = SeibroSlbDealingParser.Parse(SeibroXml.Parse(xml));
await SeibroSupplyImport.UpsertLendingAsync(db, isin, day, rows, ct);
}
/// f) 대차 3년 백필 — 시총상위 TopN + 활성종목(StockBoardStats.Posts>0). 종목별 미적재 과거 영업일 recent-first, 잔여 예산.
private async Task BackfillLendingAsync(IAppDbContext db, HttpClient client, AppSettings.SeibroSection cfg, DateOnly startDate, DateOnly latestBizDay, CancellationToken ct)
{
var remaining = quota.Remaining(SeibroCategory.Stock, cfg.StockBudget);
if (remaining <= 0)
{
Logger.LogInformation("[{Job}] 대차 백필 skip — 당일 수집으로 주식 예산({Budget}) 소진", JobName, cfg.StockBudget);
return;
}
var topN = cfg.LendingBackfillTopN > 0 ? cfg.LendingBackfillTopN : 300;
var topIsins = await db.Stock.AsNoTracking()
.Where(c => c.IsActive && c.ISIN != null && LendingMarkets.Contains(c.Market))
.OrderByDescending(c => c.MarketCap)
.Take(topN)
.Select(c => c.ISIN!)
.ToListAsync(ct);
var activeCodes = await db.StockBoardStats.AsNoTracking().Where(c => c.Posts > 0).Select(c => c.StockCode).ToListAsync(ct);
var activeIsins = await db.Stock.AsNoTracking()
.Where(c => c.IsActive && c.ISIN != null && LendingMarkets.Contains(c.Market) && activeCodes.Contains(c.Code))
.Select(c => c.ISIN!)
.ToListAsync(ct);
var universe = topIsins.Concat(activeIsins).Distinct().ToList();
if (universe.Count == 0)
{
return;
}
// 백필 창(주말/휴장 제외)의 휴장일 로드
var holidays = (await db.MarketHoliday.AsNoTracking().Where(c => c.Date >= startDate && c.Date <= latestBizDay).Select(c => c.Date).ToListAsync(ct)).ToHashSet();
var fetched = 0;
// 종목을 순회하며 각 종목의 미적재 과거일을 recent-first 로 채운다. 예산 소진 시 즉시 종료.
foreach (var isin in universe)
{
ct.ThrowIfCancellationRequested();
var have = (await db.SecuritiesLending.AsNoTracking().Where(c => c.Isin == isin && c.StdDt >= startDate && c.StdDt <= latestBizDay).Select(c => c.StdDt).ToListAsync(ct)).ToHashSet();
for (var day = latestBizDay; day >= startDate; day = day.AddDays(-1))
{
if (day.DayOfWeek is DayOfWeek.Saturday or DayOfWeek.Sunday || holidays.Contains(day) || have.Contains(day))
{
continue;
}
if (!quota.TryConsume(SeibroCategory.Stock, 1, cfg.StockBudget))
{
Logger.LogInformation("[{Job}] 대차 백필 종료 — 주식 예산 소진 (백필 수집={Fetched})", JobName, fetched);
return;
}
if (cfg.DelayMs > 0)
{
await Task.Delay(cfg.DelayMs, ct);
}
await FetchLendingAsync(db, client, cfg, isin, day, ct);
fetched++;
}
}
Logger.LogInformation("[{Job}] 대차 백필 완료 — 대상종목={Universe}, 수집={Fetched}", JobName, universe.Count, fetched);
}
/// b) 보호예수 월 윈도우 스윕(최신→과거, 최대 1개월/콜) — 미적재 월만. BEGIN_DT~EXPRY_DT 범위 + BIZ_TPCD:1(예수) 필수(단일일·무BIZ 는 SEIBro 003). 예수일 window delete+insert. 예산 소진 시 false.
private async Task SweepLockupAsync(IAppDbContext db, HttpClient client, AppSettings.SeibroSection cfg, DateOnly startDate, DateOnly today, CancellationToken ct)
{
var fetched = 0;
var first = true;
// 월 단위 창: [monthStart, monthEnd] 최대 1개월. 최신 달부터 과거로. getSafeDpDutyDepoStatus 는 범위+BIZ_TPCD 필수(단일일/무BIZ = 003).
var windowEnd = today;
while (windowEnd >= startDate)
{
ct.ThrowIfCancellationRequested();
var monthStart = new DateOnly(windowEnd.Year, windowEnd.Month, 1);
var windowBegin = monthStart < startDate ? startDate : monthStart;
// 당월(현재 진행 중 달)은 아직 예수가 추가될 수 있어 매 실행 재수집(월중 신규 누락 방지, 리뷰 finding#2). 과거 달만 데이터 존재/마커로 스킵.
var isCurrentMonth = monthStart.Year == today.Year && monthStart.Month == today.Month;
var alreadyDone = !isCurrentMonth
&& (await db.LockupEvent.AsNoTracking().AnyAsync(c => c.SafedpDt >= windowBegin && c.SafedpDt <= windowEnd, ct)
|| await SeibroMarkers.IsSweptAsync(db, LockupJobKey, windowBegin, null, ct));
if (!alreadyDone)
{
if (!quota.TryConsume(SeibroCategory.Stock, 1, cfg.StockBudget))
{
Logger.LogWarning("[{Job}] 주식 예산({Budget}) 소진 — getSafeDpDutyDepoStatus {Begin}~{End} 부터 중단", JobName, cfg.StockBudget, windowBegin, windowEnd);
return false;
}
if (!first && cfg.DelayMs > 0)
{
await Task.Delay(cfg.DelayMs, ct);
}
first = false;
// getSafeDpDutyDepoStatus 는 정상 파라미터에도 간헐적 003(서버측)을 반환 — 해당 월만 skip(마커 미기록 → 다음 실행 재시도)하고
// 나머지 과거 월은 계속 진행한다(한 달 transient 오류가 전체 백필을 막지 않도록, SeibroRollingSweep per-key 철학과 동일).
try
{
var xml = await SeibroHttp.GetStringWithRetryAsync(client, cfg.BaseUrl, cfg.ApiKey, "getSafeDpDutyDepoStatus", [new("BEGIN_DT", windowBegin.ToString("yyyyMMdd")), new("EXPRY_DT", windowEnd.ToString("yyyyMMdd")), new("BIZ_TPCD", "1")], Logger, ct);
var rows = SeibroLockupParser.Parse(SeibroXml.Parse(xml));
var (inserted, deleted) = await SeibroSupplyImport.ReplaceLockupWindowAsync(db, windowBegin, windowEnd, rows, ct);
await SeibroMarkers.MarkSweptAsync(db, LockupJobKey, windowBegin, null, ct); // 0행 포함 조회완료 기록
Logger.LogInformation("[{Job}] getSafeDpDutyDepoStatus {Begin}~{End} rows={Rows} — inserted={Inserted}, deleted={Deleted}", JobName, windowBegin, windowEnd, rows.Count, inserted, deleted);
fetched++;
}
catch (Exception ex) when (ex is HttpRequestException or System.Xml.XmlException or FormatException)
{
Logger.LogWarning(ex, "[{Job}] getSafeDpDutyDepoStatus {Begin}~{End} SEIBro 오류(간헐 003 등) — 이 달만 skip(다음 실행 재시도)", JobName, windowBegin, windowEnd);
}
}
windowEnd = monthStart.AddDays(-1); // 이전 달 말일
}
Logger.LogInformation("[{Job}] 보호예수 월 윈도우 스윕 완료 — 창=[{Start}~{End}], fetch={Fetched}월", JobName, startDate, today, fetched);
return true;
}
/// c) 증감내역 rolling — Stock.IssucoCustno non-null 중 미수집·stale 우선. SHOTN_ISIN(=Code)으로 조회. 예산 소진 시 false.
private async Task RollIssuanceChangesAsync(IAppDbContext db, HttpClient client, AppSettings.SeibroSection cfg, CancellationToken ct)
{
var stocks = await db.Stock.AsNoTracking().Where(c => c.IssucoCustno != null && c.ISIN != null).Select(c => new { c.Code, c.ISIN }).ToListAsync(ct);
if (stocks.Count == 0)
{
Logger.LogInformation("[{Job}] getStkIncdecDetails 대상 없음 (Stock.IssucoCustno 미스탬핑)", JobName);
return true;
}
// 조회 시도(0행 포함) 마커 기준 정렬(키=단축코드) — 증감 없는 종목도 재조회 회피(#1)
var markers = await SeibroMarkers.LoadFetchMarkersAsync(db, IncdecJobKey, ct);
var targets = stocks.Select(s => (Key: s.Code, LastUpdatedAt: markers.TryGetValue(s.Code, out var last) ? (DateTime?)last : null)).ToList();
var maxPerRun = quota.Remaining(SeibroCategory.Stock, cfg.StockBudget);
var quotaExhausted = false;
var processed = await SeibroRollingSweep.RunAsync(
targets: targets,
fetchAndUpsert: async (code, token) => {
if (!quota.TryConsume(SeibroCategory.Stock, 1, cfg.StockBudget))
{
quotaExhausted = true;
return;
}
var xml = await SeibroHttp.GetStringWithRetryAsync(client, cfg.BaseUrl, cfg.ApiKey, "getStkIncdecDetails", [new("SHOTN_ISIN", code)], Logger, token);
var rows = SeibroStkIncdecParser.Parse(SeibroXml.Parse(xml));
var (inserted, updated) = await SeibroSupplyImport.UpsertIssuanceChangesAsync(db, rows, token);
await SeibroMarkers.TouchFetchMarkerAsync(db, IncdecJobKey, code, token);
Logger.LogInformation("[{Job}] getStkIncdecDetails SHOTN_ISIN={Code} rows={Rows} — inserted={Inserted}, updated={Updated}", JobName, code, rows.Count, inserted, updated);
},
maxPerRun: maxPerRun,
delayMs: cfg.DelayMs,
ct: ct);
Logger.LogInformation("[{Job}] getStkIncdecDetails rolling 완료 — 대상={Targets}, 호출={Processed} (maxPerRun={Max})", JobName, targets.Count, processed, maxPerRun);
return !quotaExhausted;
}
/// d) 유통형태변경 월 윈도우 스윕(최신→과거, 최대 1개월/콜) — 미적재 월만. 적용일 window delete+insert. 예산 소진 시 false.
private async Task SweepListingChangesAsync(IAppDbContext db, HttpClient client, AppSettings.SeibroSection cfg, DateOnly startDate, DateOnly today, CancellationToken ct)
{
var fetched = 0;
var first = true;
// 월 단위 창: [monthStart, monthEnd] 최대 1개월. 최신 달부터 과거로.
var windowEnd = today;
while (windowEnd >= startDate)
{
ct.ThrowIfCancellationRequested();
var monthStart = new DateOnly(windowEnd.Year, windowEnd.Month, 1);
var windowBegin = monthStart < startDate ? startDate : monthStart;
// 월 윈도우 시작일을 마커 Date 로 사용 — 데이터 존재 OR 조회완료 마커 → 스킵 (변경 없는 달도 재조회 회피, 리뷰 결함 #1)
if (!await db.ListingChangeEvent.AsNoTracking().AnyAsync(c => c.ApliDt >= windowBegin && c.ApliDt <= windowEnd, ct) && !await SeibroMarkers.IsSweptAsync(db, ListingJobKey, windowBegin, null, ct))
{
if (!quota.TryConsume(SeibroCategory.Stock, 1, cfg.StockBudget))
{
Logger.LogWarning("[{Job}] 주식 예산({Budget}) 소진 — getStkListInfo {Begin}~{End} 부터 중단", JobName, cfg.StockBudget, windowBegin, windowEnd);
return false;
}
if (!first && cfg.DelayMs > 0)
{
await Task.Delay(cfg.DelayMs, ct);
}
first = false;
var xml = await SeibroHttp.GetStringWithRetryAsync(client, cfg.BaseUrl, cfg.ApiKey, "getStkListInfo", [new("ALT_BEGIN_DT", windowBegin.ToString("yyyyMMdd")), new("ALT_EXPRY_DT", windowEnd.ToString("yyyyMMdd"))], Logger, ct);
var rows = SeibroStkListParser.Parse(SeibroXml.Parse(xml));
var (inserted, deleted) = await SeibroSupplyImport.ReplaceListingChangeWindowAsync(db, windowBegin, windowEnd, rows, ct);
await SeibroMarkers.MarkSweptAsync(db, ListingJobKey, windowBegin, null, ct); // 0행 포함 조회완료 기록
Logger.LogInformation("[{Job}] getStkListInfo {Begin}~{End} rows={Rows} — inserted={Inserted}, deleted={Deleted}", JobName, windowBegin, windowEnd, rows.Count, inserted, deleted);
fetched++;
}
windowEnd = monthStart.AddDays(-1); // 이전 달 말일
}
Logger.LogInformation("[{Job}] 유통형태변경 월 윈도우 스윕 완료 — 창=[{Start}~{End}], fetch={Fetched}월", JobName, startDate, today, fetched);
return true;
}
/// e) 비상장 유통 전 캘린더일 스윕(최신→과거) — STD_DT 만으로 그날 전체 종목 반환. 미적재일만. 예산 소진 시 false.
private async Task SweepUnlistedAsync(IAppDbContext db, HttpClient client, AppSettings.SeibroSection cfg, DateOnly startDate, DateOnly today, CancellationToken ct)
{
var fetched = 0;
var first = true;
for (var day = today; day >= startDate; day = day.AddDays(-1))
{
ct.ThrowIfCancellationRequested();
// 데이터 존재 OR 조회완료 마커 → 스킵 (유통 없는 날도 재조회 회피, 리뷰 결함 #1)
if (await db.UnlistedCirculation.AsNoTracking().AnyAsync(c => c.StdDt == day, ct) || await SeibroMarkers.IsSweptAsync(db, UnlistedJobKey, day, null, ct))
{
continue;
}
if (!quota.TryConsume(SeibroCategory.Stock, 1, cfg.StockBudget))
{
Logger.LogWarning("[{Job}] 주식 예산({Budget}) 소진 — getUnlistCirclInfo {Day} 부터 중단", JobName, cfg.StockBudget, day);
return false;
}
if (!first && cfg.DelayMs > 0)
{
await Task.Delay(cfg.DelayMs, ct);
}
first = false;
var xml = await SeibroHttp.GetStringWithRetryAsync(client, cfg.BaseUrl, cfg.ApiKey, "getUnlistCirclInfo", [new("STD_DT", day.ToString("yyyyMMdd"))], Logger, ct);
var rows = SeibroUnlistCirclParser.Parse(SeibroXml.Parse(xml));
var (inserted, updated) = await SeibroSupplyImport.UpsertUnlistedAsync(db, day, rows, ct);
await SeibroMarkers.MarkSweptAsync(db, UnlistedJobKey, day, null, ct); // 0행 포함 조회완료 기록
Logger.LogInformation("[{Job}] getUnlistCirclInfo {Day} rows={Rows} — inserted={Inserted}, updated={Updated}", JobName, day, rows.Count, inserted, updated);
fetched++;
}
Logger.LogInformation("[{Job}] 비상장 유통 스윕 완료 — 창=[{Start}~{End}], fetch={Fetched}일", JobName, startDate, today, fetched);
return true;
}
}