SeibroDerivSyncService.cs 26 KB

123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129130131132133134135136137138139140141142143144145146147148149150151152153154155156157158159160161162163164165166167168169170171172173174175176177178179180181182183184185186187188189190191192193194195196197198199200201202203204205206207208209210211212213214215216217218219220221222223224225226227228229230231232233234235236237238239240241242243244245246247248249250251252253254255256257258259260261262263264265266267268269270271272273274275276277278279280281282283284285286287288289290291292293294295296297298299300301302303304305306307308309310311312313314315316317318319320321322323324325326327328329330331332333334335336337338339340341342343344345346347348349350351352353354355356357358359360361362363364365366367368369370371372373374375376377378379380381382383384385386387388389390391392393394395396397398399400401402403404405406407408409410411412413414415416417418419420421422423424425426427428429430431432433434435436437438439440441442443444445446447448449450451452453454455456457458459460461462463464465466467468
  1. using Application.Abstractions.Data;
  2. using Application.Helpers;
  3. using Microsoft.EntityFrameworkCore;
  4. using Microsoft.Extensions.DependencyInjection;
  5. using Microsoft.Extensions.Logging;
  6. using Microsoft.Extensions.Options;
  7. using SharedKernel;
  8. namespace Infrastructure.StockData;
  9. /// <summary>
  10. /// SEIBro 파생결합증권 ELS/DLS 수집 (Wave 5) — 기본 08:00 KST(BondSync 07:40 다음 슬롯), `Seibro:DerivSync` 게이트.
  11. /// 전 단계가 파생(Deriv) 예산(Seibro:DerivBudget)을 공유한다.
  12. ///
  13. /// a) DerivIssuance: getDerivCombiIssuInfo 날짜 스윕(ISSU_DT) × 종류 SECN_KACD{4101,4102,4301,4302} 3년 → 발견(다수 종목/일).
  14. /// b) DerivMaster rolling: 대상 = DerivIssuance.Isin 미수집·stale → getDerivCombiIsinInfo(ISIN) → PK Isin upsert.
  15. /// c) DerivAsset / DerivAssetExercise / DerivRedemptionCondition rolling: DerivMaster 있는 ISIN → getAssetInfo/getAssetXrcInfo/getRedCondiInfo(ISIN) → upsert.
  16. /// d) DerivRedemption: getRedIsinInfo 날짜 스윕(RED_DT) × 종류{4101,4102,4301,4302} 3년 → 상환일×종류 window delete+insert.
  17. /// e) ElsUnredeemedScale: getBassetUnredScale 일별 13기초자산(STND_BASSET_CD, KSD02* 13종) × SECN_TPCD{41,43} = 최대 26콜/일 3년 스윕(KrxBackfill 영업일).
  18. ///
  19. /// 실패/0행 = 정상 빈결과. HTTP·파싱 오류 = 경고 + false(RetryDelay 후 재시도). quota 소진 = 정상 종료(true). ApiKey 미설정 시 skip.
  20. /// ⚠️ getDerivCombiIssuInfo 요청 파라미터명 미해결 — 가이드에 SECN_TPCD:41 vs SECN_KACD:4101 혼재. 스펙 기준(SECN_KACD 종류코드)으로 구현했으나
  21. /// **라이브 1콜로 파라미터명 확정 필요**(4101/4102/4301/4302). getRedIsinInfo 는 SECN_KACD(4101 등), getBassetUnredScale 는 SECN_TPCD(41/43 2자리) — API별 문서대로.
  22. /// ⚠️ 기초자산코드 2체계: getBassetUnredScale 입력 STND_BASSET_CD=KSD02*(13종) vs getAssetInfo 반환 KSD31* — 매핑 흡수 없이 원문 저장(엔티티 주석 참조).
  23. /// ⚠️ 파생결합 유니버스 큼(일 수십~수백 발행) → rolling 최근발행 우선 + resumable(여러 날 자동 완성).
  24. /// </summary>
  25. internal sealed class SeibroDerivSyncService(
  26. IServiceScopeFactory scopeFactory,
  27. IHttpClientFactory httpClientFactory,
  28. SeibroQuota quota,
  29. IOptions<AppSettings> settings,
  30. ILogger<SeibroDerivSyncService> logger
  31. ) : DailyScheduledService(logger)
  32. {
  33. // 종목종류코드 (SECN_KACD) — 4101ELS 4102ELB 4301DLS 4302DLB. getDerivCombiIssuInfo·getRedIsinInfo 요청 파라미터.
  34. // ⚠️ getDerivCombiIssuInfo 는 파라미터명이 SECN_TPCD vs SECN_KACD 미해결 — 스펙(종류코드 4101…) 기준, 라이브 1콜로 확정 필요.
  35. private static readonly string[] DerivSecnKacds = ["4101", "4102", "4301", "4302"];
  36. // 미상환규모 종목구분 (SECN_TPCD) — 41ELS 43DLS. getBassetUnredScale 요청 파라미터(2자리).
  37. private static readonly string[] UnredSecnTpcds = ["41", "43"];
  38. // 주요 기초자산코드 (STND_BASSET_CD, 13종) — getBassetUnredScale 입력 KSD02* 체계 (파생결합증권.md §헤더 확정).
  39. private static readonly string[] Basset13 =
  40. [
  41. "KSD090000101", // Brent
  42. "KSD090000201", // WTI
  43. "KSD100000101", // 금
  44. "KSD100000201", // 은
  45. "KSD010000101", // KOSPI200
  46. "KSD020000101", // EURO STOXX 50
  47. "KSD020000201", // HSCEI(항셍H)
  48. "KSD020000301", // S&P500
  49. "KSD020000401", // FTSE100
  50. "KSD020000501", // NIKKEI225
  51. "KSD020000601", // DOW JONES
  52. "KSD020000901", // DAX
  53. "KSD020001901" // HSI
  54. ];
  55. // 마커 job 키 (리뷰 결함 #1) — 정상 0행/조용한 날 재조회·starvation 해소
  56. private const string IssuanceJobKey = "deriv-issuance"; // date-sweep (SweptDate, Discriminator=kacd)
  57. private const string RedemptionJobKey = "deriv-redemption"; // date-sweep (SweptDate, Discriminator=kacd)
  58. private const string UnredScaleJobKey = "deriv-unredscale"; // date-sweep (SweptDate, per-day)
  59. private const string MasterJobKey = "deriv-master"; // rolling (FetchMarker, key=ISIN)
  60. private const string AssetJobKey = "deriv-asset"; // rolling (FetchMarker, key=ISIN)
  61. private const string AssetXrcJobKey = "deriv-assetxrc"; // rolling (FetchMarker, key=ISIN)
  62. private const string RedCondiJobKey = "deriv-redcondi"; // rolling (FetchMarker, key=ISIN)
  63. protected override string JobName => "SeibroDerivSync";
  64. protected override TimeOnly TargetTime => ParseTime(settings.Value.Seibro.DerivSyncTime, new TimeOnly(8, 0));
  65. protected override int MaxRetryCount => 2;
  66. protected override TimeSpan RetryDelay => TimeSpan.FromHours(2);
  67. protected override async Task<bool> RunOnceAsync(DateOnly todayKst, CancellationToken ct)
  68. {
  69. var cfg = settings.Value.Seibro;
  70. using var scope = scopeFactory.CreateScope();
  71. var collectorSettings = scope.ServiceProvider.GetRequiredService<ICollectorSettingsProvider>();
  72. if (!await collectorSettings.IsEnabledAsync(CollectorFlag.SeibroDeriv, ct))
  73. {
  74. return true;
  75. }
  76. cfg = cfg with { ApiKey = await collectorSettings.GetKeyAsync(CollectorKey.Seibro, ct) ?? cfg.ApiKey };
  77. if (string.IsNullOrWhiteSpace(cfg.ApiKey))
  78. {
  79. Logger.LogWarning("[{Job}] Seibro:ApiKey 미설정 — 수집 skip", JobName);
  80. return true;
  81. }
  82. var db = scope.ServiceProvider.GetRequiredService<IAppDbContext>();
  83. var client = httpClientFactory.CreateClient(SeibroHttp.ClientName);
  84. var years = cfg.BackfillYears > 0 ? cfg.BackfillYears : 3;
  85. var startDate = todayKst.AddYears(-years);
  86. // 단계별 독립 실행 — 한 단계의 SEIBro 오류가 다른 단계를 막지 않도록 개별 try/catch.
  87. // 반환 false = 예산 소진(전체 중단). 파싱/HTTP 오류 = 해당 단계만 skip(마커 미기록 → 다음 실행 재시도).
  88. async Task<bool> Phase(string name, Func<CancellationToken, Task<bool>> body)
  89. {
  90. try
  91. {
  92. return await body(ct);
  93. }
  94. catch (Exception ex) when (ex is HttpRequestException or System.Xml.XmlException or FormatException)
  95. {
  96. Logger.LogWarning(ex, "[{Job}] {Phase} SEIBro 오류 — 단계 skip(다음 실행 재시도)", JobName, name);
  97. return true;
  98. }
  99. }
  100. // a) 발행 → b) 마스터 → c) 기초자산/행사/상환조건 → d) 상환종목 → e) 미상환규모
  101. if (!await Phase("파생발행", t => SweepIssuancesAsync(db, client, cfg, startDate, todayKst, t))) { return true; }
  102. if (!await Phase("파생마스터", t => RollMastersAsync(db, client, cfg, t))) { return true; }
  103. if (!await Phase("기초자산", t => RollAssetsAsync(db, client, cfg, t))) { return true; }
  104. if (!await Phase("기초자산행사", t => RollAssetExercisesAsync(db, client, cfg, t))) { return true; }
  105. if (!await Phase("상환조건", t => RollRedemptionConditionsAsync(db, client, cfg, t))) { return true; }
  106. if (!await Phase("상환종목", t => SweepRedemptionsAsync(db, client, cfg, startDate, todayKst, t))) { return true; }
  107. // e) 미상환규모 (void 반환) — 개별 try/catch
  108. await Phase("미상환규모", async t => { await SweepUnredeemedScaleAsync(db, client, cfg, startDate, todayKst, t); return true; });
  109. return true;
  110. }
  111. /// <summary>
  112. /// a) 파생결합 발행 날짜 스윕(ISSU_DT, 최신→과거) × 종류 SECN_KACD{4101,4102,4301,4302} — 미적재 (발행일,종류)만.
  113. /// 발행일당 다수 종목 upsert(UQ Isin, SECN_KACD·ISSU_DT 스탬핑). 예산 소진 시 false. 발견분이 (b) 마스터 rolling 대상.
  114. /// ⚠️ 발행일은 영업일 성격이나 스펙 확정 불가라 전 캘린더일 스윕(보수적, 기존 SEIBro 배치 판단과 동일).
  115. /// ⚠️ SECN_KACD 파라미터명 미해결 — 라이브 1콜로 확정 필요(가이드 SECN_TPCD:41 vs SECN_KACD:4101 혼재).
  116. /// </summary>
  117. private async Task<bool> SweepIssuancesAsync(IAppDbContext db, HttpClient client, AppSettings.SeibroSection cfg, DateOnly startDate, DateOnly today, CancellationToken ct)
  118. {
  119. var fetched = 0;
  120. var first = true;
  121. for (var day = today; day >= startDate; day = day.AddDays(-1))
  122. {
  123. foreach (var kacd in DerivSecnKacds)
  124. {
  125. ct.ThrowIfCancellationRequested();
  126. // 데이터 존재 OR 조회완료 마커(축=kacd) → 스킵 (발행 없는 (일,종류)도 재조회 회피, 리뷰 결함 #1)
  127. if (await db.DerivIssuance.AsNoTracking().AnyAsync(c => c.IssuDt == day && c.SecnKacd == kacd, ct) || await SeibroMarkers.IsSweptAsync(db, IssuanceJobKey, day, kacd, ct))
  128. {
  129. continue;
  130. }
  131. if (!quota.TryConsume(SeibroCategory.Deriv, 1, cfg.DerivBudget))
  132. {
  133. Logger.LogWarning("[{Job}] 파생 예산({Budget}) 소진 — getDerivCombiIssuInfo {Day}/{Kacd} 부터 중단", JobName, cfg.DerivBudget, day, kacd);
  134. return false;
  135. }
  136. if (!first && cfg.DelayMs > 0)
  137. {
  138. await Task.Delay(cfg.DelayMs, ct);
  139. }
  140. first = false;
  141. // SECN_KACD 파라미터명은 라이브 1콜로 확정 필요 (스펙 기준 종류코드 사용)
  142. var xml = await SeibroHttp.GetStringWithRetryAsync(client, cfg.BaseUrl, cfg.ApiKey, "getDerivCombiIssuInfo", [new("ISSU_DT", day.ToString("yyyyMMdd")), new("SECN_KACD", kacd)], Logger, ct);
  143. var rows = SeibroDerivCombiIssuParser.Parse(SeibroXml.Parse(xml));
  144. var (inserted, updated) = await SeibroDerivImport.UpsertDerivIssuancesAsync(db, kacd, day, rows, ct);
  145. await SeibroMarkers.MarkSweptAsync(db, IssuanceJobKey, day, kacd, ct); // 0행 포함 조회완료 기록
  146. Logger.LogInformation("[{Job}] getDerivCombiIssuInfo {Day}/{Kacd} rows={Rows} — inserted={Inserted}, updated={Updated}", JobName, day, kacd, rows.Count, inserted, updated);
  147. fetched++;
  148. }
  149. }
  150. Logger.LogInformation("[{Job}] 파생 발행 스윕 완료 — 창=[{Start}~{End}], fetch={Fetched}콜", JobName, startDate, today, fetched);
  151. return true;
  152. }
  153. /// <summary>
  154. /// b) DerivMaster rolling — DerivIssuance.Isin 중 DerivMaster 미수집·stale 우선.
  155. /// getDerivCombiIsinInfo(ISIN) 1콜(Deriv) → PK Isin upsert(ISIN 요청값 스탬핑). 예산 소진 시 false.
  156. /// </summary>
  157. private async Task<bool> RollMastersAsync(IAppDbContext db, HttpClient client, AppSettings.SeibroSection cfg, CancellationToken ct)
  158. {
  159. var issuedIsins = await db.DerivIssuance.AsNoTracking().Select(c => c.Isin).Distinct().ToListAsync(ct);
  160. if (issuedIsins.Count == 0)
  161. {
  162. Logger.LogInformation("[{Job}] getDerivCombiIsinInfo 대상 없음 (DerivIssuance 비어 있음)", JobName);
  163. return true;
  164. }
  165. // 조회 시도(0행 포함) 마커 기준 정렬 — 정보 없는 ISIN 도 재조회 회피(#1)
  166. var markers = await SeibroMarkers.LoadFetchMarkersAsync(db, MasterJobKey, ct);
  167. var targets = issuedIsins.Select(isin => (Key: isin, LastUpdatedAt: markers.TryGetValue(isin, out var last) ? (DateTime?)last : null)).ToList();
  168. var maxPerRun = quota.Remaining(SeibroCategory.Deriv, cfg.DerivBudget);
  169. var quotaExhausted = false;
  170. var processed = await SeibroRollingSweep.RunAsync(
  171. targets: targets,
  172. fetchAndUpsert: async (isin, token) => {
  173. if (!quota.TryConsume(SeibroCategory.Deriv, 1, cfg.DerivBudget))
  174. {
  175. quotaExhausted = true;
  176. return;
  177. }
  178. var xml = await SeibroHttp.GetStringWithRetryAsync(client, cfg.BaseUrl, cfg.ApiKey, "getDerivCombiIsinInfo", [new("ISIN", isin)], Logger, token);
  179. var rows = SeibroDerivCombiIsinParser.Parse(SeibroXml.Parse(xml));
  180. var ok = await SeibroDerivImport.UpsertDerivMasterAsync(db, isin, rows, token);
  181. await SeibroMarkers.TouchFetchMarkerAsync(db, MasterJobKey, isin, token);
  182. Logger.LogInformation("[{Job}] getDerivCombiIsinInfo ISIN={Isin} rows={Rows} — upsert={Ok}", JobName, isin, rows.Count, ok);
  183. },
  184. maxPerRun: maxPerRun,
  185. delayMs: cfg.DelayMs,
  186. ct: ct);
  187. Logger.LogInformation("[{Job}] 파생 마스터 rolling 완료 — 발견={Issued}, 처리={Processed} (maxPerRun={Max})", JobName, issuedIsins.Count, processed, maxPerRun);
  188. return !quotaExhausted;
  189. }
  190. /// <summary>
  191. /// c-1) 기초자산 rolling — DerivMaster 있는 ISIN 중 DerivAsset 미수집·stale 우선.
  192. /// getAssetInfo(ISIN) 1콜(Deriv) → UQ(Isin,AssetSeq) upsert(ISIN 요청값 스탬핑, StndBassetCd 원문). 예산 소진 시 false.
  193. /// stale 판정: 해당 ISIN 의 DerivAsset 최신 UpdatedAt(없으면 미수집 → 최우선).
  194. /// </summary>
  195. private async Task<bool> RollAssetsAsync(IAppDbContext db, HttpClient client, AppSettings.SeibroSection cfg, CancellationToken ct)
  196. {
  197. var masterIsins = await db.DerivMaster.AsNoTracking().Select(c => c.Isin).ToListAsync(ct);
  198. if (masterIsins.Count == 0)
  199. {
  200. Logger.LogInformation("[{Job}] getAssetInfo 대상 없음 (DerivMaster 비어 있음)", JobName);
  201. return true;
  202. }
  203. // 조회 시도(0행 포함) 마커 기준 정렬 — 기초자산 없는 ISIN 도 재조회 회피(#1)
  204. var markers = await SeibroMarkers.LoadFetchMarkersAsync(db, AssetJobKey, ct);
  205. var targets = masterIsins.Select(isin => (Key: isin, LastUpdatedAt: markers.TryGetValue(isin, out var last) ? (DateTime?)last : null)).ToList();
  206. var maxPerRun = quota.Remaining(SeibroCategory.Deriv, cfg.DerivBudget);
  207. var quotaExhausted = false;
  208. var processed = await SeibroRollingSweep.RunAsync(
  209. targets: targets,
  210. fetchAndUpsert: async (isin, token) => {
  211. if (!quota.TryConsume(SeibroCategory.Deriv, 1, cfg.DerivBudget))
  212. {
  213. quotaExhausted = true;
  214. return;
  215. }
  216. var xml = await SeibroHttp.GetStringWithRetryAsync(client, cfg.BaseUrl, cfg.ApiKey, "getAssetInfo", [new("ISIN", isin)], Logger, token);
  217. var rows = SeibroAssetParser.Parse(SeibroXml.Parse(xml));
  218. var (inserted, updated) = await SeibroDerivImport.UpsertDerivAssetsAsync(db, isin, rows, token);
  219. await SeibroMarkers.TouchFetchMarkerAsync(db, AssetJobKey, isin, token);
  220. Logger.LogInformation("[{Job}] getAssetInfo ISIN={Isin} rows={Rows} — inserted={Inserted}, updated={Updated}", JobName, isin, rows.Count, inserted, updated);
  221. },
  222. maxPerRun: maxPerRun,
  223. delayMs: cfg.DelayMs,
  224. ct: ct);
  225. Logger.LogInformation("[{Job}] 기초자산 rolling 완료 — 대상={Targets}, 처리={Processed} (maxPerRun={Max})", JobName, targets.Count, processed, maxPerRun);
  226. return !quotaExhausted;
  227. }
  228. /// <summary>
  229. /// c-2) 기초자산 행사정보 rolling — DerivMaster 있는 ISIN 중 DerivAssetExercise 미수집·stale 우선.
  230. /// getAssetXrcInfo(ISIN) 1콜(Deriv) → UQ(Isin,AssetSeq,XrcStdSeq) upsert(ISIN 요청값 스탬핑). 예산 소진 시 false.
  231. /// </summary>
  232. private async Task<bool> RollAssetExercisesAsync(IAppDbContext db, HttpClient client, AppSettings.SeibroSection cfg, CancellationToken ct)
  233. {
  234. var masterIsins = await db.DerivMaster.AsNoTracking().Select(c => c.Isin).ToListAsync(ct);
  235. if (masterIsins.Count == 0)
  236. {
  237. return true;
  238. }
  239. // 조회 시도(0행 포함) 마커 기준 정렬 — 기초자산 행사 없는 ISIN 도 재조회 회피(#1)
  240. var markers = await SeibroMarkers.LoadFetchMarkersAsync(db, AssetXrcJobKey, ct);
  241. var targets = masterIsins.Select(isin => (Key: isin, LastUpdatedAt: markers.TryGetValue(isin, out var last) ? (DateTime?)last : null)).ToList();
  242. var maxPerRun = quota.Remaining(SeibroCategory.Deriv, cfg.DerivBudget);
  243. var quotaExhausted = false;
  244. var processed = await SeibroRollingSweep.RunAsync(
  245. targets: targets,
  246. fetchAndUpsert: async (isin, token) => {
  247. if (!quota.TryConsume(SeibroCategory.Deriv, 1, cfg.DerivBudget))
  248. {
  249. quotaExhausted = true;
  250. return;
  251. }
  252. var xml = await SeibroHttp.GetStringWithRetryAsync(client, cfg.BaseUrl, cfg.ApiKey, "getAssetXrcInfo", [new("ISIN", isin)], Logger, token);
  253. var rows = SeibroAssetXrcParser.Parse(SeibroXml.Parse(xml));
  254. var (inserted, updated) = await SeibroDerivImport.UpsertDerivAssetExercisesAsync(db, isin, rows, token);
  255. await SeibroMarkers.TouchFetchMarkerAsync(db, AssetXrcJobKey, isin, token);
  256. Logger.LogInformation("[{Job}] getAssetXrcInfo ISIN={Isin} rows={Rows} — inserted={Inserted}, updated={Updated}", JobName, isin, rows.Count, inserted, updated);
  257. },
  258. maxPerRun: maxPerRun,
  259. delayMs: cfg.DelayMs,
  260. ct: ct);
  261. Logger.LogInformation("[{Job}] 기초자산 행사 rolling 완료 — 대상={Targets}, 처리={Processed} (maxPerRun={Max})", JobName, targets.Count, processed, maxPerRun);
  262. return !quotaExhausted;
  263. }
  264. /// <summary>
  265. /// c-3) 상환조건 rolling — DerivMaster 있는 ISIN 중 DerivRedemptionCondition 미수집·stale 우선.
  266. /// getRedCondiInfo(ISIN) 1콜(Deriv) → UQ(Isin,RedCondiTpcd,ValatNtimesSeq) upsert(ISIN 요청값 스탬핑, 1000자 텍스트). 예산 소진 시 false.
  267. /// </summary>
  268. private async Task<bool> RollRedemptionConditionsAsync(IAppDbContext db, HttpClient client, AppSettings.SeibroSection cfg, CancellationToken ct)
  269. {
  270. var masterIsins = await db.DerivMaster.AsNoTracking().Select(c => c.Isin).ToListAsync(ct);
  271. if (masterIsins.Count == 0)
  272. {
  273. return true;
  274. }
  275. // 조회 시도(0행 포함) 마커 기준 정렬 — 상환조건 없는 ISIN 도 재조회 회피(#1)
  276. var markers = await SeibroMarkers.LoadFetchMarkersAsync(db, RedCondiJobKey, ct);
  277. var targets = masterIsins.Select(isin => (Key: isin, LastUpdatedAt: markers.TryGetValue(isin, out var last) ? (DateTime?)last : null)).ToList();
  278. var maxPerRun = quota.Remaining(SeibroCategory.Deriv, cfg.DerivBudget);
  279. var quotaExhausted = false;
  280. var processed = await SeibroRollingSweep.RunAsync(
  281. targets: targets,
  282. fetchAndUpsert: async (isin, token) => {
  283. if (!quota.TryConsume(SeibroCategory.Deriv, 1, cfg.DerivBudget))
  284. {
  285. quotaExhausted = true;
  286. return;
  287. }
  288. var xml = await SeibroHttp.GetStringWithRetryAsync(client, cfg.BaseUrl, cfg.ApiKey, "getRedCondiInfo", [new("ISIN", isin)], Logger, token);
  289. var rows = SeibroRedCondiParser.Parse(SeibroXml.Parse(xml));
  290. var (inserted, updated) = await SeibroDerivImport.UpsertDerivRedemptionConditionsAsync(db, isin, rows, token);
  291. await SeibroMarkers.TouchFetchMarkerAsync(db, RedCondiJobKey, isin, token);
  292. Logger.LogInformation("[{Job}] getRedCondiInfo ISIN={Isin} rows={Rows} — inserted={Inserted}, updated={Updated}", JobName, isin, rows.Count, inserted, updated);
  293. },
  294. maxPerRun: maxPerRun,
  295. delayMs: cfg.DelayMs,
  296. ct: ct);
  297. Logger.LogInformation("[{Job}] 상환조건 rolling 완료 — 대상={Targets}, 처리={Processed} (maxPerRun={Max})", JobName, targets.Count, processed, maxPerRun);
  298. return !quotaExhausted;
  299. }
  300. /// <summary>
  301. /// d) 상환종목 날짜 스윕(RED_DT, 최신→과거) × 종류 SECN_KACD{4101,4102,4301,4302} — 미적재 (상환일,종류)만.
  302. /// 상환일×종류 window delete+insert(UQ Isin+RedDt+DerisecExerTpcd, RED_DT·SECN_KACD 스탬핑). 예산 소진 시 false.
  303. /// ⚠️ 상환일은 영업일 성격이나 스펙 확정 불가라 전 캘린더일 스윕(보수적). resumable: 해당 (상환일,종류) 스탬핑 존재 여부.
  304. /// </summary>
  305. private async Task<bool> SweepRedemptionsAsync(IAppDbContext db, HttpClient client, AppSettings.SeibroSection cfg, DateOnly startDate, DateOnly today, CancellationToken ct)
  306. {
  307. var fetched = 0;
  308. var first = true;
  309. for (var day = today; day >= startDate; day = day.AddDays(-1))
  310. {
  311. foreach (var kacd in DerivSecnKacds)
  312. {
  313. ct.ThrowIfCancellationRequested();
  314. // 데이터 존재 OR 조회완료 마커(축=kacd) → 스킵 (상환 없는 (일,종류)도 재조회 회피, 리뷰 결함 #1)
  315. if (await db.DerivRedemption.AsNoTracking().AnyAsync(c => c.RedDt == day && c.SecnKacd == kacd, ct) || await SeibroMarkers.IsSweptAsync(db, RedemptionJobKey, day, kacd, ct))
  316. {
  317. continue;
  318. }
  319. if (!quota.TryConsume(SeibroCategory.Deriv, 1, cfg.DerivBudget))
  320. {
  321. Logger.LogWarning("[{Job}] 파생 예산({Budget}) 소진 — getRedIsinInfo {Day}/{Kacd} 부터 중단", JobName, cfg.DerivBudget, day, kacd);
  322. return false;
  323. }
  324. if (!first && cfg.DelayMs > 0)
  325. {
  326. await Task.Delay(cfg.DelayMs, ct);
  327. }
  328. first = false;
  329. var xml = await SeibroHttp.GetStringWithRetryAsync(client, cfg.BaseUrl, cfg.ApiKey, "getRedIsinInfo", [new("RED_DT", day.ToString("yyyyMMdd")), new("SECN_KACD", kacd)], Logger, ct);
  330. var rows = SeibroRedIsinParser.Parse(SeibroXml.Parse(xml));
  331. var (inserted, deleted) = await SeibroDerivImport.ReplaceRedemptionWindowAsync(db, kacd, day, day, rows, ct);
  332. await SeibroMarkers.MarkSweptAsync(db, RedemptionJobKey, day, kacd, ct); // 0행 포함 조회완료 기록
  333. Logger.LogInformation("[{Job}] getRedIsinInfo {Day}/{Kacd} rows={Rows} — inserted={Inserted}, deleted={Deleted}", JobName, day, kacd, rows.Count, inserted, deleted);
  334. fetched++;
  335. }
  336. }
  337. Logger.LogInformation("[{Job}] 상환종목 스윕 완료 — 창=[{Start}~{End}], fetch={Fetched}콜", JobName, startDate, today, fetched);
  338. return true;
  339. }
  340. /// <summary>
  341. /// e) 기초자산별 미상환규모 스윕 — 영업일(KrxBackfill) × 13기초자산(KSD02*) × SECN_TPCD{41,43} = 최대 26콜/일.
  342. /// 미상환규모는 영업일 기준(장중 지표)이라 KrxBackfill.EnumerateBusinessDaysDescending 재사용, resumable(existsForDate 스킵).
  343. /// UQ(StdDt,StndBassetCd,SecnTpcd) upsert(3종 요청값 스탬핑). 예산 소진 시 즉시 종료.
  344. /// </summary>
  345. private async Task SweepUnredeemedScaleAsync(IAppDbContext db, HttpClient client, AppSettings.SeibroSection cfg, DateOnly startDate, DateOnly today, CancellationToken ct)
  346. {
  347. var holidays = await db.MarketHoliday.AsNoTracking().Select(c => c.Date).ToListAsync(ct);
  348. var holidaySet = holidays.ToHashSet();
  349. var fetched = 0;
  350. var first = true;
  351. for (var day = today; day >= startDate; day = day.AddDays(-1))
  352. {
  353. if (day.DayOfWeek is DayOfWeek.Saturday or DayOfWeek.Sunday || holidaySet.Contains(day))
  354. {
  355. continue; // 주말·휴장일 스킵 (미상환규모는 영업일 지표)
  356. }
  357. // 데이터 존재 OR 조회완료 마커 → 스킵 (미상환 0행 날도 재조회 회피, 리뷰 결함 #1). 하루 26콜(13×2) 전부 완료해야 마커.
  358. if (await db.ElsUnredeemedScale.AsNoTracking().AnyAsync(c => c.StdDt == day, ct) || await SeibroMarkers.IsSweptAsync(db, UnredScaleJobKey, day, null, ct))
  359. {
  360. continue;
  361. }
  362. foreach (var basset in Basset13)
  363. {
  364. foreach (var tpcd in UnredSecnTpcds)
  365. {
  366. ct.ThrowIfCancellationRequested();
  367. if (!quota.TryConsume(SeibroCategory.Deriv, 1, cfg.DerivBudget))
  368. {
  369. Logger.LogWarning("[{Job}] 파생 예산({Budget}) 소진 — getBassetUnredScale {Day} 부터 중단", JobName, cfg.DerivBudget, day);
  370. Logger.LogInformation("[{Job}] 미상환규모 스윕 부분완료 — 창=[{Start}~{End}], fetch={Fetched}콜", JobName, startDate, today, fetched);
  371. return; // 하루가 부분 완료면 마커를 남기지 않는다 — 다음 실행에서 그 날부터 재개
  372. }
  373. if (!first && cfg.DelayMs > 0)
  374. {
  375. await Task.Delay(cfg.DelayMs, ct);
  376. }
  377. first = false;
  378. var xml = await SeibroHttp.GetStringWithRetryAsync(client, cfg.BaseUrl, cfg.ApiKey, "getBassetUnredScale", [new("STD_DT", day.ToString("yyyyMMdd")), new("STND_BASSET_CD", basset), new("SECN_TPCD", tpcd)], Logger, ct);
  379. var rows = SeibroBassetUnredScaleParser.Parse(SeibroXml.Parse(xml));
  380. var ok = await SeibroDerivImport.UpsertUnredeemedScaleAsync(db, day, basset, tpcd, rows, ct);
  381. Logger.LogInformation("[{Job}] getBassetUnredScale {Day}/{Basset}/{Tpcd} rows={Rows} — upsert={Ok}", JobName, day, basset, tpcd, rows.Count, ok);
  382. fetched++;
  383. }
  384. }
  385. // 하루 26콜 전부 완료(0행 포함) → 조회완료 마커 기록 (다음 실행 재조회 회피)
  386. await SeibroMarkers.MarkSweptAsync(db, UnredScaleJobKey, day, null, ct);
  387. }
  388. Logger.LogInformation("[{Job}] 미상환규모 스윕 완료 — 창=[{Start}~{End}], fetch={Fetched}콜", JobName, startDate, today, fetched);
  389. }
  390. }