SeibroDerivSyncService.cs 26 KB

123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129130131132133134135136137138139140141142143144145146147148149150151152153154155156157158159160161162163164165166167168169170171172173174175176177178179180181182183184185186187188189190191192193194195196197198199200201202203204205206207208209210211212213214215216217218219220221222223224225226227228229230231232233234235236237238239240241242243244245246247248249250251252253254255256257258259260261262263264265266267268269270271272273274275276277278279280281282283284285286287288289290291292293294295296297298299300301302303304305306307308309310311312313314315316317318319320321322323324325326327328329330331332333334335336337338339340341342343344345346347348349350351352353354355356357358359360361362363364365366367368369370371372373374375376377378379380381382383384385386387388389390391392393394395396397398399400401402403404405406407408409410411412413414415416417418419420421422423424425426427428429430431432433434435436437438439440441442443444445446447448449450451452453454455456457458459460461
  1. using Application.Abstractions.Data;
  2. using Application.Helpers;
  3. using Microsoft.EntityFrameworkCore;
  4. using Microsoft.Extensions.DependencyInjection;
  5. using Microsoft.Extensions.Logging;
  6. using Microsoft.Extensions.Options;
  7. using SharedKernel;
  8. namespace Infrastructure.StockData;
  9. /// <summary>
  10. /// SEIBro 파생결합증권 ELS/DLS 수집 (Wave 5) — 기본 08:00 KST(BondSync 07:40 다음 슬롯), `Seibro:DerivSync` 게이트.
  11. /// 전 단계가 파생(Deriv) 예산(Seibro:DerivBudget)을 공유한다.
  12. ///
  13. /// a) DerivIssuance: getDerivCombiIssuInfo 날짜 스윕(ISSU_DT) × 종류 SECN_KACD{4101,4102,4301,4302} 3년 → 발견(다수 종목/일).
  14. /// b) DerivMaster rolling: 대상 = DerivIssuance.Isin 미수집·stale → getDerivCombiIsinInfo(ISIN) → PK Isin upsert.
  15. /// c) DerivAsset / DerivAssetExercise / DerivRedemptionCondition rolling: DerivMaster 있는 ISIN → getAssetInfo/getAssetXrcInfo/getRedCondiInfo(ISIN) → upsert.
  16. /// d) DerivRedemption: getRedIsinInfo 날짜 스윕(RED_DT) × 종류{4101,4102,4301,4302} 3년 → 상환일×종류 window delete+insert.
  17. /// e) ElsUnredeemedScale: getBassetUnredScale 일별 13기초자산(STND_BASSET_CD, KSD02* 13종) × SECN_TPCD{41,43} = 최대 26콜/일 3년 스윕(KrxBackfill 영업일).
  18. ///
  19. /// 실패/0행 = 정상 빈결과. HTTP·파싱 오류 = 경고 + false(RetryDelay 후 재시도). quota 소진 = 정상 종료(true). ApiKey 미설정 시 skip.
  20. /// ⚠️ getDerivCombiIssuInfo 요청 파라미터명 미해결 — 가이드에 SECN_TPCD:41 vs SECN_KACD:4101 혼재. 스펙 기준(SECN_KACD 종류코드)으로 구현했으나
  21. /// **라이브 1콜로 파라미터명 확정 필요**(4101/4102/4301/4302). getRedIsinInfo 는 SECN_KACD(4101 등), getBassetUnredScale 는 SECN_TPCD(41/43 2자리) — API별 문서대로.
  22. /// ⚠️ 기초자산코드 2체계: getBassetUnredScale 입력 STND_BASSET_CD=KSD02*(13종) vs getAssetInfo 반환 KSD31* — 매핑 흡수 없이 원문 저장(엔티티 주석 참조).
  23. /// ⚠️ 파생결합 유니버스 큼(일 수십~수백 발행) → rolling 최근발행 우선 + resumable(여러 날 자동 완성).
  24. /// </summary>
  25. internal sealed class SeibroDerivSyncService(
  26. IServiceScopeFactory scopeFactory,
  27. IHttpClientFactory httpClientFactory,
  28. SeibroQuota quota,
  29. IOptions<AppSettings> settings,
  30. ILogger<SeibroDerivSyncService> logger
  31. ) : DailyScheduledService(logger)
  32. {
  33. // 종목종류코드 (SECN_KACD) — 4101ELS 4102ELB 4301DLS 4302DLB. getDerivCombiIssuInfo·getRedIsinInfo 요청 파라미터.
  34. // ⚠️ getDerivCombiIssuInfo 는 파라미터명이 SECN_TPCD vs SECN_KACD 미해결 — 스펙(종류코드 4101…) 기준, 라이브 1콜로 확정 필요.
  35. private static readonly string[] DerivSecnKacds = ["4101", "4102", "4301", "4302"];
  36. // 미상환규모 종목구분 (SECN_TPCD) — 41ELS 43DLS. getBassetUnredScale 요청 파라미터(2자리).
  37. private static readonly string[] UnredSecnTpcds = ["41", "43"];
  38. // 주요 기초자산코드 (STND_BASSET_CD, 13종) — getBassetUnredScale 입력 KSD02* 체계 (파생결합증권.md §헤더 확정).
  39. private static readonly string[] Basset13 =
  40. [
  41. "KSD090000101", // Brent
  42. "KSD090000201", // WTI
  43. "KSD100000101", // 금
  44. "KSD100000201", // 은
  45. "KSD010000101", // KOSPI200
  46. "KSD020000101", // EURO STOXX 50
  47. "KSD020000201", // HSCEI(항셍H)
  48. "KSD020000301", // S&P500
  49. "KSD020000401", // FTSE100
  50. "KSD020000501", // NIKKEI225
  51. "KSD020000601", // DOW JONES
  52. "KSD020000901", // DAX
  53. "KSD020001901" // HSI
  54. ];
  55. // 마커 job 키 (리뷰 결함 #1) — 정상 0행/조용한 날 재조회·starvation 해소
  56. private const string IssuanceJobKey = "deriv-issuance"; // date-sweep (SweptDate, Discriminator=kacd)
  57. private const string RedemptionJobKey = "deriv-redemption"; // date-sweep (SweptDate, Discriminator=kacd)
  58. private const string UnredScaleJobKey = "deriv-unredscale"; // date-sweep (SweptDate, per-day)
  59. private const string MasterJobKey = "deriv-master"; // rolling (FetchMarker, key=ISIN)
  60. private const string AssetJobKey = "deriv-asset"; // rolling (FetchMarker, key=ISIN)
  61. private const string AssetXrcJobKey = "deriv-assetxrc"; // rolling (FetchMarker, key=ISIN)
  62. private const string RedCondiJobKey = "deriv-redcondi"; // rolling (FetchMarker, key=ISIN)
  63. protected override string JobName => "SeibroDerivSync";
  64. protected override TimeOnly TargetTime => ParseTime(settings.Value.Seibro.DerivSyncTime, new TimeOnly(8, 0));
  65. protected override int MaxRetryCount => 2;
  66. protected override TimeSpan RetryDelay => TimeSpan.FromHours(2);
  67. protected override async Task<bool> RunOnceAsync(DateOnly todayKst, CancellationToken ct)
  68. {
  69. var cfg = settings.Value.Seibro;
  70. if (string.IsNullOrWhiteSpace(cfg.ApiKey))
  71. {
  72. Logger.LogWarning("[{Job}] Seibro:ApiKey 미설정 — 수집 skip", JobName);
  73. return true;
  74. }
  75. using var scope = scopeFactory.CreateScope();
  76. var db = scope.ServiceProvider.GetRequiredService<IAppDbContext>();
  77. var client = httpClientFactory.CreateClient(SeibroHttp.ClientName);
  78. var years = cfg.BackfillYears > 0 ? cfg.BackfillYears : 3;
  79. var startDate = todayKst.AddYears(-years);
  80. // 단계별 독립 실행 — 한 단계의 SEIBro 오류가 다른 단계를 막지 않도록 개별 try/catch.
  81. // 반환 false = 예산 소진(전체 중단). 파싱/HTTP 오류 = 해당 단계만 skip(마커 미기록 → 다음 실행 재시도).
  82. async Task<bool> Phase(string name, Func<CancellationToken, Task<bool>> body)
  83. {
  84. try
  85. {
  86. return await body(ct);
  87. }
  88. catch (Exception ex) when (ex is HttpRequestException or System.Xml.XmlException or FormatException)
  89. {
  90. Logger.LogWarning(ex, "[{Job}] {Phase} SEIBro 오류 — 단계 skip(다음 실행 재시도)", JobName, name);
  91. return true;
  92. }
  93. }
  94. // a) 발행 → b) 마스터 → c) 기초자산/행사/상환조건 → d) 상환종목 → e) 미상환규모
  95. if (!await Phase("파생발행", t => SweepIssuancesAsync(db, client, cfg, startDate, todayKst, t))) { return true; }
  96. if (!await Phase("파생마스터", t => RollMastersAsync(db, client, cfg, t))) { return true; }
  97. if (!await Phase("기초자산", t => RollAssetsAsync(db, client, cfg, t))) { return true; }
  98. if (!await Phase("기초자산행사", t => RollAssetExercisesAsync(db, client, cfg, t))) { return true; }
  99. if (!await Phase("상환조건", t => RollRedemptionConditionsAsync(db, client, cfg, t))) { return true; }
  100. if (!await Phase("상환종목", t => SweepRedemptionsAsync(db, client, cfg, startDate, todayKst, t))) { return true; }
  101. // e) 미상환규모 (void 반환) — 개별 try/catch
  102. await Phase("미상환규모", async t => { await SweepUnredeemedScaleAsync(db, client, cfg, startDate, todayKst, t); return true; });
  103. return true;
  104. }
  105. /// <summary>
  106. /// a) 파생결합 발행 날짜 스윕(ISSU_DT, 최신→과거) × 종류 SECN_KACD{4101,4102,4301,4302} — 미적재 (발행일,종류)만.
  107. /// 발행일당 다수 종목 upsert(UQ Isin, SECN_KACD·ISSU_DT 스탬핑). 예산 소진 시 false. 발견분이 (b) 마스터 rolling 대상.
  108. /// ⚠️ 발행일은 영업일 성격이나 스펙 확정 불가라 전 캘린더일 스윕(보수적, 기존 SEIBro 배치 판단과 동일).
  109. /// ⚠️ SECN_KACD 파라미터명 미해결 — 라이브 1콜로 확정 필요(가이드 SECN_TPCD:41 vs SECN_KACD:4101 혼재).
  110. /// </summary>
  111. private async Task<bool> SweepIssuancesAsync(IAppDbContext db, HttpClient client, AppSettings.SeibroSection cfg, DateOnly startDate, DateOnly today, CancellationToken ct)
  112. {
  113. var fetched = 0;
  114. var first = true;
  115. for (var day = today; day >= startDate; day = day.AddDays(-1))
  116. {
  117. foreach (var kacd in DerivSecnKacds)
  118. {
  119. ct.ThrowIfCancellationRequested();
  120. // 데이터 존재 OR 조회완료 마커(축=kacd) → 스킵 (발행 없는 (일,종류)도 재조회 회피, 리뷰 결함 #1)
  121. if (await db.DerivIssuance.AsNoTracking().AnyAsync(c => c.IssuDt == day && c.SecnKacd == kacd, ct) || await SeibroMarkers.IsSweptAsync(db, IssuanceJobKey, day, kacd, ct))
  122. {
  123. continue;
  124. }
  125. if (!quota.TryConsume(SeibroCategory.Deriv, 1, cfg.DerivBudget))
  126. {
  127. Logger.LogWarning("[{Job}] 파생 예산({Budget}) 소진 — getDerivCombiIssuInfo {Day}/{Kacd} 부터 중단", JobName, cfg.DerivBudget, day, kacd);
  128. return false;
  129. }
  130. if (!first && cfg.DelayMs > 0)
  131. {
  132. await Task.Delay(cfg.DelayMs, ct);
  133. }
  134. first = false;
  135. // SECN_KACD 파라미터명은 라이브 1콜로 확정 필요 (스펙 기준 종류코드 사용)
  136. var xml = await SeibroHttp.GetStringWithRetryAsync(client, cfg.BaseUrl, cfg.ApiKey, "getDerivCombiIssuInfo", [new("ISSU_DT", day.ToString("yyyyMMdd")), new("SECN_KACD", kacd)], Logger, ct);
  137. var rows = SeibroDerivCombiIssuParser.Parse(SeibroXml.Parse(xml));
  138. var (inserted, updated) = await SeibroDerivImport.UpsertDerivIssuancesAsync(db, kacd, day, rows, ct);
  139. await SeibroMarkers.MarkSweptAsync(db, IssuanceJobKey, day, kacd, ct); // 0행 포함 조회완료 기록
  140. Logger.LogInformation("[{Job}] getDerivCombiIssuInfo {Day}/{Kacd} rows={Rows} — inserted={Inserted}, updated={Updated}", JobName, day, kacd, rows.Count, inserted, updated);
  141. fetched++;
  142. }
  143. }
  144. Logger.LogInformation("[{Job}] 파생 발행 스윕 완료 — 창=[{Start}~{End}], fetch={Fetched}콜", JobName, startDate, today, fetched);
  145. return true;
  146. }
  147. /// <summary>
  148. /// b) DerivMaster rolling — DerivIssuance.Isin 중 DerivMaster 미수집·stale 우선.
  149. /// getDerivCombiIsinInfo(ISIN) 1콜(Deriv) → PK Isin upsert(ISIN 요청값 스탬핑). 예산 소진 시 false.
  150. /// </summary>
  151. private async Task<bool> RollMastersAsync(IAppDbContext db, HttpClient client, AppSettings.SeibroSection cfg, CancellationToken ct)
  152. {
  153. var issuedIsins = await db.DerivIssuance.AsNoTracking().Select(c => c.Isin).Distinct().ToListAsync(ct);
  154. if (issuedIsins.Count == 0)
  155. {
  156. Logger.LogInformation("[{Job}] getDerivCombiIsinInfo 대상 없음 (DerivIssuance 비어 있음)", JobName);
  157. return true;
  158. }
  159. // 조회 시도(0행 포함) 마커 기준 정렬 — 정보 없는 ISIN 도 재조회 회피(#1)
  160. var markers = await SeibroMarkers.LoadFetchMarkersAsync(db, MasterJobKey, ct);
  161. var targets = issuedIsins.Select(isin => (Key: isin, LastUpdatedAt: markers.TryGetValue(isin, out var last) ? (DateTime?)last : null)).ToList();
  162. var maxPerRun = quota.Remaining(SeibroCategory.Deriv, cfg.DerivBudget);
  163. var quotaExhausted = false;
  164. var processed = await SeibroRollingSweep.RunAsync(
  165. targets: targets,
  166. fetchAndUpsert: async (isin, token) => {
  167. if (!quota.TryConsume(SeibroCategory.Deriv, 1, cfg.DerivBudget))
  168. {
  169. quotaExhausted = true;
  170. return;
  171. }
  172. var xml = await SeibroHttp.GetStringWithRetryAsync(client, cfg.BaseUrl, cfg.ApiKey, "getDerivCombiIsinInfo", [new("ISIN", isin)], Logger, token);
  173. var rows = SeibroDerivCombiIsinParser.Parse(SeibroXml.Parse(xml));
  174. var ok = await SeibroDerivImport.UpsertDerivMasterAsync(db, isin, rows, token);
  175. await SeibroMarkers.TouchFetchMarkerAsync(db, MasterJobKey, isin, token);
  176. Logger.LogInformation("[{Job}] getDerivCombiIsinInfo ISIN={Isin} rows={Rows} — upsert={Ok}", JobName, isin, rows.Count, ok);
  177. },
  178. maxPerRun: maxPerRun,
  179. delayMs: cfg.DelayMs,
  180. ct: ct);
  181. Logger.LogInformation("[{Job}] 파생 마스터 rolling 완료 — 발견={Issued}, 처리={Processed} (maxPerRun={Max})", JobName, issuedIsins.Count, processed, maxPerRun);
  182. return !quotaExhausted;
  183. }
  184. /// <summary>
  185. /// c-1) 기초자산 rolling — DerivMaster 있는 ISIN 중 DerivAsset 미수집·stale 우선.
  186. /// getAssetInfo(ISIN) 1콜(Deriv) → UQ(Isin,AssetSeq) upsert(ISIN 요청값 스탬핑, StndBassetCd 원문). 예산 소진 시 false.
  187. /// stale 판정: 해당 ISIN 의 DerivAsset 최신 UpdatedAt(없으면 미수집 → 최우선).
  188. /// </summary>
  189. private async Task<bool> RollAssetsAsync(IAppDbContext db, HttpClient client, AppSettings.SeibroSection cfg, CancellationToken ct)
  190. {
  191. var masterIsins = await db.DerivMaster.AsNoTracking().Select(c => c.Isin).ToListAsync(ct);
  192. if (masterIsins.Count == 0)
  193. {
  194. Logger.LogInformation("[{Job}] getAssetInfo 대상 없음 (DerivMaster 비어 있음)", JobName);
  195. return true;
  196. }
  197. // 조회 시도(0행 포함) 마커 기준 정렬 — 기초자산 없는 ISIN 도 재조회 회피(#1)
  198. var markers = await SeibroMarkers.LoadFetchMarkersAsync(db, AssetJobKey, ct);
  199. var targets = masterIsins.Select(isin => (Key: isin, LastUpdatedAt: markers.TryGetValue(isin, out var last) ? (DateTime?)last : null)).ToList();
  200. var maxPerRun = quota.Remaining(SeibroCategory.Deriv, cfg.DerivBudget);
  201. var quotaExhausted = false;
  202. var processed = await SeibroRollingSweep.RunAsync(
  203. targets: targets,
  204. fetchAndUpsert: async (isin, token) => {
  205. if (!quota.TryConsume(SeibroCategory.Deriv, 1, cfg.DerivBudget))
  206. {
  207. quotaExhausted = true;
  208. return;
  209. }
  210. var xml = await SeibroHttp.GetStringWithRetryAsync(client, cfg.BaseUrl, cfg.ApiKey, "getAssetInfo", [new("ISIN", isin)], Logger, token);
  211. var rows = SeibroAssetParser.Parse(SeibroXml.Parse(xml));
  212. var (inserted, updated) = await SeibroDerivImport.UpsertDerivAssetsAsync(db, isin, rows, token);
  213. await SeibroMarkers.TouchFetchMarkerAsync(db, AssetJobKey, isin, token);
  214. Logger.LogInformation("[{Job}] getAssetInfo ISIN={Isin} rows={Rows} — inserted={Inserted}, updated={Updated}", JobName, isin, rows.Count, inserted, updated);
  215. },
  216. maxPerRun: maxPerRun,
  217. delayMs: cfg.DelayMs,
  218. ct: ct);
  219. Logger.LogInformation("[{Job}] 기초자산 rolling 완료 — 대상={Targets}, 처리={Processed} (maxPerRun={Max})", JobName, targets.Count, processed, maxPerRun);
  220. return !quotaExhausted;
  221. }
  222. /// <summary>
  223. /// c-2) 기초자산 행사정보 rolling — DerivMaster 있는 ISIN 중 DerivAssetExercise 미수집·stale 우선.
  224. /// getAssetXrcInfo(ISIN) 1콜(Deriv) → UQ(Isin,AssetSeq,XrcStdSeq) upsert(ISIN 요청값 스탬핑). 예산 소진 시 false.
  225. /// </summary>
  226. private async Task<bool> RollAssetExercisesAsync(IAppDbContext db, HttpClient client, AppSettings.SeibroSection cfg, CancellationToken ct)
  227. {
  228. var masterIsins = await db.DerivMaster.AsNoTracking().Select(c => c.Isin).ToListAsync(ct);
  229. if (masterIsins.Count == 0)
  230. {
  231. return true;
  232. }
  233. // 조회 시도(0행 포함) 마커 기준 정렬 — 기초자산 행사 없는 ISIN 도 재조회 회피(#1)
  234. var markers = await SeibroMarkers.LoadFetchMarkersAsync(db, AssetXrcJobKey, ct);
  235. var targets = masterIsins.Select(isin => (Key: isin, LastUpdatedAt: markers.TryGetValue(isin, out var last) ? (DateTime?)last : null)).ToList();
  236. var maxPerRun = quota.Remaining(SeibroCategory.Deriv, cfg.DerivBudget);
  237. var quotaExhausted = false;
  238. var processed = await SeibroRollingSweep.RunAsync(
  239. targets: targets,
  240. fetchAndUpsert: async (isin, token) => {
  241. if (!quota.TryConsume(SeibroCategory.Deriv, 1, cfg.DerivBudget))
  242. {
  243. quotaExhausted = true;
  244. return;
  245. }
  246. var xml = await SeibroHttp.GetStringWithRetryAsync(client, cfg.BaseUrl, cfg.ApiKey, "getAssetXrcInfo", [new("ISIN", isin)], Logger, token);
  247. var rows = SeibroAssetXrcParser.Parse(SeibroXml.Parse(xml));
  248. var (inserted, updated) = await SeibroDerivImport.UpsertDerivAssetExercisesAsync(db, isin, rows, token);
  249. await SeibroMarkers.TouchFetchMarkerAsync(db, AssetXrcJobKey, isin, token);
  250. Logger.LogInformation("[{Job}] getAssetXrcInfo ISIN={Isin} rows={Rows} — inserted={Inserted}, updated={Updated}", JobName, isin, rows.Count, inserted, updated);
  251. },
  252. maxPerRun: maxPerRun,
  253. delayMs: cfg.DelayMs,
  254. ct: ct);
  255. Logger.LogInformation("[{Job}] 기초자산 행사 rolling 완료 — 대상={Targets}, 처리={Processed} (maxPerRun={Max})", JobName, targets.Count, processed, maxPerRun);
  256. return !quotaExhausted;
  257. }
  258. /// <summary>
  259. /// c-3) 상환조건 rolling — DerivMaster 있는 ISIN 중 DerivRedemptionCondition 미수집·stale 우선.
  260. /// getRedCondiInfo(ISIN) 1콜(Deriv) → UQ(Isin,RedCondiTpcd,ValatNtimesSeq) upsert(ISIN 요청값 스탬핑, 1000자 텍스트). 예산 소진 시 false.
  261. /// </summary>
  262. private async Task<bool> RollRedemptionConditionsAsync(IAppDbContext db, HttpClient client, AppSettings.SeibroSection cfg, CancellationToken ct)
  263. {
  264. var masterIsins = await db.DerivMaster.AsNoTracking().Select(c => c.Isin).ToListAsync(ct);
  265. if (masterIsins.Count == 0)
  266. {
  267. return true;
  268. }
  269. // 조회 시도(0행 포함) 마커 기준 정렬 — 상환조건 없는 ISIN 도 재조회 회피(#1)
  270. var markers = await SeibroMarkers.LoadFetchMarkersAsync(db, RedCondiJobKey, ct);
  271. var targets = masterIsins.Select(isin => (Key: isin, LastUpdatedAt: markers.TryGetValue(isin, out var last) ? (DateTime?)last : null)).ToList();
  272. var maxPerRun = quota.Remaining(SeibroCategory.Deriv, cfg.DerivBudget);
  273. var quotaExhausted = false;
  274. var processed = await SeibroRollingSweep.RunAsync(
  275. targets: targets,
  276. fetchAndUpsert: async (isin, token) => {
  277. if (!quota.TryConsume(SeibroCategory.Deriv, 1, cfg.DerivBudget))
  278. {
  279. quotaExhausted = true;
  280. return;
  281. }
  282. var xml = await SeibroHttp.GetStringWithRetryAsync(client, cfg.BaseUrl, cfg.ApiKey, "getRedCondiInfo", [new("ISIN", isin)], Logger, token);
  283. var rows = SeibroRedCondiParser.Parse(SeibroXml.Parse(xml));
  284. var (inserted, updated) = await SeibroDerivImport.UpsertDerivRedemptionConditionsAsync(db, isin, rows, token);
  285. await SeibroMarkers.TouchFetchMarkerAsync(db, RedCondiJobKey, isin, token);
  286. Logger.LogInformation("[{Job}] getRedCondiInfo ISIN={Isin} rows={Rows} — inserted={Inserted}, updated={Updated}", JobName, isin, rows.Count, inserted, updated);
  287. },
  288. maxPerRun: maxPerRun,
  289. delayMs: cfg.DelayMs,
  290. ct: ct);
  291. Logger.LogInformation("[{Job}] 상환조건 rolling 완료 — 대상={Targets}, 처리={Processed} (maxPerRun={Max})", JobName, targets.Count, processed, maxPerRun);
  292. return !quotaExhausted;
  293. }
  294. /// <summary>
  295. /// d) 상환종목 날짜 스윕(RED_DT, 최신→과거) × 종류 SECN_KACD{4101,4102,4301,4302} — 미적재 (상환일,종류)만.
  296. /// 상환일×종류 window delete+insert(UQ Isin+RedDt+DerisecExerTpcd, RED_DT·SECN_KACD 스탬핑). 예산 소진 시 false.
  297. /// ⚠️ 상환일은 영업일 성격이나 스펙 확정 불가라 전 캘린더일 스윕(보수적). resumable: 해당 (상환일,종류) 스탬핑 존재 여부.
  298. /// </summary>
  299. private async Task<bool> SweepRedemptionsAsync(IAppDbContext db, HttpClient client, AppSettings.SeibroSection cfg, DateOnly startDate, DateOnly today, CancellationToken ct)
  300. {
  301. var fetched = 0;
  302. var first = true;
  303. for (var day = today; day >= startDate; day = day.AddDays(-1))
  304. {
  305. foreach (var kacd in DerivSecnKacds)
  306. {
  307. ct.ThrowIfCancellationRequested();
  308. // 데이터 존재 OR 조회완료 마커(축=kacd) → 스킵 (상환 없는 (일,종류)도 재조회 회피, 리뷰 결함 #1)
  309. if (await db.DerivRedemption.AsNoTracking().AnyAsync(c => c.RedDt == day && c.SecnKacd == kacd, ct) || await SeibroMarkers.IsSweptAsync(db, RedemptionJobKey, day, kacd, ct))
  310. {
  311. continue;
  312. }
  313. if (!quota.TryConsume(SeibroCategory.Deriv, 1, cfg.DerivBudget))
  314. {
  315. Logger.LogWarning("[{Job}] 파생 예산({Budget}) 소진 — getRedIsinInfo {Day}/{Kacd} 부터 중단", JobName, cfg.DerivBudget, day, kacd);
  316. return false;
  317. }
  318. if (!first && cfg.DelayMs > 0)
  319. {
  320. await Task.Delay(cfg.DelayMs, ct);
  321. }
  322. first = false;
  323. var xml = await SeibroHttp.GetStringWithRetryAsync(client, cfg.BaseUrl, cfg.ApiKey, "getRedIsinInfo", [new("RED_DT", day.ToString("yyyyMMdd")), new("SECN_KACD", kacd)], Logger, ct);
  324. var rows = SeibroRedIsinParser.Parse(SeibroXml.Parse(xml));
  325. var (inserted, deleted) = await SeibroDerivImport.ReplaceRedemptionWindowAsync(db, kacd, day, day, rows, ct);
  326. await SeibroMarkers.MarkSweptAsync(db, RedemptionJobKey, day, kacd, ct); // 0행 포함 조회완료 기록
  327. Logger.LogInformation("[{Job}] getRedIsinInfo {Day}/{Kacd} rows={Rows} — inserted={Inserted}, deleted={Deleted}", JobName, day, kacd, rows.Count, inserted, deleted);
  328. fetched++;
  329. }
  330. }
  331. Logger.LogInformation("[{Job}] 상환종목 스윕 완료 — 창=[{Start}~{End}], fetch={Fetched}콜", JobName, startDate, today, fetched);
  332. return true;
  333. }
  334. /// <summary>
  335. /// e) 기초자산별 미상환규모 스윕 — 영업일(KrxBackfill) × 13기초자산(KSD02*) × SECN_TPCD{41,43} = 최대 26콜/일.
  336. /// 미상환규모는 영업일 기준(장중 지표)이라 KrxBackfill.EnumerateBusinessDaysDescending 재사용, resumable(existsForDate 스킵).
  337. /// UQ(StdDt,StndBassetCd,SecnTpcd) upsert(3종 요청값 스탬핑). 예산 소진 시 즉시 종료.
  338. /// </summary>
  339. private async Task SweepUnredeemedScaleAsync(IAppDbContext db, HttpClient client, AppSettings.SeibroSection cfg, DateOnly startDate, DateOnly today, CancellationToken ct)
  340. {
  341. var holidays = await db.MarketHoliday.AsNoTracking().Select(c => c.Date).ToListAsync(ct);
  342. var holidaySet = holidays.ToHashSet();
  343. var fetched = 0;
  344. var first = true;
  345. for (var day = today; day >= startDate; day = day.AddDays(-1))
  346. {
  347. if (day.DayOfWeek is DayOfWeek.Saturday or DayOfWeek.Sunday || holidaySet.Contains(day))
  348. {
  349. continue; // 주말·휴장일 스킵 (미상환규모는 영업일 지표)
  350. }
  351. // 데이터 존재 OR 조회완료 마커 → 스킵 (미상환 0행 날도 재조회 회피, 리뷰 결함 #1). 하루 26콜(13×2) 전부 완료해야 마커.
  352. if (await db.ElsUnredeemedScale.AsNoTracking().AnyAsync(c => c.StdDt == day, ct) || await SeibroMarkers.IsSweptAsync(db, UnredScaleJobKey, day, null, ct))
  353. {
  354. continue;
  355. }
  356. foreach (var basset in Basset13)
  357. {
  358. foreach (var tpcd in UnredSecnTpcds)
  359. {
  360. ct.ThrowIfCancellationRequested();
  361. if (!quota.TryConsume(SeibroCategory.Deriv, 1, cfg.DerivBudget))
  362. {
  363. Logger.LogWarning("[{Job}] 파생 예산({Budget}) 소진 — getBassetUnredScale {Day} 부터 중단", JobName, cfg.DerivBudget, day);
  364. Logger.LogInformation("[{Job}] 미상환규모 스윕 부분완료 — 창=[{Start}~{End}], fetch={Fetched}콜", JobName, startDate, today, fetched);
  365. return; // 하루가 부분 완료면 마커를 남기지 않는다 — 다음 실행에서 그 날부터 재개
  366. }
  367. if (!first && cfg.DelayMs > 0)
  368. {
  369. await Task.Delay(cfg.DelayMs, ct);
  370. }
  371. first = false;
  372. var xml = await SeibroHttp.GetStringWithRetryAsync(client, cfg.BaseUrl, cfg.ApiKey, "getBassetUnredScale", [new("STD_DT", day.ToString("yyyyMMdd")), new("STND_BASSET_CD", basset), new("SECN_TPCD", tpcd)], Logger, ct);
  373. var rows = SeibroBassetUnredScaleParser.Parse(SeibroXml.Parse(xml));
  374. var ok = await SeibroDerivImport.UpsertUnredeemedScaleAsync(db, day, basset, tpcd, rows, ct);
  375. Logger.LogInformation("[{Job}] getBassetUnredScale {Day}/{Basset}/{Tpcd} rows={Rows} — upsert={Ok}", JobName, day, basset, tpcd, rows.Count, ok);
  376. fetched++;
  377. }
  378. }
  379. // 하루 26콜 전부 완료(0행 포함) → 조회완료 마커 기록 (다음 실행 재조회 회피)
  380. await SeibroMarkers.MarkSweptAsync(db, UnredScaleJobKey, day, null, ct);
  381. }
  382. Logger.LogInformation("[{Job}] 미상환규모 스윕 완료 — 창=[{Start}~{End}], fetch={Fetched}콜", JobName, startDate, today, fetched);
  383. }
  384. }