SeibroDerivSyncService.cs 26 KB

123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129130131132133134135136137138139140141142143144145146147148149150151152153154155156157158159160161162163164165166167168169170171172173174175176177178179180181182183184185186187188189190191192193194195196197198199200201202203204205206207208209210211212213214215216217218219220221222223224225226227228229230231232233234235236237238239240241242243244245246247248249250251252253254255256257258259260261262263264265266267268269270271272273274275276277278279280281282283284285286287288289290291292293294295296297298299300301302303304305306307308309310311312313314315316317318319320321322323324325326327328329330331332333334335336337338339340341342343344345346347348349350351352353354355356357358359360361362363364365366367368369370371372373374375376377378379380381382383384385386387388389390391392393394395396397398399400401402403404405406407408409410411412413414415416417418419420421422423424425426427428429430431432433434435436437438439440441442443444445446447448449450451452453454455456457458459460461462463464465466467468469470471472473474475476477478479
  1. using Application.Abstractions.Data;
  2. using Application.Helpers;
  3. using Microsoft.EntityFrameworkCore;
  4. using Microsoft.Extensions.DependencyInjection;
  5. using Microsoft.Extensions.Logging;
  6. using Microsoft.Extensions.Options;
  7. using SharedKernel;
  8. namespace Infrastructure.StockData;
  9. /// <summary>
  10. /// SEIBro 파생결합증권 ELS/DLS 수집 (Wave 5) — 기본 08:00 KST(BondSync 07:40 다음 슬롯), `Seibro:DerivSync` 게이트.
  11. /// 전 단계가 파생(Deriv) 예산(Seibro:DerivBudget)을 공유한다.
  12. ///
  13. /// a) DerivIssuance: getDerivCombiIssuInfo 날짜 스윕(ISSU_DT) × 종류 SECN_KACD{4101,4102,4301,4302} 3년 → 발견(다수 종목/일).
  14. /// b) DerivMaster rolling: 대상 = DerivIssuance.Isin 미수집·stale → getDerivCombiIsinInfo(ISIN) → PK Isin upsert.
  15. /// c) DerivAsset / DerivAssetExercise / DerivRedemptionCondition rolling: DerivMaster 있는 ISIN → getAssetInfo/getAssetXrcInfo/getRedCondiInfo(ISIN) → upsert.
  16. /// d) DerivRedemption: getRedIsinInfo 날짜 스윕(RED_DT) × 종류{4101,4102,4301,4302} 3년 → 상환일×종류 window delete+insert.
  17. /// e) ElsUnredeemedScale: getBassetUnredScale 일별 13기초자산(STND_BASSET_CD, KSD02* 13종) × SECN_TPCD{41,43} = 최대 26콜/일 3년 스윕(KrxBackfill 영업일).
  18. ///
  19. /// 실패/0행 = 정상 빈결과. HTTP·파싱 오류 = 경고 + false(RetryDelay 후 재시도). quota 소진 = 정상 종료(true). ApiKey 미설정 시 skip.
  20. /// ⚠️ getDerivCombiIssuInfo 요청 파라미터명 미해결 — 가이드에 SECN_TPCD:41 vs SECN_KACD:4101 혼재. 스펙 기준(SECN_KACD 종류코드)으로 구현했으나
  21. /// **라이브 1콜로 파라미터명 확정 필요**(4101/4102/4301/4302). getRedIsinInfo 는 SECN_KACD(4101 등), getBassetUnredScale 는 SECN_TPCD(41/43 2자리) — API별 문서대로.
  22. /// ⚠️ 기초자산코드 2체계: getBassetUnredScale 입력 STND_BASSET_CD=KSD02*(13종) vs getAssetInfo 반환 KSD31* — 매핑 흡수 없이 원문 저장(엔티티 주석 참조).
  23. /// ⚠️ 파생결합 유니버스 큼(일 수십~수백 발행) → rolling 최근발행 우선 + resumable(여러 날 자동 완성).
  24. /// </summary>
  25. internal sealed class SeibroDerivSyncService(
  26. IServiceScopeFactory scopeFactory,
  27. IHttpClientFactory httpClientFactory,
  28. SeibroQuota quota,
  29. IOptions<AppSettings> settings,
  30. ILogger<SeibroDerivSyncService> logger
  31. ) : DailyScheduledService(logger)
  32. {
  33. // 종목종류코드 (SECN_KACD) — 4101ELS 4102ELB 4301DLS 4302DLB. getDerivCombiIssuInfo·getRedIsinInfo 요청 파라미터.
  34. // ⚠️ getDerivCombiIssuInfo 는 파라미터명이 SECN_TPCD vs SECN_KACD 미해결 — 스펙(종류코드 4101…) 기준, 라이브 1콜로 확정 필요.
  35. private static readonly string[] DerivSecnKacds = ["4101", "4102", "4301", "4302"];
  36. // 미상환규모 종목구분 (SECN_TPCD) — 41ELS 43DLS. getBassetUnredScale 요청 파라미터(2자리).
  37. private static readonly string[] UnredSecnTpcds = ["41", "43"];
  38. // 주요 기초자산코드 (STND_BASSET_CD, 13종) — getBassetUnredScale 입력 KSD02* 체계 (파생결합증권.md §헤더 확정).
  39. private static readonly string[] Basset13 =
  40. [
  41. "KSD090000101", // Brent
  42. "KSD090000201", // WTI
  43. "KSD100000101", // 금
  44. "KSD100000201", // 은
  45. "KSD010000101", // KOSPI200
  46. "KSD020000101", // EURO STOXX 50
  47. "KSD020000201", // HSCEI(항셍H)
  48. "KSD020000301", // S&P500
  49. "KSD020000401", // FTSE100
  50. "KSD020000501", // NIKKEI225
  51. "KSD020000601", // DOW JONES
  52. "KSD020000901", // DAX
  53. "KSD020001901" // HSI
  54. ];
  55. // 마커 job 키 (리뷰 결함 #1) — 정상 0행/조용한 날 재조회·starvation 해소
  56. private const string IssuanceJobKey = "deriv-issuance"; // date-sweep (SweptDate, Discriminator=kacd)
  57. private const string RedemptionJobKey = "deriv-redemption"; // date-sweep (SweptDate, Discriminator=kacd)
  58. private const string UnredScaleJobKey = "deriv-unredscale"; // date-sweep (SweptDate, per-day)
  59. private const string MasterJobKey = "deriv-master"; // rolling (FetchMarker, key=ISIN)
  60. private const string AssetJobKey = "deriv-asset"; // rolling (FetchMarker, key=ISIN)
  61. private const string AssetXrcJobKey = "deriv-assetxrc"; // rolling (FetchMarker, key=ISIN)
  62. private const string RedCondiJobKey = "deriv-redcondi"; // rolling (FetchMarker, key=ISIN)
  63. protected override string JobName => "SeibroDerivSync";
  64. protected override TimeOnly TargetTime => ParseTime(settings.Value.Seibro.DerivSyncTime, new TimeOnly(8, 0));
  65. protected override int MaxRetryCount => 2;
  66. protected override TimeSpan RetryDelay => TimeSpan.FromHours(2);
  67. protected override async Task<bool> RunOnceAsync(DateOnly todayKst, CancellationToken ct)
  68. {
  69. var cfg = settings.Value.Seibro;
  70. if (string.IsNullOrWhiteSpace(cfg.ApiKey))
  71. {
  72. Logger.LogWarning("[{Job}] Seibro:ApiKey 미설정 — 수집 skip", JobName);
  73. return true;
  74. }
  75. using var scope = scopeFactory.CreateScope();
  76. var db = scope.ServiceProvider.GetRequiredService<IAppDbContext>();
  77. var client = httpClientFactory.CreateClient(SeibroHttp.ClientName);
  78. var years = cfg.BackfillYears > 0 ? cfg.BackfillYears : 3;
  79. var startDate = todayKst.AddYears(-years);
  80. try
  81. {
  82. // a) 파생결합 발행 날짜 스윕 × 종류 (Deriv) — DerivMaster 발견 소스
  83. if (!await SweepIssuancesAsync(db, client, cfg, startDate, todayKst, ct))
  84. {
  85. return true;
  86. }
  87. // b) DerivMaster rolling per-ISIN (Deriv) — DerivIssuance 미수집·stale 우선
  88. if (!await RollMastersAsync(db, client, cfg, ct))
  89. {
  90. return true;
  91. }
  92. // c) 기초자산 / 기초자산행사 / 상환조건 rolling per-ISIN (Deriv) — DerivMaster 있는 것
  93. if (!await RollAssetsAsync(db, client, cfg, ct))
  94. {
  95. return true;
  96. }
  97. if (!await RollAssetExercisesAsync(db, client, cfg, ct))
  98. {
  99. return true;
  100. }
  101. if (!await RollRedemptionConditionsAsync(db, client, cfg, ct))
  102. {
  103. return true;
  104. }
  105. // d) 상환종목 날짜 스윕 × 종류 (Deriv)
  106. if (!await SweepRedemptionsAsync(db, client, cfg, startDate, todayKst, ct))
  107. {
  108. return true;
  109. }
  110. // e) 기초자산별 미상환규모 일별 13×2 스윕 (Deriv, 영업일)
  111. await SweepUnredeemedScaleAsync(db, client, cfg, startDate, todayKst, ct);
  112. return true;
  113. }
  114. catch (Exception ex) when (ex is HttpRequestException or System.Xml.XmlException or FormatException)
  115. {
  116. Logger.LogWarning(ex, "[{Job}] SEIBro 호출/파싱 실패 — run 중단, {Delay} 후 재시도 (최대 {Max}회)", JobName, RetryDelay, MaxRetryCount);
  117. return false;
  118. }
  119. }
  120. /// <summary>
  121. /// a) 파생결합 발행 날짜 스윕(ISSU_DT, 최신→과거) × 종류 SECN_KACD{4101,4102,4301,4302} — 미적재 (발행일,종류)만.
  122. /// 발행일당 다수 종목 upsert(UQ Isin, SECN_KACD·ISSU_DT 스탬핑). 예산 소진 시 false. 발견분이 (b) 마스터 rolling 대상.
  123. /// ⚠️ 발행일은 영업일 성격이나 스펙 확정 불가라 전 캘린더일 스윕(보수적, 기존 SEIBro 배치 판단과 동일).
  124. /// ⚠️ SECN_KACD 파라미터명 미해결 — 라이브 1콜로 확정 필요(가이드 SECN_TPCD:41 vs SECN_KACD:4101 혼재).
  125. /// </summary>
  126. private async Task<bool> SweepIssuancesAsync(IAppDbContext db, HttpClient client, AppSettings.SeibroSection cfg, DateOnly startDate, DateOnly today, CancellationToken ct)
  127. {
  128. var fetched = 0;
  129. var first = true;
  130. for (var day = today; day >= startDate; day = day.AddDays(-1))
  131. {
  132. foreach (var kacd in DerivSecnKacds)
  133. {
  134. ct.ThrowIfCancellationRequested();
  135. // 데이터 존재 OR 조회완료 마커(축=kacd) → 스킵 (발행 없는 (일,종류)도 재조회 회피, 리뷰 결함 #1)
  136. if (await db.DerivIssuance.AsNoTracking().AnyAsync(c => c.IssuDt == day && c.SecnKacd == kacd, ct) || await SeibroMarkers.IsSweptAsync(db, IssuanceJobKey, day, kacd, ct))
  137. {
  138. continue;
  139. }
  140. if (!quota.TryConsume(SeibroCategory.Deriv, 1, cfg.DerivBudget))
  141. {
  142. Logger.LogWarning("[{Job}] 파생 예산({Budget}) 소진 — getDerivCombiIssuInfo {Day}/{Kacd} 부터 중단", JobName, cfg.DerivBudget, day, kacd);
  143. return false;
  144. }
  145. if (!first && cfg.DelayMs > 0)
  146. {
  147. await Task.Delay(cfg.DelayMs, ct);
  148. }
  149. first = false;
  150. // SECN_KACD 파라미터명은 라이브 1콜로 확정 필요 (스펙 기준 종류코드 사용)
  151. var xml = await SeibroHttp.GetStringWithRetryAsync(client, cfg.BaseUrl, cfg.ApiKey, "getDerivCombiIssuInfo", [new("ISSU_DT", day.ToString("yyyyMMdd")), new("SECN_KACD", kacd)], Logger, ct);
  152. var rows = SeibroDerivCombiIssuParser.Parse(SeibroXml.Parse(xml));
  153. var (inserted, updated) = await SeibroDerivImport.UpsertDerivIssuancesAsync(db, kacd, day, rows, ct);
  154. await SeibroMarkers.MarkSweptAsync(db, IssuanceJobKey, day, kacd, ct); // 0행 포함 조회완료 기록
  155. Logger.LogInformation("[{Job}] getDerivCombiIssuInfo {Day}/{Kacd} rows={Rows} — inserted={Inserted}, updated={Updated}", JobName, day, kacd, rows.Count, inserted, updated);
  156. fetched++;
  157. }
  158. }
  159. Logger.LogInformation("[{Job}] 파생 발행 스윕 완료 — 창=[{Start}~{End}], fetch={Fetched}콜", JobName, startDate, today, fetched);
  160. return true;
  161. }
  162. /// <summary>
  163. /// b) DerivMaster rolling — DerivIssuance.Isin 중 DerivMaster 미수집·stale 우선.
  164. /// getDerivCombiIsinInfo(ISIN) 1콜(Deriv) → PK Isin upsert(ISIN 요청값 스탬핑). 예산 소진 시 false.
  165. /// </summary>
  166. private async Task<bool> RollMastersAsync(IAppDbContext db, HttpClient client, AppSettings.SeibroSection cfg, CancellationToken ct)
  167. {
  168. var issuedIsins = await db.DerivIssuance.AsNoTracking().Select(c => c.Isin).Distinct().ToListAsync(ct);
  169. if (issuedIsins.Count == 0)
  170. {
  171. Logger.LogInformation("[{Job}] getDerivCombiIsinInfo 대상 없음 (DerivIssuance 비어 있음)", JobName);
  172. return true;
  173. }
  174. // 조회 시도(0행 포함) 마커 기준 정렬 — 정보 없는 ISIN 도 재조회 회피(#1)
  175. var markers = await SeibroMarkers.LoadFetchMarkersAsync(db, MasterJobKey, ct);
  176. var targets = issuedIsins.Select(isin => (Key: isin, LastUpdatedAt: markers.TryGetValue(isin, out var last) ? (DateTime?)last : null)).ToList();
  177. var maxPerRun = quota.Remaining(SeibroCategory.Deriv, cfg.DerivBudget);
  178. var quotaExhausted = false;
  179. var processed = await SeibroRollingSweep.RunAsync(
  180. targets: targets,
  181. fetchAndUpsert: async (isin, token) => {
  182. if (!quota.TryConsume(SeibroCategory.Deriv, 1, cfg.DerivBudget))
  183. {
  184. quotaExhausted = true;
  185. return;
  186. }
  187. var xml = await SeibroHttp.GetStringWithRetryAsync(client, cfg.BaseUrl, cfg.ApiKey, "getDerivCombiIsinInfo", [new("ISIN", isin)], Logger, token);
  188. var rows = SeibroDerivCombiIsinParser.Parse(SeibroXml.Parse(xml));
  189. var ok = await SeibroDerivImport.UpsertDerivMasterAsync(db, isin, rows, token);
  190. await SeibroMarkers.TouchFetchMarkerAsync(db, MasterJobKey, isin, token);
  191. Logger.LogInformation("[{Job}] getDerivCombiIsinInfo ISIN={Isin} rows={Rows} — upsert={Ok}", JobName, isin, rows.Count, ok);
  192. },
  193. maxPerRun: maxPerRun,
  194. delayMs: cfg.DelayMs,
  195. ct: ct);
  196. Logger.LogInformation("[{Job}] 파생 마스터 rolling 완료 — 발견={Issued}, 처리={Processed} (maxPerRun={Max})", JobName, issuedIsins.Count, processed, maxPerRun);
  197. return !quotaExhausted;
  198. }
  199. /// <summary>
  200. /// c-1) 기초자산 rolling — DerivMaster 있는 ISIN 중 DerivAsset 미수집·stale 우선.
  201. /// getAssetInfo(ISIN) 1콜(Deriv) → UQ(Isin,AssetSeq) upsert(ISIN 요청값 스탬핑, StndBassetCd 원문). 예산 소진 시 false.
  202. /// stale 판정: 해당 ISIN 의 DerivAsset 최신 UpdatedAt(없으면 미수집 → 최우선).
  203. /// </summary>
  204. private async Task<bool> RollAssetsAsync(IAppDbContext db, HttpClient client, AppSettings.SeibroSection cfg, CancellationToken ct)
  205. {
  206. var masterIsins = await db.DerivMaster.AsNoTracking().Select(c => c.Isin).ToListAsync(ct);
  207. if (masterIsins.Count == 0)
  208. {
  209. Logger.LogInformation("[{Job}] getAssetInfo 대상 없음 (DerivMaster 비어 있음)", JobName);
  210. return true;
  211. }
  212. // 조회 시도(0행 포함) 마커 기준 정렬 — 기초자산 없는 ISIN 도 재조회 회피(#1)
  213. var markers = await SeibroMarkers.LoadFetchMarkersAsync(db, AssetJobKey, ct);
  214. var targets = masterIsins.Select(isin => (Key: isin, LastUpdatedAt: markers.TryGetValue(isin, out var last) ? (DateTime?)last : null)).ToList();
  215. var maxPerRun = quota.Remaining(SeibroCategory.Deriv, cfg.DerivBudget);
  216. var quotaExhausted = false;
  217. var processed = await SeibroRollingSweep.RunAsync(
  218. targets: targets,
  219. fetchAndUpsert: async (isin, token) => {
  220. if (!quota.TryConsume(SeibroCategory.Deriv, 1, cfg.DerivBudget))
  221. {
  222. quotaExhausted = true;
  223. return;
  224. }
  225. var xml = await SeibroHttp.GetStringWithRetryAsync(client, cfg.BaseUrl, cfg.ApiKey, "getAssetInfo", [new("ISIN", isin)], Logger, token);
  226. var rows = SeibroAssetParser.Parse(SeibroXml.Parse(xml));
  227. var (inserted, updated) = await SeibroDerivImport.UpsertDerivAssetsAsync(db, isin, rows, token);
  228. await SeibroMarkers.TouchFetchMarkerAsync(db, AssetJobKey, isin, token);
  229. Logger.LogInformation("[{Job}] getAssetInfo ISIN={Isin} rows={Rows} — inserted={Inserted}, updated={Updated}", JobName, isin, rows.Count, inserted, updated);
  230. },
  231. maxPerRun: maxPerRun,
  232. delayMs: cfg.DelayMs,
  233. ct: ct);
  234. Logger.LogInformation("[{Job}] 기초자산 rolling 완료 — 대상={Targets}, 처리={Processed} (maxPerRun={Max})", JobName, targets.Count, processed, maxPerRun);
  235. return !quotaExhausted;
  236. }
  237. /// <summary>
  238. /// c-2) 기초자산 행사정보 rolling — DerivMaster 있는 ISIN 중 DerivAssetExercise 미수집·stale 우선.
  239. /// getAssetXrcInfo(ISIN) 1콜(Deriv) → UQ(Isin,AssetSeq,XrcStdSeq) upsert(ISIN 요청값 스탬핑). 예산 소진 시 false.
  240. /// </summary>
  241. private async Task<bool> RollAssetExercisesAsync(IAppDbContext db, HttpClient client, AppSettings.SeibroSection cfg, CancellationToken ct)
  242. {
  243. var masterIsins = await db.DerivMaster.AsNoTracking().Select(c => c.Isin).ToListAsync(ct);
  244. if (masterIsins.Count == 0)
  245. {
  246. return true;
  247. }
  248. // 조회 시도(0행 포함) 마커 기준 정렬 — 기초자산 행사 없는 ISIN 도 재조회 회피(#1)
  249. var markers = await SeibroMarkers.LoadFetchMarkersAsync(db, AssetXrcJobKey, ct);
  250. var targets = masterIsins.Select(isin => (Key: isin, LastUpdatedAt: markers.TryGetValue(isin, out var last) ? (DateTime?)last : null)).ToList();
  251. var maxPerRun = quota.Remaining(SeibroCategory.Deriv, cfg.DerivBudget);
  252. var quotaExhausted = false;
  253. var processed = await SeibroRollingSweep.RunAsync(
  254. targets: targets,
  255. fetchAndUpsert: async (isin, token) => {
  256. if (!quota.TryConsume(SeibroCategory.Deriv, 1, cfg.DerivBudget))
  257. {
  258. quotaExhausted = true;
  259. return;
  260. }
  261. var xml = await SeibroHttp.GetStringWithRetryAsync(client, cfg.BaseUrl, cfg.ApiKey, "getAssetXrcInfo", [new("ISIN", isin)], Logger, token);
  262. var rows = SeibroAssetXrcParser.Parse(SeibroXml.Parse(xml));
  263. var (inserted, updated) = await SeibroDerivImport.UpsertDerivAssetExercisesAsync(db, isin, rows, token);
  264. await SeibroMarkers.TouchFetchMarkerAsync(db, AssetXrcJobKey, isin, token);
  265. Logger.LogInformation("[{Job}] getAssetXrcInfo ISIN={Isin} rows={Rows} — inserted={Inserted}, updated={Updated}", JobName, isin, rows.Count, inserted, updated);
  266. },
  267. maxPerRun: maxPerRun,
  268. delayMs: cfg.DelayMs,
  269. ct: ct);
  270. Logger.LogInformation("[{Job}] 기초자산 행사 rolling 완료 — 대상={Targets}, 처리={Processed} (maxPerRun={Max})", JobName, targets.Count, processed, maxPerRun);
  271. return !quotaExhausted;
  272. }
  273. /// <summary>
  274. /// c-3) 상환조건 rolling — DerivMaster 있는 ISIN 중 DerivRedemptionCondition 미수집·stale 우선.
  275. /// getRedCondiInfo(ISIN) 1콜(Deriv) → UQ(Isin,RedCondiTpcd,ValatNtimesSeq) upsert(ISIN 요청값 스탬핑, 1000자 텍스트). 예산 소진 시 false.
  276. /// </summary>
  277. private async Task<bool> RollRedemptionConditionsAsync(IAppDbContext db, HttpClient client, AppSettings.SeibroSection cfg, CancellationToken ct)
  278. {
  279. var masterIsins = await db.DerivMaster.AsNoTracking().Select(c => c.Isin).ToListAsync(ct);
  280. if (masterIsins.Count == 0)
  281. {
  282. return true;
  283. }
  284. // 조회 시도(0행 포함) 마커 기준 정렬 — 상환조건 없는 ISIN 도 재조회 회피(#1)
  285. var markers = await SeibroMarkers.LoadFetchMarkersAsync(db, RedCondiJobKey, ct);
  286. var targets = masterIsins.Select(isin => (Key: isin, LastUpdatedAt: markers.TryGetValue(isin, out var last) ? (DateTime?)last : null)).ToList();
  287. var maxPerRun = quota.Remaining(SeibroCategory.Deriv, cfg.DerivBudget);
  288. var quotaExhausted = false;
  289. var processed = await SeibroRollingSweep.RunAsync(
  290. targets: targets,
  291. fetchAndUpsert: async (isin, token) => {
  292. if (!quota.TryConsume(SeibroCategory.Deriv, 1, cfg.DerivBudget))
  293. {
  294. quotaExhausted = true;
  295. return;
  296. }
  297. var xml = await SeibroHttp.GetStringWithRetryAsync(client, cfg.BaseUrl, cfg.ApiKey, "getRedCondiInfo", [new("ISIN", isin)], Logger, token);
  298. var rows = SeibroRedCondiParser.Parse(SeibroXml.Parse(xml));
  299. var (inserted, updated) = await SeibroDerivImport.UpsertDerivRedemptionConditionsAsync(db, isin, rows, token);
  300. await SeibroMarkers.TouchFetchMarkerAsync(db, RedCondiJobKey, isin, token);
  301. Logger.LogInformation("[{Job}] getRedCondiInfo ISIN={Isin} rows={Rows} — inserted={Inserted}, updated={Updated}", JobName, isin, rows.Count, inserted, updated);
  302. },
  303. maxPerRun: maxPerRun,
  304. delayMs: cfg.DelayMs,
  305. ct: ct);
  306. Logger.LogInformation("[{Job}] 상환조건 rolling 완료 — 대상={Targets}, 처리={Processed} (maxPerRun={Max})", JobName, targets.Count, processed, maxPerRun);
  307. return !quotaExhausted;
  308. }
  309. /// <summary>
  310. /// d) 상환종목 날짜 스윕(RED_DT, 최신→과거) × 종류 SECN_KACD{4101,4102,4301,4302} — 미적재 (상환일,종류)만.
  311. /// 상환일×종류 window delete+insert(UQ Isin+RedDt+DerisecExerTpcd, RED_DT·SECN_KACD 스탬핑). 예산 소진 시 false.
  312. /// ⚠️ 상환일은 영업일 성격이나 스펙 확정 불가라 전 캘린더일 스윕(보수적). resumable: 해당 (상환일,종류) 스탬핑 존재 여부.
  313. /// </summary>
  314. private async Task<bool> SweepRedemptionsAsync(IAppDbContext db, HttpClient client, AppSettings.SeibroSection cfg, DateOnly startDate, DateOnly today, CancellationToken ct)
  315. {
  316. var fetched = 0;
  317. var first = true;
  318. for (var day = today; day >= startDate; day = day.AddDays(-1))
  319. {
  320. foreach (var kacd in DerivSecnKacds)
  321. {
  322. ct.ThrowIfCancellationRequested();
  323. // 데이터 존재 OR 조회완료 마커(축=kacd) → 스킵 (상환 없는 (일,종류)도 재조회 회피, 리뷰 결함 #1)
  324. if (await db.DerivRedemption.AsNoTracking().AnyAsync(c => c.RedDt == day && c.SecnKacd == kacd, ct) || await SeibroMarkers.IsSweptAsync(db, RedemptionJobKey, day, kacd, ct))
  325. {
  326. continue;
  327. }
  328. if (!quota.TryConsume(SeibroCategory.Deriv, 1, cfg.DerivBudget))
  329. {
  330. Logger.LogWarning("[{Job}] 파생 예산({Budget}) 소진 — getRedIsinInfo {Day}/{Kacd} 부터 중단", JobName, cfg.DerivBudget, day, kacd);
  331. return false;
  332. }
  333. if (!first && cfg.DelayMs > 0)
  334. {
  335. await Task.Delay(cfg.DelayMs, ct);
  336. }
  337. first = false;
  338. var xml = await SeibroHttp.GetStringWithRetryAsync(client, cfg.BaseUrl, cfg.ApiKey, "getRedIsinInfo", [new("RED_DT", day.ToString("yyyyMMdd")), new("SECN_KACD", kacd)], Logger, ct);
  339. var rows = SeibroRedIsinParser.Parse(SeibroXml.Parse(xml));
  340. var (inserted, deleted) = await SeibroDerivImport.ReplaceRedemptionWindowAsync(db, kacd, day, day, rows, ct);
  341. await SeibroMarkers.MarkSweptAsync(db, RedemptionJobKey, day, kacd, ct); // 0행 포함 조회완료 기록
  342. Logger.LogInformation("[{Job}] getRedIsinInfo {Day}/{Kacd} rows={Rows} — inserted={Inserted}, deleted={Deleted}", JobName, day, kacd, rows.Count, inserted, deleted);
  343. fetched++;
  344. }
  345. }
  346. Logger.LogInformation("[{Job}] 상환종목 스윕 완료 — 창=[{Start}~{End}], fetch={Fetched}콜", JobName, startDate, today, fetched);
  347. return true;
  348. }
  349. /// <summary>
  350. /// e) 기초자산별 미상환규모 스윕 — 영업일(KrxBackfill) × 13기초자산(KSD02*) × SECN_TPCD{41,43} = 최대 26콜/일.
  351. /// 미상환규모는 영업일 기준(장중 지표)이라 KrxBackfill.EnumerateBusinessDaysDescending 재사용, resumable(existsForDate 스킵).
  352. /// UQ(StdDt,StndBassetCd,SecnTpcd) upsert(3종 요청값 스탬핑). 예산 소진 시 즉시 종료.
  353. /// </summary>
  354. private async Task SweepUnredeemedScaleAsync(IAppDbContext db, HttpClient client, AppSettings.SeibroSection cfg, DateOnly startDate, DateOnly today, CancellationToken ct)
  355. {
  356. var holidays = await db.MarketHoliday.AsNoTracking().Select(c => c.Date).ToListAsync(ct);
  357. var holidaySet = holidays.ToHashSet();
  358. var fetched = 0;
  359. var first = true;
  360. for (var day = today; day >= startDate; day = day.AddDays(-1))
  361. {
  362. if (day.DayOfWeek is DayOfWeek.Saturday or DayOfWeek.Sunday || holidaySet.Contains(day))
  363. {
  364. continue; // 주말·휴장일 스킵 (미상환규모는 영업일 지표)
  365. }
  366. // 데이터 존재 OR 조회완료 마커 → 스킵 (미상환 0행 날도 재조회 회피, 리뷰 결함 #1). 하루 26콜(13×2) 전부 완료해야 마커.
  367. if (await db.ElsUnredeemedScale.AsNoTracking().AnyAsync(c => c.StdDt == day, ct) || await SeibroMarkers.IsSweptAsync(db, UnredScaleJobKey, day, null, ct))
  368. {
  369. continue;
  370. }
  371. foreach (var basset in Basset13)
  372. {
  373. foreach (var tpcd in UnredSecnTpcds)
  374. {
  375. ct.ThrowIfCancellationRequested();
  376. if (!quota.TryConsume(SeibroCategory.Deriv, 1, cfg.DerivBudget))
  377. {
  378. Logger.LogWarning("[{Job}] 파생 예산({Budget}) 소진 — getBassetUnredScale {Day} 부터 중단", JobName, cfg.DerivBudget, day);
  379. Logger.LogInformation("[{Job}] 미상환규모 스윕 부분완료 — 창=[{Start}~{End}], fetch={Fetched}콜", JobName, startDate, today, fetched);
  380. return; // 하루가 부분 완료면 마커를 남기지 않는다 — 다음 실행에서 그 날부터 재개
  381. }
  382. if (!first && cfg.DelayMs > 0)
  383. {
  384. await Task.Delay(cfg.DelayMs, ct);
  385. }
  386. first = false;
  387. var xml = await SeibroHttp.GetStringWithRetryAsync(client, cfg.BaseUrl, cfg.ApiKey, "getBassetUnredScale", [new("STD_DT", day.ToString("yyyyMMdd")), new("STND_BASSET_CD", basset), new("SECN_TPCD", tpcd)], Logger, ct);
  388. var rows = SeibroBassetUnredScaleParser.Parse(SeibroXml.Parse(xml));
  389. var ok = await SeibroDerivImport.UpsertUnredeemedScaleAsync(db, day, basset, tpcd, rows, ct);
  390. Logger.LogInformation("[{Job}] getBassetUnredScale {Day}/{Basset}/{Tpcd} rows={Rows} — upsert={Ok}", JobName, day, basset, tpcd, rows.Count, ok);
  391. fetched++;
  392. }
  393. }
  394. // 하루 26콜 전부 완료(0행 포함) → 조회완료 마커 기록 (다음 실행 재조회 회피)
  395. await SeibroMarkers.MarkSweptAsync(db, UnredScaleJobKey, day, null, ct);
  396. }
  397. Logger.LogInformation("[{Job}] 미상환규모 스윕 완료 — 창=[{Start}~{End}], fetch={Fetched}콜", JobName, startDate, today, fetched);
  398. }
  399. }