KrxDailyPriceSyncService.cs 8.6 KB

123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129130131132133134135136137138139140141142143144145146147148149150151152153154155156157158159160161162163164165166167168169170171172173174175176
  1. using Application.Abstractions.Data;
  2. using Application.Helpers;
  3. using Domain.Entities.Stocks;
  4. using Domain.Entities.Stocks.ValueObject;
  5. using Microsoft.EntityFrameworkCore;
  6. using Microsoft.Extensions.DependencyInjection;
  7. using Microsoft.Extensions.Logging;
  8. using Microsoft.Extensions.Options;
  9. using SharedKernel;
  10. namespace Infrastructure.StockData;
  11. /// <summary>
  12. /// 일별 마감 시세 수집 (KRX OpenAPI) — stk_bydd_trd(KOSPI) + ksq_bydd_trd(KOSDAQ) + knx_bydd_trd(KONEX) 일별매매정보.
  13. /// 기본 18:10 KST 실행(장 마감 15:30 이후 확정). 공용 KrxBackfill 로 최근 BackfillYears(기본 3)년치를 endDate(직전 영업일)부터
  14. /// 과거로 훑으며 미적재일만 채운다. quota 보호를 위해 1회 실행당 BackfillMaxPerRun(기본 60)일까지만 fetch →
  15. /// 여러 날에 걸쳐 3년치를 메우고 이후엔 최신만 유지한다. 각 날짜는 3개 시장 엔드포인트를 모두 수집해
  16. /// StockDailyPrice upsert (StockID+TradingDate) + Stock.UpdateLastPrice denorm(최근 종가/등락률/시총) 갱신.
  17. /// existsForDate 는 Stock.Market 조인으로 3개 시장이 전부 적재됐을 때만 skip (일부 시장만 성공한 부분 적재 날짜는 재수집 — 영구 결손 방지).
  18. /// (denorm 은 Stock.UpdateLastPrice 가 최신일보다 과거일이면 무시하므로 과거 백필이 최신값을 덮지 않는다.)
  19. /// 마스터 미동기화 코드는 skip (다음 마스터 동기화 후 자연 반영).
  20. /// ApiKey 미설정 시 로그만 남기고 skip (다른 KRX 배치와 동일 정책).
  21. /// KONEX 응답 필드셋은 KOSPI/KOSDAQ 과 동일(ISU_CD/TDD_*/ACC_*/MKTCAP/LIST_SHRS) — KrxStockParser 재사용.
  22. /// </summary>
  23. internal sealed class KrxDailyPriceSyncService(
  24. IServiceScopeFactory scopeFactory,
  25. IHttpClientFactory httpClientFactory,
  26. IOptions<AppSettings> settings,
  27. ILogger<KrxDailyPriceSyncService> logger
  28. ) : DailyScheduledService(logger)
  29. {
  30. // (시장, 엔드포인트 경로) — KOSPI/KOSDAQ/KONEX. 세 시장 모두 StockDailyPrice 에 동일 스키마로 적재된다.
  31. private static readonly (StockMarket Market, string Path)[] Endpoints =
  32. [
  33. (StockMarket.KOSPI, "/svc/apis/sto/stk_bydd_trd"),
  34. (StockMarket.KOSDAQ, "/svc/apis/sto/ksq_bydd_trd"),
  35. (StockMarket.KONEX, "/svc/apis/sto/knx_bydd_trd")
  36. ];
  37. // 시장별 데이터 시작일 (docs/KRX/readme.md — KONEX 는 2013-07-01 개장)
  38. private static readonly (StockMarket Market, DateOnly DataStartDate)[] MarketStartDates =
  39. [
  40. (StockMarket.KOSPI, new DateOnly(2010, 1, 4)),
  41. (StockMarket.KOSDAQ, new DateOnly(2010, 1, 4)),
  42. (StockMarket.KONEX, new DateOnly(2013, 7, 1))
  43. ];
  44. protected override string JobName => "KrxDailyPriceSync";
  45. protected override TimeOnly TargetTime => ParseTime(settings.Value.KRXCoKr.StockSyncTime, new TimeOnly(18, 10));
  46. protected override int MaxRetryCount => 2;
  47. protected override TimeSpan RetryDelay => TimeSpan.FromHours(2);
  48. protected override async Task<bool> RunOnceAsync(DateOnly todayKst, CancellationToken ct)
  49. {
  50. var cfg = settings.Value.KRXCoKr;
  51. using var scope = scopeFactory.CreateScope();
  52. var collectorSettings = scope.ServiceProvider.GetRequiredService<ICollectorSettingsProvider>();
  53. if (!await collectorSettings.IsEnabledAsync(CollectorFlag.KrxStock, ct))
  54. {
  55. return true;
  56. }
  57. cfg = cfg with { ApiKey = await collectorSettings.GetKeyAsync(CollectorKey.Krx, ct) ?? cfg.ApiKey };
  58. var db = scope.ServiceProvider.GetRequiredService<IAppDbContext>();
  59. if (string.IsNullOrWhiteSpace(cfg.ApiKey))
  60. {
  61. Logger.LogWarning("[{Job}] KRXCoKr:ApiKey 미설정 — 수집 skip", JobName);
  62. return true;
  63. }
  64. var client = httpClientFactory.CreateClient(KrxCoKrHttp.ClientName);
  65. var endDate = await MarketCalendar.GetPreviousBusinessDayAsync(db, todayKst.AddDays(1), ct);
  66. var years = cfg.BackfillYears > 0 ? cfg.BackfillYears : 3;
  67. var startDate = todayKst.AddYears(-years);
  68. // 백필 창 전체의 휴장일을 한 번에 로드 (KrxBackfill 은 주말은 자동 제외, 휴장일만 필요)
  69. var holidays = (await db.MarketHoliday.AsNoTracking()
  70. .Where(c => c.Date >= startDate && c.Date <= endDate)
  71. .Select(c => c.Date)
  72. .ToListAsync(ct)).ToHashSet();
  73. var maxPerRun = cfg.BackfillMaxPerRun > 0 ? cfg.BackfillMaxPerRun : 60;
  74. // 시장(KOSPI/KOSDAQ/KONEX)별 완전성 판정 — StockDailyPrice 엔 시장 컬럼이 없어 Stock.Market 조인으로 판정한다
  75. async Task<bool> ExistsForDateAsync(DateOnly day, CancellationToken token)
  76. {
  77. var markets = await db.StockDailyPrice.AsNoTracking().Where(c => c.TradingDate == day).Join(db.Stock.AsNoTracking(), c => c.StockID, s => s.ID, (c, s) => s.Market).Distinct().ToListAsync(token);
  78. return BackfillCompleteness.IsComplete(markets, MarketStartDates, day);
  79. }
  80. var fetched = await KrxBackfill.RunAsync(
  81. existsForDate: ExistsForDateAsync,
  82. fetchAndUpsertForDate: (day, token) => FetchAndUpsertAsync(db, client, cfg.BaseUrl, cfg.ApiKey, day, token),
  83. startDate: startDate,
  84. endDate: endDate,
  85. holidays: holidays,
  86. maxPerRun: maxPerRun,
  87. delayMs: 300,
  88. ct: ct);
  89. Logger.LogInformation("[{Job}] 완료 — 창=[{Start}~{End}], 이번 실행 fetch={Fetched}일 (maxPerRun={Max})",
  90. JobName, startDate, endDate, fetched, maxPerRun);
  91. // 최신 영업일(endDate) 데이터가 이번 실행에서도 미적재면 false → 베이스가 RetryDelay 후 재시도 (KRX T+0 마감 데이터 미반영 대비)
  92. if (!await ExistsForDateAsync(endDate, ct))
  93. {
  94. Logger.LogWarning("[{Job}] 최신 영업일 {End} 데이터 미적재 — {Delay} 후 재시도 (최대 {Max}회)", JobName, endDate, RetryDelay, MaxRetryCount);
  95. return false;
  96. }
  97. return true;
  98. }
  99. /// <summary>한 날짜에 대해 3개 시장 엔드포인트를 모두 수집하고 StockDailyPrice upsert + Stock denorm 갱신.</summary>
  100. private async Task FetchAndUpsertAsync(IAppDbContext db, HttpClient client, string baseUrl, string apiKey, DateOnly day, CancellationToken ct)
  101. {
  102. var rows = new List<KrxStockParser.DailyPriceItem>();
  103. foreach (var (market, path) in Endpoints)
  104. {
  105. var url = $"{baseUrl.TrimEnd('/')}{path}?basDd={day:yyyyMMdd}";
  106. var json = await KrxCoKrHttp.GetStringWithRetryAsync(client, url, apiKey, Logger, ct);
  107. var parsed = KrxStockParser.ParseDailyPrices(json, market);
  108. Logger.LogInformation("[{Job}] {Market} basDd={Day} rows={Rows}", JobName, market, day, parsed.Count);
  109. rows.AddRange(parsed);
  110. }
  111. if (rows.Count == 0)
  112. {
  113. Logger.LogInformation("[{Job}] basDd={Day} 시세 미반영 (0건)", JobName, day);
  114. return;
  115. }
  116. var stockByCode = await db.Stock.ToDictionaryAsync(c => c.Code, ct);
  117. var existingByStockID = await db.StockDailyPrice.Where(c => c.TradingDate == day).ToDictionaryAsync(c => c.StockID, ct);
  118. var inserted = 0;
  119. var updated = 0;
  120. var unknown = 0;
  121. foreach (var row in rows)
  122. {
  123. if (!stockByCode.TryGetValue(row.Code, out var stock))
  124. {
  125. // 마스터 미동기화 종목 — 다음 마스터 동기화 후 자연 반영 (DailyPriceSyncService 와 동일 정책)
  126. unknown++;
  127. continue;
  128. }
  129. if (existingByStockID.TryGetValue(stock.ID, out var price))
  130. {
  131. price.Update(row.Open, row.High, row.Low, row.Close, row.Volume, row.TradingValue, row.ChangeAmount, row.ChangeRate, row.MarketCap, row.ListedShares);
  132. updated++;
  133. }
  134. else
  135. {
  136. var created = StockDailyPrice.Create(stock.ID, row.TradingDate, row.Open, row.High, row.Low, row.Close, row.Volume, row.TradingValue, row.ChangeAmount, row.ChangeRate, row.MarketCap, row.ListedShares);
  137. await db.StockDailyPrice.AddAsync(created, ct);
  138. existingByStockID[stock.ID] = created;
  139. inserted++;
  140. }
  141. stock.UpdateLastPrice(row.TradingDate, row.Close, row.ChangeRate, row.MarketCap);
  142. }
  143. await db.SaveChangesAsync(ct);
  144. Logger.LogInformation("[{Job}] basDd={Day} 적재 — rows={Rows}, inserted={Inserted}, updated={Updated}, unknownCode={Unknown}",
  145. JobName, day, rows.Count, inserted, updated, unknown);
  146. }
  147. }