下单快发货慢:一个 JOIN SQL 引起 SqlClient 读取数据慢的奇特问题

  • 时间:
  • 浏览:1

更新:你你你这个 那些的问题是 System.Data.SqlClient 的另2个 bug 引起的,详见 坑暗花明:又遇 .NET Core 中 System.Data.SqlClient 查询缓慢的那些的问题

最近遇到另2个 非常奇特的那些的问题,在另2个 ASP.NET Core 项目中从 SQL Server 30008 R2 中查询获取 3000 条记录竟然耗时 10 多秒,可能是查询有五种慢,那到都不 那些奇特的那些的问题。

说它非常奇特是可能耗时主要指在在 SqlDataReader 读取数据时

2019-04-04 21:31:58.546 [Information] Executed DbCommand ("2,656"ms)
...
2019-04-04 21:32:10.690 [Debug] A data reader was disposed.

进一步测试发现

查询获取 1 条数据库记录,耗时在 2300ms 左右  
查询获取 10 条数据库记录,耗时在 1.6s-2s 之间
查询获取 3000 条数据库记录,耗时在 12s-22s 之间

过后刚开始怀疑是 EF Core 的那些的问题,通过在 EF Core 源码中打点,定位到耗时指在在 _dataReader.ReadAsync 处

while (await _dataReader.ReadAsync(cancellationToken))
{
    _buffer.Enqueue(_valueBufferFactory.Create(_dbDataReader));
}

_dataReader.ReadAsync 实际调用的是 System.Data.SqlClient 中的 SqlDataReader.ReadAsync 法律法律依据。

一次 ReadAsync 读取一行记录,通过在 SqlClient 的源代码中打点记录时间戳发现,在 3000 次一行一行读取中,其涵盖2个读取会再次再次出现延迟,比如某一次 13 秒延迟,3000 次读取中再次再次出现了 5 次读取延迟 —— 2s + 3s + 3s + 2s + 3s = 13s 。

经过在 System.Data.SqlClient 源代码中无数次打点记录时间戳最终定位到延迟指在在  SNIPacket.ReadFromStreamAsync()  法律法律依据中  stream.ReadAsync()  时

Console.WriteLine($"Entering stream.ReadAsync() at {DateTime.Now}");
stream.ReadAsync(_data, 0, _capacity, CancellationToken.None).ContinueWith(t =>
{
    Console.WriteLine($"stream.ReadAsync().ContinueWith at {DateTime.Now}");
    //...
}

stream 对应的是 NetworkStream ,延迟指在在网络传输过程中,与 SqlClient 没关系。

TCP 抓包发现 SQL Server 服务器发送的数据到达就延迟了。

于是可以了将怀疑对象锁定在 SQL Server 数据库层面。

对应的 SQL 查询一句话涉及 4 张表,FROM 一张表(表A), JOIN 三张表(LEFT JOIN 表B,LEFT JOIN 表C ,INNER JOIN 表D),表A有30000多万条记录,表C有30000多万条记录,查询时按表A的主键排序,表A的聚集索引建在时间字段上,这么 建在主键上。

SELECT ...
FROM TableA
LEFT JOIN TableB ON [TableA].[Id] = [TableB].[EntryID]
LEFT JOIN TableC ON [TableA].[Id] = [TableC].[EntryID]
INNER JOIN TableD  ON [TableA].[BlogID] = [TableD].[BlogID]
WHERE ([TableA].[Id] >= @__startId_0)

并都不 所有查询都再次再次出现你你你这个 那些的问题,当 @__startId_0 小于一定值总要再次再次出现。

后来尝试将  LEFT JOIN TableC 改为 INNER JOIN TableC ,那些的问题竟然消失了,但进一步测试发现当  @__startId_0  再小到一定值那些的问题又会再次再次出现。

既然那些的问题与 JOIN TableC 有关,那干脆不进行 JOIN ,单独查询 TableC ,后来 将在 C# 代码中将查询的结果合并进行,另另2个 改进了,查询获取 3000 条记录只需 3000 多毫秒。

你你你这个 奇特的那些的问题就另另2个 用另2个 简单粗暴有效的法律法律依据临时补救了。

对于你你你这个 那些的问题的根本原应,怀疑与 TableA 这么 把聚集索引建在 Id 字段上有关,但目前这么 修改聚集索引进行验证,过后 再找可能验证。