正确锁定 ASP.NET

Question

我有一个搜索功能相当慢的 ASP.NET 站点，我想通过使用查询作为缓存键将结果添加到缓存一小时来提高性能：

using System;
using System.Web;
using System.Web.Caching;

public class Search
{
    private static object _cacheLock = new object();

    public static string DoSearch(string query)
    {
        string results = "";

        if (HttpContext.Current.Cache[query] == null)
        {
            lock (_cacheLock)
            {
                if (HttpContext.Current.Cache[query] == null)
                {
                    results = GetResultsFromSlowDb(query);

                    HttpContext.Current.Cache.Add(query, results, null, DateTime.Now.AddHours(1), Cache.NoSlidingExpiration, CacheItemPriority.Normal, null);
                }
                else
                {
                    results = HttpContext.Current.Cache[query].ToString();
                }
            }
        }
        else
        {
            results = HttpContext.Current.Cache[query].ToString();
        }

        return results;
    }

    private static string GetResultsFromSlowDb(string query)
    {
        return "Hello World!";
    }
}

假设访问者 A 进行了搜索。缓存为空，设置锁并从数据库请求结果。现在访问者 B 带来了不同的搜索：访问者 B 不是必须等待访问者 A 的搜索完成吗？我真正想要的是让 B 立即调用数据库，因为结果会有所不同，并且数据库可以处理多个请求——我只是不想重复昂贵的不必要的查询。

对于这种情况，正确的方法是什么？

Answer 1

除非您绝对确定没有冗余查询至关重要，否则我会完全避免锁定。 ASP.NET 缓存本质上是线程安全的，因此以下代码的唯一缺点是您可能会暂时看到一些冗余查询在它们关联的缓存条目过期时相互竞争：

public static string DoSearch(string query)
{
    var results = (string)HttpContext.Current.Cache[query];
    if (results == null)
    {
        results = GetResultsFromSlowDb(query);

        HttpContext.Current.Cache.Insert(query, results, null,
            DateTime.Now.AddHours(1), Cache.NoSlidingExpiration);
    }
    return results;
}

如果您决定确实必须避免所有冗余查询，那么您可以使用一组更精细的锁，每个查询一个锁：

public static string DoSearch(string query)
{
    var results = (string)HttpContext.Current.Cache[query];
    if (results == null)
    {
        object miniLock = _miniLocks.GetOrAdd(query, k => new object());
        lock (miniLock)
        {
            results = (string)HttpContext.Current.Cache[query];
            if (results == null)
            {
                results = GetResultsFromSlowDb(query);

                HttpContext.Current.Cache.Insert(query, results, null,
                    DateTime.Now.AddHours(1), Cache.NoSlidingExpiration);
            }

            object temp;
            if (_miniLocks.TryGetValue(query, out temp) && (temp == miniLock))
                _miniLocks.TryRemove(query);
        }
    }
    return results;
}

private static readonly ConcurrentDictionary<string, object> _miniLocks =
                                  new ConcurrentDictionary<string, object>();

Answer 2

您的代码有潜在的竞争条件：

if (HttpContext.Current.Cache[query] == null)         
{   
    ...
}         
else         
{
    // When you get here, another thread may have removed the item from the cache
    // so this may still return null.
    results = HttpContext.Current.Cache[query].ToString();         
}

一般情况下我不会使用锁定，并且会按照以下方式进行操作以避免竞争条件：

results = HttpContext.Current.Cache[query];
if (results == null)         
{   
    results = GetResultsFromSomewhere();
    HttpContext.Current.Cache.Add(query, results,...);
}
return results;

在上述情况下，如果多个线程几乎同时检测到缓存未命中，它们可能会尝试加载数据。实际上，这可能很少见，而且在大多数情况下并不重要，因为它们加载的数据是相同的。

但如果你想使用锁来防止它，你可以这样做：

results = HttpContext.Current.Cache[query];
if (results == null)         
{   
    lock(someLock)
    {
        results = HttpContext.Current.Cache[query];
        if (results == null)
        {
            results = GetResultsFromSomewhere();
            HttpContext.Current.Cache.Add(query, results,...);
        }           
    }
}
return results;

Answer 3

您的代码正确。您还使用了double-if-sandwitching-lock，这将防止竞态条件，这是不使用时的常见陷阱。这不会锁定对缓存中现有内容的访问。

唯一的问题是当许多客户端同时插入缓存时，它们会在锁后面排队，但我要做的是将results = GetResultsFromSlowDb(query);放在锁之外：

public static string DoSearch(string query)
{
    string results = "";

    if (HttpContext.Current.Cache[query] == null)
    {
        results = GetResultsFromSlowDb(query); // HERE
        lock (_cacheLock)
        {
            if (HttpContext.Current.Cache[query] == null)
            {


                HttpContext.Current.Cache.Add(query, results, null, DateTime.Now.AddHours(1), Cache.NoSlidingExpiration, CacheItemPriority.Normal, null);
            }
            else
            {
                results = HttpContext.Current.Cache[query].ToString();
            }
        }
    }
    else
    {
        results = HttpContext.Current.Cache[query].ToString();
    }

如果这很慢，那么您的问题出在其他地方。