多线程程序如何简单高效地读取配置中心上的配置？

比眉伴天荒 2022-12-29 00:25 116阅读 0赞

本文限定为主动从配置中心读取配置方法，不限定配置中心类型，比如可使用DB作为配置中心。

程序和配置中心间存在网络开销，因此需避免每次业务处理或请求都从配置中心读取配置。

规避网络开销，可采取本地缓存配置，每隔指定时间只读取一次配置中心，比如每秒读取一次配置中心。

假设每秒读取一次配置中心，这样每次的开销减少到每秒只有一次网络开销，此时可观察到性能毛刺，这毛刺是因为每次读取配置中心时的性能抖动（下降）。

需要将读取配置中心从业务线程中移除，为此引入配置线程，由配置线程专门负责从配置中心读取配置，业务线程不直接从配置中心读取配置。

struct Config { // 配置
      string a;
      string b;
    };
    
    class ConfigThread { // 配置线程
    public:
      void run() {
        while (!stop()) {
          std::this_thread::sleep_for(std::chrono::milliseconds(1000));
          read_config_from_config_center(); // 从配置中心读取配置
          
          std::unique_lock<std::shared_mutex> lock(_mutex);
          update_config(); // 更新本地的 _config
        }
      }
      
      void get_config(struct Config* config) const {
        std::shared_lock<std::shared_mutex> lock(_mutex);
        *config = _config;
      }
      
    private:
      // 注：C++17 才支持 shared_mutex 锁
      mutable std::shared_mutex _mutex; // 用来保护 _config 的读取写锁
      struct Config _config;
    };
    
    class WorkThread { // 业务线程
    public:
      void run() {
        while (!stop()) {
          struct Config config;
          _config_thread->get_config(&config);
        }
      }
    
    private:
      std::shared_ptr<ConfigThread> _config_thread;
    };

从上面代码可以看到，有了新的矛盾点，即读取锁碰撞问题（注：锁带来的性能问题主要是锁碰撞，而非一次系统调用）。

当配置线程在加写锁更新配置时，仍然会产生毛刺。简单点可使用读优先读写锁来降低影响，但不能根本解决问题。

可使用尝试锁替代读锁来根本性解决问题：

struct Config { // 配置
      string a;
      string b;
    };
    
    class ConfigThread { // 配置线程
    public:
      void run() {
        while (!stop()) {
          std::this_thread::sleep_for(std::chrono::milliseconds(1000));
          read_config_from_config_center(); // 从配置中心读取配置
          
          std::unique_lock<std::shared_mutex> lock(_mutex);
          update_config(); // 更新本地的 _config
        }
      }
      
      bool get_config(struct Config* config) const {
        if (!_mutex.try_lock_shared())
          return false;   
        *config = _config;
        _mutex.unlock();
        return true
      }
      
    private:
      mutable std::shared_mutex _mutex; // 用来保护 _config 的读取写锁
      struct Config _config;
    };
    
    class WorkThread { // 业务线程
    public:
      void run() {
        while (!stop()) {
          const struct Config& config = get_config();
        }
      }
    
    private:
      const struct Config& get_config() {
        struct Config config;
        if (_config_thread->get_config(&config))
          _config = config;
        // 如果没有读取到新的配置，则仍然使用老的配置
        return _config;
      }
    
    private:
      std::shared_ptr<ConfigThread> _config_thread;
      struct Config _config; // 线程本地配置
    };

上述 WorkThread::get\_config() 每次都要加一次锁，因为加的是读尝试锁，所以对性能影响很少，大多数都可忽略。如果仍然对性能有影响，可采取每秒只调用一次 ConfigThread::get\_config()，来减少锁的调用次数。

**局限性：**  
本文介绍的方法仅适合配置比较少的场景，是多还是少，主要依据消耗的内存大小，当消耗的内存在可接受范围内则可定义为少。

此外，一个问题是：配置更新时间点不一致，但即使每次都去读取配置中心，仍然不一致问题。